TensorFlow Serving : un outil open source de Google
Pour faciliter la mise en production des modèles de machine learning
Le 2016-02-17 08:46:33, par Michael Guilloux, Chroniqueur Actualités
En novembre dernier, Google a fait passer TensorFlow, son tout dernier système de machine learning, en open source. TensorFlow était encore à ses débuts en ce moment, alors que Google l’annonçait plus rapide, plus intelligent et plus souple que son ancien système de machine learning, de sorte qu’il peut être adapté plus facilement à de nouveaux produits et à la recherche.
TensorFlow permet la construction de réseaux de neurones jusqu’à cinq fois plus vite par rapport à l’ancien système de Google et est utilisé dans de nombreux produits de la firme. Il alimente par exemple la reconnaissance vocale dans l’application Google et est encore utilisé pour chercher dans Google Photos. Il est aussi utilisé pour Smart Reply, une fonctionnalité de l’application Inbox, qui est capable d’analyser des messages reçus et proposer des réponses à l’utilisateur.
Pour accompagner les développeurs qui utilisent déjà sa technologie de machine learning et intéresser de nombreux autres, Google vient encore de rendre open source un autre outil complémentaire baptisé TensorFlow Serving. Ce nouvel outil open source permet aux développeurs de déployer plus facilement leurs modèles de machine learning construits avec TensorFlow. D’après Noah Fiedel, un ingénieur de Google, « TensorFlow Serving rend plus facile et plus rapide le processus de mise en production d’un modèle », a-t-il expliqué dans un billet de blog. Il ajoute encore que TensorFlow Serving « vous permet de déployer en toute sécurité de nouveaux modèles et faire des tests tout en gardant les mêmes architecture de serveur et API ».
Il faut retenir que TensorFlow Serving est orienté vers la phase d’inférence. En d’autres termes, après que les développeurs aient formé leurs modèles sur de grands ensembles de données, TensorFlow Serving se charge de les rendre utilisables dans des environnements de production. Les développeurs pourront donc utiliser les API du nouvel outil open source pour tirer des conclusions sur la base de nouvelles données.
TensorFlow Serving est conçu pour s’exécuter nativement et de manière optimale avec le système de machine de learning de Google, TensorFlow. Toutefois, la société explique qu’il peut également supporter d’autres systèmes.
En ce qui concerne les performances de cet outil de mise en production des modèles de machine learning, Google met en avant sa capacité de gérer plus de 100 000 requêtes par seconde et par cœur sur une machine Xeon de 1 vCPU, selon ses benchmarks. Google note également que TensorFlow Serving peut faire usage de ressources GPU disponibles sur une machine pour accélérer le traitement.
Le code source de TensorFlow Serving est disponible sur GitHub sous la licence Apache 2.0. Google met également à votre disposition un certain nombre de tutoriels pour vous accompagner.
Sources : Google Open Source Blog, GitHub
Et vous ?
Voir aussi
TensorFlow permet la construction de réseaux de neurones jusqu’à cinq fois plus vite par rapport à l’ancien système de Google et est utilisé dans de nombreux produits de la firme. Il alimente par exemple la reconnaissance vocale dans l’application Google et est encore utilisé pour chercher dans Google Photos. Il est aussi utilisé pour Smart Reply, une fonctionnalité de l’application Inbox, qui est capable d’analyser des messages reçus et proposer des réponses à l’utilisateur.
Pour accompagner les développeurs qui utilisent déjà sa technologie de machine learning et intéresser de nombreux autres, Google vient encore de rendre open source un autre outil complémentaire baptisé TensorFlow Serving. Ce nouvel outil open source permet aux développeurs de déployer plus facilement leurs modèles de machine learning construits avec TensorFlow. D’après Noah Fiedel, un ingénieur de Google, « TensorFlow Serving rend plus facile et plus rapide le processus de mise en production d’un modèle », a-t-il expliqué dans un billet de blog. Il ajoute encore que TensorFlow Serving « vous permet de déployer en toute sécurité de nouveaux modèles et faire des tests tout en gardant les mêmes architecture de serveur et API ».
Il faut retenir que TensorFlow Serving est orienté vers la phase d’inférence. En d’autres termes, après que les développeurs aient formé leurs modèles sur de grands ensembles de données, TensorFlow Serving se charge de les rendre utilisables dans des environnements de production. Les développeurs pourront donc utiliser les API du nouvel outil open source pour tirer des conclusions sur la base de nouvelles données.
TensorFlow Serving est conçu pour s’exécuter nativement et de manière optimale avec le système de machine de learning de Google, TensorFlow. Toutefois, la société explique qu’il peut également supporter d’autres systèmes.
En ce qui concerne les performances de cet outil de mise en production des modèles de machine learning, Google met en avant sa capacité de gérer plus de 100 000 requêtes par seconde et par cœur sur une machine Xeon de 1 vCPU, selon ses benchmarks. Google note également que TensorFlow Serving peut faire usage de ressources GPU disponibles sur une machine pour accélérer le traitement.
Le code source de TensorFlow Serving est disponible sur GitHub sous la licence Apache 2.0. Google met également à votre disposition un certain nombre de tutoriels pour vous accompagner.
Sources : Google Open Source Blog, GitHub
Et vous ?
Voir aussi