Khronos Group, connu pour avoir proposé les standards ouverts comme OpenGL et OpenCL, a récemment annoncé la sortie de la spécification provisoire de Neural Network Exchange Format (NNEF) 1.0. NNEF vise à réduire la fragmentation du déploiement de modèles de machine learning en permettant à un large éventail d'outils de formation de réseaux de neurones et de moteurs d'inférence d'être utilisés par des applications sur une gamme variée d'appareils et de plateformes. Comme l'explique Khronos Group, les réseaux neuronaux convolutifs (CNN) sont coûteux en calcul, et de nombreuses entreprises développent activement des architectures de processeurs mobiles et embarqués pour accélérer l'inférence neuronale à haute vitesse et faible consommation. En raison de ces progrès rapides, le marché du traitement des réseaux neuronaux embarqués est en train de se fragmenter, en créant des obstacles pour les développeurs qui cherchent à configurer et à accélérer les moteurs d'inférence sur plusieurs plateformes.
Aujourd'hui, la plupart des boîtes à outils et des moteurs d'inférence utilisent des formats propriétaires pour décrire les paramètres d'un réseau entrainé, ce qui rend nécessaire la construction de nombreux outils propriétaires d'importation et d’exportation pour permettre l'exécution d'un réseau entrainé sur plusieurs moteurs d'inférence.
Le format NNEF a donc été créé pour résoudre ce problème de fragmentation. Son objectif est en effet de permettre aux data scientists et aux ingénieurs de transférer facilement des réseaux de neurones entrainés depuis le framework de leur choix vers une grande variété de moteurs d'inférence. D'après Khronos Group, une norme stable, flexible et extensible sur laquelle les fabricants d'équipements peuvent compter est essentielle pour le déploiement étendu des réseaux neuronaux sur les périphériques, et NNEF peut jouer ce rôle. Le format ouvert encapsule une description complète de la structure, des opérations et des paramètres d'un réseau neuronal entrainé, indépendante des outils de formation utilisés pour le produire et le moteur d'inférence utilisé pour l'exécuter.
Peter McGuinness, qui dirige les travaux sur NNEF, explique que « le domaine du machine learning bénéficie de la vitalité des nombreux groupes travaillant sur le terrain, mais souffre d'un manque de normes communes. » Il ajoute que « Khronos a anticipé ce besoin de l'industrie et travaille depuis plus d'un an sur la norme universelle NNEF pour l'échange de réseaux de neurones, qui agira comme l'équivalent du format PDF pour les réseaux de neurones. » Pour mieux comprendre ses propos, rappelons que la spécificité du PDF est de préserver la mise en forme d’un document telle qu'elle a été définie par son auteur, et cela quels que soient le logiciel, le système d'exploitation et l'ordinateur utilisés pour l’imprimer ou le visualiser. Le format NNEF a été conçu pour être exporté et importé de manière fiable à travers des outils et des moteurs tels que Torch, Caffe, TensorFlow, Theano, Chainer, Caffe2, PyTorch et MXNet.
Le groupe Khronos publie NNEF 1.0 en tant que spécification provisoire pour donner la possibilité à l'industrie de faire des commentaires en vue de les intégrer avant la finalisation de la spécification. Les commentaires sont les bienvenus sur le référentiel GitHub de NNEF.
Sources : Khronos Group, Architosh
Et vous ?
Que pensez-vous de ce nouveau standard ? 
