
Pour rappel, Maven est un projet d'intelligence artificielle à des fins militaires qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images et ayant pour objectif initial de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets capturés par la caméra d'un drone. Il appartient au ministère américain de la Défense.
Clarifai, chargée d’élaborer des algorithmes d'apprentissage automatique pour interpréter l'imagerie de surveillance par drone, est accusée d'avoir été piratée l'an dernier par une ou plusieurs personnes en Russie alors qu'elle participait au projet Maven, puis de ne pas avoir signalé la violation aux responsables du Pentagone. C’est un ancien employé de Clarifai, qui était encore en fonction lors du piratage, et le capitaine d’Air Force Amy Liu qui ont intenté un procès en début de ce mois. Ils accusent la startup d’IA d'être compromise par des sources en Russie, puis avoir omis de signaler l'infraction au ministère de la Défense dans un délai raisonnable, selon Wired. Le capitaine de l’Air force et l’ex-employé ont, par ailleurs, perdu leur poste l’an dernier dans la gestion de la violation en tentant de convaincre la startup de signaler l’intrusion. Plusieurs autres employés de la société seraient partis en raison de l'implication de l'entreprise avec Maven.
La découverte de l’implication de Google dans ce projet, quelques semaines avant, a occasionné un remous parmi son personnel et suscité une vague de critiques des analystes. Plus de 3000 employés, dont le chef de l'IA Jeff Dean, ont signé une lettre en opposition à la création d'armes autonomes chez Google. Ce qui a valu la déclaration de retrait de la société du contrat en 2019. Google a, par ailleurs, édité et publié, à cet effet, des lignes directrices pour la création de l'intelligence artificielle, qui comprend une interdiction de fabriquer des armes autonomes et la plupart des applications de l'IA avec le potentiel de nuire aux gens.
Cependant, en réponse à l’accusation selon laquelle en novembre 2017, l'ensemble du code et des données clients de la société pourraient avoir été piratés via des logiciels malveillants en provenance de Russie, un porte-parole de Clarifai a défendu la société. Il a déclaré qu'en automne dernier, un bot a été identifié sur un serveur de recherche isolé, séparé de l'infrastructure sur laquelle les clients de Clarifai sont hébergés. Une évaluation externe a révélé qu'aucune donnée client, aucun code d'entreprise ni aucun algorithme n'étaient compromis, selon le porte-parole.
Alors que Google a annoncé ne pas vouloir continuer son implication dans le développement d’IA au sein de Maven, ne voulant pas être associée à la mise au point d’armes de précision destinées à la guerre, Zeiler a publié le 13 juin dernier un billet intitulé « Pourquoi nous faisons partie du Projet Maven. »
« Pour ce projet, nous utilisons la même version largement disponible de la technologie Clarifai à laquelle n'importe quel développeur ou entreprise peut accéder aujourd'hui », a écrit Zeiler. « Les capacités développées ici ont également d'importantes applications civiles telles que la réponse aux catastrophes, la recherche et le sauvetage. Nous sommes une société leader de l'IA et la responsabilité étant une valeur fondamentale pour nous, nous croyons en la mise à disposition de nos ressources en faveur des meilleurs intérêts de la société, et cela inclut la sécurité de l'Amérique. »
M. Zeiler s’est défendu également au sujet des prétendues allégations selon lesquelles il y a eu des départs parmi les employés en déclarant que deux employés avaient demandé et obtenu une réaffectation du projet Maven.
Source : Wired
Et vous ?


Voir aussi

