Google renonce, ce vendredi matin, à ses ambitions de faire prospérer son revenu tiré du projet d’IA militaire avec le ministère de la Défense des États-Unis dans le cadre du projet Maven. Il a annoncé ne pas vouloir renouveler le contrat qui expire 2019. C’est au cours d’une réunion avec les employés appelée « Weather Report », qui est une mise à jour hebdomadaire sur les activités de Google Cloud, que le PDG de Google Cloud, Diane Greene, a annoncé la décision. En effet, la pression exercée par des employés de Google ainsi que les critiques technologiques ont poussé l’entreprise à réviser sa position. Une dizaine d’employés a, par ailleurs, démissionné suite à une lettre ouverte signée par 3000 employés en début d’avril et restée sans effet pendant un bon moment.
Tout a commencé en mars 2018 lorsque l'implication de Google dans le projet Maven a été révélée dans une enquête menée par Gizmodo.
Gizmodo nous informe que pour Google, le contrat dont les contours demeuraient flous consistait essentiellement à fournir au gouvernement des logiciels libres comme sa plate-forme TensorFlow, cela afin de sécuriser dles contrats plus lucratifs du Pentagone. Greene avait dit aux employés inquiets lors des réunions que le contact de Google avec le ministère de la Défense ne valait que 9 millions de dollars, minimisant ainsi la portée de son engagement avec le DoD. Cependant les mails échangés entre les responsables de la société montrent que Google n’a pas été franc avec ses employés. Les courriers ont prouvé que son implication dans le projet Maven était aussi importante qu’il s'attendait à ce que les revenus provenant des projets d'IA militaires similaires passent de 15 à 250 millions de dollars par an.
Bien que le project Maven n’implique pas l'utilisation de logiciels de Google pour piloter ou participer activement à toute forme de guerre de drones, Google fournissait néanmoins des outils et une expertise dans l'analyse de séquences, selon Gizmodo.
Gizmodo rapporte que le projet Maven viserait à rendre les frappes de drones plus favorables aux civils. Les algorithmes de vision par ordinateur élaborés à l'aide de techniques d'intelligence artificielle, comme l'apprentissage automatique, pourraient en théorie mieux identifier les cibles et réduire les dommages collatéraux, même si la portée de l'implication de Google dans Project Maven n'a jamais été clairement établie. « La technologie est utilisée pour signaler des images à des fins de revue humaine et vise à sauver des vies et à éviter aux gens d'avoir à faire un travail fastidieux », a déclaré Google en avril dernier.
Toutefois, quel que soit le but de son contrat avec le DoD, les employés de Google étaient opposés à quelque utilisation de l’IA pour aider le gouvernement à renforcer son arsenal militaire et contribuer à tuer des personnes. C’est ce qu’ils ont exprimé dans la lettre ouverte au PDG. « Ce contrat met en péril la réputation de Google et s'oppose directement à nos valeurs fondamentales », peut-on lire dans la lettre. « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire en occasionnant des résultats potentiellement mortels n'est pas acceptable. », a rapporté Gizmodo.
Le PDG a déclaré aux employés que le contrecoup était la principale raison pour laquelle l'entreprise avait décidé de ne pas renouveler son contrat. Par ailleurs, le 18 mai dernier, Google a mis à jour son code de conduite pour supprimer les références importantes à l'ancienne devise de la société, « Ne soyez pas mauvais », qui a depuis été remplacée par « Faites la bonne chose ». Selon Greene, la société annoncera la semaine prochaine une nouvelle série de principes éthiques concernant l'IA et l'armée sans commenter la décision.
Source : Gizmodo
Et vous ?
Que pensez-vous de l’implication de Google dans un projet de développement de logiciel de précision avec le gouvernement américain ? Les organisations devraient-elles être libres d’utiliser l’IA comme bon leur semble ? Que pensez-vous de l’IA comme arme de guerre ?Voir aussi
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique Une intelligence artificielle bat des experts de l'armée de l'air américaine, dans des simulations de combats aériens 
Envoyé par Coriolan
