Le feuilleton qui met en scène Google, le département de la Défense des États-Unis et les employés de la firme de Mountain View se poursuit. Le New York Times a pu mettre la main sur des courriels internes relatifs à ce dernier. Il y a du nouveau en ce qui concerne la participation de l’entreprise à des projets en IA pour le compte des militaires. La firme travaille à la rédaction d’un guide éthique …
En mars, l’entreprise a confirmé qu’elle permet au Pentagone d’exploiter ses technologies de reconnaissance d’image dans le cadre du projet Maven piloté par le Pentagone. En réalité, le public est tenu à l’écart de ces développements depuis le mois de septembre 2017 à partir duquel la fuite survient d’abord en interne. Tout part d’un échange par courriel entre deux responsables de l’entreprise au sujet du « dossier brulant » sur le contrat à venir avec le Pentagone. Depuis, le mail a circulé et a débouché sur une protestation à grande échelle. 3100 employés (minimum) de la firme ont manifesté leur soutien pour son retrait de ce projet dénommé Maven. Y faisant suite, l’Electronic Frontier Foundation (EFF) a, de façon générale, appelé les entreprises de la technologie à s’extirper des collaborations dans le même genre.
« Nous demandons que le projet Maven soit annulé et que Google prépare, publie et instaure des règles qui stipulent que jamais l’entreprise et ses sous-traitants ne participeront à la construction de matériel de guerre », ont lancé les employés à Sundar Pichai.
La voix de ces derniers a, semble-t-il, porté. Le géant technologique a confirmé au New York Times qu’il travaille à l’élaboration de lignes directrices pour son implication dans des projets en intelligence artificielle pour le compte des militaires. L’un des axes du texte est qu’il empêche l’utilisation de l’intelligence artificielle pour la mise au point d’armes autonomes. Le contenu doit être publié en interne de la firme de Mountain View dans les semaines à venir.
La rédaction d’un guide éthique … une tâche aisée pour Google ?
Les mails internes obtenus par le New York Times montrent que l’équipe dirigeante de l’entreprise s’attendait à cette situation. « Évitez à tout prix toute mention de l’intelligence artificielle lorsque vous annoncerez le contrat avec le Pentagone. Le sujet des armes autonomes est probablement l’un des plus sensibles de l’IA – sinon le plus », rapporte le quotidien américain des propos du chief scientist de la plateforme cloud de Google (GCP).
Depuis que le géant technologique a confirmé son implication dans le projet, il s’est défendu en soulignant qu’il a un apport sur les aspects non-offensifs. Du peu qu’on en sait, Google fournit l’API TensorFlow pour améliorer les technologies de reconnaissance d'images utilisées sur les drones. Selon le Pentagone, l'objectif initial est de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets capturés par la caméra d'un drone : suffisant pour que les voix qui s’élèvent contre la participation de Google entrevoient une utilisation dans le cadre de frappes aériennes ciblées. La limite est mince est mince et la trouver requiert de répondre à toutes les questions connexes de manière à satisfaire toutes les parties ; pas une mince affaire.
Source : NYT
Et vous ?
Qu’en pensez-vous ?
Le texte du guide sera-t-il de nature à satisfaire les deux parties ? Lequel des camps a le plus de chances d’être lésé ?
Voir aussi :
L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine
L'intelligence artificielle : clé du futur pour dominer sur les nations, d'après le président russe, Vladimir Poutine
Mark Zuckerberg pense que les prédictions d'Elon Musk sur l'IA sont irresponsables, le PDG de Tesla serait-il un peu trop pessimiste ?
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur
IA : un guide éthique en développement chez Google
Pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone
IA : un guide éthique en développement chez Google
Pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone
Le , par Patrick Ruiz
Une erreur dans cette actualité ? Signalez-nous-la !