Projet Maven : l'ICRAC, l'ONG visant à sensibiliser sur les dangers des robots militarisés, s'oppose à Google
Et lui demande d'abandonner le projet

81PARTAGES

9  0 
Il y a quelques jours, des employés de Google ont décidé de déposer leur démission. La raison ? La participation de l’entreprise dans un projet en intelligence artificielle pour le compte du Pentagone.

« Nous demandons que le projet Maven soit annulé et que Google prépare, publie et instaure des règles qui stipulent que jamais l’entreprise et ses sous-traitants ne participeront à la construction de matériel de guerre », ont lancé les employés à Sundar Pichai.

Une douzaine d’employés ont présenté leurs démissions tandis que plus de 3000 Googlers ont signé une pétition demandant à l’entreprise d’arrêter sa participation dans ce projet.

Le projet Maven vise à améliorer les opérations des drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial est de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets (classés dans pas moins de 38 catégories) capturés par la caméra d'un drone. Le projet a donc vocation à pister certaines cibles plus aisément. Google dont le rôle n’est pas très clair dans l’affaire, mais dont on sait au moins qu’il fournit l’API TensorFlow utilisée en IA, ajoute pour se défendre qu’il intervient sur des aspects non offensifs.

Seulement, référence faite à une publication (parue en juillet 2017) du département de la Défense (DoD) des États-Unis, il s’agit de « gagner des guerres en s’appuyant sur les algorithmes et l’intelligence artificielle. » Plus loin dans le papier du DoD, un colonel de l’armée américaine rappelle que « nous [les USA] sommes dans la course aux armes autonomes ».

Les employés de Google ne sont pas les seuls à avoir demandé à l’entreprise de se retirer. En effet, dans une lettre publique, l’ICRAC (International Committee for Robot Arms Control), une ONG regroupant des experts tous azimuts dont l'objectif est de sensibiliser sur les dangers que représentent les robots militarisés pour la sécurité internationale, a montré son opposition à ce projet.


« En tant qu’universitaires et chercheurs qui étudient, enseignent et développent des technologies de l'information, nous nous solidarisons aux 3100 employés de Google, rejoints par d'autres travailleurs de la technologie, qui s'opposent à la participation de Google au projet Maven. Nous soutenons sans réserve leur demande que Google résilie son contrat avec le DoD, et que Google et sa société mère Alphabet s'engagent à ne pas développer de technologies militaires et à ne pas utiliser les données personnelles qu'ils collectent à des fins militaires. La mesure dans laquelle le financement militaire a toujours été un moteur de la recherche et du développement en informatique ne devrait pas déterminer la voie à suivre pour l'avenir. Nous invitons également les dirigeants de Google et d'Alphabet à se joindre à d'autres chercheurs en IA et en robotique et à des responsables de la technologie pour réclamer un traité international interdisant les systèmes d'armes autonomes.

« Google a longtemps cherché à organiser et à améliorer l'utilité de l'information du monde. Au-delà de la recherche de pages Web pertinentes sur Internet, Google est responsable de la compilation de nos courriels, vidéos, calendriers et photos, et nous guide vers des destinations physiques. Comme beaucoup d'autres sociétés de technologie numérique, Google a recueilli de vastes quantités de données sur les comportements, les activités et les intérêts de leurs utilisateurs. Les données privées collectées par Google ont pour responsabilité non seulement d'utiliser ces données pour améliorer ses propres technologies et développer son activité, mais aussi d’en faire bénéficier la société. La devise de l'entreprise "Do not Be Evil" embrasse cette responsabilité ».

Selon Defense One, les forces d'opérations spéciales interarmées « au Moyen-Orient » ont mené des essais initiaux en utilisant des images vidéo d'un petit drone de surveillance ScanEagle. Le projet devrait s'étendre « à des drones Predator et Reaper plus grands et de moyenne altitude d'ici l'été prochain » et finalement à Gorgon Stare, « une série sophistiquée de caméras high-tech capables de voir des villes entières ».

« Avec Project Maven, Google devient impliqué dans la pratique douteuse des assassinats ciblés. Il s'agit notamment de ce que l'on appelle des frappes de signatures et des frappes de type de vie qui ciblent des personnes non sur des activités connues mais sur des probabilités tirées de séquences de surveillance à longue portée. La légalité de ces opérations a été remise en question en vertu de la loi internationale et américaine », assure l’ICRAC.


Vers des robots autorisés à tuer automatiquement, sans supervision humaine ?

Alors que les rapports sur le projet Maven mettent actuellement l'accent sur le rôle des analystes humains, ces technologies sont sur le point de devenir une base pour la reconnaissance automatisée des cibles et les systèmes d'armes autonomes. « À mesure que les commandants militaires verront les algorithmes de reconnaissance d'objets comme fiables, il sera tentant d'atténuer ou même de supprimer l'examen humain et la surveillance de ces systèmes. Selon Defense One, le DoD prévoit déjà d'installer des technologies d'analyse d'images à bord des drones eux-mêmes, y compris des drones armés. Nous sommes alors à deux pas d'autoriser des drones autonomes à tuer automatiquement, sans supervision humaine ou contrôle humain significatif. Si une action éthique de la part des entreprises technologiques nécessite de considérer qui pourrait bénéficier d'une technologie et qui pourrait être lésé, alors nous pouvons affirmer qu'aucun sujet ne mérite une réflexion plus sérieuse - aucune technologie n'a d'enjeux plus importants - que les algorithmes destinés à cibler et tuer à distance et sans responsabilité publique ».

L’ICRAC indique que « Nous sommes également très préoccupés par l'intégration possible des données de Google sur la vie quotidienne des gens avec des données de surveillance militaire, et son application combinée à la mise à mort ciblée. Google s'est lancé dans le travail militaire sans se soumettre à un débat public ou délibéré, que ce soit au niveau national ou international. Alors que Google décide régulièrement de l'avenir de la technologie sans engagement public démocratique, son entrée dans les technologies militaires met en relief les problèmes du contrôle privé de l'infrastructure de l'information ».

Si Google décidait d'utiliser les données personnelles des utilisateurs d'Internet à des fins militaires, cela violerait la confiance du public qui est fondamentale à ses activités en mettant en péril la vie de ses utilisateurs et les droits de l'homme. « Les responsabilités des entreprises mondiales comme Google doivent être proportionnelles à la composition transnationale de leurs utilisateurs. Les contrats du DoD en cours d'examen par Google, et des contrats similaires déjà conclus chez Microsoft et Amazon, signalent une alliance dangereuse entre l'industrie technologique privée, actuellement en possession de vastes quantités de données personnelles sensibles recueillies auprès de personnes à travers le monde. Ils signalent également un échec à s'engager avec la société civile mondiale et les institutions diplomatiques qui ont déjà souligné les enjeux éthiques de ces technologies ».

Source : lettre de l'ICRAC

Et vous ?

Partagez-vous les craintes de l'ICRAC ?

Voir aussi :

RGPD : les développeurs Android auraient suspendu les annonces publicitaires Google, jusqu'à la sortie du nouveau SDK de Google
Google a-t-il l'intention de devenir malveillant ? L'entreprise efface toutes les mentions de « Don't be evil », de son code de conduite
Google estime que la sanction du gendarme indien de la concurrence va lui causer des dommages irréparables, sur le marché du moteur de recherche
Google aurait-il simulé une avancée dans le domaine de l'IA avec Google Duplex ? Un quotidien relève quelques incohérences
Chrome 66 : Google supprime temporairement sa nouvelle politique de lecture automatique, mais uniquement pour l'API Web Audio

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Kapeutini
Membre régulier https://www.developpez.com
Le 22/05/2018 à 13:55
Moi je suis pour le projet de Google, si nous ne le faisons pas, les autres le feront.
Nous n'avons pas le choix, alors autant être les meilleurs.

Ce savoir faire nous servira pour envoyer des robots exploiter le système solaire.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/05/2018 à 14:44
Citation Envoyé par Kapeutini Voir le message
Moi je suis pour le projet de Google, si nous ne le faisons pas, les autres le feront.
Pourquoi tu dis "nous" ? T'es étasuniens ?
Normalement c'est l'armée américaine qui devrait développer ça et pas une entreprise privée.

Citation Envoyé par Kapeutini Voir le message
Nous n'avons pas le choix, alors autant être les meilleurs.
Et si un jour un gouvernement agressif prend le pouvoir des USA ?
Ces armes pourraient être utilisé contre des civils innocents (même contre le peuple US directement).

Citation Envoyé par Kapeutini Voir le message
Ce savoir faire nous servira pour envoyer des robots exploiter le système solaire.
Un robot militaire et un robot explorateur de l'espace ce n'est pas exactement la même chose...
Mais bon il y a peut être des points commun quelque part.

Les employés de Google qui sont contre ce projet n'auront surement aucun impact, mais c'est bien d'essayer de se battre pour ses convictions.
Avatar de Matthieu76
Membre éclairé https://www.developpez.com
Le 22/05/2018 à 14:58
Citation Envoyé par Ryu2000 Voir le message
Le point principal du journalisme aujourd'hui c'est le clickbait, il faut que le titre soit attractif pour générer du clique.
Ce titre aurait pu être le titre sur un journal mainstream, Le Figago, Le Monde, Le Parisien, Libération, etc auraient pu écrire ce titre.
Ce n'est pas parce que les autres le font qu'il faut le faire aussi. Personnellement, ça m’énerve quand je vois des titres d'articles "putaclick" sur Developpez.com (pardonnez-moi du mot mais je ne sais pas comme dire autrement).
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/05/2018 à 15:28
Citation Envoyé par Matthieu76 Voir le message
Ce n'est pas parce que les autres le font qu'il faut le faire aussi.
Non mais là ça va, c'est quasiment une citation de l'article.
C'est pas vraiment pute à clique (ou "Piège à clics", ou "appât à clic", ou "clickbait"...
Enfin ça aurait pu être "Certains employés de Google pensent que Google ne devrait pas développer d'IA pour la guerre", mais c'est trop long.

De toute façon le titre a changé maintenant, donc tout va bien pour tout le monde.
Avatar de onilink_
Membre éprouvé https://www.developpez.com
Le 22/05/2018 à 16:15
Citation Envoyé par Kapeutini Voir le message
Moi je suis pour le projet de Google, si nous ne le faisons pas, les autres le feront.
Nous n'avons pas le choix, alors autant être les meilleurs.

Ce savoir faire nous servira pour envoyer des robots exploiter le système solaire.
Pas forcement. Si on prévoit que d'autres états (comme la russie je crois) comptent faire des drôles militaires autonomes, en partant du principe qu'ils seront forcément armés, on peut plutôt prendre une position stratégique défensive.
Il y a tout un champ de recherche pour luter contre les drones. Donc des drones anti drones, non armés, plutôt avec des filets, ou des moyens pour dérégler les drones, faire des interférences etc... qui ne risquent pas de causer des morts humaines, ou des prises de pouvoir.

Je pense qu'on oublie trop souvent qu'il n'y a pas que l'attaque dans "l'art de la guerre".
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 22/05/2018 à 16:17
Citation Envoyé par onilink_ Voir le message
Pas forcement. Si on prévoit que d'autres états (comme la russie je crois) comptent faire des drôles militaires autonomes, en partant du principe qu'ils seront forcément armés, on peut plutôt prendre une position stratégique défensive.
Il y a tout un champ de recherche pour luter contre les drones. Donc des drones anti drones, non armés, plutôt avec des filets, ou des moyens pour dérégler les drones, faire des interférences etc... qui ne risquent pas de causer des morts humaines, ou des prises de pouvoir.

Je pense qu'on oublie trop souvent qu'il n'y a pas que l'attaque dans "l'art de la guerre".
Toutefois, la meilleure défense, ça reste l'attaque.
Avatar de onilink_
Membre éprouvé https://www.developpez.com
Le 22/05/2018 à 16:29
Ça dépend beaucoup du paradigme.
Les armes autonomes c'est pas comme le nucléaire, ça va pas causer un hiver nucléaire, et on est loin du truc impossible a contrer.

Au final, ce sera surtout les algorithmes et leur "puissance" qui sera décisive (temps de réaction, efficacité pour prévoir les actions/réactions...).

Puis si tout le monde a peur qu'un état fasse des armes autonomes sans vouloir pour autant entrer dans la course a l'armement... je vois pas mille autres solutions.
Avatar de Julien Bodin
Membre éclairé https://www.developpez.com
Le 23/05/2018 à 17:35
Allez, mvn clean
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 24/05/2018 à 8:34
Citation Envoyé par onilink_ Voir le message
Puis si tout le monde a peur qu'un état fasse des armes autonomes sans vouloir pour autant entrer dans la course a l'armement...
Peut être que les gars ne sont pas contre les armes autonomes mais ils ne veulent pas participer au projet.
Ils auraient préféré que Google ne collaborent pas avec l'armée, c'est pour ça que certains ont choisi de quitter l'entreprise.
Il y a peu être une question d'éthique, certains ne veulent pas participer à la création d'arme.
Avatar de oooopppp
Membre régulier https://www.developpez.com
Le 27/05/2018 à 11:43
Citation Envoyé par Saverok Voir le message
@oooopppp
Je vais citer une référence sacrément bateau mais qui convient assez bien au côté un peu simpliste de ton post :
Cher Ami, que tu me répondes en citant Star Wars (versions disney à ch..er!) et que tu affirmes que mon post est un peut simpliste,
désolé mais je tousse un peu,
j'aurais volontiers pris le compliment ( rpl: simpliste, donc) si tu m'avait fait une réponse plus intellectuelle que la mienne ...

En effet, si tu lis bien ce que j'ai écrit (une véritable tirade, on est d'accord) c'est qu'il est grand temps justement
DE NE PLUS SE COMPORTER COMME DES ANIMAUX !
y'en a assez, ça a assez duré comme ça, stop.

Expérience en direct : J'endure aujourd'hui les travaux de mon voisin hyper capitaliste pharmacien
qui fait jouer de la disqueuse à 8h00 du matin pour ne pas déranger ses clients en semaine,
les autres, ses voisins donc, lui il en a rein à foutre (il n'habite pas à la pharmacie), il est seul dans sa course, on peut tous crever,
tant qu'il survit, lui, c'est bon pour lui ...

On peut pas continuer ainsi, par exemple à s'acheter des nike
(ça, j'ai jamais compris comment on pouvais porter des shoes avec marqué "niké"
dessus ... ) et fermer les yeux sur le fait que ce sont des humains qu'on traite comme des sous-merdes, parfois des gosses,
qui les fabriquent.

Bref, je m'écarte, mon propos serait plus qu'il est temps de faire un sacré effort, au niveau de l'esprit,
afin de former un consensus planétaire.

On ne peut pas être d'accord sur tout, il est nécessaire d'avoir des divergences, ça stimule, ça permet de se remettre en question.

Mais continuer à se coltiner la rage des gogols qui veulent s’entre-tuer parce qu'on refuse, on bloque même l'éducation des gens ou
on l'oriente carrément vers la haine, franchement la coupe est pleine !

Oui, je passe pour un utopiste à dire cela et alors ?

Je préfère qu'on essaye de répandre l'idée d'un monde "Peace and Love" plutôt que
"Tue avant d'être tué", parce qu'on serait encore des animaux ??

P.S : une chose dont j'ai oublié de parler c’est de la fierté des militaires dans tout ça ...
Le militaires sont des gens fiers d'eux car il pensent qu'ils peuvent potentiellement perdre leur vie au profit de la nation,
d'ailleurs, on est militaire ou civil, donc on ne fait pas partie du même monde, déjà ...
Ceci dit, je me met (un court instant) à leur place ... Quelle fierté de partir au combat derrière l'écran d'un PC ou de lancer un programme "Tue tout le monde
dans un rayon de 20km" ??
Franchement, si c'était moi j'éprouverais un certain plaisir à partir au combat, à aller se canarder entre confrères militaires (mais de faction opposée),
à aller faire péter quelque roquettes et sentir le souffle des explosions à mes cotés, à batailler tout simplement ...
Le futur militaire est-il un geek chétif sans aucun courage ?
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web