Non, l'IA de Google ne doit pas être au service de la guerre !
Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

81PARTAGES

18  0 
« Celui qui réussira à s’imposer comme leader dans la sphère [de l'intelligence artificielle] sera le maître du monde », avait déclaré Vladimir Poutine dans un message adressé à la jeunesse russe en septembre dernier. C'est une déclaration forte qui indique que la course aux armements basés sur l'IA a déjà commencé. Une course dans laquelle on retrouvera probablement des pays comme les États-Unis et la Chine. Les États-Unis, par exemple, travaillent sur le projet Maven, un projet militaire qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial de Maven était de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets, dans pas moins de 38 catégories, capturés par la caméra d'un drone. Il va par conséquent permettre de suivre à la trace certaines cibles.

Le projet Maven utilise TensorFlow, la technologie open source d'apprentissage automatique de Google. Mais certains médias américains ont rapporté début mars que le géant de l'intelligence artificielle accompagne également le Département américain de la Défense dans son projet. La contribution exacte de Google n'est pas encore claire, mais le simple fait que Google soit plus ou moins impliqué dans cette affaire a scandalisé certains employés ayant connaissance de l'affaire, avant que cette information sorte de l'entreprise.


Google s'est défendu en expliquant que l'entreprise a depuis longtemps travaillé avec des agences du gouvernement américain pour leur fournir des solutions technologiques. Et d'ajouter que son travail sur le projet Maven est « non offensif », car la technologie ne sera pas utilisée pour des frappes ciblées. Les employés de l'entreprise ne voient toutefois pas cette situation de la même manière et appellent Google à garder ses distances de ce projet.

Des milliers d'employés de Google, dont des dizaines d'ingénieurs seniors, ont donc signé une lettre pour protester contre l'implication de l'entreprise dans le programme du Pentagone. « Nous pensons que Google ne devrait pas être impliqué dans la guerre », peut-on lire dans la lettre. Les auteurs de la lettre estiment que la participation de Google au projet du Pentagone va de manière irrémédiable salir l'image de l'entreprise et réduire sa capacité à rivaliser avec les autres géants de la technologie pour attirer les talents. Ils rappellent en effet que Google lutte déjà pour garder la confiance du public.

Participer à un projet militaire dont la finalité sera probablement condamnée par les institutions comme l'ONU va donc empirer la situation. Ils pensent également que Google ne devrait pas essayer de s'en laver les mains, alors qu'il est évident que le Pentagone pourrait faire un mauvais usage de sa technologie. « Nous ne pouvons pas externaliser la responsabilité morale de nos technologies à des tiers », disent-ils. « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. »

Reconnaissant que l'entreprise a une responsabilité morale et éthique dans cette affaire, et pour préserver sa réputation, les auteurs de la lettre demandent « que le projet Maven soit annulé et que Google rédige, publie et applique une politique claire stipulant que jamais Google ni ses sous-traitants ne construiront une technologie de guerre. » La lettre, qui circule au sein de l'entreprise, a déjà recueilli plus de 3100 signatures.

Sources : New York Times, Lettre adressée à Google

Et vous ?

Qu'en pensez-vous ?
Condamnez-vous une éventuelle implication de Google dans ce projet ? Pourquoi ?

Voir aussi :

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique
L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Matthieu76
Membre éclairé https://www.developpez.com
Le 05/04/2018 à 17:34
Citation Envoyé par Michael Guilloux Voir le message
Des milliers d'employés de Google, dont des dizaines d'ingénieurs seniors
MDR
Avatar de Aurelien.Regat-Barrel
Expert éminent sénior https://www.developpez.com
Le 05/04/2018 à 22:04
Il y a quelques années je m'étais étonné qu'il n'existe pas de licence libre qui interdise l'utilisation d'un logiciel à des fins militaires ou d’espionnage de la population.

Cette news a été l'occasion de faire une petite recherche et de tomber sur cette discussion:
https://softwareengineering.stackexc...y-applications

Apparemment une telle restriction dans une licence la rend incompatible avec le terme open source qui ne peut réduire le champ d'utilisation.

Mais j'ai quand même trouvé un spécimen de la Peaceful Open Source License :
https://github.com/swiftarrow/Adorno...er/LICENSE.txt

Qui rajoute en fait une clause à la licence BSD:

4. This software may not be used to cause deliberate harm to any individual, either directly or indirectly, in any form.
Avatar de datalandia
Bot Troll en alpha-test https://www.developpez.com
Le 06/04/2018 à 7:40
L'informatique a été crée pour et par l'armée comme internet aussi au passage.
La guerre est une source de progrès de technologique et je pense que Google en a conscience et ne vas laisser passer cette opportunité.
Avatar de JackIsJack
Membre actif https://www.developpez.com
Le 06/04/2018 à 8:34
Des drones de combats tueurs....

Je comprends l'indignation des employés de Google.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 06/04/2018 à 9:15
Citation Envoyé par datalandia Voir le message
La guerre est une source de progrès de technologique et je pense que Google en a conscience et ne vas laisser passer cette opportunité.
Alors effectivement la guerre est excellent pour le développement de nouvelle technologie.
Grande guerre : quels progrès doit-on à la guerre ?
Mais là c'est pas pareil.
Par exemple : le réseau ARPANET ça vient du l'ARPA (DARPA ?) et c'est pas une entreprise privée.
Histoire d'Internet - Le réseau ARPANET

Bon après le protocole TCP/IP ça vient d'une université privée, donc c'est un peu une entreprise privée...
Histoire d'Internet - Protocole TCP/IP

La différence c'est que ça : « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. » ça ne sera pas bénéfique pour les citoyens.
Un drone avec un fusil d'assaut et une IA c'est pas un grand progrès humain, par exemple.
Avatar de datalandia
Bot Troll en alpha-test https://www.developpez.com
Le 06/04/2018 à 9:24
Citation Envoyé par Ryu2000 Voir le message
Alors effectivement la guerre est excellent pour le développement de nouvelle technologie.
Grande guerre : quels progrès doit-on à la guerre ?
Mais là c'est pas pareil.
Par exemple : le réseau ARPANET ça vient du l'ARPA (DARPA ?) et c'est pas une entreprise privée.
Histoire d'Internet - Le réseau ARPANET

Bon après le protocole TCP/IP ça vient d'une université privée, donc c'est un peu une entreprise privée...
Histoire d'Internet - Protocole TCP/IP

La différence c'est que ça : « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. » ça ne sera pas bénéfique pour les citoyens.
Un drone avec un fusil d'assaut et une IA c'est pas un grand progrès humain, par exemple.
si parce que ces innovations technologique aujourd'hui vont tuer des gens au moyen orient mais dans 10ans nous aurons ces mêmes robots en version désarmé qui fera nos taches ménagère

la fusée V2 tuait des londoniens à la base mais elle a permis d'aller sur la lune 30ans plus tard, merci Wernher von Braun pour vos fusées et merci docteur mengele pour vos recherches sur la congélation et la décompression du corps humain
Aujourd'hui grâce au RADAR et au messerschmitt nous pouvons aller à new york à plus de 900km/h
la guerre du Vietnam à permis de faire beaucoup de progrès dans les hélicoptères aussi bref et j'en passe

Concernant votre commentaire, l'armée développe rarement des projets, mais elle les finances et les fait faire par des entreprises privées/université

ces robots vont surement tuer pleins d’ennemies des USA, enfin c'est a espérer sinon ce projet sera un échec et demain ces meme robots ferons notre vaisselle et plierons le linge
entre les 2 extrêmes, il y'aura l'industrie du porno qui fera des robots donneur de plaisir.
Donc 3 étapes clés :
D'abord on tue (réseau internet pour communiquer en cas de guerre nucléaire), ensuite on a du plaisir (3615 minitel) et ensuite on se facilite la vie (amazon)
On tuera des mexicains, syriens ou autres, ensuite youporn fera des robots prostitué et ouvrira des bordels puis ces robots ferons nos taches ingrates.
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 06/04/2018 à 10:23
Citation Envoyé par Ryu2000 Voir le message
Alors effectivement la guerre est excellent pour le développement de nouvelle technologie.
Grande guerre : quels progrès doit-on à la guerre ?
Mais là c'est pas pareil.
Par exemple : le réseau ARPANET ça vient du l'ARPA (DARPA ?) et c'est pas une entreprise privée.
Histoire d'Internet - Le réseau ARPANET

Bon après le protocole TCP/IP ça vient d'une université privée, donc c'est un peu une entreprise privée...
Histoire d'Internet - Protocole TCP/IP

La différence c'est que ça : « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. » ça ne sera pas bénéfique pour les citoyens.
Un drone avec un fusil d'assaut et une IA c'est pas un grand progrès humain, par exemple.
On peut aussi parler de http://www.terrepromise.fr/2017/03/2...vec-les-nazis/
ex: Renault, BASF, Krupp, VW, General Motors, BOSS...
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 06/04/2018 à 10:39
Citation Envoyé par datalandia Voir le message
L'informatique a été crée pour et par l'armée comme internet aussi au passage.
La guerre est une source de progrès de technologique et je pense que Google en a conscience et ne vas laisser passer cette opportunité.
Clair, car les ricains ne vont pas sous-traiter à un pays étranger.
Donc, il reste MS, Apple, Intel en gros.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 06/04/2018 à 10:40
Citation Envoyé par hotcryx Voir le message
Ouais mais là le sujet c'est les grandes avancées technologique du à l'armée ou à la guerre.
Quels sont les grandes inventions de l'armée allemande de cette époque ?
Moi je connais le Jerrican :
Jerrican

Mais sinon il y a une analogie à faire, effectivement Google qui bosse pour l'armée américaine c'est comme IBM qui bosse pour l'armée allemande dans les années 30/40.

Et on ne peut pas dire que Volkswagen a collaboré avec l'Allemagne Hitlérienne, Volkswagen a été créé par Hitler et ses potes.


Et sinon on peut parler des scientifiques allemands qui ont été récupéré par les USA après la guerre. (les expériences qu'ils ont mené pendant la guerre intéressaient les USA)
Et même avant, Einstein a bossé sur la première bombe atomique, c'est encore autre chose parce que lui n'a pas bossé pour les allemands, c'est pas comme Walter Hallstein (le type de "Das neue Europa".
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 06/04/2018 à 11:10
Mais qui seront les prochains ennemi(s) tuant des millions de gens?

Ce ne peut être qu'une grande puissance (Chine, Russie...) mais aussi les USA.
Et là on réalise que les sauveurs à une époque peuvent être les ennemis dans une autre.

Voilà pourquoi il faut stopper de provoquer la Russie.
Au côté de la Russie, il y a la Chine et l'Iran.
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web