Non, l'IA de Google ne doit pas être au service de la guerre !
Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

103PARTAGES

18  0 
« Celui qui réussira à s’imposer comme leader dans la sphère [de l'intelligence artificielle] sera le maître du monde », avait déclaré Vladimir Poutine dans un message adressé à la jeunesse russe en septembre dernier. C'est une déclaration forte qui indique que la course aux armements basés sur l'IA a déjà commencé. Une course dans laquelle on retrouvera probablement des pays comme les États-Unis et la Chine. Les États-Unis, par exemple, travaillent sur le projet Maven, un projet militaire qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial de Maven était de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets, dans pas moins de 38 catégories, capturés par la caméra d'un drone. Il va par conséquent permettre de suivre à la trace certaines cibles.

Le projet Maven utilise TensorFlow, la technologie open source d'apprentissage automatique de Google. Mais certains médias américains ont rapporté début mars que le géant de l'intelligence artificielle accompagne également le Département américain de la Défense dans son projet. La contribution exacte de Google n'est pas encore claire, mais le simple fait que Google soit plus ou moins impliqué dans cette affaire a scandalisé certains employés ayant connaissance de l'affaire, avant que cette information sorte de l'entreprise.


Google s'est défendu en expliquant que l'entreprise a depuis longtemps travaillé avec des agences du gouvernement américain pour leur fournir des solutions technologiques. Et d'ajouter que son travail sur le projet Maven est « non offensif », car la technologie ne sera pas utilisée pour des frappes ciblées. Les employés de l'entreprise ne voient toutefois pas cette situation de la même manière et appellent Google à garder ses distances de ce projet.

Des milliers d'employés de Google, dont des dizaines d'ingénieurs seniors, ont donc signé une lettre pour protester contre l'implication de l'entreprise dans le programme du Pentagone. « Nous pensons que Google ne devrait pas être impliqué dans la guerre », peut-on lire dans la lettre. Les auteurs de la lettre estiment que la participation de Google au projet du Pentagone va de manière irrémédiable salir l'image de l'entreprise et réduire sa capacité à rivaliser avec les autres géants de la technologie pour attirer les talents. Ils rappellent en effet que Google lutte déjà pour garder la confiance du public.

Participer à un projet militaire dont la finalité sera probablement condamnée par les institutions comme l'ONU va donc empirer la situation. Ils pensent également que Google ne devrait pas essayer de s'en laver les mains, alors qu'il est évident que le Pentagone pourrait faire un mauvais usage de sa technologie. « Nous ne pouvons pas externaliser la responsabilité morale de nos technologies à des tiers », disent-ils. « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. »

Reconnaissant que l'entreprise a une responsabilité morale et éthique dans cette affaire, et pour préserver sa réputation, les auteurs de la lettre demandent « que le projet Maven soit annulé et que Google rédige, publie et applique une politique claire stipulant que jamais Google ni ses sous-traitants ne construiront une technologie de guerre. » La lettre, qui circule au sein de l'entreprise, a déjà recueilli plus de 3100 signatures.

Sources : New York Times, Lettre adressée à Google

Et vous ?

Qu'en pensez-vous ?
Condamnez-vous une éventuelle implication de Google dans ce projet ? Pourquoi ?

Voir aussi :

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique
L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de MarieKisSlaJoue
Membre émérite https://www.developpez.com
Le 15/05/2018 à 10:49
Citation Envoyé par Ryu2000 Voir le message
Ils sont très courageux de choisir de quitter leur travail, ils font passer leur convictions avant leur confort.
C'est impossible de savoir si j'aurais fais pareil, bosser chez Google ça doit bien payer quand même.
Ils sont juste trop naïf de croire qu'ils peuvent influencer Google à changer...
Je pense que les mecs qui sont partie ne sont :
- Soit pas des mecs lambda, donc leur employabilité doit être très forte, et non donc pas de soucie à se faire pour trouver du boulot
- Même si ils sont totalement lambda dans l'organisation, il reste comme très intéressant avec Google sur leur CV.

Pour peu que ça fasse un moment qu'ils soient dans la boite, l'argent ne doit globalement pas être un soucie pour eux.

Je pense au contraire que c'est gens on tous compris, l'accomplissement de sa carrière c'est pas de rentré chez un GAFA (pour des avantages dont tu n'as souvent pas le luxe de profité faute de temps). Le réel accomplissement, c'est de travailler pour ce que l'ont croit, faire en sorte que notre travail et sa finalité nous convienne. Et je pense que c'est en raisonnant comme ça qu'on fait de belle carrière avec du succès.

c'est donc je pense courageux, mais je ne pense pas que leur confort en pâtisse.
6  0 
Avatar de Rokhn
Membre actif https://www.developpez.com
Le 09/04/2018 à 15:53
Citation Envoyé par Matthieu76 Voir le message
Moi personnellement je vois pas le problème à l'utilisation de l'IA, on utilise déjà des avions pour bombarder des villes entières, je ne vois pas ce qu'une IA pourrait faire de plus ... Franchement ça pourra pas être pire. Et ne venez pas me parler de Terminator, cela n'a aucun rapport !!!
On déshumanise le fait de s'en prendre à une personne/tuer, c'est encore plus violent que la guerre en face à face.

(Les deux sont dégueulasse je l'accorde, y'en a juste un qui est immonde)

L'homme à toujours été très inventif pour ce qui touche au domaine des armes et de la guerre, mais l'IA ne doit à mon avis pas servir en ce sens, sinon dans quelques années on se retrouve dans le même scénario que certains films hollywoodiens.
En plus de ça, développer des IA pour la guerre, voyant les failles aberrantes que l'ont trouve dans nos SI, c'est pas très rassurant....
5  0 
Avatar de Aurelien.Regat-Barrel
Expert éminent sénior https://www.developpez.com
Le 09/04/2018 à 23:13
Citation Envoyé par Matthieu76 Voir le message
Moi personnellement je vois pas le problème à l'utilisation de l'IA, on utilise déjà des avions pour bombarder des villes entières, je ne vois pas ce qu'une IA pourrait faire de plus ... Franchement ça pourra pas être pire. Et ne venez pas me parler de Terminator, cela n'a aucun rapport !!!
Cette peur de l'IA n'est que l'actualisation moderne d'une peur qui nous habite depuis des millénaires : celle de notre disparition annoncée par moultes prophéties et récits apocalyptiques. Chaque génération hérite, perpétue et transmet cette idée d'une destruction totale de l'humanité qui l'aura d'ailleurs bien cherché. Autrement dit, une perpétuation de l'idée que nous sommes méprisables et que la nature ou Dieu ou l'Univers a bien raison de nous exterminer.

Cette éducation à nous auto-détester est tellement ancrée en nous qu'il est bien difficile de s'en détacher ouvertement sans déclencher une vive hostilité. Car derrière les beaux discours visant à nous ouvrir les yeux etc... il y a aussi de profonds enjeux de pouvoirs : les prophètes de malheur savent faire bon usage de notre addiction au drame.

Alors je crois que ta posture est la bonne : hausser des épaules et passer son chemin. Car in fine, une fois qu'on est passé à autre chose, on se rend compte qu'on avait juste peur de nous mêmes.
4  0 
Avatar de leroivi
Membre du Club https://www.developpez.com
Le 15/05/2018 à 8:39
J'avais complètement oublié cette histoire, j'ai cru, en lisant le titre, qu'on allait parler de contribution à Maven de Apache qui fait parti des outils d'android studio, je me demandais en quoi c'était si grave x)

Bref Google continue d'être maître du monde, et s’immisce dans tout les secteurs jusqu'être indispensable pour s'affirmer, le militaire devait forcément arriver
3  0 
Avatar de LSMetag
Expert confirmé https://www.developpez.com
Le 15/05/2018 à 10:35
J'espère que ce sont des pointures qui sont parties. Ca ne se remplace pas si facilement.

Me concernant je pense que je serais parti. J'avais déjà volontairement raté un entretien clientèle chez Servier (j'avais bien mis en évidence mon amour des animaux), façon de refuser sans le dire une mission de SS2I.

Google sait pertinemment dans quoi il s'engage. Le contrat doit être très juteux.
3  0 
Avatar de MarieKisSlaJoue
Membre émérite https://www.developpez.com
Le 15/05/2018 à 11:14
Pour toi peut être, pour eux je pense que c'est en effet bcp plus facile, la difficulté, doit même dans être trier les bonnes proposition.

C'est un peu l'équivalent à notre niveau de mettre notre CV sur Monster, des tas d'appel et t'entretiens. Pour la plus part d'entre nous, c'est des propositions bas de gamme, voir du sourcing, pour eux, c'est plus du travail dans des startup ou autre grosse boite.

Et puis ils ont raisons je trouve, la guerre n'est pas le seul moyen de faire des progrès technologiques. Si on prend la voiture, on à maintenant plein d'aide à la conduite comme le limitateur de vitesse ou les boites auto. Ce genre d'évolution viens d'abord pour les personnes qui on des difficultés à conduire, puis finalement tous le monde en profite. l'inclusion de personne est un fabuleux vecteur de progrès pour tous. Un progrès qui sert pour une personne qui n'a plus qu'un bras (au pif perdu à la guerre), bah ça va aussi servir au parent qui à son enfant dans les bras.

L'espace est aussi un bon facteur de progrès technique. Bref, on est pas obligé de se tirer dessus pour progresser.
3  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 18/05/2018 à 10:22
Moi je trouve ça inquiétant.

Imaginez les conséquences :

- d'un algorithme mal conçu (cf. vidéo Robocop)
- d'un bug
- d'un hack avec patch islamiste, nazi, homophobe, ethnique, dissident et j'en passe.

Dernier cas concret :

Uber aurait compris pourquoi une de ses voitures autonomes a percuté mortellement une piétonne alors que ses capteurs l'avaient bien détectée. Il n'y a pas eu de défaillance mais un réglage trop tolérant qui a conduit la voiture à ne pas réagir en temps voulu.
[mode cynique]Comme il est dit, il n'y a pas eu de défaillance. Je sais pas pas si il faut éclater de rire, pleurer, prendre un prosac, ou faire un procès pour choix homicide volontaire avec arme par destination.[/mode cynique]
3  0 
Avatar de ManyTwo
Membre du Club https://www.developpez.com
Le 25/06/2018 à 10:56
Donc, si je comprends bien, 9 ingénieurs refusent de faire le travail pour lequel ils sont payé et sabotent volontairement une partie de l'entreprise qui les emplois …
@SofEvans c'est sur dis comme ca cela peut paraitre un peu abusé. Dans un cadre d'entreprises "classiques" ta réaction se comprends facilement, mais on est dans un cadre un peu particulier la quand meme...

Je trouve quand dans certains cas d'éthique il faut avoir le courage de montrer son désaccord. Il est facile après coup de se dire "j'y suis pour rien si mes productions sont utilisées pour tuer des gens, c'est mon patron qu'y m'a demandé".
Si faire certaines taches vont vraiment contre ton éthique, ben ne les fait pas . Quite à démissionner par la suite. La on parle de projets d'IA pour reconnaitre des gens dans un carde militaire, qui finira surement par des assassinats ciblés…

Si ton patron te dit:" écrit un programme pour notre drone qui différencie les civils des combatants et tire automatiquement, avec une marge d'erreur à la reconnaissance de 40%" (exemple arbitraire).

Pour moi, ne pas protester/refuser de faire cela équivaut a avoir une part responsabilité dans les morts civiles faites via TON travail. Tu peux pas te cacher derriere "on m'a dit de le faire c'est pas moi qui décide". Trop facile.
3  0 
Avatar de datalandia
Bot Troll en alpha-test https://www.developpez.com
Le 06/04/2018 à 7:40
L'informatique a été crée pour et par l'armée comme internet aussi au passage.
La guerre est une source de progrès de technologique et je pense que Google en a conscience et ne vas laisser passer cette opportunité.
3  1 
Avatar de Matthieu76
Membre éclairé https://www.developpez.com
Le 06/04/2018 à 12:00
Citation Envoyé par datalandia Voir le message
si parce que ces innovations technologique aujourd'hui vont tuer des gens au moyen orient mais dans 10ans nous aurons ces mêmes robots en version désarmé qui fera nos taches ménagère
C'est très binaire comme vision mais je suis plutôt d'accord avec toi. Enfin à l'époque les recherches étaient faite, (enfin financé) par l'armée car seul l'armée avait beaucoup d'argent mais maintenant je ne pense pas que google ait besoin d'argent pour faire ses recherches donc je pense qu'elle n'a pas besoin de l'armée.
2  0 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web