Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Il choisit de quitter son travail pour protester contre l'implication de son entreprise dans des projets de robots
Autonomes tueurs

Le , par Patrick Ruiz

424PARTAGES

11  0 
L’association américaine des libertés civiles (ACLU) s’est fait le relais de cette décision d’un employé de Clarifai il y a peu. L’employé de la firme spécialisée en développement de systèmes de reconnaissance faciale s’explique.

Citation Envoyé par l’ex-employé de Clarifai

Quand j'ai rejoint la société d'intelligence artificielle Clarifai au début de l'année 2017, on pouvait pratiquement sentir la promesse dans l'air. Mes collègues étaient brillants, dévoués et déterminés à rendre le monde meilleur.

Nous avons fondé Clarifai 4 Good, avons aidé des étudiants, des associations caritatives et avons fait don de nos logiciels à des chercheurs du monde entier porteurs de projets bénéfiques pour le social. Nous étions déterminés à être la seule société d'IA à prendre notre responsabilité sociale au sérieux.

Je n'aurais jamais pu prévoir que je devrais quitter ce travail pour des raisons morales deux ans plus tard. Et je n'aurais certainement jamais pensé que cela arriverait en construisant des armes qui intensifient et modifient le paradigme de la guerre.

Pour rappel : en 2014, Stephen Hawking et Elon Musk ont mené un effort avec des milliers de chercheurs d'Amnesty International pour s'engager collectivement à ne jamais contribuer à la recherche au développement de systèmes d'armement autonomes mortels - des armes qui pourraient chercher une cible et mettre fin à une vie sans un humain dans le circuit de décision. D'après des développements de chercheurs dans le domaine, la technologie pour créer de telles armes est à portée de main et son utilisation serait désastreuse pour l'humanité.

J'ai donc signé cet engagement et en janvier de cette année, j'ai écrit une lettre à Matt Zeiler, PDG de Clarifai, lui demandant de faire pareil. Je ne m'attendais pas du tout à sa réponse. Comme l'a rapporté le New York Times vendredi, Matt a convoqué une réunion à l'échelle de l'entreprise et a annoncé qu'il était tout à fait disposé à vendre la technologie des armes autonomes à notre gouvernement.

Je ne pouvais pas supporter d'en faire partie, alors j'ai démissionné. Mes objections sont fondées sur le fait que les robots tueurs ne relèvent pas de la science-fiction, mais sont bien utilisés sur les champs de bataille de nos jours.
D’après la publication du New York Times, Clarifai est en partenariat avec le Pentagone pour améliorer les capacités des drones à analyser les vidéos capturées en vol. L’intelligence artificielle doit ici servir à atteindre le même objectif que Google s’était fixé dans le cadre de Project Maven avant que l’entreprise fasse l’annonce de la rupture de son contrat avec le département de la Défense des États-Unis. Clarifai, comme l’a fait Google, met en avant l’IA qui doit servir à sauver les vies des civils et des militaires sur les champs de bataille. Seulement, ces « yeux de drones » boostés à l’intelligence artificielle peuvent aussi servir à décupler les capacités de ces engins à donner la mort.

Citation Envoyé par l’ex-employé de Clarifai
La question centrale est de savoir si un robot devrait être capable de sélectionner et d'acquérir sa propre cible à partir d'une liste de cibles potentielles et d'attaquer cette cible sans l'approbation d'un humain.
Israël n’a pas trop fait dans le questionnement. À date, le pays dispose de l’IAI Harop ; le drone est capable de détecter des systèmes anti-radar et de fondre sur ces derniers pour les détruire, ce, en toute autonomie. L’engin a fait l’objet d’une présentation lors d’un show organisé à Paris en 2013.


La décision de cet ex-employé de la société Clarifai fait suite à celle d’une dizaine de personnes qui travaillaient pour Google. De façon globale, les protestations contre l’utilisation de l’intelligence artificielle pour le développement d’armes se multiplient. À mi-parcours de l’année précédente, des chercheurs en IA issus de près de 30 pays ont signé une lettre de boycott d’un projet de développement d’armes de l’université sud-coréenne KAIST. Seulement, la question divise et s’il faut à nouveau souligner que l’actuel choix de Clarifai est de collaborer avec les militaires pour le développement d’armes aux capacités décuplées à l’IA, Thalès le leader français de la sécurité et de la défense refuse de concevoir des robots autonomes. L’entreprise appelle d’ailleurs à une législation internationale sur le sujet. À propos de lois pour encadrer le développement des robots tueurs autonomes, des discussions ont démarré aux Nations Unies avec pour objectif de déboucher sur un traité d’interdiction, mais certains pays parmi lesquels on retrouve les USA et la Russie s’y opposent.

Source : ACLU

Et vous ?

Que pensez-vous de la décision de cet employé ?

Quelle décision prendriez-vous si vous étiez amené par votre entreprise à travailler sur un projet de robot autonome tueur ?

Quelle est votre position sur le développement de robots autonomes tueurs ?

Voir aussi :

Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA

USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes

Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Charvalos
Membre éprouvé https://www.developpez.com
Le 08/03/2019 à 11:25
Oh non, pourquoi vous l'avez relancé là-dessus.....
5  0 
Avatar de Conan Lord
Membre expert https://www.developpez.com
Le 08/03/2019 à 15:40
Citation Envoyé par sebastiano Voir le message

La Russie n'a pas annexé la Géorgie, n'a pas provoqué de guerre en Ukraine et envahit librement une partie du pays, ils n'ont pas décapité l'état polonais en 2010 à Smolensk, ils ne sont pas copains avec un régime dictatorial en Syrie en participant à des raids sanguinaires, ... la liste est longue.

Poutine est sûrement quelqu'un de très recommandable.
En voilà un argument maladroit. Les États-Unis (et la France d'ailleurs) ont pas mal de crasses à leur palmarès historique également. Si on compte comme ça, je ne suis pas sûre de savoir qui est « pire ».
4  1 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 16:00
Citation Envoyé par Conan Lord Voir le message
En voilà un argument maladroit. Les États-Unis (et la France d'ailleurs) ont pas mal de crasses à leur palmarès historique également. Si on compte comme ça, je ne suis pas sûre de savoir qui est « pire ».
Le problème n'est pas de faire un classement des pires états.
Dire que la Russie c'est bien parce que les USA ont faits pires. C'est idiot. De même, qu'il est idiot de dire que les USA c'est cool et qu'ils sont super sympas.

On sait très bien que ces 2 super puissances se font la guerre au travers de conflits dans le monde.
Aujourd'hui, on voit la Chine arrivée sur l'échiquier, et ce n'est pas d'avantage rassurant. Je regrette que l'UE n'est pas pris sa place dans ce jeu, pour garder un peu de poids. La France n'est qu'un petit pion, et chaque pays de l'UE en est un autre. Ensemble, il y a une chance de pouvoir créer une sorte de contrepoids. Hélas, les égos-politiques font que ça ne se met pas en place.

Mais non, les USA ne sont pas le bien, et non la Russie ou la Chine ne sont pas mieux que les USA. Il faut garder cela en tête.
Ensuite, comme je l'ai dit, je préfère être du coté des USA que de celle des Russes. Mais, c'est mon point de vue personnel.
3  0 
Avatar de koyosama
Membre éprouvé https://www.developpez.com
Le 09/03/2019 à 9:38
Je vais donner une version différente avec ca:



Est-ce plus humain (ou normal) d'utiliser des humains pendant la guerre. On se rappelle tous de la guerre de 14-18, de la WWII et autres dans le monde.

Pour être franc, il y a vraiment plus de débat autour de ces projets. Si ce n'est pas lui, c'est quelqu'un d'autre.
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 8:36
Citation Envoyé par Patrick Ruiz Voir le message
Que pensez-vous de la décision de cet employé ?
Si il a un problème de conscience à travailler pour une entreprise il a raison de la quitter.

Citation Envoyé par Patrick Ruiz Voir le message
Quelle est votre position sur le développement de robots autonomes tueurs ?
Ça ne devrait pas exister, mais dans le domaine de l’armement c'est toujours la surenchère.
Dès qu'on pense qu'un ennemi développe un type d'arme on cherche à le développer également, pour ne pas lui laisser d'avance.
Pendant la guerre froide les USA ont développé des armes en se basant sur des rumeurs "il parait que les Russes ont tel type d'arme on doit le développer également".

Dans l'arsenal des armées il y a des chose sales : bombe atomique, arme biologique, munitions à l'uranium appauvri, etc.
Regardez les dégâts causé par l'Agent Orange au Vietnam, ou ceux du phosphore blanc en Palestine.

En ce moment énormément d'argent est investi dans le domaine de l'IA militaire, comme si un gros conflit approchait.
2  0 
Avatar de Ecthelion2
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 10:14
Citation Envoyé par Ryu2000 Voir le message
Je ne sais pas d'où ça vient ce sentiment anti Chine et anti Russe primaire
Dixit l'anti-américaniste primaire.

Citation Envoyé par Ryu2000 Voir le message

Vous pensez vraiment que la convention sur l'interdiction des armes chimiques, la convention sur l'interdiction des armes biologiques, le traité sur la non-prolifération des armes nucléaires empêchent réellement les USA de continuer de développer ce type d'arme ?
Tu penses vraiment qu'il n'y a que les USA qui développent ce genre d'armes ?

Pourtant il y a de nombreux pays dont tu défends les dirigeants / dictateurs qui en ont utilisé depuis les années 80 : Libye, Syrie, Irak, etc. Il y en a même eu d'utilisé dans des attentats au Japon.

Si on remonte un peu plus loin, l'Egypte aussi en a utilisé dans les années 60 au Yémen ("Je ne peux pas prendre cet avion, je suis analyste financier !" xD)

Mais tu vas nous dire qu'à chaque fois, c'était les américains non ?
2  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 12:59
Citation Envoyé par micka132 Voir le message
En plus il mange des bébés au petit déjeuné

C'est l’hôpital que se fout de la charité.
Si tu avais lu tout le déroulé, tu aurais peut-être répondu autrement. Le sujet initial parle des oppositions morales des chercheurs américains dans l'IA sur le fait d'aider leur pays à construire des robots autonomes tueurs.

A cela, j'ai répondu que c'était beau et bien, mais qu'il fallait comprendre que les russes et les chinois, eux, n'avaient pas ce genre problème. Je te renvoie à un sujet récent qui traite du fait que les chinois avait créer un truc pour récupérer les gamins les plus doués pour étudier l'IA militaire (a chercher sur le forum). Quant aux russes, personne n'entend parler de chercheur ou de société qui aurait refusé de développer ce genre de chose. Donc, connaissant l'intérêt russe pour l'armée, il est évident qu'ils y travaillent d'arrache-pied et sans état d'âme.

Il n'y a là aucun anti-russe ou anti-chinois de ma part. Juste un état de faits ! Pour ma part, et ça c'est mon avis personnel, je préfère que l'occident (donc nous et les USA) développe ses propres armes autonomes, même si je préfèrerais (mais c'est utopique) que personne n'en développe du tout.
2  0 
Avatar de gabriel21
Membre régulier https://www.developpez.com
Le 08/03/2019 à 13:31
Citation Envoyé par Jon Shannow Voir le message
Comme toujours, l'idée d'une législation internationale serait le mieux. Mais, on sait tous que le seul vrai moyen de se prémunir contre ces nouvelles armes, sera que tout les belligérants les possèdent et que, hélas, un pays soit le terrain de jeu de ces abrutis de militaires. Désolé pour les familles, toussa, toussa.
Personnellement, et après avoir fait 11 ans d'armée, je me méfie surtout des politiques. Il est rare que ce soit les militaires qui soient derrière les opérations. C'est généralement pour des intérêts politiques ou financiers. Il est assez amusant de voir nos politiques crachaient sur les militaires tant qu'ils n'ont pas besoin d'eux et accourir dès qu'ils ont peurs ou que leurs intérêts sont menacés.

Pour en revenir au sujet, ce type d'arme ne devraient pas existé, tout comme l'arme nucléaire. L'équilibre de la terreur n'a jamais été ma tasse de thé. Que des états la développement, cela ne m'étonne pas, l'humanité étant ce quelle est, il y aura toujours un taré qui transformera une invention en engin de mort. Je crains d'ailleurs le jour où nous parviendrons à contrôler la fission nucléaire ou l'anti-matière...

Quand au gars, il a eu raison de suivre sa conscience car son choix ne lèse pas la société (civile, par l'entreprise). Et ce n'est pas une décision facile à prendre. J'en ai déjà fait l'expérience.
2  0 
Avatar de sebastiano
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 17:07
Citation Envoyé par Conan Lord Voir le message
En voilà un argument maladroit. Les États-Unis (et la France d'ailleurs) ont pas mal de crasses à leur palmarès historique également. Si on compte comme ça, je ne suis pas sûre de savoir qui est « pire ».
Le but n'était pas de déterminer qui est le pire, mais d'arrêter les comparaisons foireuses pour le faire, justement. Mes exemples servaient à démontrer que les Russes ont aussi leur lot d'horreurs à leur actif.

Contrairement à ce qu'insinue Ryu, les USA ne sont pas la panacée de l'horreur, chaque civilisation y participe ou y a participé d'une manière ou d'une autre. C'est dans la nature humaine.

Les gens réagissent beaucoup à travers le prisme des médias qui racontent ce qu'ils veulent. Chaque pays est magnifique, chaque dirigeant de pays peut être un monstre en puissance.
3  1 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 09/03/2019 à 12:39
L'entreprise lui a envoyé un robot tueur pour protester contre le fait qu'il est démissionné pour protester^^. L'entreprise tient a rassurer, le robot va très bien^^.
2  0