Il choisit de quitter son travail pour protester contre l'implication de son entreprise dans des projets de robots
Autonomes tueurs

Le , par Patrick Ruiz

200PARTAGES

11  0 
L’association américaine des libertés civiles (ACLU) s’est fait le relais de cette décision d’un employé de Clarifai il y a peu. L’employé de la firme spécialisée en développement de systèmes de reconnaissance faciale s’explique.

Citation Envoyé par l’ex-employé de Clarifai

Quand j'ai rejoint la société d'intelligence artificielle Clarifai au début de l'année 2017, on pouvait pratiquement sentir la promesse dans l'air. Mes collègues étaient brillants, dévoués et déterminés à rendre le monde meilleur.

Nous avons fondé Clarifai 4 Good, avons aidé des étudiants, des associations caritatives et avons fait don de nos logiciels à des chercheurs du monde entier porteurs de projets bénéfiques pour le social. Nous étions déterminés à être la seule société d'IA à prendre notre responsabilité sociale au sérieux.

Je n'aurais jamais pu prévoir que je devrais quitter ce travail pour des raisons morales deux ans plus tard. Et je n'aurais certainement jamais pensé que cela arriverait en construisant des armes qui intensifient et modifient le paradigme de la guerre.

Pour rappel : en 2014, Stephen Hawking et Elon Musk ont mené un effort avec des milliers de chercheurs d'Amnesty International pour s'engager collectivement à ne jamais contribuer à la recherche au développement de systèmes d'armement autonomes mortels - des armes qui pourraient chercher une cible et mettre fin à une vie sans un humain dans le circuit de décision. D'après des développements de chercheurs dans le domaine, la technologie pour créer de telles armes est à portée de main et son utilisation serait désastreuse pour l'humanité.

J'ai donc signé cet engagement et en janvier de cette année, j'ai écrit une lettre à Matt Zeiler, PDG de Clarifai, lui demandant de faire pareil. Je ne m'attendais pas du tout à sa réponse. Comme l'a rapporté le New York Times vendredi, Matt a convoqué une réunion à l'échelle de l'entreprise et a annoncé qu'il était tout à fait disposé à vendre la technologie des armes autonomes à notre gouvernement.

Je ne pouvais pas supporter d'en faire partie, alors j'ai démissionné. Mes objections sont fondées sur le fait que les robots tueurs ne relèvent pas de la science-fiction, mais sont bien utilisés sur les champs de bataille de nos jours.
D’après la publication du New York Times, Clarifai est en partenariat avec le Pentagone pour améliorer les capacités des drones à analyser les vidéos capturées en vol. L’intelligence artificielle doit ici servir à atteindre le même objectif que Google s’était fixé dans le cadre de Project Maven avant que l’entreprise fasse l’annonce de la rupture de son contrat avec le département de la Défense des États-Unis. Clarifai, comme l’a fait Google, met en avant l’IA qui doit servir à sauver les vies des civils et des militaires sur les champs de bataille. Seulement, ces « yeux de drones » boostés à l’intelligence artificielle peuvent aussi servir à décupler les capacités de ces engins à donner la mort.

Citation Envoyé par l’ex-employé de Clarifai
La question centrale est de savoir si un robot devrait être capable de sélectionner et d'acquérir sa propre cible à partir d'une liste de cibles potentielles et d'attaquer cette cible sans l'approbation d'un humain.
Israël n’a pas trop fait dans le questionnement. À date, le pays dispose de l’IAI Harop ; le drone est capable de détecter des systèmes anti-radar et de fondre sur ces derniers pour les détruire, ce, en toute autonomie. L’engin a fait l’objet d’une présentation lors d’un show organisé à Paris en 2013.


La décision de cet ex-employé de la société Clarifai fait suite à celle d’une dizaine de personnes qui travaillaient pour Google. De façon globale, les protestations contre l’utilisation de l’intelligence artificielle pour le développement d’armes se multiplient. À mi-parcours de l’année précédente, des chercheurs en IA issus de près de 30 pays ont signé une lettre de boycott d’un projet de développement d’armes de l’université sud-coréenne KAIST. Seulement, la question divise et s’il faut à nouveau souligner que l’actuel choix de Clarifai est de collaborer avec les militaires pour le développement d’armes aux capacités décuplées à l’IA, Thalès le leader français de la sécurité et de la défense refuse de concevoir des robots autonomes. L’entreprise appelle d’ailleurs à une législation internationale sur le sujet. À propos de lois pour encadrer le développement des robots tueurs autonomes, des discussions ont démarré aux Nations Unies avec pour objectif de déboucher sur un traité d’interdiction, mais certains pays parmi lesquels on retrouve les USA et la Russie s’y opposent.

Source : ACLU

Et vous ?

Que pensez-vous de la décision de cet employé ?

Quelle décision prendriez-vous si vous étiez amené par votre entreprise à travailler sur un projet de robot autonome tueur ?

Quelle est votre position sur le développement de robots autonomes tueurs ?

Voir aussi :

Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA

USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes

Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 8:36
Citation Envoyé par Patrick Ruiz Voir le message
Que pensez-vous de la décision de cet employé ?
Si il a un problème de conscience à travailler pour une entreprise il a raison de la quitter.

Citation Envoyé par Patrick Ruiz Voir le message
Quelle est votre position sur le développement de robots autonomes tueurs ?
Ça ne devrait pas exister, mais dans le domaine de l’armement c'est toujours la surenchère.
Dès qu'on pense qu'un ennemi développe un type d'arme on cherche à le développer également, pour ne pas lui laisser d'avance.
Pendant la guerre froide les USA ont développé des armes en se basant sur des rumeurs "il parait que les Russes ont tel type d'arme on doit le développer également".

Dans l'arsenal des armées il y a des chose sales : bombe atomique, arme biologique, munitions à l'uranium appauvri, etc.
Regardez les dégâts causé par l'Agent Orange au Vietnam, ou ceux du phosphore blanc en Palestine.

En ce moment énormément d'argent est investi dans le domaine de l'IA militaire, comme si un gros conflit approchait.
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 9:37
Citation Envoyé par Patrick Ruiz Voir le message
Que pensez-vous de la décision de cet employé ?
Que c'est son choix. Il met sa morale et son éthique devant les intérêts de son pays et de son entreprise. Certains diront que ça l'honore, d'autres que c'est idiot.

Citation Envoyé par Patrick Ruiz Voir le message
Quelle décision prendriez-vous si vous étiez amené par votre entreprise à travailler sur un projet de robot autonome tueur ?
Je n'en sais rien. D'un coté, il y a le coté qui fait peur : "des robots autonomes tueurs" ouououououh ! Ça ne donne pas trop envie, et on a tous Terminator en tête.
Et puis, il y a l'autre coté. Les chinois et les russes ne vont pas se gêner pour les développer, car eux, la morale, ils s'en tamponnent le coquillard ! Donc, si on n'est pas à la hauteur, quand ces 2 puissances alliées seront prêtes, elles n'hésiteront pas un instant à s'en servir. Je pour le proverbe : "Il vaut prévenir que guérir". Et, comme pour l'arme atomique, le fait que tout le monde la possède, fait un peu peur, mais aussi, ça empêche tout le monde de s'en servir.

Citation Envoyé par Patrick Ruiz Voir le message
Quelle est votre position sur le développement de robots autonomes tueurs ?
Comme toujours, l'idée d'une législation internationale serait le mieux. Mais, on sait tous que le seul vrai moyen de se prémunir contre ces nouvelles armes, sera que tout les belligérants les possèdent et que, hélas, un pays soit le terrain de jeu de ces abrutis de militaires. Désolé pour les familles, toussa, toussa.
Avatar de Ecthelion2
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 9:43
Citation Envoyé par Jon Shannow Voir le message

Comme toujours, l'idée d'une législation internationale serait le mieux.
Et encore, ce n'est pas comme si on avait déjà foultitude d'exemples de trucs signés et non respectés par différents pays.
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 9:51
Citation Envoyé par Ecthelion2 Voir le message
Et encore, ce n'est pas comme si on avait déjà foultitude d'exemples de trucs signés et non respectés par différents pays.
Oui ! Le temps que l'ONU ne sera qu'une organisation fantoche, on arrivera à rien. Vivement un gouvernement mondial ! (n'est-ce pas Ryu )
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 9:53
Citation Envoyé par Jon Shannow Voir le message
Les chinois et les russes ne vont pas se gêner pour les développer, car eux, la morale, ils s'en tamponnent le coquillard !
Je ne sais pas d'où ça vient ce sentiment anti Chine et anti Russe primaire, parce que dans l'histoire ce ne sont pas eux qui ont utilisé les pires armes et qui ont été le plus immorale...
Je connais un pays qui est intervenu un peu partout pour s'accaparer des ressources, qui a souvent utilisé des armes interdites, qui a tué des millions de civils innocents loin de chez lui, mais bon...

Citation Envoyé par Jon Shannow Voir le message
Comme toujours, l'idée d'une législation internationale serait le mieux.
Vous pensez vraiment que la convention sur l'interdiction des armes chimiques, la convention sur l'interdiction des armes biologiques, le traité sur la non-prolifération des armes nucléaires empêchent réellement les USA de continuer de développer ce type d'arme ?

Citation Envoyé par Jon Shannow Voir le message
Et, comme pour l'arme atomique, le fait que tout le monde la possède, fait un peu peur, mais aussi, ça empêche tout le monde de s'en servir.
Ça fonctionne avec l'arme nucléaire parce qu'il y a le M.A.D mais ça ne fonctionne pas avec le reste.
Tu peux utiliser des robots tueurs autonomes et des armes biologique ça ne va pas détruire la planète.

Citation Envoyé par Jon Shannow Voir le message
ces abrutis de militaires.
Eux ils n'y sont pour rien, ils se sont engagé pour leur pays et au final ils sont utilisé dans l’intérêt d'entreprise...
Mais là volonté de fabriquer ce type d'arme vient du haut de la hiérarchie militaire (qui ne sont pas des vrais militaires) et du gouvernement.
Avatar de Ecthelion2
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 10:14
Citation Envoyé par Ryu2000 Voir le message
Je ne sais pas d'où ça vient ce sentiment anti Chine et anti Russe primaire
Dixit l'anti-américaniste primaire.

Citation Envoyé par Ryu2000 Voir le message

Vous pensez vraiment que la convention sur l'interdiction des armes chimiques, la convention sur l'interdiction des armes biologiques, le traité sur la non-prolifération des armes nucléaires empêchent réellement les USA de continuer de développer ce type d'arme ?
Tu penses vraiment qu'il n'y a que les USA qui développent ce genre d'armes ?

Pourtant il y a de nombreux pays dont tu défends les dirigeants / dictateurs qui en ont utilisé depuis les années 80 : Libye, Syrie, Irak, etc. Il y en a même eu d'utilisé dans des attentats au Japon.

Si on remonte un peu plus loin, l'Egypte aussi en a utilisé dans les années 60 au Yémen ("Je ne peux pas prendre cet avion, je suis analyste financier !" xD)

Mais tu vas nous dire qu'à chaque fois, c'était les américains non ?
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 10:30
Citation Envoyé par Ryu2000 Voir le message
Vous pensez vraiment que la convention sur l'interdiction des armes chimiques, la convention sur l'interdiction des armes biologiques, le traité sur la non-prolifération des armes nucléaires empêchent réellement les USA de continuer de développer ce type d'arme ?
Je ne sais pas d'où vient cet anti-américanisme primaire, mais tu crois franchement que les russes et les chinois (et même les français, anglais, ...) n'ont pas continuer de développer ce type d'armes ?

Citation Envoyé par Ryu2000 Voir le message
Ça fonctionne avec l'arme nucléaire parce qu'il y a le M.A.D mais ça ne fonctionne pas avec le reste.
Tu peux utiliser des robots tueurs autonomes et des armes biologique ça ne va pas détruire la planète.
Je pense que si. Ce n'est pas la planète qui est en jeu, mais l'humanité, où plutôt la civilisation humaine telle qu'on la connait. Aucun des pays n'a intérêt à déstabiliser entièrement le mode dans lequel il fonctionne.

Citation Envoyé par Ryu2000 Voir le message
Eux ils n'y sont pour rien, ils se sont engagé pour leur pays et au final ils sont utilisé dans l’intérêt d'entreprise...
Mais là volonté de fabriquer ce type d'arme vient du haut de la hiérarchie militaire (qui ne sont pas des vrais militaires) et du gouvernement.
Quand je parlais des "abrutis de militaires", je ne parlais pas des troufions, mais des généraux des centres de décision (genre Pentagone).
Avatar de micka132
Membre expert https://www.developpez.com
Le 08/03/2019 à 10:41
Citation Envoyé par Jon Shannow Voir le message
Les chinois et les russes ne vont pas se gêner pour les développer, car eux, la morale, ils s'en tamponnent le coquillard
En plus il mange des bébés au petit déjeuné

Citation Envoyé par Jon Shannow Voir le message
Je ne sais pas d'où vient cet anti-américanisme primaire
C'est l’hôpital que se fout de la charité.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 08/03/2019 à 11:08
Citation Envoyé par Ecthelion2 Voir le message
Dixit l'anti-américaniste primaire.
Ben quoi, je respect le stéréotype français, on est supposé détesté les USA.
Vous n'avez jamais vu le film God Bless America ?


Citation Envoyé par Ecthelion2 Voir le message
Tu penses vraiment qu'il n'y a que les USA qui développent ce genre d'armes ?
Les USA sont ceux qui ont fait le plus de morts.
C'est le seul pays qui a utilisé l'arme atomique sur des civils (ils l'ont fait 2 fois alors que le Japon voulait se rendre sous condition avant la première bombe, c'est le pire acte de terrorisme de l'histoire de l'humanité).
Ils font croire qu'ils apportent la paix et la démocratie mais ce n'est jamais le cas.
C'est le pays qui a de très loin le plus gros budget militaire.

Citation Envoyé par Ecthelion2 Voir le message
Libye, Syrie, Irak, etc.
Si ça se trouve c'est aussi vrai que l'histoire des armes de destruction massive en Irak.

Pour moi les armes chimiques ont été utilisé par les rebelles/terroristes et pas par l'armée syrienne, l'armée n'avait aucun intérêt d'utiliser ce type d'arme à ces moments là, par contre les terroristes sont habitué à tuer des civils et le mettre sur le dos du gouvernement.

Citation Envoyé par Ecthelion2 Voir le message
Mais tu vas nous dire qu'à chaque fois, c'était les américains non ?
Les étasuniens sont pire parce qu'ils disent qu'ils font ça pour le bien.
Pire ! Parfois ils utilisent Dieu
Bush: God told me to invade Iraq
les USA ont des bases militaires partout, plus que n'importe quel autre pays.

Citation Envoyé par Jon Shannow Voir le message
tu crois franchement que les russes et les chinois (et même les français, anglais, ...) n'ont pas continuer de développer ce type d'armes ?
En France on ne fait plus rien du tout c'est affligeant.
On achète des fusils d’assaut et des munitions à l'étranger
C'est une tragédie... Être indépendant dans ce domaine c'est quand même la base.
Dépendre d'un autre pays pour ses munitions ça craint vraiment. (quoi que c'est peut-être revenu depuis, je sais plus...)

Après peut-être que la Chine et la Russie continuent également le développement d'armes biologique comme les USA, je ne sais pas...
C'est juste que les USA c'est pire parce qu'ils ont plus de budget, ils n'ont aucune morale et en occident on les considère comme étant des gentils.

Citation Envoyé par Jon Shannow Voir le message
Je pense que si. Ce n'est pas la planète qui est en jeu, mais l'humanité, où plutôt la civilisation humaine telle qu'on la connait.
Les robots tueur ne vont pas faire des milliards de morts non plus...
Et pour les armes biologique je pense que c'est plus ciblé, et au pire si les USA balancent le virus ébola sur une population, peut-être qu'ils ont le vaccin pour leur population.

Citation Envoyé par Jon Shannow Voir le message
Quand je parlais des "abrutis de militaires", je ne parlais pas des troufions, mais des généraux des centres de décision (genre Pentagone).
Il faut toujours préciser que le problème vient du sommet de la pyramide.
Les militaires se font systématiquement exploiter pour des mauvaises raisons par leur hiérarchie.
le gouvernement met toujours les plus corrompu au sommet de tous les services.

====
Ce qui m'embête c'est qu'il y a toujours beaucoup plus de critiques de la Russie et de la Chine que des USA.
Alors que quand on regarde, les USA posent plus problème que l'union Chine + Russie.
Les USA ont beaucoup plus de pouvoir de destruction que les autres.
Si on devait faire un classement des nations par dangerosité les USA seraient loin devant.
C'est une civilisation dans le déclin et on est pas obligé de leur resté soumis.

Les USA ne sont pas nos amis, la Chine et la Russie ne sont pas nos ennemis.
Il faudrait être un peu plus neutre.
Au moins du temps de Chirac la France avait dit non à l'intervention en Irak.
Ensuite Sarkozy a détruit la Libye dans l’intérêt des USA.
Hollande a aidé les rebelles Syrien dans l’intérêt des USA.
On a tout à y perde, sans Kadhafi on subit le terrorisme et les vagues de migrants.
Heureusement les terroristes n'ont pas pris le pouvoir en Syrie, on a eu de la chance.

===
La Chine et la Russie sont peut-être dangereux mais beaucoup moins que les USA.
Avatar de Charvalos
Membre éprouvé https://www.developpez.com
Le 08/03/2019 à 11:25
Oh non, pourquoi vous l'avez relancé là-dessus.....
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web