Interdiction des robots tueurs : quelques pays, y compris les USA et la Russie, bloquent les négociations
Menées au niveau des Nations Unies

Le , par Michael Guilloux, Chroniqueur Actualités
« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte l'année dernière. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.

Cet avertissement a toute sa raison d'être étant donné qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Les Nations Unies travaillent donc sur la question, mais il semble qu'il sera impossible d'arriver un jour à des règles qui interdisent ce type d'armes, ou du moins celles qui sont les plus dangereuses.

La semaine dernière, dans une série de réunions qui se sont tenues à Genève, un groupe de la Convention des Nations Unies sur certaines armes classiques (CCW) a en effet discuté de l'opportunité d'amener les négociations sur les armes entièrement autonomes dotées d'IA à un niveau formel qui pourrait déboucher sur un traité qui les interdit. Mais les réunions se sont terminées sans que les pays participants se rapprochent de règles internationales contraignantes. D'après le quotidien Politico, les pays se sont juste entendus sur une liste de recommandations non contraignantes. Un petit nombre de pays -- notamment les États-Unis, la Russie, la Corée du Sud, Israël et l’Australie -- auraient en effet empêché les Nations Unies de s’entendre sur la question de savoir s’il fallait ou non interdire les robots tueurs.

« N’importe quel État peut bloquer un progrès, et c'est ce qui s'est passé ici », a déclaré Mary Wareham, coordinatrice de la campagne pour mettre fin aux robots tueurs (Campaign to Stop Killer Robots). « Bien sûr, il est décevant qu’une petite minorité de grandes puissances militaires puisse freiner la volonté de la majorité », a-t-elle déclaré. Son groupe représente 75 organisations non gouvernementales dans 32 pays qui luttent pour l'interdiction des armes utilisant la technologie de l'IA pour choisir leurs cibles. Elle indique que 26 pays approuvent une interdiction totale de ces armes.


La position des États-Unis est loin d'être surprenante. En 2016, le pays de l'oncle Sam a testé des prototypes de robots militaires dans le Pacifique. N'oublions pas non plus le projet de drone militaire doté d'IA sur lequel le Pentagone travaille avec Google. Si à cela, on ajoute la déclaration du sous-secrétaire US à la défense selon laquelle il est important d'associer l'IA à l'armée, alors on comprend que les USA sont bien engagés dans cette course aux armes autonomes dotées d'IA. La Russie et l'Irak ne semblent pas non plus vouloir rester en marge.

C'est à la fin de 2013 que les Nations Unies ont mis le sujet à l'ordre du jour, mais depuis lors, peu de choses se sont produites. L'organisation n'a même pas été en mesure de s'entendre sur une définition des armes létales entièrement autonomes. Et en même temps, les positions autour de la table de négociation se durcissent, d'après les experts. « Les divergences entre les différentes positions se creusent », a déclaré Frank Sauer, expert en armes autonomes à l'université de la Bundeswehr à Munich.

Pendant les discussions de la semaine dernière, beaucoup de pays ont réitéré leur appel à une réglementation forte, poussant les États-Unis à entamer des négociations formelles l’année prochaine. On pourrait donc espérer se diriger vers des règles internationales contraignantes, mais les opposants à une interdiction étaient fermes dans leur position, d'après Politico. Le document publié à la fin des discussions recommande donc que les pourparlers sur des mesures non contraignantes se poursuivent.

Source : Politico

Et vous ?

Que pensez-vous de ces divergences dans les négociations sur l'interdiction des armes autonomes ?
Avez-vous espoir que les négociations aboutissent à l'interdiction de ces armes ?

Voir aussi :

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de Danfre Danfre - Nouveau membre du Club https://www.developpez.com
le 04/09/2018 à 14:41
Les intérêts économiques et stratégiques priment, comme d'habitude...
J'imagine qu'il faudra qu'il arrive un accident pour qu'on se décide à bannir ces armes.
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 04/09/2018 à 15:11
Citation Envoyé par Michael Guilloux Voir le message
Que pensez-vous de ces divergences dans les négociations sur l'interdiction des armes autonomes ?
Peu importe, ce n'est pas important...
Il y a les USA qui ont le plus gros budget militaire qui investissent à fond dans l'IA militaire et les robots tueurs.
Les USA sont le moteur des robots tueurs, une fois qu'un pays se lance dans un truc il faut que les autres suivent pour pouvoir se défendre au cas où.

C'est comme avec la bombe nucléaire, une fois qu'un pays l'a, les autres en ont besoin.

Citation Envoyé par Michael Guilloux Voir le message
Avez-vous espoir que les négociations aboutissent à l'interdiction de ces armes ?
Même si ce type d'arme devenait illégal les pays comme les USA, Israël et la Chine continueraient le développement en secret.
Il est probable que plusieurs pays travaillent sur des armes illégales. (il y a des labos qui bossent sur des armes chimique, ce ne serait pas étonnant que l'épidémie d'Ébola qu'il y a eu il y a quelques années venait d'un labo US... Mais on le saura jamais !)

Les USA ont utilisé des choses comme l'Agent Orange, le Napalm, le gaz sarin, le phosphore blanc, et des armes interdite par la convention de Genève.

Il y a une guerre mondiale qui approche, c'est pas une loi qui bloquera les superpuissances comme les USA et la Chine.
Quand il s'agit de guerre les gouvernements y vont à fond (2 bombes atomiques sur les civils japonais).
Plus le temps passe plus les guerres sont meurtrière et inhumaine.

Première guerre mondiale : 15/20 millions de morts
Seconde guerre mondiale : 50/70 millions de morts
Je vous laisse imaginer la troisième...
Avatar de GLDavid GLDavid - Membre expert https://www.developpez.com
le 04/09/2018 à 15:54
Bonjour

Citation Envoyé par Ryu2000

Première guerre mondiale : 15/20 millions de morts
Seconde guerre mondiale : 50/70 millions de morts
Je vous laisse imaginer la troisième...
Tu as tout à fait raison. Citons Albert Einstein:
Citation Envoyé par Albert Einstein
Je ne sais pas à quoi resemblera la 3ème guerre mondiale, mais je peux vous dire que la 4ème se fera avec des batons et des cailloux.
On y va tout droit !
Sur ce, bonne journée

@++
Avatar de pierre-y pierre-y - Membre éclairé https://www.developpez.com
le 04/09/2018 à 20:24
La notion de robot tueur est tellement vague que ça va être une vrai passoire. Il suffit de faire passer les robots tueurs en robot de défense pour protéger les soldats...
Avatar de Thorna Thorna - Membre éprouvé https://www.developpez.com
le 05/09/2018 à 8:08
C'est beau mais inutile, ce genre de négociations: d'abord l'ONU n'a plus strictement aucun pouvoir depuis plusieurs dizaines d'années (Syrie, Israël, Yougoslavie, etc.), à part ici et là en Afrique par exemple... et ensuite, les lois de ce qui est faisable ou non à la guerre se font toujours après, et chez le vainqueur (exemples: Nuremberg ou l'invention des crimes contre l'humanité, qui datent de 70 ans et n'ont pas empêché que la Terre soit en guerre permanente depuis cette date).
Et pour ce qui est des IA futures et de leur éventuel contrôle, visitez

C'est assez clair et très édifiant!
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 05/09/2018 à 8:52
Citation Envoyé par pierre-y Voir le message
La notion de robot tueur est tellement vague que ça va être une vrai passoire.
«Machine autonome équipé de fusils d’assaut» ça pourrait aller comme définition.


Citation Envoyé par Thorna Voir le message
(exemples: Nuremberg ou l'invention des crimes contre l'humanité, qui datent de 70 ans et n'ont pas empêché que la Terre soit en guerre permanente depuis cette date).
Le terme "crime contre l'humanité' est copyrighté en quelque sorte...
Toutes les tentatives de génocide ne peuvent pas être considéré comme tel.

La porte parole Laurence Haïm explique qu'on ne peut pas utiliser "crime contre l'humanité" n'importe comment :

«Il y a un monopole. (...) Il y a un problème sur l'expression "crime contre l'humanité" qui pour beaucoup de gens dans la communauté juive ne peut être défini que par rapport à la shoah»

Ça colle avec ça :

«Je ne crois pas que faire des enfants suffise à en faire des êtres humains dignes de ça, c’est pas parce qu’on a sept enfants qu’ils seront des êtres humains»

Bref je m'égare, mais puisque ça parlait de "crime contre l'humanité"...
====
Imaginons qu'une loi internationale soit mise en place et qu'il deviennent illégal de développer des armes autonomes.
Quelle serait la sanction si les USA continuaient de développer ça en secret ?
Pendant des années personne en saurait rien et après ce serait la guerre mondiale et là il n'y a plus de limite. (le traité de Genève n'est respecté que dans le canton de Genève ^^)

Crimes de guerre des États-Unis
Pendant qu'on parle de crime commis par les USA :
Viols durant la libération de la France
En 1945, le magazine Life présentait à l'époque la France comme « un gigantesque bordel dans lequel vivaient 40 millions d'hédonistes qui passent leur temps à manger, boire et faire l'amour ». Les Françaises avaient la réputation d’être sans préjugés raciaux et sexuellement libérées. Les GI noirs avaient été persuadés par les récits de leurs aînés qui avaient séjourné en France pendant la Première Guerre mondiale que les Françaises n’avaient aucune réticence à faire l’amour avec des noirs.
(...)
Selon l'historien américain Robert Lilly, il y aurait eu 3 500 viols commis par des soldats américains en France entre juin 1944 et la fin de la guerre. Le nombre de viols est difficile à établir car de nombreuses victimes de viol ne rapportèrent jamais les faits auprès de la police. Les troupes américaines engagées ont commis 208 viols et une trentaine de meurtres dans le département de la Manche. Pour le seul mois de juin 1944, en Normandie, 175 soldats américains seront accusés de viol.
Quand il est question de guerre, les gouvernements s'en foutent de l'éthique et des lois, tout est bon pour gagner.
Les USA et la Chine investissent des milliards dans l'IA militaire.
Pour Vladimir Poutine, le pays leader en matière d'intelligence artificielle sera «maître du monde»
Intervenant devant la jeunesse, le président russe a estimé que l’intelligence artificielle constituait ni plus ni moins l’avenir de l’humanité. Pour autant, le président russe n'a pas caché qu'il redoutait de potentielles menaces.
Elon Musk et Mark Zuckerberg ne sont pas d'accord sur l'IA.
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte
Mark Zuckerberg pense que les prédictions d'Elon Musk sur l'IA sont irresponsables

De toute façon une 3ième guerre mondiale est inévitable.
Pour Attali l'alternative est un gouvernement mondial, donc non merci :

Bon il dit "après ou à la place de la guerre" (Melenchon applaudit) sauf que ça dépend qui gagne la guerre, tout le monde ne veut pas d'un gouvernement mondial.
Avatar de Kapeutini Kapeutini - Membre régulier https://www.developpez.com
le 06/09/2018 à 14:35
C'est inévitable, vu l'état du monde et comment il s'entend.
J'ai plus peur de la création d'un nano-virus...
Avatar de jpouly jpouly - Membre actif https://www.developpez.com
le 06/09/2018 à 19:07
J'espère que John Connor est prêt pour le jugement dernier
Avatar de Stéphane le calme Stéphane le calme - Chroniqueur Actualités https://www.developpez.com
le 13/09/2018 à 12:09
L'Europe estime qu'une intelligence artificielle ne doit pas avoir le droit de vie ou de mort sur le champ de bataille,
et appelle à interdire les robots-tueurs

« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte l'année dernière. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.

Cet avertissement a toute sa raison d'être étant donné qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Les Nations Unies travaillent donc sur la question, mais le bout du tunnel (à savoir arriver à des règles qui interdisent ce type d'armes, ou du moins celles qui sont les plus dangereuses) semblent bien loin.

Fin août, dans une série de réunions qui se sont tenues à Genève, un groupe de la Convention des Nations Unies sur certaines armes classiques (CCW) a en effet discuté de l'opportunité d'amener les négociations sur les armes entièrement autonomes dotées d'IA à un niveau formel qui pourrait déboucher sur un traité qui les interdit. Mais les réunions se sont terminées sans que les pays participants se rapprochent de règles internationales contraignantes. D'après le quotidien Politico, les pays se sont juste entendus sur une liste de recommandations non contraignantes. Un petit nombre de pays -- notamment les États-Unis, la Russie, la Corée du Sud, Israël et l’Australie -- auraient en effet empêché les Nations Unies de s’entendre sur la question de savoir s’il fallait ou non interdire les robots tueurs.


La position européenne

Le Parlement européen a adopté une résolution demandant une interdiction internationale des robots soi-disant tueurs. Il vise à anticiper le développement et l'utilisation de systèmes d'armes autonomes capables de tuer sans intervention humaine.

Une position affirmée qui peut être expliquée par le fait que les négociations à l’ONU n’ont pas abouti à un consensus, certains pays ayant déclaré que les avantages des armes autonomes devaient être explorés.

Néanmoins l’Europe n’est pas encore unanime. En effet, certains députés craignent que la législation ne limite les progrès scientifiques de l'intelligence artificielle. D’autres ont déclaré que cela pouvait devenir un problème de sécurité si certains pays autorisaient de telles armes alors que d’autres ne le faisaient pas.

« Je sais que cela pourrait ressembler à un débat sur un futur lointain ou sur la science-fiction. Ce n'est pas le cas », a déclaré Federica Mogherini, chef de la politique étrangère et de sécurité de l'UE lors du débat au Parlement européen.

Un situation qui peut provoquer une course aux armements

« Les systèmes d'armes autonomes doivent être interdits au niveau international », a déclaré Bodil Valero, porte-parole de la politique de sécurité du groupe Verts / ALE du Parlement européen. « Le pouvoir de décider de la vie et de la mort ne devrait jamais être retiré de la main de l'homme et donné aux machines ».

La résolution est en avance sur les négociations prévues aux Nations Unies en novembre, où plusieurs espèrent qu’un accord sur une interdiction internationale pourra être conclu.

« Des drones artificiellement intelligents aux pistolets automatisés qui peuvent choisir leurs propres cibles, les avancées technologiques en matière d’armement dépassent de loin le droit international », a déclaré Rasha Abdul Rahim, chercheur sur l’intelligence artificielle à Amnesty International.

« Il n'est pas trop tard pour changer de cap. L'interdiction de systèmes d'armes totalement autonomes pourrait empêcher certains scénarios vraiment dystopiques, comme une nouvelle course aux armements entre les superpuissances mondiales qui entraînerait une prolifération des armes autonomes ».

Source : BBC

Et vous ?

Vous rangez-vous du côté des eurodéputés qui pensent que ce serait une erreur d'avoir une législation sur les robots tueurs car cela pourrait nuire aux avancées en matière d'intelligence artificielle ?
Pensez-vous plutôt comme ceux qui pensent que cela pourraient devenir un problème de sécurité ?

Voir aussi :

Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Les enfants sont susceptibles d'être influencés par les robots, selon une étude, suscitant des inquiétudes quant à leurs effets négatifs sur eux
Il serait difficile pour les humains d'éteindre un robot qui les supplie de ne pas le faire, d'après une étude réalisée par des chercheurs allemands
Intelligence artificielle : OpenAI annonce un système robotique capable de manipuler des objets avec une dextérité humaine
Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
Avatar de Anselme45 Anselme45 - Membre éprouvé https://www.developpez.com
le 13/09/2018 à 12:40
Citation Envoyé par Stéphane le calme Voir le message
L'Europe estime qu'une intelligence artificielle ne doit pas avoir le droit de vie ou de mort sur le champ de bataille,
et appelle à interdire les robots-tueurs

Et comme l'Europe est devenu un nain au niveau mondial, aussi bien économiquement que militairement, tout le monde se fout royalement de son avis...

Les USA, la Chine et la Russie se feront un plaisir de prendre le contre-pied de l'avis européen...
Contacter le responsable de la rubrique Accueil