Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Interdiction des robots tueurs : quelques pays, y compris les USA et la Russie, bloquent les négociations
Menées au niveau des Nations Unies

Le , par Michael Guilloux

393PARTAGES

13  0 
« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte l'année dernière. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.

Cet avertissement a toute sa raison d'être étant donné qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Les Nations Unies travaillent donc sur la question, mais il semble qu'il sera impossible d'arriver un jour à des règles qui interdisent ce type d'armes, ou du moins celles qui sont les plus dangereuses.

La semaine dernière, dans une série de réunions qui se sont tenues à Genève, un groupe de la Convention des Nations Unies sur certaines armes classiques (CCW) a en effet discuté de l'opportunité d'amener les négociations sur les armes entièrement autonomes dotées d'IA à un niveau formel qui pourrait déboucher sur un traité qui les interdit. Mais les réunions se sont terminées sans que les pays participants se rapprochent de règles internationales contraignantes. D'après le quotidien Politico, les pays se sont juste entendus sur une liste de recommandations non contraignantes. Un petit nombre de pays -- notamment les États-Unis, la Russie, la Corée du Sud, Israël et l’Australie -- auraient en effet empêché les Nations Unies de s’entendre sur la question de savoir s’il fallait ou non interdire les robots tueurs.

« N’importe quel État peut bloquer un progrès, et c'est ce qui s'est passé ici », a déclaré Mary Wareham, coordinatrice de la campagne pour mettre fin aux robots tueurs (Campaign to Stop Killer Robots). « Bien sûr, il est décevant qu’une petite minorité de grandes puissances militaires puisse freiner la volonté de la majorité », a-t-elle déclaré. Son groupe représente 75 organisations non gouvernementales dans 32 pays qui luttent pour l'interdiction des armes utilisant la technologie de l'IA pour choisir leurs cibles. Elle indique que 26 pays approuvent une interdiction totale de ces armes.


La position des États-Unis est loin d'être surprenante. En 2016, le pays de l'oncle Sam a testé des prototypes de robots militaires dans le Pacifique. N'oublions pas non plus le projet de drone militaire doté d'IA sur lequel le Pentagone travaille avec Google. Si à cela, on ajoute la déclaration du sous-secrétaire US à la défense selon laquelle il est important d'associer l'IA à l'armée, alors on comprend que les USA sont bien engagés dans cette course aux armes autonomes dotées d'IA. La Russie et l'Irak ne semblent pas non plus vouloir rester en marge.

C'est à la fin de 2013 que les Nations Unies ont mis le sujet à l'ordre du jour, mais depuis lors, peu de choses se sont produites. L'organisation n'a même pas été en mesure de s'entendre sur une définition des armes létales entièrement autonomes. Et en même temps, les positions autour de la table de négociation se durcissent, d'après les experts. « Les divergences entre les différentes positions se creusent », a déclaré Frank Sauer, expert en armes autonomes à l'université de la Bundeswehr à Munich.

Pendant les discussions de la semaine dernière, beaucoup de pays ont réitéré leur appel à une réglementation forte, poussant les États-Unis à entamer des négociations formelles l’année prochaine. On pourrait donc espérer se diriger vers des règles internationales contraignantes, mais les opposants à une interdiction étaient fermes dans leur position, d'après Politico. Le document publié à la fin des discussions recommande donc que les pourparlers sur des mesures non contraignantes se poursuivent.

Source : Politico

Et vous ?

Que pensez-vous de ces divergences dans les négociations sur l'interdiction des armes autonomes ?
Avez-vous espoir que les négociations aboutissent à l'interdiction de ces armes ?

Voir aussi :

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 13/09/2018 à 12:40
Citation Envoyé par Stéphane le calme Voir le message
L'Europe estime qu'une intelligence artificielle ne doit pas avoir le droit de vie ou de mort sur le champ de bataille,
et appelle à interdire les robots-tueurs

Et comme l'Europe est devenu un nain au niveau mondial, aussi bien économiquement que militairement, tout le monde se fout royalement de son avis...

Les USA, la Chine et la Russie se feront un plaisir de prendre le contre-pied de l'avis européen...
5  0 
Avatar de GLDavid
Expert confirmé https://www.developpez.com
Le 04/09/2018 à 15:54
Bonjour

Citation Envoyé par Ryu2000

Première guerre mondiale : 15/20 millions de morts
Seconde guerre mondiale : 50/70 millions de morts
Je vous laisse imaginer la troisième...
Tu as tout à fait raison. Citons Albert Einstein:
Citation Envoyé par Albert Einstein
Je ne sais pas à quoi resemblera la 3ème guerre mondiale, mais je peux vous dire que la 4ème se fera avec des batons et des cailloux.
On y va tout droit !
Sur ce, bonne journée

@++
4  0 
Avatar de marsupial
Expert confirmé https://www.developpez.com
Le 13/09/2018 à 14:22
A 20 000 failles/an dans les systèmes, je sens que la prochaine guerre sera très courte et qu'un hacker va la gagner tout seul

Par contre, je ne dis pas qu'elle ne sera pas ultra meurtrière... tant en militaires qu'en civils.
4  0 
Avatar de SoyouzH2
Membre régulier https://www.developpez.com
Le 20/01/2020 à 14:39
"si elles sont bien développées, peuvent rendre la guerre plus humaine, a rapporté Bhalla"

Lol.
4  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 04/09/2018 à 15:11
Citation Envoyé par Michael Guilloux Voir le message
Que pensez-vous de ces divergences dans les négociations sur l'interdiction des armes autonomes ?
Peu importe, ce n'est pas important...
Il y a les USA qui ont le plus gros budget militaire qui investissent à fond dans l'IA militaire et les robots tueurs.
Les USA sont le moteur des robots tueurs, une fois qu'un pays se lance dans un truc il faut que les autres suivent pour pouvoir se défendre au cas où.

C'est comme avec la bombe nucléaire, une fois qu'un pays l'a, les autres en ont besoin.

Citation Envoyé par Michael Guilloux Voir le message
Avez-vous espoir que les négociations aboutissent à l'interdiction de ces armes ?
Même si ce type d'arme devenait illégal les pays comme les USA, Israël et la Chine continueraient le développement en secret.
Il est probable que plusieurs pays travaillent sur des armes illégales. (il y a des labos qui bossent sur des armes chimique, ce ne serait pas étonnant que l'épidémie d'Ébola qu'il y a eu il y a quelques années venait d'un labo US... Mais on le saura jamais !)

Les USA ont utilisé des choses comme l'Agent Orange, le Napalm, le gaz sarin, le phosphore blanc, et des armes interdite par la convention de Genève.

Il y a une guerre mondiale qui approche, c'est pas une loi qui bloquera les superpuissances comme les USA et la Chine.
Quand il s'agit de guerre les gouvernements y vont à fond (2 bombes atomiques sur les civils japonais).
Plus le temps passe plus les guerres sont meurtrière et inhumaine.

Première guerre mondiale : 15/20 millions de morts
Seconde guerre mondiale : 50/70 millions de morts
Je vous laisse imaginer la troisième...
3  0 
Avatar de onilink_
Membre chevronné https://www.developpez.com
Le 13/09/2018 à 13:45
Vos commentaires donnent l'impression que cette loi est une mauvaise chose.

Hors je ne vois pas ce qui empêche la recherche de continuer, mais avec des buts différents.
Si c'est un soucis de se protéger des autres nations, développer nous même des armes autonomes ne réglera pas vraiment le soucis, y aura toujours "celui qui a la plus grosse".
Contrairement au nucléaire on ne parle pas d'armement capable de rendre le monde inhabitable, donc personne s'en privera l'usage même si ceux d'en face en ont aussi.

Ce qu'il faudrait développer, c'est des technologies anti armes autonomes, tout comme on développait des technologies anti missiles pour se défendre.

Puis si personne ne fait le premier pas pour interdire a l’échelle d'une nation les armes autonomes... personne ne le fera jamais.
3  0 
Avatar de fodger
Membre actif https://www.developpez.com
Le 20/01/2020 à 16:48
Je ne comprends même pas qu'on puisse travailler sur de tels sujets.
3  0 
Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 20/01/2020 à 17:19
Citation Envoyé par fodger Voir le message
Je ne comprends même pas qu'on puisse travailler sur de tels sujets.
c'est assez simple en fait, si toi dans ton pays tu décides de ne pas le faire, ton voisin lui le fera peut-être, et pourra alors avoir un avantage stratégique/technologique et éventuellement menacer ton pays.
c'est tristement logique, et l'application directe de la sélection naturelle, si tu ne veux pas être en position d'être menacé, alors tu dois être dans le peloton de tête dans la course à l'armement dissuasif.
3  0 
Avatar de Danfre
Nouveau membre du Club https://www.developpez.com
Le 04/09/2018 à 14:41
Les intérêts économiques et stratégiques priment, comme d'habitude...
J'imagine qu'il faudra qu'il arrive un accident pour qu'on se décide à bannir ces armes.
1  0 
Avatar de Thorna
Membre éprouvé https://www.developpez.com
Le 05/09/2018 à 8:08
C'est beau mais inutile, ce genre de négociations: d'abord l'ONU n'a plus strictement aucun pouvoir depuis plusieurs dizaines d'années (Syrie, Israël, Yougoslavie, etc.), à part ici et là en Afrique par exemple... et ensuite, les lois de ce qui est faisable ou non à la guerre se font toujours après, et chez le vainqueur (exemples: Nuremberg ou l'invention des crimes contre l'humanité, qui datent de 70 ans et n'ont pas empêché que la Terre soit en guerre permanente depuis cette date).
Et pour ce qui est des IA futures et de leur éventuel contrôle, visitez

C'est assez clair et très édifiant!
1  0