Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les efforts de l'ONU pour réglementer l'usage militaire de l'IA et des SALA pourraient échouer
à cause notamment des positions russes et américaines

Le , par Christian Olivier

183PARTAGES

8  0 
Les premières discussions formelles visant à limiter ou interdire l’utilisation des systèmes d’armes létales autonomes (SALA), des robots de guerre pour faire simple, se sont tenues ces derniers mois à Genève sous l’égide de L’ONU. Ces discussions axées autour de la convention sur certaines armes classiques (CCAC) devraient permettre de soumettre ces dispositifs de guerre au droit international en identifiant les « SALA illicites » en fonction du niveau de contrôle attribué à l’homme.

À ce sujet, l’avis de la France est qu’il faudrait approfondir la distinction entre les systèmes dotés « d’automatismes », de complexité variable, et les systèmes « autonomes », qui ne font appel à aucune mesure de supervision humaine. La dernière rencontre officielle en date a eu lieu du 22 au 24 novembre 2017.

Il faut rappeler que des personnalités de renom comme l’astrophysicien britannique Stephen Hawking ou des chefs d’entreprises comme l'américain Elon Musk ont, à plusieurs reprises déjà, appelé à l’interdiction pure et simple des SALA. Dans une lettre ouverte rédigée à l'occasion de la 24e Conférence internationale sur l’IA (intelligence artificielle) en de juillet 2015, ces lanceurs d'alerte ont déclaré :

« Nous croyons que l’intelligence artificielle recèle un grand potentiel pour l’humanité de bien des manières, et cela doit être son objectif. L’utiliser pour se lancer dans une course aux armements est un projet néfaste. Il doit être empêché par une interdiction totale des armes offensives autonomes, qui fonctionnent sans contrôle humain significatif. »

« Si une grande puissance militaire progresse avec le développement d’armes liées à l’intelligence artificielle, une course mondiale aux armements est pratiquement inévitable, et le point final de cette trajectoire technologique est évident : les armes autonomes deviendront les kalachnikovs de demain. »

Tous les signataires de cette lettre ouverte ont estimé que l’absence d’un consensus qui permettrait d’encadrer le développement de l’intelligence artificielle dans le domaine militaire ouvrirait la voie à un scénario catastrophe dans lequel les machines seraient dotées de la capacité de tuer sans qu’il soit nécessaire de faire intervenir obligatoirement l’Homme.

En marge de la dernière réunion qui s’est tenue dans la capitale suisse, Moscou a souhaité envoyer un message fort à tous ceux qui voudraient dissuader la Russie de développer la technologie des robots de guerre, les fameux SALA.

D’après un rapport fourni par le site DefenceOne.com, une déclaration du gouvernement russe datant du 10 novembre dernier fait état de la ferme opposition du Kremlin contre toute interdiction visant à limiter ou interdire le développement des SALA ou des technologies liées à l’IA à des fins militaires qui serait prise au niveau de l’ONU.

Comme l’a expliqué Dmitri Ostaptchouk, le DG de 766 UPTK — l’entreprise militaire russe spécialisée dans la production de robots —, au média russe RT : « Le développement des robots au sein des forces armées est inévitable puisque les systèmes électroniques dépassent déjà l’être humain dans toutes les capacités. » De ce fait, le point de vue de la Russie semble clair et inflexible : quoi qu’il arrive la Russie développera et construira des SALA.

D’après la Fédération de Russie, « l’absence de réglementation claire sur de tels systèmes d’armement reste le principal problème dans la discussion sur les lois », mais « il est difficilement acceptable que l’encadrement des SALA restreigne la liberté de profiter des avantages des technologies autonomes qui représentent l’avenir de l’humanité. »

Il faut également préciser que de leur côté, les États-Unis estiment qu’il est encore « prématuré » d’envisager une interdiction des SALA, même si l’administration Trump dit soutenir le processus de la CCAC.

Le kremlin estime que les SALA représentent une catégorie d’armes extrêmement large et complexe dont la compréhension actuelle de l’humanité est plutôt approximative. Moscou ne comprend donc pas pourquoi des mesures préventives aussi prohibitives et restrictives devraient être envisagées. Sans parler du fait que, par le passé, plusieurs traités internationaux visant à contrôler la prolifération de systèmes d’armements particuliers (chimique, nucléaire ou autre) n’ont pas empêché certains États de développer ou d’utiliser ces armes interdites.

Source : DefenceOne, Publication de la Russie (PDF), Le monde diplomatique, RT

Et vous ?

Qu’en pensez-vous ?

Voir aussi

La Russie se prépare à envoyer un robot capable de tirer avec des pistolets à l'ISS ? Il ne s'agit pas d'un Terminator assure le vice-président russe
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Membre expert https://www.developpez.com
Le 01/12/2017 à 9:26
Tout le monde sait qu'il ne faut pas le faire car la machine sera une arme de destruction massive sans discernement. Mais comme pour les écoutes massives, ils ne pourront pas y résister du fait du pouvoir que cela procure.
5  0 
Avatar de rawsrc
Modérateur https://www.developpez.com
Le 01/12/2017 à 10:30
Citation Envoyé par Christian Olivier Voir le message
Le kremlin estime que les SALA représentent une catégorie d’armes extrêmement large et complexe dont la compréhension actuelle de l’humanité est plutôt approximative. Moscou ne comprend donc pas pourquoi des mesures préventives aussi prohibitives et restrictives devraient être envisagées. Sans parler du fait que, par le passé, plusieurs traités internationaux visant à contrôler la prolifération de systèmes d’armements particuliers (chimique, nucléaire ou autre) n’ont pas empêché certains États de développer ou d’utiliser ces armes interdites.

Une fois que l'on maîtrise une technologie ou qu'on a les moyens matériels de la simuler pour continuer à la développer (en loucedé, bien évidemment), on vote un traité qui interdit la prolifération de machin-chose, histoire de sacrément mettre des bâtons dans les roues des petits comparses qui auraient l'outrecuidance de s'y frotter... Embargos en tous genres, pressions diplomatiques, monétaires...

On est tous égaux, hein ! Mais c'est mieux si je suis quand même au-dessus...
5  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 13/09/2018 à 12:40
Citation Envoyé par Stéphane le calme Voir le message
L'Europe estime qu'une intelligence artificielle ne doit pas avoir le droit de vie ou de mort sur le champ de bataille,
et appelle à interdire les robots-tueurs

Et comme l'Europe est devenu un nain au niveau mondial, aussi bien économiquement que militairement, tout le monde se fout royalement de son avis...

Les USA, la Chine et la Russie se feront un plaisir de prendre le contre-pied de l'avis européen...
5  0 
Avatar de GLDavid
Membre expert https://www.developpez.com
Le 04/09/2018 à 15:54
Bonjour

Citation Envoyé par Ryu2000

Première guerre mondiale : 15/20 millions de morts
Seconde guerre mondiale : 50/70 millions de morts
Je vous laisse imaginer la troisième...
Tu as tout à fait raison. Citons Albert Einstein:
Citation Envoyé par Albert Einstein
Je ne sais pas à quoi resemblera la 3ème guerre mondiale, mais je peux vous dire que la 4ème se fera avec des batons et des cailloux.
On y va tout droit !
Sur ce, bonne journée

@++
4  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 13/09/2018 à 14:22
A 20 000 failles/an dans les systèmes, je sens que la prochaine guerre sera très courte et qu'un hacker va la gagner tout seul

Par contre, je ne dis pas qu'elle ne sera pas ultra meurtrière... tant en militaires qu'en civils.
4  0 
Avatar de ztor1
Membre actif https://www.developpez.com
Le 01/12/2017 à 12:19
En clair,

Les USA, La Russie, La France, le Royaume-Uni et la Chine sont en train de s'équiper ou sont déjà équipés ...

L'Inde et le Pakistan en train de s'équiper ...

Israel et l'Afrique du Sud en train de s'équiper (mais discrètement)

On signe un traité d'interdiction et ....

On est tous indignés quand la Corée du Nord voudra s'en équiper ....

C'est bizarre, mais cette histoire me dit quelque ... Pas vous ?

@+
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 04/09/2018 à 15:11
Citation Envoyé par Michael Guilloux Voir le message
Que pensez-vous de ces divergences dans les négociations sur l'interdiction des armes autonomes ?
Peu importe, ce n'est pas important...
Il y a les USA qui ont le plus gros budget militaire qui investissent à fond dans l'IA militaire et les robots tueurs.
Les USA sont le moteur des robots tueurs, une fois qu'un pays se lance dans un truc il faut que les autres suivent pour pouvoir se défendre au cas où.

C'est comme avec la bombe nucléaire, une fois qu'un pays l'a, les autres en ont besoin.

Citation Envoyé par Michael Guilloux Voir le message
Avez-vous espoir que les négociations aboutissent à l'interdiction de ces armes ?
Même si ce type d'arme devenait illégal les pays comme les USA, Israël et la Chine continueraient le développement en secret.
Il est probable que plusieurs pays travaillent sur des armes illégales. (il y a des labos qui bossent sur des armes chimique, ce ne serait pas étonnant que l'épidémie d'Ébola qu'il y a eu il y a quelques années venait d'un labo US... Mais on le saura jamais !)

Les USA ont utilisé des choses comme l'Agent Orange, le Napalm, le gaz sarin, le phosphore blanc, et des armes interdite par la convention de Genève.

Il y a une guerre mondiale qui approche, c'est pas une loi qui bloquera les superpuissances comme les USA et la Chine.
Quand il s'agit de guerre les gouvernements y vont à fond (2 bombes atomiques sur les civils japonais).
Plus le temps passe plus les guerres sont meurtrière et inhumaine.

Première guerre mondiale : 15/20 millions de morts
Seconde guerre mondiale : 50/70 millions de morts
Je vous laisse imaginer la troisième...
3  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 13/09/2018 à 13:45
Vos commentaires donnent l'impression que cette loi est une mauvaise chose.

Hors je ne vois pas ce qui empêche la recherche de continuer, mais avec des buts différents.
Si c'est un soucis de se protéger des autres nations, développer nous même des armes autonomes ne réglera pas vraiment le soucis, y aura toujours "celui qui a la plus grosse".
Contrairement au nucléaire on ne parle pas d'armement capable de rendre le monde inhabitable, donc personne s'en privera l'usage même si ceux d'en face en ont aussi.

Ce qu'il faudrait développer, c'est des technologies anti armes autonomes, tout comme on développait des technologies anti missiles pour se défendre.

Puis si personne ne fait le premier pas pour interdire a l’échelle d'une nation les armes autonomes... personne ne le fera jamais.
3  0 
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 01/12/2017 à 15:00
"À cause notamment des positions russes et américaines"

Je dirais plutôt: "À cause notamment des positions américaines et russes"

Pourquoi les russes toujours en 1er?!
Ne comprenez-vous pas que les russes ne sont pas forcement méchants.
Perso: je joue avec des russes sur internet, et aucun soucis.
2  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 05/09/2018 à 8:52
Citation Envoyé par pierre-y Voir le message
La notion de robot tueur est tellement vague que ça va être une vrai passoire.
«Machine autonome équipé de fusils d’assaut» ça pourrait aller comme définition.


Citation Envoyé par Thorna Voir le message
(exemples: Nuremberg ou l'invention des crimes contre l'humanité, qui datent de 70 ans et n'ont pas empêché que la Terre soit en guerre permanente depuis cette date).
Le terme "crime contre l'humanité' est copyrighté en quelque sorte...
Toutes les tentatives de génocide ne peuvent pas être considéré comme tel.

La porte parole Laurence Haïm explique qu'on ne peut pas utiliser "crime contre l'humanité" n'importe comment :

«Il y a un monopole. (...) Il y a un problème sur l'expression "crime contre l'humanité" qui pour beaucoup de gens dans la communauté juive ne peut être défini que par rapport à la shoah»

Ça colle avec ça :

«Je ne crois pas que faire des enfants suffise à en faire des êtres humains dignes de ça, c’est pas parce qu’on a sept enfants qu’ils seront des êtres humains»

Bref je m'égare, mais puisque ça parlait de "crime contre l'humanité"...
====
Imaginons qu'une loi internationale soit mise en place et qu'il deviennent illégal de développer des armes autonomes.
Quelle serait la sanction si les USA continuaient de développer ça en secret ?
Pendant des années personne en saurait rien et après ce serait la guerre mondiale et là il n'y a plus de limite. (le traité de Genève n'est respecté que dans le canton de Genève ^^)

Crimes de guerre des États-Unis
Pendant qu'on parle de crime commis par les USA :
Viols durant la libération de la France
En 1945, le magazine Life présentait à l'époque la France comme « un gigantesque bordel dans lequel vivaient 40 millions d'hédonistes qui passent leur temps à manger, boire et faire l'amour ». Les Françaises avaient la réputation d’être sans préjugés raciaux et sexuellement libérées. Les GI noirs avaient été persuadés par les récits de leurs aînés qui avaient séjourné en France pendant la Première Guerre mondiale que les Françaises n’avaient aucune réticence à faire l’amour avec des noirs.
(...)
Selon l'historien américain Robert Lilly, il y aurait eu 3 500 viols commis par des soldats américains en France entre juin 1944 et la fin de la guerre. Le nombre de viols est difficile à établir car de nombreuses victimes de viol ne rapportèrent jamais les faits auprès de la police. Les troupes américaines engagées ont commis 208 viols et une trentaine de meurtres dans le département de la Manche. Pour le seul mois de juin 1944, en Normandie, 175 soldats américains seront accusés de viol.
Quand il est question de guerre, les gouvernements s'en foutent de l'éthique et des lois, tout est bon pour gagner.
Les USA et la Chine investissent des milliards dans l'IA militaire.
Pour Vladimir Poutine, le pays leader en matière d'intelligence artificielle sera «maître du monde»
Intervenant devant la jeunesse, le président russe a estimé que l’intelligence artificielle constituait ni plus ni moins l’avenir de l’humanité. Pour autant, le président russe n'a pas caché qu'il redoutait de potentielles menaces.
Elon Musk et Mark Zuckerberg ne sont pas d'accord sur l'IA.
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte
Mark Zuckerberg pense que les prédictions d'Elon Musk sur l'IA sont irresponsables

De toute façon une 3ième guerre mondiale est inévitable.
Pour Attali l'alternative est un gouvernement mondial, donc non merci :

Bon il dit "après ou à la place de la guerre" (Melenchon applaudit) sauf que ça dépend qui gagne la guerre, tout le monde ne veut pas d'un gouvernement mondial.
2  0