Les efforts de l'ONU pour réglementer l'usage militaire de l'IA et des SALA pourraient échouer
à cause notamment des positions russes et américaines

Le , par Christian Olivier, Chroniqueur Actualités
Les premières discussions formelles visant à limiter ou interdire l’utilisation des systèmes d’armes létales autonomes (SALA), des robots de guerre pour faire simple, se sont tenues ces derniers mois à Genève sous l’égide de L’ONU. Ces discussions axées autour de la convention sur certaines armes classiques (CCAC) devraient permettre de soumettre ces dispositifs de guerre au droit international en identifiant les « SALA illicites » en fonction du niveau de contrôle attribué à l’homme.

À ce sujet, l’avis de la France est qu’il faudrait approfondir la distinction entre les systèmes dotés « d’automatismes », de complexité variable, et les systèmes « autonomes », qui ne font appel à aucune mesure de supervision humaine. La dernière rencontre officielle en date a eu lieu du 22 au 24 novembre 2017.

Il faut rappeler que des personnalités de renom comme l’astrophysicien britannique Stephen Hawking ou des chefs d’entreprises comme l'américain Elon Musk ont, à plusieurs reprises déjà, appelé à l’interdiction pure et simple des SALA. Dans une lettre ouverte rédigée à l'occasion de la 24e Conférence internationale sur l’IA (intelligence artificielle) en de juillet 2015, ces lanceurs d'alerte ont déclaré :

« Nous croyons que l’intelligence artificielle recèle un grand potentiel pour l’humanité de bien des manières, et cela doit être son objectif. L’utiliser pour se lancer dans une course aux armements est un projet néfaste. Il doit être empêché par une interdiction totale des armes offensives autonomes, qui fonctionnent sans contrôle humain significatif. »

« Si une grande puissance militaire progresse avec le développement d’armes liées à l’intelligence artificielle, une course mondiale aux armements est pratiquement inévitable, et le point final de cette trajectoire technologique est évident : les armes autonomes deviendront les kalachnikovs de demain. »

Tous les signataires de cette lettre ouverte ont estimé que l’absence d’un consensus qui permettrait d’encadrer le développement de l’intelligence artificielle dans le domaine militaire ouvrirait la voie à un scénario catastrophe dans lequel les machines seraient dotées de la capacité de tuer sans qu’il soit nécessaire de faire intervenir obligatoirement l’Homme.

En marge de la dernière réunion qui s’est tenue dans la capitale suisse, Moscou a souhaité envoyer un message fort à tous ceux qui voudraient dissuader la Russie de développer la technologie des robots de guerre, les fameux SALA.

D’après un rapport fourni par le site DefenceOne.com, une déclaration du gouvernement russe datant du 10 novembre dernier fait état de la ferme opposition du Kremlin contre toute interdiction visant à limiter ou interdire le développement des SALA ou des technologies liées à l’IA à des fins militaires qui serait prise au niveau de l’ONU.

Comme l’a expliqué Dmitri Ostaptchouk, le DG de 766 UPTK — l’entreprise militaire russe spécialisée dans la production de robots —, au média russe RT : « Le développement des robots au sein des forces armées est inévitable puisque les systèmes électroniques dépassent déjà l’être humain dans toutes les capacités. » De ce fait, le point de vue de la Russie semble clair et inflexible : quoi qu’il arrive la Russie développera et construira des SALA.

D’après la Fédération de Russie, « l’absence de réglementation claire sur de tels systèmes d’armement reste le principal problème dans la discussion sur les lois », mais « il est difficilement acceptable que l’encadrement des SALA restreigne la liberté de profiter des avantages des technologies autonomes qui représentent l’avenir de l’humanité. »

Il faut également préciser que de leur côté, les États-Unis estiment qu’il est encore « prématuré » d’envisager une interdiction des SALA, même si l’administration Trump dit soutenir le processus de la CCAC.

Le kremlin estime que les SALA représentent une catégorie d’armes extrêmement large et complexe dont la compréhension actuelle de l’humanité est plutôt approximative. Moscou ne comprend donc pas pourquoi des mesures préventives aussi prohibitives et restrictives devraient être envisagées. Sans parler du fait que, par le passé, plusieurs traités internationaux visant à contrôler la prolifération de systèmes d’armements particuliers (chimique, nucléaire ou autre) n’ont pas empêché certains États de développer ou d’utiliser ces armes interdites.

Source : DefenceOne, Publication de la Russie (PDF), Le monde diplomatique, RT

Et vous ?

Qu’en pensez-vous ?

Voir aussi

La Russie se prépare à envoyer un robot capable de tirer avec des pistolets à l'ISS ? Il ne s'agit pas d'un Terminator assure le vice-président russe
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de MikeRowSoft MikeRowSoft - Provisoirement toléré https://www.developpez.com
le 01/12/2017 à 9:20
C'est presque la même problématique que d'être d'une certaine religion et de ne pas pouvoir être hôtesse de l'air.
Ou encore avoir des plats Halal dans les avions.

Le droit de conduire est une bonne chose. Un petit coup de pouce vers la confiance.
Avatar de marsupial marsupial - Membre expérimenté https://www.developpez.com
le 01/12/2017 à 9:26
Tout le monde sait qu'il ne faut pas le faire car la machine sera une arme de destruction massive sans discernement. Mais comme pour les écoutes massives, ils ne pourront pas y résister du fait du pouvoir que cela procure.
Avatar de MikeRowSoft MikeRowSoft - Provisoirement toléré https://www.developpez.com
le 01/12/2017 à 10:25
Certains scientifiques pensent que dans 600 ans que l'humain (et animaux ?) devra quitter la Terre...
Pourtant parmi eux il y en a qui sont contre la militarisation des IA alors que d'autres non... ("l'automatisation" est beaucoup moins radical.)
Je pense que le film "interstellaire" est dans les mémoires... Pourtant, dans certains appareils la seule arme était l'autodestruction...
Secourir ou prévenir des dangers la seule place de l'IA dans les armées.
Avatar de rawsrc rawsrc - Modérateur https://www.developpez.com
le 01/12/2017 à 10:30
Citation Envoyé par Christian Olivier Voir le message
Le kremlin estime que les SALA représentent une catégorie d’armes extrêmement large et complexe dont la compréhension actuelle de l’humanité est plutôt approximative. Moscou ne comprend donc pas pourquoi des mesures préventives aussi prohibitives et restrictives devraient être envisagées. Sans parler du fait que, par le passé, plusieurs traités internationaux visant à contrôler la prolifération de systèmes d’armements particuliers (chimique, nucléaire ou autre) n’ont pas empêché certains États de développer ou d’utiliser ces armes interdites.

Une fois que l'on maîtrise une technologie ou qu'on a les moyens matériels de la simuler pour continuer à la développer (en loucedé, bien évidemment), on vote un traité qui interdit la prolifération de machin-chose, histoire de sacrément mettre des bâtons dans les roues des petits comparses qui auraient l'outrecuidance de s'y frotter... Embargos en tous genres, pressions diplomatiques, monétaires...

On est tous égaux, hein ! Mais c'est mieux si je suis quand même au-dessus...
Avatar de MikeRowSoft MikeRowSoft - Provisoirement toléré https://www.developpez.com
le 01/12/2017 à 10:41
Citation Envoyé par rawsrc Voir le message
On est tous égaux, hein ! Mais c'est mieux si je suis quand même au-dessus...
Après l'Europe c'est la mondialisation et encore plus de difficulté à trouver du travail dans la liberté de choisir.
Avatar de ztor1 ztor1 - Membre actif https://www.developpez.com
le 01/12/2017 à 12:19
En clair,

Les USA, La Russie, La France, le Royaume-Uni et la Chine sont en train de s'équiper ou sont déjà équipés ...

L'Inde et le Pakistan en train de s'équiper ...

Israel et l'Afrique du Sud en train de s'équiper (mais discrètement)

On signe un traité d'interdiction et ....

On est tous indignés quand la Corée du Nord voudra s'en équiper ....

C'est bizarre, mais cette histoire me dit quelque ... Pas vous ?

@+
Avatar de hotcryx hotcryx - Membre émérite https://www.developpez.com
le 01/12/2017 à 15:00
"À cause notamment des positions russes et américaines"

Je dirais plutôt: "À cause notamment des positions américaines et russes"

Pourquoi les russes toujours en 1er?!
Ne comprenez-vous pas que les russes ne sont pas forcement méchants.
Perso: je joue avec des russes sur internet, et aucun soucis.
Avatar de laerne laerne - Membre éclairé https://www.developpez.com
le 01/12/2017 à 17:31
Citation Envoyé par hotcryx Voir le message
Pourquoi les russes toujours en 1er?!
Bien dit.

Citation Envoyé par hotcryx Voir le message
Ne comprenez-vous pas que les russes ne sont pas forcement méchants.
Perso: je joue avec des russes sur internet, et aucun soucis.
Là je comprends plus ? Qui a parlé de “méchant”. Ou que celui qui était en deuxième ne l'était pas ? Ou quel est le lien entre des joueurs russes et le gouvernement russe ?
Contacter le responsable de la rubrique Accueil