L'Europe estime qu'une IA ne doit pas avoir le droit de vie ou de mort sur le champ de bataille
Et appelle à interdire les robots-tueurs

Le , par Stéphane le calme, Chroniqueur Actualités
« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte l'année dernière. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.

Cet avertissement a toute sa raison d'être étant donné qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Les Nations Unies travaillent donc sur la question, mais le bout du tunnel (à savoir arriver à des règles qui interdisent ce type d'armes, ou du moins celles qui sont les plus dangereuses) semblent bien loin.

Fin août, dans une série de réunions qui se sont tenues à Genève, un groupe de la Convention des Nations Unies sur certaines armes classiques (CCW) a en effet discuté de l'opportunité d'amener les négociations sur les armes entièrement autonomes dotées d'IA à un niveau formel qui pourrait déboucher sur un traité qui les interdit. Mais les réunions se sont terminées sans que les pays participants se rapprochent de règles internationales contraignantes. D'après le quotidien Politico, les pays se sont juste entendus sur une liste de recommandations non contraignantes. Un petit nombre de pays -- notamment les États-Unis, la Russie, la Corée du Sud, Israël et l’Australie -- auraient en effet empêché les Nations Unies de s’entendre sur la question de savoir s’il fallait ou non interdire les robots tueurs.


La position européenne

Le Parlement européen a adopté une résolution demandant une interdiction internationale des robots soi-disant tueurs. Il vise à anticiper le développement et l'utilisation de systèmes d'armes autonomes capables de tuer sans intervention humaine.

Une position affirmée qui peut être expliquée par le fait que les négociations à l’ONU n’ont pas abouti à un consensus, certains pays ayant déclaré que les avantages des armes autonomes devaient être explorés.

Néanmoins l’Europe n’est pas encore unanime. En effet, certains députés craignent que la législation ne limite les progrès scientifiques de l'intelligence artificielle. D’autres ont déclaré que cela pouvait devenir un problème de sécurité si certains pays autorisaient de telles armes alors que d’autres ne le faisaient pas.

« Je sais que cela pourrait ressembler à un débat sur un futur lointain ou sur la science-fiction. Ce n'est pas le cas », a déclaré Federica Mogherini, chef de la politique étrangère et de sécurité de l'UE lors du débat au Parlement européen.

Un situation qui peut provoquer une course aux armements

« Les systèmes d'armes autonomes doivent être interdits au niveau international », a déclaré Bodil Valero, porte-parole de la politique de sécurité du groupe Verts / ALE du Parlement européen. « Le pouvoir de décider de la vie et de la mort ne devrait jamais être retiré de la main de l'homme et donné aux machines ».

La résolution est en avance sur les négociations prévues aux Nations Unies en novembre, où plusieurs espèrent qu’un accord sur une interdiction internationale pourra être conclu.

« Des drones artificiellement intelligents aux pistolets automatisés qui peuvent choisir leurs propres cibles, les avancées technologiques en matière d’armement dépassent de loin le droit international », a déclaré Rasha Abdul Rahim, chercheur sur l’intelligence artificielle à Amnesty International.

« Il n'est pas trop tard pour changer de cap. L'interdiction de systèmes d'armes totalement autonomes pourrait empêcher certains scénarios vraiment dystopiques, comme une nouvelle course aux armements entre les superpuissances mondiales qui entraînerait une prolifération des armes autonomes ».

Source : BBC

Et vous ?

Vous rangez-vous du côté des eurodéputés qui pensent que ce serait une erreur d'avoir une législation sur les robots tueurs car cela pourrait nuire aux avancées en matière d'intelligence artificielle ?
Pensez-vous plutôt comme ceux qui pensent que cela pourraient devenir un problème de sécurité ?

Voir aussi :

Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Les enfants sont susceptibles d'être influencés par les robots, selon une étude, suscitant des inquiétudes quant à leurs effets négatifs sur eux
Il serait difficile pour les humains d'éteindre un robot qui les supplie de ne pas le faire, d'après une étude réalisée par des chercheurs allemands
Intelligence artificielle : OpenAI annonce un système robotique capable de manipuler des objets avec une dextérité humaine
Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de Anselme45 Anselme45 - Membre éprouvé https://www.developpez.com
le 13/09/2018 à 12:40
Citation Envoyé par Stéphane le calme Voir le message
L'Europe estime qu'une intelligence artificielle ne doit pas avoir le droit de vie ou de mort sur le champ de bataille,
et appelle à interdire les robots-tueurs

Et comme l'Europe est devenu un nain au niveau mondial, aussi bien économiquement que militairement, tout le monde se fout royalement de son avis...

Les USA, la Chine et la Russie se feront un plaisir de prendre le contre-pied de l'avis européen...
Avatar de strato35 strato35 - Membre régulier https://www.developpez.com
le 13/09/2018 à 12:49
Pourtant Robocop à déjà trouvé une solution aux armes autonomes...
Se passer de ce genre d'armement ok, mais prévoir le fait que certains n'en auront rien à cirer de la loi et l'utiliser quand même contre ceux qui du fait de s'en être passé risque d'en être plus facilement vulnérable si rien n'est prévu autre qu'une loi.
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 13/09/2018 à 13:23
C'est marrant de voir que l'UE pense "peser dans le game".
Le monde se moque de l'UE, elle n'a aucun poids...

De toute façon même si une loi internationale interdisait ce type d'arme ça n'empêcherai pas les USA, la Chine et Israël de continuer de les développer...
Les USA ne se sont jamais gêné pour utiliser des armes interdites (c'est quand même l'armée qui a utilisé des bombes atomiques, de l'agent orange, du phosphore blanc, du napalm, etc).

C'est le gagnant qui écrit l'histoire, la stratégie des USA est de ne respecter aucune règle et si ils gagnent à la fin ils n'auront pas de problème et pourront tout mettre sur le dos de l'ennemi.
Il faut arrêter d'être crédule, le respect des règles et l'esprit Coubertin c'est incompatible avec les USA et ça depuis la naissance du pays. Les britanniques ne tiennent jamais leur paroles, donc les étasuniens non plus.

La 3ieme guerre mondiale approche, aucun gros pays ne va renoncer à l'IA militaire...
Il y a des pays qui préfèrent dominer que respecter les règles.
Avatar de redcurve redcurve - Membre averti https://www.developpez.com
le 13/09/2018 à 13:37
Citation Envoyé par Ryu2000 Voir le message
C'est marrant de voir que l'UE pense "peser dans le game".
Le monde se moque de l'UE, elle n'a aucun poids...

De toute façon même si une loi internationale interdisait ce type d'arme ça n'empêcherai pas les USA, la Chine et Israël de continuer de les développer...
Les USA ne se sont jamais gêné pour utiliser des armes interdites (c'est quand même l'armée qui a utilisé des bombes atomiques, de l'agent orange, du phosphore blanc, du napalm, etc).

C'est le gagnant qui écrit l'histoire, la stratégie des USA est de ne respecter aucune règle et si ils gagnent à la fin ils n'auront pas de problème et pourront tout mettre sur le dos de l'ennemi.
Il faut arrêter d'être crédule, le respect des règles et l'esprit Coubertin c'est incompatible avec les USA et ça depuis la naissance du pays. Les britanniques ne tiennent jamais leur paroles, donc les étasuniens non plus.

La 3ieme guerre mondiale approche, aucun gros pays ne va renoncer à l'IA militaire...
Il y a des pays qui préfèrent dominer que respecter les règles.
Blablabla, de la d'où je viens je peux appliquer tout ton discours à la france.

Pour le reste l'europe n'a aucune crédibilité et surtout tout le monde s'en fout
Avatar de onilink_ onilink_ - Membre éprouvé https://www.developpez.com
le 13/09/2018 à 13:45
Vos commentaires donnent l'impression que cette loi est une mauvaise chose.

Hors je ne vois pas ce qui empêche la recherche de continuer, mais avec des buts différents.
Si c'est un soucis de se protéger des autres nations, développer nous même des armes autonomes ne réglera pas vraiment le soucis, y aura toujours "celui qui a la plus grosse".
Contrairement au nucléaire on ne parle pas d'armement capable de rendre le monde inhabitable, donc personne s'en privera l'usage même si ceux d'en face en ont aussi.

Ce qu'il faudrait développer, c'est des technologies anti armes autonomes, tout comme on développait des technologies anti missiles pour se défendre.

Puis si personne ne fait le premier pas pour interdire a l’échelle d'une nation les armes autonomes... personne ne le fera jamais.
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 13/09/2018 à 13:54
Citation Envoyé par redcurve Voir le message
l'europe n'a aucune crédibilité et surtout tout le monde s'en fout
C'est mieux dit comme ça, bravo.

Citation Envoyé par onilink_ Voir le message
Puis si personne ne fait le premier pas pour interdire a l'echelle d'une nation les armes autonomes... personne ne le fera jamais.
Non mais qu'il y ait une loi ou pas, ça ne changera rien...
Il doit exister des lois contre les armes bactériologiques, contre les armes nucléaires et vous pensez sérieusement que les pays les respectent ?

La convention de Genève n'est respecté que dans le canton de Genève...
Donc oui faites la loi, les USA, la Chine, la Russie, Israël, toutes les nations d'Europe, etc, tout le monde va signer pour s'engager à ne pas développer de robot tueur.
On organisera un pot pour fêter ça.

Mais qu'est-ce que ça changera ?
On peut signer des traités sans les respecter.

Quand c'est la guerre il n'y a plus de règle.
Avatar de marsupial marsupial - Membre émérite https://www.developpez.com
le 13/09/2018 à 14:22
A 20 000 failles/an dans les systèmes, je sens que la prochaine guerre sera très courte et qu'un hacker va la gagner tout seul

Par contre, je ne dis pas qu'elle ne sera pas ultra meurtrière... tant en militaires qu'en civils.
Avatar de onilink_ onilink_ - Membre éprouvé https://www.developpez.com
le 13/09/2018 à 16:06
Citation Envoyé par Ryu2000 Voir le message
C'est mieux dit comme ça, bravo.

Non mais qu'il y ait une loi ou pas, ça ne changera rien...
Il doit exister des lois contre les armes bactériologiques, contre les armes nucléaires et vous pensez sérieusement que les pays les respectent ?

La convention de Genève n'est respecté que dans le canton de Genève...
Donc oui faites la loi, les USA, la Chine, la Russie, Israël, toutes les nations d'Europe, etc, tout le monde va signer pour s'engager à ne pas développer de robot tueur.
On organisera un pot pour fêter ça.

Mais qu'est-ce que ça changera ?
On peut signer des traités sans les respecter.

Quand c'est la guerre il n'y a plus de règle.
Avec ce genre de raisonnement les lois n'ont aucune utilité.

L'avantage si tout le monde signe, c'est que si un état fait le con, les autres pourront justement s'unir pour l’empêcher d'agir, et il y aura des sanctions a l’échelle internationale.
C'est aussi a ça que servent les traités de paix etc.

Il n'y a pas de solution miracle de toute façon, mais il vaut mieux agir que ne rien faire....
D'ailleurs je serais curieux de voir quelles solutions tu proposerais, vu que celles de l'UE te déplaisent.
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 13/09/2018 à 16:19
Citation Envoyé par onilink_ Voir le message
L'avantage si tout le monde signe, c'est que si un état fait le con, les autres pourront justement s'unir pour l’empêcher d'agir, et il y aura des sanctions a l’échelle internationale.
C'est aussi a ça que servent les traités de paix etc.
Juste un petit exemple vite fait : ça fait un peu près 60 ans qu'il y a une occupation illégale en Palestine.
Est-ce que la communauté internationale fait quelque chose ? Non.
Tu crois que les colons en ont quelque chose à foutre du traité de Genève ? (vu la liste des résolutions non respectées...)

Citation Envoyé par onilink_ Voir le message
D'ailleurs je serais curieux de voir quelles solutions tu proposerais
Il n'y a pas de solution, il y aura toujours les armes nucléaires, les armes bactériologique, et maintenant des robots tueurs.

Mais c'est important le théâtre, j'ai envie de voir Trump, Poutine, Netanyahu signer un truc avec le sourire puis faire un beau discours sur la paix.
Avatar de redcurve redcurve - Membre averti https://www.developpez.com
le 13/09/2018 à 16:21
Citation Envoyé par onilink_ Voir le message
Avec ce genre de raisonnement les lois n'ont aucune utilité.

L'avantage si tout le monde signe, c'est que si un état fait le con, les autres pourront justement s'unir pour l’empêcher d'agir, et il y aura des sanctions a l’échelle internationale.
C'est aussi a ça que servent les traités de paix etc.

Il n'y a pas de solution miracle de toute façon, mais il vaut mieux agir que ne rien faire....
D'ailleurs je serais curieux de voir quelles solutions tu proposerais, vu que celles de l'UE te déplaisent.
s'unir pour l’empêcher d'agir
, donc là tout de suite genre la on va prendre des mesures contre la france parce que nexter bosse justement sur ce genre de chose .
Contacter le responsable de la rubrique Accueil