L'Europe estime qu'une IA ne doit pas avoir le droit de vie ou de mort sur le champ de bataille
Et appelle à interdire les robots-tueurs

Le , par Stéphane le calme

121PARTAGES

14  0 
« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte l'année dernière. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.

Cet avertissement a toute sa raison d'être étant donné qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Les Nations Unies travaillent donc sur la question, mais le bout du tunnel (à savoir arriver à des règles qui interdisent ce type d'armes, ou du moins celles qui sont les plus dangereuses) semblent bien loin.

Fin août, dans une série de réunions qui se sont tenues à Genève, un groupe de la Convention des Nations Unies sur certaines armes classiques (CCW) a en effet discuté de l'opportunité d'amener les négociations sur les armes entièrement autonomes dotées d'IA à un niveau formel qui pourrait déboucher sur un traité qui les interdit. Mais les réunions se sont terminées sans que les pays participants se rapprochent de règles internationales contraignantes. D'après le quotidien Politico, les pays se sont juste entendus sur une liste de recommandations non contraignantes. Un petit nombre de pays -- notamment les États-Unis, la Russie, la Corée du Sud, Israël et l’Australie -- auraient en effet empêché les Nations Unies de s’entendre sur la question de savoir s’il fallait ou non interdire les robots tueurs.


La position européenne

Le Parlement européen a adopté une résolution demandant une interdiction internationale des robots soi-disant tueurs. Il vise à anticiper le développement et l'utilisation de systèmes d'armes autonomes capables de tuer sans intervention humaine.

Une position affirmée qui peut être expliquée par le fait que les négociations à l’ONU n’ont pas abouti à un consensus, certains pays ayant déclaré que les avantages des armes autonomes devaient être explorés.

Néanmoins l’Europe n’est pas encore unanime. En effet, certains députés craignent que la législation ne limite les progrès scientifiques de l'intelligence artificielle. D’autres ont déclaré que cela pouvait devenir un problème de sécurité si certains pays autorisaient de telles armes alors que d’autres ne le faisaient pas.

« Je sais que cela pourrait ressembler à un débat sur un futur lointain ou sur la science-fiction. Ce n'est pas le cas », a déclaré Federica Mogherini, chef de la politique étrangère et de sécurité de l'UE lors du débat au Parlement européen.

Un situation qui peut provoquer une course aux armements

« Les systèmes d'armes autonomes doivent être interdits au niveau international », a déclaré Bodil Valero, porte-parole de la politique de sécurité du groupe Verts / ALE du Parlement européen. « Le pouvoir de décider de la vie et de la mort ne devrait jamais être retiré de la main de l'homme et donné aux machines ».

La résolution est en avance sur les négociations prévues aux Nations Unies en novembre, où plusieurs espèrent qu’un accord sur une interdiction internationale pourra être conclu.

« Des drones artificiellement intelligents aux pistolets automatisés qui peuvent choisir leurs propres cibles, les avancées technologiques en matière d’armement dépassent de loin le droit international », a déclaré Rasha Abdul Rahim, chercheur sur l’intelligence artificielle à Amnesty International.

« Il n'est pas trop tard pour changer de cap. L'interdiction de systèmes d'armes totalement autonomes pourrait empêcher certains scénarios vraiment dystopiques, comme une nouvelle course aux armements entre les superpuissances mondiales qui entraînerait une prolifération des armes autonomes ».

Source : BBC

Et vous ?

Vous rangez-vous du côté des eurodéputés qui pensent que ce serait une erreur d'avoir une législation sur les robots tueurs car cela pourrait nuire aux avancées en matière d'intelligence artificielle ?
Pensez-vous plutôt comme ceux qui pensent que cela pourraient devenir un problème de sécurité ?

Voir aussi :

Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Les enfants sont susceptibles d'être influencés par les robots, selon une étude, suscitant des inquiétudes quant à leurs effets négatifs sur eux
Il serait difficile pour les humains d'éteindre un robot qui les supplie de ne pas le faire, d'après une étude réalisée par des chercheurs allemands
Intelligence artificielle : OpenAI annonce un système robotique capable de manipuler des objets avec une dextérité humaine
Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Anselme45
Membre expérimenté https://www.developpez.com
Le 13/09/2018 à 12:40
Citation Envoyé par Stéphane le calme Voir le message
L'Europe estime qu'une intelligence artificielle ne doit pas avoir le droit de vie ou de mort sur le champ de bataille,
et appelle à interdire les robots-tueurs

Et comme l'Europe est devenu un nain au niveau mondial, aussi bien économiquement que militairement, tout le monde se fout royalement de son avis...

Les USA, la Chine et la Russie se feront un plaisir de prendre le contre-pied de l'avis européen...
5  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 13/09/2018 à 14:22
A 20 000 failles/an dans les systèmes, je sens que la prochaine guerre sera très courte et qu'un hacker va la gagner tout seul

Par contre, je ne dis pas qu'elle ne sera pas ultra meurtrière... tant en militaires qu'en civils.
4  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 13/09/2018 à 13:45
Vos commentaires donnent l'impression que cette loi est une mauvaise chose.

Hors je ne vois pas ce qui empêche la recherche de continuer, mais avec des buts différents.
Si c'est un soucis de se protéger des autres nations, développer nous même des armes autonomes ne réglera pas vraiment le soucis, y aura toujours "celui qui a la plus grosse".
Contrairement au nucléaire on ne parle pas d'armement capable de rendre le monde inhabitable, donc personne s'en privera l'usage même si ceux d'en face en ont aussi.

Ce qu'il faudrait développer, c'est des technologies anti armes autonomes, tout comme on développait des technologies anti missiles pour se défendre.

Puis si personne ne fait le premier pas pour interdire a l’échelle d'une nation les armes autonomes... personne ne le fera jamais.
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 13/09/2018 à 13:23
C'est marrant de voir que l'UE pense "peser dans le game".
Le monde se moque de l'UE, elle n'a aucun poids...

De toute façon même si une loi internationale interdisait ce type d'arme ça n'empêcherai pas les USA, la Chine et Israël de continuer de les développer...
Les USA ne se sont jamais gêné pour utiliser des armes interdites (c'est quand même l'armée qui a utilisé des bombes atomiques, de l'agent orange, du phosphore blanc, du napalm, etc).

C'est le gagnant qui écrit l'histoire, la stratégie des USA est de ne respecter aucune règle et si ils gagnent à la fin ils n'auront pas de problème et pourront tout mettre sur le dos de l'ennemi.
Il faut arrêter d'être crédule, le respect des règles et l'esprit Coubertin c'est incompatible avec les USA et ça depuis la naissance du pays. Les britanniques ne tiennent jamais leur paroles, donc les étasuniens non plus.

La 3ieme guerre mondiale approche, aucun gros pays ne va renoncer à l'IA militaire...
Il y a des pays qui préfèrent dominer que respecter les règles.
1  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 13/09/2018 à 16:06
Citation Envoyé par Ryu2000 Voir le message
C'est mieux dit comme ça, bravo.

Non mais qu'il y ait une loi ou pas, ça ne changera rien...
Il doit exister des lois contre les armes bactériologiques, contre les armes nucléaires et vous pensez sérieusement que les pays les respectent ?

La convention de Genève n'est respecté que dans le canton de Genève...
Donc oui faites la loi, les USA, la Chine, la Russie, Israël, toutes les nations d'Europe, etc, tout le monde va signer pour s'engager à ne pas développer de robot tueur.
On organisera un pot pour fêter ça.

Mais qu'est-ce que ça changera ?
On peut signer des traités sans les respecter.

Quand c'est la guerre il n'y a plus de règle.
Avec ce genre de raisonnement les lois n'ont aucune utilité.

L'avantage si tout le monde signe, c'est que si un état fait le con, les autres pourront justement s'unir pour l’empêcher d'agir, et il y aura des sanctions a l’échelle internationale.
C'est aussi a ça que servent les traités de paix etc.

Il n'y a pas de solution miracle de toute façon, mais il vaut mieux agir que ne rien faire....
D'ailleurs je serais curieux de voir quelles solutions tu proposerais, vu que celles de l'UE te déplaisent.
1  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 13/09/2018 à 16:44
Citation Envoyé par Ryu2000 Voir le message
Juste un petit exemple vite fait : ça fait un peu près 60 ans qu'il y a une occupation illégale en Palestine.
Est-ce que la communauté internationale fait quelque chose ? Non.
Tu crois que les colons en ont quelque chose à foutre du traité de Genève ? (vu la liste des résolutions non respectées...)
Juste un petit exemple, il est interdit de commettre un homicide en France, il y en a pourtant près d'un millier par ans.
Est ce que cela prouve que les lois interdisant les homicides sont inutiles?

Je suis d'accord que les lois ne sont pas forcement respectées, surtout que cela dépend beaucoup de positions de force.
Mais comment peux tu affirmer que si elles n'étaient pas la, les choses seraient pareilles?

Citation Envoyé par Ryu2000 Voir le message
Il n'y a pas de solution, il y aura toujours les armes nucléaires, les armes bactériologique, et maintenant des robots tueurs.

Mais c'est important le théâtre, j'ai envie de voir Trump, Poutine, Netanyahu signer un truc avec le sourire puis faire un beau discours sur la paix.
C'est quand même magique cette façon de penser. C'est un peu comme les anti nucléaires qui veulent en sortir mais... qui ne savent pas par quoi le remplacer, et ne donnent aucune solution.
S'il n'y a pas de solution, quel intérêt même de venir en débattre ici.

Les lois ne sont pas toujours respectées, certes, c'est un fait. Mais leur absence serait pire.
Puis il ne faut pas oublier que les citoyens ont leur mot a dire. Une loi comme ça, ça a au moins l'avantage d'être médiatisé, et donc de mettre au courant un public qui ne se serait pas forcement intéressé au sujet.
1  0 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 13/09/2018 à 18:38
C'est juste de la sémantique tout ça. C'est juste histoire de dire que mais au final ça sera mit en place quand même. En vérité ça l'est déja.
1  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 14/09/2018 à 10:59
J'espère aussi, mais la fusion c'est pas pour demain et on a encore aucune preuve que cela pourrait fonctionner.
On était excellents en énergie nucléaire, mais je ne suis pas sur que ça dure bien longtemps. On a de nombreux réacteurs vieillissants, et y a un bordel monstre avec les prochaines génération EPR.

Pour la 3ième guerre mondiale, je doute franchement que ça puisse être une bonne chose. On a des moyens de destruction beaucoup trop violents pour une "vrai" guerre mondiale qui se finirait "bien".
Puis la guerre ce n'est économiquement intéressant que pour les gagnants, pas pour les perdants...
Hors on sait déjà qui en profiterait.

Pour tous ces conflits je suis d'accord, c'est révoltant. Mais je ne pense pas que sans ONU les choses se passeraient mieux non plus.

Au final c'est un peu comme les systèmes judiciaires.
Quand t'es un petit qui commet un gros délit, tu finis en taule pour un bon moment.
Quand t'es un haut dirigeant on étouffe l'affaire et le problème est réglé. Mais malgré ça je pense que ça permet quand même de maintenir un certain équilibre.

En tout cas on en revient toujours au même problème. Les individus ont une force, peuvent faire pression, mais on manque d'union et de solidarité.
Puis on a tous trop été habitués a un confort qui dépend de choses dont on préfère juste ignorer l'existence, ou ne pas penser:
- l'uranium des colonies françaises qu'on a pillé, c'est bien pratique
- les produits made in china pas cher
- le prix dérisoire de l'énergie dépendant de centrales vieillissantes qui devraient être arrêtées
- le prix dérisoire de la viande ou des œufs de batterie, au détriment des conditions d'élevage

Enfin bref. Je pense qu'on est trop habitués a se déresponsabiliser parce que de toute façon "c'est le gouvernement qui fait de la merde".
1  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 14/09/2018 à 11:49
Ah ben, ça c'est pas nouveau... Le combo France/Angleterre/Espagne, y a pas si longtemps faisaient partis des plus gros conquérants.
Est ce qu'ils ont payé les pots cassés depuis?

Et maintenant on veut effacer les mots "maître/esclave" dans les documentations car ça nous rappelle notre passé de colonisateurs
(je rigole mais je mettrait ma main a couper que ceux qui ont demandé de supprimer ces termes n'ont aucun membre de la famille ou connaissance concerné).

Mais bon, encore une fois nos gouvernements ne sont que le reflet du peuple.
Kadhafi qui plantait sa tente à Paris c'était inacceptable. Pourtant je ne me souviens pas qu'il y ai eu d'émeutes ou de grosses manifestations. Tout avait été tourné a la dérision.
J'ai l'impression que le peuple français est juste blasé et ne veut plus prendre aucune responsabilité.
Mais a côté de ça tout le monde gueule quand il y a des décisions politiques, stupides ou non. Je trouve ça un peu paradoxal.

On est vraiment dans un cercle vicieux stupide.
On a plus le temps de réfléchir ou de s'instruire car on travaille plus pour gagner plus, et a côté de ça on crache sur les gens qui sont au chômage ou qui touchent le RSA.
Alors que, pour ma part je pense qu'une société évoluée devrait avoir un haut taux de "chômage", ou plutôt de non travailleurs, et ça devrait être bien vu.
Les gens auraient du temps pour faire des choses constructives, penser, critiquer, apprendre.
Mais bon ça nécessiterais qu'il n'y ai plus tous ces délires de surconsommation, et de sacralisation du travail.

On va arriver a une aire ou tout sera automatisable, et pourtant on arrête pas de rabattre les même problèmes de chômage etc.
Tout cela n'a aucun sens. On pense beaucoup trop sur le court terme.
1  0 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 14/09/2018 à 13:23
Le revenu universel est justement dans cet ordre d'idée.
Une personne qui a du temps de libre, je pense qu'elle finira par être productive quoi qu'il arrive.
Pour la simple raison que les gens ont souvent besoin d'un but, et d'accomplissements. Le travail peut permettre les deux, surtout quand on fait ce que l'on aime.
Je doute que beaucoup de gens finissent enfermés chez eux a jouer a des MMO toute leur vie. Le regard critique des autres personnes est trop important pour l'animal sociable que nous sommes.

Pour Kadhafi, ce qui est inacceptable c'est que Sarkozy l'y est invité, et tout ce qu'il a trafiqué dans le dos de la France.

Et les manifestations ne servent pas a rien. Si elles n’atteignent peut être pas souvent les oreilles du pouvoir, cela permet d'informer encore une fois des personnes qui n'étaient pas au courant.
Puis bon, je sais que c'est totalement utopique, mais si une majorité de la France était vraiment contre un projet de loi ou une action du pays, il ne passerait tout simplement pas.
La problème c'est que de nombreuses personnes s'en fichent, ou n'ont juste pas le temps de se prendre la tête avec ça.
Mais bon cela n’empêche pas d'essayer de faire bouger les choses, si on restait tous passif le résultat n'en serait que pire.
1  0 
Les fédéraux américains ont demandé à Tesla de cesser de faire des « déclarations trompeuses » sur la sécurité de la Model 3
Un expert canadien en bitcoin réussit à arnaquer un escroc, et donne l'argent à une organisation caritative
Flutter, le framework UI de Google, serait-il meilleur que React Native de Facebook
Apprendre Python et s'initier à la programmation - Partie 2 : Programmation avancée, un cours de Sébastien Combéfis
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web