Que se passera-t-il si des robots tueurs sont piratés ou détournés ?
La question fait débat au sein de la communauté scientifique

Le , par Bill Fassinou, Chroniqueur Actualités
Dans une lettre ouverte co-signée par une multitude de spécialistes en IA, Elon Musk a appelé les Nations Unies à tout simplement interdire les robots tueurs. « Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre. Celles-ci peuvent être des armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes et des armes détournées pour se comporter de manière indésirable. Nous n'avons pas assez de temps pour agir. Une fois que cette boîte de Pandore est ouverte, il sera difficile de la fermer », avertissent-ils.


En effet, la menace que représentent les robots tueurs ou armes autonomes létales a été largement démontrée. Les intelligences artificielles sur lesquelles reposent les systèmes de ces robots sont tout sauf inviolables. Elles ont prouvé à maintes reprises qu’elles étaient faillibles. Par exemple, des scientifiques ont réussi à induire une IA en erreur en altérant quelques éléments d’une tortue imprimée en 3D. Le résultat en a été que l’IA a considéré la tortue comme étant un fusil.

A l’argument de la faillibilité des IA, les défenseurs de la cause des robots tueurs répondent que l’apprentissage automatique est encore à ses débuts et qu’il suffisait de le laisser progresser afin de rendre les IA moins vulnérables. Toutefois, on est tenté de se demander quelle intelligence artificielle, quel système informatique connecté ne peut pas être piraté ou détourné ? Imaginez qu’un drone autonome se fasse pirater par un terroriste. Imaginez combien de personnes pourraient perdre la vie à cause de cette même technologie conçue pour empêcher au maximum les dommages collatéraux. Car, rappelons-le, l’idée des armes autonomes létales a germé dans le but d’empêcher les pertes en vies humaines résultant d’erreurs de jugement humaines. Imaginez qu’un pirate décide de prendre le contrôle, non pas d’un mais d’une flotte entière de drones. Imaginez les dégâts qu’il pourrait occasionner. Des gens mourraient par milliers et des pans entiers de villes seraient réduits en cendres.

Cependant, la triste réalité est que les gouvernements semblent ne pas prendre ou ne pas vouloir prendre conscience. Le gouvernement américain, par exemple a déjà annoncé une subvention de 2 milliards de dollars visant à aider à la production de la prochaine vague d’intelligences artificielles avancées, l’objectif visé étant de concevoir des machines pouvant communiquer et raisonner comme des humains et pouvant s’adapter à tout nouvel environnement ou à toute nouvelle situation.

Les avis des internautes sur la question sont tranchés. Ils expliquent que la conception de soldats robotiques pour remplacer ceux humains était une mauvaise idée. Ils ajoutent que la seule chose qui empêche les pays de se faire la guerre comme ils l’entendent, c’est le coût colossal en vies humaines que cela peut engendrer. Supprimer cette restriction équivaudrait à laisser libre cours à l’éventualité de nouveaux conflits et de nouvelles guerres. Et contrairement à ce que les dirigeants semblent penser, aucune guerre ne peut se faire sans que des gens ne meurent. Les sacrifices et les dommages collatéraux sont inhérents à toute guerre.

Source : MarketWatch

Et vous ?

Qu’en pensez-vous ?
Quelle est votre position sur les armes autonomes létales ?

Voir aussi

Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud en partenariat avec le fabricant d'armes Hanwha Systems

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes lors d'une conférence internationale sur l'IA


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de Cpt Anderson Cpt Anderson - Membre éprouvé https://www.developpez.com
le 01/10/2018 à 17:55
J'ai toute confiance en nos gouvernements, nos institution supranationales et en la sagesse des gens.
Avatar de SimonDecoline SimonDecoline - Membre expérimenté https://www.developpez.com
le 01/10/2018 à 21:02
Citation Envoyé par Bill Fassinou Voir le message
Car, rappelons-le, l’idée des armes autonomes létales a germé dans le but d’empêcher les pertes en vies humaines résultant d’erreurs de jugement humaines.
Une mauvaise arme létale, ça tue des gens d'après un mauvais jugement, alors qu'une bonne arme létale, ça tue des gens d'après un bon jugement...
Avatar de Arkal Arkal - Membre régulier https://www.developpez.com
le 01/10/2018 à 21:34
Avatar de Shepard Shepard - Membre éprouvé https://www.developpez.com
le 02/10/2018 à 8:23
Citation Envoyé par SimonDecoline Voir le message
Une mauvaise arme létale, ça tue des gens d'après un mauvais jugement, alors qu'une bonne arme létale, ça tue des gens d'après un bon jugement...
The only thing that can stop a bad gov with automated lethal weapons, is a good gov with automated lethal weapons.
Avatar de Jipété Jipété - Expert éminent sénior https://www.developpez.com
le 02/10/2018 à 9:57
Citation Envoyé par SimonDecoline Voir le message
Une mauvaise arme létale, ça tue des gens d'après un mauvais jugement, alors qu'une bonne arme létale, ça tue des gens d'après un bon jugement...
Pourquoi "ça tue des gens" ? C'est pas fait pour ça, démonstration :

Une nation A veut faire la guerre mais ne veut pas que ses fils meurent au combat, elle fabrique des machines qui vont aller au combat à leur place, pour flinguer ceux d'en face, les fils de la nation B. Et si certaines de ces machines sont détruites, c'est pas grave, c'est le but ; bien sûr, personne ne prend jamais en compte l'impact environnemental, mais ceci est une autre histoire.

Mais la nation B ne voulant pas que ses fils meurent au combat, normal, elle fabrique elle aussi des machines qui vont aller au combat à leur place, et donc se faire flinguer par les robots de la nation A.
Or, pendant que certains B se font flinguer, d'autres peuvent répliquer et flinguer des robots A, bref une vraie guerre de robots pendant que les fils de A et les fils de B restent calés à mater ça devant leurs téloches, "tiens, repasse-moi le popcorn", tout en tétant leurs bières.

Et la nation à qui il reste des robots a gagné.

Elle est pas belle la vie ? Bon, les fils des deux nations vont devenir encore un peu plus grassouillets et la planète complètement ravagée mais c'est le prix à payer, faut savoir ce qu'on veut, hein...
Avatar de hotcryx hotcryx - Membre extrêmement actif https://www.developpez.com
le 02/10/2018 à 12:38
Sauf qu'à un moment, des fils de A vont prendre les armes pour se défendre et plusieurs fils de A seront tués.
Donc des robots de B auront tué des humains.
Alors peut-être que le boss de A va lancer sur les humains de B des bombes nucléaires pour tous les anéantir...
Avatar de Jipété Jipété - Expert éminent sénior https://www.developpez.com
le 02/10/2018 à 13:46
Citation Envoyé par hotcryx Voir le message
Sauf qu'à un moment, des fils de A vont prendre les armes pour se défendre ...
T'as rien compris : les fils de A ne sont pas attaqués puisqu'ils sont devant la téloche à mater le spectacle.
Avatar de sebastiano sebastiano - Membre actif https://www.developpez.com
le 02/10/2018 à 14:47
Vous avez une vue trop hollywoodienne de l'utilisation des robots.

A qui les pays occidentaux vont vendre leurs merdes style McDonald's, Renault, Apple, Heineken, une Coupe du Monde ou des prêts bancaires si leur population se fait massacrer ?

Jipété a raison à ceci prêt que les robots ne s'affronteront même pas.
Avatar de Jipété Jipété - Expert éminent sénior https://www.developpez.com
le 02/10/2018 à 18:34
Citation Envoyé par sebastiano Voir le message
Jipété a raison à ceci prêt que les robots ne s'affronteront même pas.
Et pourquoi donc ?
Ils vont rester là à glandouiller en se regardant dans le blanc des capteurs de vision ?
Pas rentable, ça ! Il faut consommer de la cartouche et du robot (donc de la ferraille et plein d'électronique, excellent pour la croissance !)

Sans compter que s'il n'y a pas de spectacle à la téloche, il n'y aura pas de coupures de pub, pas bon pas bon tout ça.
Avatar de SimonDecoline SimonDecoline - Membre expérimenté https://www.developpez.com
le 02/10/2018 à 22:37
Citation Envoyé par Jipété Voir le message
Pourquoi "ça tue des gens" ?
"Est létal ce qui peut provoquer la mort d'un organisme vivant (animal, végétal) ou le rend non viable à la naissance."
https://fr.wikipedia.org/wiki/L%C3%A9tal
Contacter le responsable de la rubrique Accueil