Le patron de Tesla Elon Musk a plusieurs fois mis en garde contre les dangers de l’intelligence artificielle. Le milliardaire de la tech estime que les armes nucléaires sont potentiellement moins dangereuses que l’IA et à certaines occasions, il n’a pas manqué non plus de dire que l’intelligence artificielle pose « beaucoup plus de risques » que le régime de Kim Jong Un. L’une de ses dernières interventions sur les dangers de l’IA a eu lieu en juillet dernier lors du National Governors Association Summer Meeting, une conférence des gouverneurs américains. À cette occasion, Elon Musk a encore qualifié l’IA comme un risque fondamental pour l'existence de la civilisation humaine, en expliquant par la suite que son désir de coloniser Mars était en partie un plan de secours au cas où l’IA parvient à prendre le dessus sur l’Homme sur Terre.
Lors d’une récente conférence sur l'intelligence artificielle à Melbourne, Elon Musk s’est encore attaqué à l’IA et la robotique, notamment aux armes autonomes. Il faut en effet noter qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent actuellement des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Face à cette menace mondiale, Elon Musk et Mustafa Suleyman de Google, à la tête d’un groupe de 116 spécialistes de l’IA et la robotique, ont appelé les Nations Unies à interdire les armes autonomes, à travers une lettre ouverte.
Dans la lettre ouverte, Elon Musk et son groupe reconnaissent leur rôle indirect dans le développement d’armes autonomes en tant qu’entreprises qui développent des technologies de l’IA et de la robotique. Ces technologies « peuvent être réorientées pour développer des armes autonomes [et] nous nous sentons particulièrement responsables de lancer cette alerte », disent-ils.
La Conférence des Nations Unies sur la Convention sur certaines armes classiques (CCW) a décidé de mettre en place un groupe d'experts gouvernementaux (GGE) sur les systèmes d'armes autonomes létales ; une initiative qui est d’ailleurs saluée par ces spécialistes de l’IA et la robotique. Mais « beaucoup de nos chercheurs et ingénieurs souhaitent donner des conseils techniques dans vos délibérations », disent-ils dans la lettre ouverte adressée aux Nations Unies et qui arrive avant une réunion des experts gouvernementaux sur les armes autonomes.
« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre. Celles-ci peuvent être des armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes et des armes détournées pour se comporter de manière indésirable. Nous n'avons pas assez de temps pour agir », ont-ils averti. « Une fois que cette boîte de Pandore est ouverte, il sera difficile de la fermer. »
« Contrairement à d'autres manifestations potentielles de l'IA, qui restent dans le domaine de la science-fiction, les systèmes d'armes autonomes sont à la pointe du développement en ce moment et ont un potentiel très réel pour causer des dommages importants aux personnes innocentes et une instabilité mondiale », a ajouté Ryan Gariepy, le fondateur de Clearpath Robotics et la première personne à signer la lettre.
Dans la lettre, ils demandent donc « aux Hautes Parties contractantes qui participent au GGE d'empêcher une course aux [armes autonomes létales] » et de « trouver un moyen de protéger les civils de leur mauvaise utilisation et éviter les effets déstabilisants de ces technologies » ; ce qui devrait être possible s’ils associent les experts de l’IA et la robotique dans leurs prises de décision.
Sources : CNN, The Guardian, Lettre ouverte
Et vous ?
Que pensez-vous de cette lettre ouverte ?
Voir aussi :
Elon Musk considère l'IA comme un risque fondamental pour l'existence de la civilisation humaine et sa colonisation de Mars comme un plan de secours
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte
Signée par 116 spécialistes de l'IA et la robotique
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte
Signée par 116 spécialistes de l'IA et la robotique
Le , par Michael Guilloux
Une erreur dans cette actualité ? Signalez-nous-la !