Les progrès technologiques se produisent « à un rythme accéléré », a déclaré lundi à Lisbonne, au Portugal, le secrétaire général des Nations Unies, António Guterres, alors qu'un important Web Summit de trois jours avait été lancé.Sur la question de l'intelligence artificielle, il a déclaré que les machines accomplissent de plus en plus de tâches réservées à l'homme, et qu'elles les accomplissent de mieux en mieux, telles que le diagnostic médical et la surveillance policière.
Cependant, « la militarisation de l'intelligence artificielle est un grave danger », a précisé le chef de l'ONU, mettant en garde contre l'impact de la technologie sur la guerre.
« Avec la militarisation de l'intelligence artificielle, la perspective d'armes autonomes pouvant sélectionner et détruire des cibles humaines rendra très difficile d'éviter l'escalade des conflits et de garantir le respect du droit international humanitaire et du droit international des droits de l'homme », a-t-il souligné.
Les améliorations apportées à l'IA font en sorte que des armes autonomes capables de reconnaître et d'attaquer des cibles humaines deviennent une perspective plausible dans un proche avenir.
Les critiques soutiennent que les armes autonomes ne seront jamais en mesure de respecter les règles de base de la guerre - faire la distinction entre soldats et civils, par exemple - ou de comprendre des concepts tels que la proportionnalité en temps de guerre.
Il est également difficile de savoir qui serait responsable si des armes autonomes se présentaient mal sur le champ de bataille ou si elles étaient piratées. Et si un certain nombre de pays ont appelé à l'interdiction des soi-disant « systèmes d'armes autonomes létaux ». Bien entendu, tous les pays n’y sont pas favorables.
Sous des applaudissements élogieux, le Secrétaire général a déclaré : « Les machines qui ont le pouvoir et la discrétion de prendre des vies humaines sont politiquement inacceptables, moralement répugnantes et devraient être bannies par le droit international ».
António Guterres a également mis en garde contre l'impact de l'IA sur l'emploi et la société.
« Nous allons voir une énorme quantité d'emplois créés et une énorme quantité d'anciens emplois détruits », a-t-il déclaré.
« Il est difficile de savoir quel nombre sera le plus grand, mais ces emplois seront très différents, et nous serons confrontés à un chômage énorme. Les sociétés seront perturbées et il est clair que nous ne sommes pas préparés à cela, et nous ne nous y préparons pas assez vite ».
Une nouvelle génération de filets de sécurité sera nécessaire pour les laissés pour compte de la révolution de l'IA, a déclaré Guterres.
Parce que la technologie évolue si rapidement, de nouvelles plateformes doivent être créées pour traiter ces problèmes, a-t-il déclaré, soulignant qu'il souhaitait que l'ONU soit une plateforme permettant à différents groupes de se réunir pour discuter et convenir de protocoles et d'autres mécanismes permettant au cyberespace, à Internet et l'IA « d’être essentiellement une force oeuvrant pour le bien ».
Source : ONU
Voir aussi :
Microsoft : des employés l'exhortent à ne pas soumissionner de proposition pour JEDI, qui ambitionne de créer une force militaire « plus meurtrière » L'IA de niveau humain pourrait être réalisée « d'ici 5 à 10 ans », selon les experts, et les plus grandes menaces sont les applications militaires L'EFF appelle à ne pas utiliser l'intelligence artificielle pour la guerre, s'adressant à Google et aux entreprises de l'IA Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone L'intelligence artificielle est-elle l'arme de la prochaine guerre froide ? Oui, répond un chercheur en informatique 
Envoyé par Stéphane le calme
