Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Hawking, Musk, Wozniak et plusieurs scientifiques appellent à l'interdiction des armes autonomes
En soutenant une lettre ouverte, qu'en pensez-vous?

Le , par Olivier Famien

0PARTAGES

5  0 
Que pensez-vous de cet appel ?
Depuis quelques années, nous connaissons de grandes avancées dans le domaine de l’intelligence artificielle. Étant un secteur nouvellement exploré, les voix ne manquent pas de s’élever pour soutenir ou décrier les conséquences de ce secteur d’activité.


Cette fois-ci, il s’agit non pas d’une personne, mais de plusieurs centaines de chercheurs et entités travaillant dans ce domaine parmi lesquels on peut citer Stephen Hawking, Elon Musk, Steve Wozniak qui ont signé une lettre ouverte afin de tirer la sonnette d’alarme sur les conséquences funestes de l’IA au cas où les recherches dans ce secteur s’invitent dans le domaine militaire.

Nombreux sont ceux qui trouvent des avantages à porter les machines autonomes sur le champ de bataille, car pour eux, elles éviteraient des pertes en vie humaine.

Toutefois, pour ceux qui soutiennent cette lettre, cette éventualité mènerait inexorablement à « une course mondiale aux armements » autonomes avec des risques de généralisation de ces armes comme c’est le cas aujourd’hui avec les armes automatiques. « Les armes autonomes deviendront les kalachnikovs de demain ».

Pendant qu’il est encore temps et que le pire ne s’est pas encore produit, ces chercheurs et scientifiques souhaitent que nous marquions un temps d’arrêt et réfléchissions un instant si l’humanité a besoin d’une course aux armements d’un genre nouveau ou si l’on doit agir maintenant pour baliser le secteur.

Bien évidemment, ce n’est pas la première fois qu’une telle problématique est posée au monde entier dans le domaine militaire. Lorsque la connaissance dans le domaine de la chimie et de la biologie a commencé à croitre, il a fallu s’accorder sur les principes de guerre.

Fort heureusement, des armes conventionnelles de guerre ont été établies. « Les chimistes et les biologistes ont largement soutenu les accords internationaux qui ont réussi à interdire les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires spatiales et armes à laser aveuglantes ».

En ce qui concerne les armes autonomes, si elles sont développées, il n’est pas exclu qu’elles tombent dans de mauvaises mains telles que les dictateurs, les assassins, les seigneurs de la guerre ou même le marché noir. C’est juste une question de temps pour que ces armes deviennent bon marché et à la portée de tous.

Au vu de toutes ces conséquences, ces scientifiques soutiennent ceci : « nous pensons donc que la course aux armements militaires basée sur l’intelligence artificielle ne serait pas bénéfique pour l’humanité. Il existe de nombreuses façons dans lesquelles l’IA peut rendre les champs de bataille plus sûrs pour les humains, en particulier les civils, sans créer de nouveaux outils pour tuer des gens ».

« Démarrer une course aux armements militaires IA est une mauvaise idée, et doit être empêchée par une interdiction des armes offensives autonomes au-delà de tout contrôle humain significatif ».

Source : Future of Life Institute

Et vous ?

Que pensez-vous de cette lettre ?

Êtes-vous d’accord avec son contenu ?

Êtes-vous d’accord avec l’interdiction des armes autonomes ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de 10_GOTO_10
Membre expérimenté https://www.developpez.com
Le 29/07/2015 à 8:08
Pendant ce temps, on* continue à fabriquer des mines anti-personnel, qui, c'est bien connu, ne tuent jamais d'innocents.

* Y compris la France, qui contourne la convention d'Ottawa en rebaptisant ses mines "mines antichars qui peuvent éventuellement être utilisées comme mine de circonstance"...
12  0 
Avatar de Jbx 2.0b
Membre chevronné https://www.developpez.com
Le 29/07/2015 à 10:21
On peut être d'accord ou pas, si on avait ne serais-ce qu'un peu d'influence, ça se saurait. On ne vivrait pas dans un monde bourré de paradis fiscaux, qui blanchissent le fruit de notre travail et ou 140 hommes détiennent la même fortune que les 7 milliards d'autres. Ou chaque jour on dénonce les évidences de la corruption du système monétaire, et ou indéfiniment rien ne change (tout en nous laissant croire le contraire !).
Ne croyez pas que ce soit du pessimisme, c'est juste de la nonchalance, de l'indifférence. L'homme est tel et ne changera pas. Si l'homme peut construire des armes autonomes, et si il en a le besoin, alors il en construira. Mais on peut toujours perdre du temps à espérer l'inverse !
9  0 
Avatar de lingtalfi
Nouveau membre du Club https://www.developpez.com
Le 29/07/2015 à 5:36
Ah ben oui, c'est une très mauvaise idée de créer des armes réelles, car l'une des conséquences de cela est que cela permet de donner à quelques humains le pouvoir de tuer d'autres humains facilement. De manière générale, je pense que toute construction d'arme destinée à tuer d'autres humains (genre mitraillette, tank, ...) devrait être interdite.
En gros, éviter de créer l'arme qui permet de détruire des humains et/ou la terre est ce probablement une sage décision.

Alors certes, on ferme la porte à une certaine forme de créativité, mais les vrais créatifs trouvent toujours un moyen de s'exprimer, et vouloir s'exprimer dans ce domaine très particulier
est, je crois, une forme d'irresponsabilité, par rapport à ce qu'on pourrait appeler une conscience humaine collective.
5  0 
Avatar de MvK0610
Membre habitué https://www.developpez.com
Le 29/07/2015 à 9:38
C'est bien beau de vouloir l'interdire, mais y'aura toujours un quidam mal intentionné (plutôt 150 en général) et plutôt intelligent pour braver l'interdiction.

Si on prend pour exemple la célébrissime bombe A mise au point par nos amis états-uniens, qui décidèrent quelques années plus tard d'en balancer nonchalamment sur quelques nippons récalcitrants. En terme de dissuasion y'avait surement moins radicale et plus subtil je vous l'accorde. En terme d'éthique ils se sont rapidement dit qu'il faudrait quand même cadrer la chose. 60 ans après la transparence n'est pas l'adjectif qui accompagne le mieux de le traité de non-prolifération des armes nucléaires et on arrive toujours à se demander si tel ou tel pays serait pas en train d'essayer de nous faire un bon coup de p... des familles (généralement un pays qui ne place pas l'éthique au centre de ses priorités)

Bon maintenant imaginons qu'au moment de la conception de la chose nos amis au drapeau étoilé se soit-dit "La vache ça sent le sapin notre truc, stop"
Imaginons qu'en sus un petit bonhomme à la moustache fort connu et à l'éthique encore moins louable ait eu à sa disposition quelques scientifiques pas trop manchot. Je ne suis pas sur que le susnommé énergumène se soit cantonné à deux petites bourgades française ou britannique pour assouvir ses pulsions macabres avant de se dire qu'il avait assez joué comme ça.

Bref tout ça pour dire que les règles sont généralement faites pour être transgressées, en général par des individus à l'éthique inversement proportionnelle au contenu de leur compte en banque, et ça c'est le nerf de la guerre.

Interdiction ou pas si l'Humanité peut le faire l'Humanité le fera, et elle le fera d'autant plus vite si ça peut causer sa perte.

War. War never changes.
6  1 
Avatar de jopopmk
Membre expert https://www.developpez.com
Le 29/07/2015 à 9:05
Citation Envoyé par Olivier Famien Voir le message
Nombreux sont ceux qui trouvent des avantages à porter les machines autonomes sur le champ de bataille, car pour eux, ils éviteraient des pertes en vie humaine.
Sans revenir sur le problème de fond (la guerre), c'est le caractère "autonome" qui pose souci.
3  0 
Avatar de Traroth2
Membre chevronné https://www.developpez.com
Le 29/07/2015 à 10:45
Franchement, je ne serais pas contre que les 3 personnes qui ont voté qu'elles étaient contre l'interdiction des armes autonomes expliquent leur point de vue. Je ne vois vraiment pas comment on peut être contre l'interdiction de telles armes...
3  0 
Avatar de el_slapper
Expert éminent sénior https://www.developpez.com
Le 29/07/2015 à 17:28
Citation Envoyé par Algo D.DN Voir le message
(.../...)Je suis pour l'interdiction de tout objet solution pouvant nuire.
même les couteaux de cuisine? qui est quand même l'objet solution à "comment faire les sushis"...
3  0 
Avatar de Sunchaser
Membre expert https://www.developpez.com
Le 29/07/2015 à 20:01
Moi, je me demande si ces machines se mettraient a violer, torturer, crucifier, bruler vif, écarteler, lapider, éventrer, etc, etc, etc, etc ...
Bref.
Il y a un monstre ici, et c'est nous. Faut pas l'oublier. Les vieux romans de fictions, avec leur "loi a la con" censé régir les "nonos-les-petits-robots", ben .. c'est des romans. Rien de plus.
(désolé pour les fans d'Asimov)
Surtout n'oubliez pas que l'horreur n'est qu'a un pas de nous, et qu'en chacun de nous sommeille un truc qui est capable de tuer son prochain.
Pas besoin de machines pour ca.
Hawking et les autres, ils ont intérêts a prendre une grande inspiration et a crier bien fort et longtemps alors, parce qu'ils sont pas prêt d'être entendus a mon avis.
Si c'est "rentable", alors ces choses seront faites.
Point.
Et elles serviront.
Quoi qu'on fasse, les armées modernes ne sauront résister a la possibilité d'envoyer des troupes au sol si elles n'ont plus besoin d'être constituées que d'humains. Même si ce ne sont que des "supports", ils préféreront toujours perdre une machine sur une mine plutôt que de se retrouver avec un soldat "d'élite" (qu'il a fallu former, etc) avec 2 jambes et 1 bras en moins ... un homme tronc, ca tire pas droit, et ca coûte cher.
A priori la Russie bosserait sur un "super-char" (Armata T4 ou je-ne-sais-quoi), qui préfigurerais un monstre du futur, éfficace, automatisé, etc.
Ca fait peur, et j'ai a craindre qu'ils se foutent bien eux aussi de Hawking et autres ...

M'enfin, d'ici qu'un truc évolué sorte, c'est pas demain la veille a mon sens, et d'ici la d'autres défis se seront déjà pointés (le climat, la pollution, la gestion de l'eau (potable, tant que possible), etc ..). Avec "un peu de chances", on sera déjà peut être moins nombreux pour se foutre sur la gueule.
4  1 
Avatar de spyserver
Membre averti https://www.developpez.com
Le 29/07/2015 à 10:02
Une question plus simple que l'on peut se poser c'est pourquoi cherche-t-on systématiquement à tendre vers ce qu'on ne veut pas, avec en plus tous les films de SF existants sur le sujet (je pense à ex machina notamment) on voit bien qu'en fait le problème est plus global que le seul domaine militaire, on parle ici d'intelligence artificielle susceptible de nous remplacer pr certaines tâches voir meme surtout nous surpasser dans la plupart ensuite, donc la vrai question c'est plutot veut-on vivre dans un monde avec des IA ou pas ?! Mais connaissant la nature humaine il n'y aura pas de demi mesure ...
2  0 
Avatar de RPGamer
Membre actif https://www.developpez.com
Le 29/07/2015 à 10:31
Citation Envoyé par DonQuiche Voir le message
Ce qui est sûr c'est qu'Asimov ne comprenait rien à la sécurité informatique.

L'évaluation du respect de ces trois règles relevant d'une IA, cela revient à demander à une IA de surveiller une IA.
Je pense que les lois d'Asimov s'adressent avant tout au concepteur d'une telle machine avant la machine elle-même. Aujourd'hui on ne sait pas faire émerger un soupçon d'intelligence hors du cadre d'un programme. Un programme reste une forme très contractuelle de dialogue avec la machine et qui est parfaitement hiérarchisable. On peut imaginer une éthique au seins des machines intelligente mais pas au sein de l'humanité. Ces lois sont donc adressées principalement à l'humanité (au sens de potentiel concepteur ou personne en interaction avec un robot).
2  0