Pour Elon Musk l'IA est bien plus dangereuse que l'arme nucléaire
Alors que Bill Gates estime que l'IA est à la fois porteuse d'espoir et dangereuse

136PARTAGES

7  0 
Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). D’après Musk, « ;l’IA est plus dangereuse que les ogives nucléaires ;» et il devrait exister un organisme de réglementation supervisant le développement de cette technologie.

« ;Je ne suis pas normalement un partisan de la réglementation et de la surveillance - je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger ;», a prévenu Musk.


Ce n’est pas la première fois que le patron de Tesla fait des prédictions alarmantes sur le potentiel de l’intelligence artificielle, mais sa vision pessimiste probablement motivée par le caractère incertain de l’avenir et peut être aussi la trop grande confiance en soi des concepteurs de cette technologie interpelle constamment sur la nécessité d’une surveillance et d’une réglementation étroites de l’IA. Devrait-on lui en tenir rigueur ;?

Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « ;Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé ;», a-t-il martelé.

Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « ;à la fois porteuse d’espoir et dangereuse ;».

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « ;tellement incroyable qu'elle entrainera une mutation profonde de la société ;» : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.


D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « ;plutôt irresponsables ;», selon certains, et de la « ;psychose orientée contre l’IA ;» qu’il entretiendrait au travers de son discours alarmiste.

Le patron de Tesla semble cependant résolu à ne pas se voiler la face et n’hésite pas à traiter ceux qui minimisent ou ignorent ses avertissements « ;d’imbéciles ;». Lors du SXSW, il a déclaré : « ;le plus gros problème que je vois avec les soi-disant experts en IA est qu’ils pensent en savoir plus qu’ils ne savent et se croient plus intelligents qu’ils ne le sont réellement ;». Selon Elon Musk, ce phénomène « ;a tendance à toucher les gens intelligents. Ils se définissent par leur intelligence et ils n’aiment pas l’idée qu’une machine puisse être beaucoup plus intelligente, alors ils réfutent cette idée - qui est fondamentalement défectueuse ;».

S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « ;Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ;».

Dans son analyse des dangers de l’intelligence artificielle, Elon Musk établit une distinction entre les applications spécifiques à l’intelligence des machines comme les voitures autonomes et l’intelligence des machines en général. Le patron de SpaceX souhaite que tout soit mis en œuvre afin de s’assurer que, si un jour l’humanité décide collectivement que la création d’une super-intelligence numérique est la bonne décision à prendre, nous procédions en restant très très vigilants.

« ;Je ne suis pas vraiment inquiet à propos des projets à court terme ;». Une IA mineure ne représente pas un risque particulier. Elle entrainera probablement une dislocation, des pertes d’emplois, une sophistication de l’armement et ce genre de choses, mais elle ne représente pas un risque fondamental contrairement à la super intelligence numérique, a expliqué Elon Musk.

Source : CNBC

Et vous ?

Que pensez-vous des points de vue exprimés dans cet article ?
La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?
Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?
Quel est votre avis sur les dangers liés à la création d’une d’une super-intelligence numérique ?

Voir aussi

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 27/03/2019 à 10:14
Citation Envoyé par Christian Olivier Voir le message
D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « ;tellement incroyable qu'elle entrainera une mutation profonde de la société ;» : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.
La Chine et les USA investissent à fond dans l'IA militaire.
Des dizaines et des dizaines de milliards de dollars partent là-dedans.
The US Army wants to turn tanks into AI-powered killing machines

Citation Envoyé par Christian Olivier Voir le message
D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « ;plutôt irresponsables ;», selon certains, et de la « ;psychose orientée contre l’IA ;» qu’il entretiendrait au travers de son discours alarmiste.
Je ne vois pas en quoi c'est irresponsable de dire que l'IA militaire peut devenir un danger...

Citation Envoyé par Christian Olivier Voir le message
S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « ;Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ;».
Il faut arrêter tout de suite avec ce délire utopiste et humaniste, les états en ont rien à foutre de l'éthique, quand il s'agit d'arme il n'y a plus de règle.
Les gros pays comme les USA continuent certainement de développer secrètement des armes illégales (bactériologique, nucléaire, etc).
Il y a des pays qui n'hésitent pas à utiliser l'arme nucléaire, l'agent orange, le phosphore blanc sur des civils.

L'important c'est de gagner la guerre et de mettre la faute sur le perdant.

Citation Envoyé par Christian Olivier Voir le message
Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?
Pour moi c'est réaliste, on ne connait pas les limites de l'IA, on ne sait pas où elle en sera dans 20 ans.

Citation Envoyé par Christian Olivier Voir le message
La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?
La comparaison me semble judicieuse, parce que l'IA et l'arme atomique ont un potentiel de destruction gigantesque.
Avatar de BLeguillou
Membre du Club https://www.developpez.com
Le 27/03/2019 à 10:30
Je voulais juste apporter une info qui a son poids dans tous les débats concernant l'IA:

Bill Gates, Elon Musk, Stephen Hawking, Zukerberg et Compagnie ne connaissent rien à l'IA.

Je partage l'avis de Luc JULIA, père de SIRI:
Stephen Hawking était quelqu’un de très fort dans son domaine, il a découvert des trous noirs que personne n’avait vus. Mais les mathématiques appliquées à l’IA n’étaient pas sa discipline. Donc, comment a-t-il pu avoir l’autorité de dire que l’IA allait prendre le pouvoir ?
Quant à Elon Musk, c’est un visionnaire du marketing, il est bon en communication mais nul en technologie.
Lire son livre "L'intelligence Artificielle n'existe pas". Très intéressant.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 27/03/2019 à 10:59
Citation Envoyé par BLeguillou Voir le message
Mais les mathématiques appliquées à l’IA n’étaient pas sa discipline. Donc, comment a-t-il pu avoir l’autorité de dire que l’IA allait prendre le pouvoir ?
Il faut arrêter avec cette connerie "d'autorité"...
Ce n'est pas parce que quelqu'un n'est pas d'un domaine que ses prévisions seront forcément toutes fausses...
C'est quoi ce manque de respect "Ce n'est pas un grand spécialiste de l'IA alors l'intégralité de ses réflexions sur le sujet ne valent rien" ?!

Justement ceux qui bossent dans l'IA ne sont pas neutre, ils ne veulent pas qu'une image négative soit associé à leur discipline.
Si ça se trouve Luc Julia pense que l'IA peut devenir très dangereuse, mais il le garde pour lui et rassure le public, ou alors il est vraiment convaincu qu'aucun pays n'arrivera à produire d'arme dangereuse en utilisant l'IA.

L'IA est déjà capable de faire des choses impressionnantes :
Reconnaissance faciale: Un homme repéré au milieu d’une foule de 50 000 personnes en Chine

L'IA va progresser très vite, donc il est pour moi très probable que des armes très dangereuses utilisant l'IA finissent par voir le jour.
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 27/03/2019 à 14:55
Le problème de l'IA et de n'importe quoi d'autre, c'est qu'à partir du moment où ça peut être utilisé comme arme, il y en aura toujours pour le faire. Certains dictateurs n'hésitent pas à utiliser des armes chimiques interdites par le droit international contre leur peuple, je les vois mal s'embarasser de remords pour faire des ravages grâce à l'IA.
Avatar de Dgamax
Membre actif https://www.developpez.com
Le 27/03/2019 à 17:17
Il a bien raison et c'est pas le seul à le penser.
L'IA est surement notre plus gros danger après le réchauffement climatique and co si on ne fait rien pour le réguler.
Avatar de Fulsi
Candidat au Club https://www.developpez.com
Le 28/03/2019 à 11:15
A mon avis l'IA n'est pas un problème en soit pour le moment, il s'agit bien d'IA mineur et du haut de mes faibles connaissance on a le temps de voir venir une IA majeure. Le problème actuel de l'IA est l'usage qui en ait fait : arme autonome, anticipation et influence comportementale (politique notamment)... Et c'est bien dommage que l-Elon Musk ne s'attarde pas plus dessus et ce qui existe déjà. Donc oui il faut être alarmiste mais pas comme il l'est.
Avatar de free07
Membre expérimenté https://www.developpez.com
Le 30/03/2019 à 17:27
Citation Envoyé par Ryu2000 Voir le message

Si ça se trouve Luc Julia pense que l'IA peut devenir très dangereuse, mais il le garde pour lui et rassure le public, ou alors il est vraiment convaincu qu'aucun pays n'arrivera à produire d'arme dangereuse en utilisant l'IA.
Soit dit en passant, cette remarque est tout aussi irrespectueuse !

Et Luc Julia ne dit pas que l'IA ne peut pas être dangereuse, il indique simplement qu'il y a beaucoup de fantasmes autour de cette discipline et que l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

C'est effectivement l'usage que l'on peut en faire comme tout le reste d'ailleurs !
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 31/03/2019 à 10:50
Citation Envoyé par free07 Voir le message
Et Luc Julia ne dit pas que l'IA ne peut pas être dangereuse, il indique simplement qu'il y a beaucoup de fantasmes autour de cette discipline et que l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.
Et tu te bases sur quoi pour dire ça ? Sur le côté bienveillant et mesuré de Donal Trump, Kim Jong Un ou Vladimir Poutine ?
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 01/04/2019 à 8:09
Citation Envoyé par free07 Voir le message
l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.
Même si toutes les nations du monde se mettent d'accord sur des règles à propos de l'utilisation militaire de l'IA, ça n'empêchera pas les gouvernements de développer des armes illégales en secret.

C'est basé sur la paranoïa, un pays A pense qu'un pays B développe une arme Y, donc le pays A va développer l'arme Y pour ne pas se faire dépasser, en réalité le pays B ne développait pas du tout l'arme Y, le pays A c'était mis ça dans la tête tout seul.

En ce moment les USA et la Chine dépensent des dizaines de milliards dans l'IA militaire.
On dirait qu'ils anticipent un conflit majeur dans un futur relativement proche.
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 01/04/2019 à 8:43
De plus, un pays qui se met en tête de conquérir la planète entière, ça s'est vu il n'y a pas si longtemps que ça...
Imaginer un équivalent du régime nazie équipé d'une armée d'IA tellement efficace que toute résistance humaine serait impossible, ça fait froid dans le dos.
Oui je sais, point Godwin tout ça tout ça.
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web