IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Pour Elon Musk l'IA est bien plus dangereuse que l'arme nucléaire
Alors que Bill Gates estime que l'IA est à la fois porteuse d'espoir et dangereuse

Le , par Christian Olivier

832PARTAGES

8  0 
Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). D’après Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie.

« Je ne suis pas normalement un partisan de la réglementation et de la surveillance - je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.


Ce n’est pas la première fois que le patron de Tesla fait des prédictions alarmantes sur le potentiel de l’intelligence artificielle, mais sa vision pessimiste probablement motivée par le caractère incertain de l’avenir et peut être aussi la trop grande confiance en soi des concepteurs de cette technologie interpelle constamment sur la nécessité d’une surveillance et d’une réglementation étroites de l’IA. Devrait-on lui en tenir rigueur ?

Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé », a-t-il martelé.

Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « à la fois porteuse d’espoir et dangereuse ».

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.


D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.

Le patron de Tesla semble cependant résolu à ne pas se voiler la face et n’hésite pas à traiter ceux qui minimisent ou ignorent ses avertissements « d’imbéciles ». Lors du SXSW, il a déclaré : « le plus gros problème que je vois avec les soi-disant experts en IA est qu’ils pensent en savoir plus qu’ils ne savent et se croient plus intelligents qu’ils ne le sont réellement ». Selon Elon Musk, ce phénomène « a tendance à toucher les gens intelligents. Ils se définissent par leur intelligence et ils n’aiment pas l’idée qu’une machine puisse être beaucoup plus intelligente, alors ils réfutent cette idée - qui est fondamentalement défectueuse ».

S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».

Dans son analyse des dangers de l’intelligence artificielle, Elon Musk établit une distinction entre les applications spécifiques à l’intelligence des machines comme les voitures autonomes et l’intelligence des machines en général. Le patron de SpaceX souhaite que tout soit mis en œuvre afin de s’assurer que, si un jour l’humanité décide collectivement que la création d’une super-intelligence numérique est la bonne décision à prendre, nous procédions en restant très très vigilants.

« Je ne suis pas vraiment inquiet à propos des projets à court terme ». Une IA mineure ne représente pas un risque particulier. Elle entrainera probablement une dislocation, des pertes d’emplois, une sophistication de l’armement et ce genre de choses, mais elle ne représente pas un risque fondamental contrairement à la super intelligence numérique, a expliqué Elon Musk.

Source : CNBC

Et vous ?

Que pensez-vous des points de vue exprimés dans cet article ?
La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?
Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?
Quel est votre avis sur les dangers liés à la création d’une d’une super-intelligence numérique ?

Voir aussi

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 27/12/2023 à 10:31
"L'IA remplacera tous les emplois humains, et il y aura un revenu universel élevé, et non de base, dans un avenir positif pour l’IA", d'après Elon Musk
Et Musk offrira gratuitement à tout le monde un belle Tesla toute neuve...

Qui a dit "les promesses rendent les fous heureux"?
3  0 
Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 27/12/2023 à 12:35
Concernant l'IA, il y a depuis un moment le muskdi et le gatesdi (le trolldi ne suffit plus)
3  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 30/12/2023 à 13:03
Citation Envoyé par unanonyme Voir le message
Bonjour,

@Anselm_45, on ne serait pas à poil non plus..... Faut pas déconner.
Mais tu as raison, on peut se passer de pétrole et être tous habillé en toile de jute qui gratte ou de maillots de laine au mois d'août sous un petit 45° à l'ombre...

On peut se passer de pétrole et en revenir à la fin du 18ème siècle... A ce propos, est-ce que tu connais la raison première de la révolution française en 1789? La faim!

Je suppose que tu proposes de revenir à une agriculture locale sans l'apport du moindre engrais chimique descendant direct du pétrole? Je suppose que tu es prêt à changer de métier et à revenir à la structure sociale de l'avant pétrole avec 95% de la population française qui est... un paysan qui vit les mains dans la merde en alternant les années où ils mangent à sa faim et les années de disette???

Citation Envoyé par melka one Voir le message
pour les véhicules a moteur thermique rien aurais été possible sans la bougie qui utilise l'électricité pour créer l’étincelle qui enflamme le pétrole modifié c'est plutôt l'inverse sans l'électricité le pétrole ne serait pas autant répandu

...

je dit des bêtises ?
Oui et c'est un euphémisme!

Les gens qui ont une connaissance de l'histoire de la technologie savent que les premières voitures étaient à propulsion... électrique (la vapeur exigeait un équipement trop lourd pour équiper un véhicule léger comme la voiture)!!! C'est justement parce que les moteurs électriques avaient trop d'inconvénients que le moteur thermique s'est généralisé!!!

Et tu sais la meilleure? Il n'y a pas eu de révolution technologique au niveau de la mobilité électrique depuis cette époque! La capacité des batteries n'a pas fait un bon révolutionnaire depuis plus de 100 ans.

C'est comme la farce du moteur à hydrogène: Il faut fabriquer de l'électricité pour pouvoir produire de l'hydrogène et ensuite on utilise l'hydrogène pour le transformer en électricité pour l'utiliser dans la voiture... Résultat:Le processus a un rendement médiocre par rapport à la solution thermique... Il y a plus de 60% de l'énergie qui est perdue dans le processus!!!
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 27/03/2019 à 10:14
Citation Envoyé par Christian Olivier Voir le message
D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.
La Chine et les USA investissent à fond dans l'IA militaire.
Des dizaines et des dizaines de milliards de dollars partent là-dedans.
The US Army wants to turn tanks into AI-powered killing machines

Citation Envoyé par Christian Olivier Voir le message
D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.
Je ne vois pas en quoi c'est irresponsable de dire que l'IA militaire peut devenir un danger...

Citation Envoyé par Christian Olivier Voir le message
S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».
Il faut arrêter tout de suite avec ce délire utopiste et humaniste, les états en ont rien à foutre de l'éthique, quand il s'agit d'arme il n'y a plus de règle.
Les gros pays comme les USA continuent certainement de développer secrètement des armes illégales (bactériologique, nucléaire, etc).
Il y a des pays qui n'hésitent pas à utiliser l'arme nucléaire, l'agent orange, le phosphore blanc sur des civils.

L'important c'est de gagner la guerre et de mettre la faute sur le perdant.

Citation Envoyé par Christian Olivier Voir le message
Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?
Pour moi c'est réaliste, on ne connait pas les limites de l'IA, on ne sait pas où elle en sera dans 20 ans.

Citation Envoyé par Christian Olivier Voir le message
La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?
La comparaison me semble judicieuse, parce que l'IA et l'arme atomique ont un potentiel de destruction gigantesque.
2  0 
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 27/03/2019 à 14:55
Le problème de l'IA et de n'importe quoi d'autre, c'est qu'à partir du moment où ça peut être utilisé comme arme, il y en aura toujours pour le faire. Certains dictateurs n'hésitent pas à utiliser des armes chimiques interdites par le droit international contre leur peuple, je les vois mal s'embarasser de remords pour faire des ravages grâce à l'IA.
3  1 
Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 02/04/2019 à 23:02
non c'est argumenté et étayé par quelques exemples, ça ne veut pas dire que j'ai mis le doigt sur la vérité vraie, "j'ai raison" jusqu'à preuve du contraire, tant qu'une hypothèse n'est pas invalidée elle reste envisageable, normalement quand on prouve que c'est faux c'est qu'il est temps de renouveler ses hypothèses (et donc ses opinions).

toi en revanche tu as tort sur plusieurs des arguments que tu as avancé, c'est prouvé.
2  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 07/04/2019 à 15:11
Autant l'idée d'une super intelligence n'a, pour moi, aucune base sérieuse, autant je suis tout à fait d'accord qu'il faudrait réglementer les usages de l'IA car elle peut, effectivement, servir d'arme de destruction massive, d'outil d'influence massif, etc. Ce ne sont pas des algos spécifiques qui sont à ciblés, mais les usages qui en sont fait. Au même titre qu'un couteau.
2  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 07/04/2019 à 17:52
Citation Envoyé par Sodium Voir le message
Sauf qu'un couteau ne peut pas aller s'enfoncer dans l’œil de quelqu'un tout seul
Tu pourras attendre autant que tu voudras, tu ne verras jamais une IA lancer des missiles si elle n'a pas été programmée et exécutée pour ça.

Citation Envoyé par Sodium Voir le message
Ce n'est pas tellement utile de se poser la question de la réglementation des IAs en tant qu'arme. Si une technologie peut être utilisée à des fins destructrice, elle le sera. Faire des réglementations ne résoudra aucun problème car le propre des gens dangereux est qu'ils se torchent le derrière avec les réglementations.
La seule position raisonnable est donc de se préparer au pire.
Un règlement n'a aucune utilité s'il n'y a pas de force pour le faire respecter. Les lois ne servent à rien s'il n'y a pas des policiers et des juges pour la faire respecter. Si on se contente d'établir des règles sans sanction, évidemment que ça n'a aucun intérêt. Toute réglementation un tant soit peu sérieuse vient avec des sanctions quand elle est violée et une force pour la faire respecter. Quand on parle d'établir des règles, cela implique systématiquement qu'il y ait une telle force pour les faire respecter, tout simplement parce que sinon ce ne sont pas des règles, mais des suggestions (ou vœux pieux, au choix).
3  1 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 07/04/2019 à 21:21
Dans ce cas, pense à citer les personnes à qui tu réponds. Sinon on dirait que tu réponds à celui juste au dessus.
2  0 
Avatar de Lyasen
Nouveau membre du Club https://www.developpez.com
Le 14/09/2019 à 10:20
Oui ! C'est sûr qu'une I.A., qui va donc potentiellement apprendre à développer son intelligence, va rapidement se rendre compte que l'humain n'est qu'un parasite destructeur de son environnement. De plus, développer des I.A. par des firmes dont le seul but est de faire du profit et de dominer les autres, j'imagine déjà la tronche de l'I.A....
Allez ! Profitons encore un peu de notre confort de vie, cela ne pourrait plus durer bien longtemps...
2  0