L'IA représenterait un plus grand risque pour l'humanité
Que les changements climatiques et le terrorisme, selon un expert

Le , par Bill Fassinou, Chroniqueur Actualités
Lors du National Governors Association Summer Meeting de juillet 2017, Elon Musk a tiré la sonnette d’alarme quant aux dangers que représente l’intelligence artificielle. L'entrepreneur de la Tech, qui déjà en 2014 déclarait que le nucléaire serait moins dangereux que l’intelligence artificielle, a expliqué trois ans plus tard que l’IA représente un risque fondamental pour l’existence de la civilisation humaine. Ces déclarations semblent avoir trouvé un écho chez le professeur Jim Al-Khalili qui avertit que l’intelligence artificielle serait « un plus grand risque pour l’humanité que les changements climatiques et le terrorisme ».


Lors d’un briefing à Londres, le nouveau Président de la British Science Association a exprimé ses craintes sans détour. Précisant que le Royaume-Uni était le fer de lance de l’intelligence artificielle et rappelant les estimations qui prévoient que cette technologie contribuerait jusqu’à 15 000 milliards de dollars US à l’horizon 2030, le scientifique a indiqué qu’à l’instar de la modification génétique, il y avait un réel risque que l’intelligence artificielle finisse par être perçue comme effrayante et sinistre par le public.

« Jusqu'à il y a quelques années, si on m’avait demandé quel est le sujet le plus pressant et important à propos de notre avenir, j’aurai probablement répondu le changement climatique ou l'un des autres grands défis auxquels l'humanité est confrontée, tels que le terrorisme, la résistance aux microbes, la menace de pandémies ou la pauvreté mondiale », explique-t-il en ajoutant qu’aujourd’hui il était certain que « la conversation la plus importante que nous devrions avoir, concerne l'avenir de l'IA ». Il est persuadé que l’intelligence artificielle, que ce soit en bien ou en mal, impacterait plus le monde que toutes ces autres questions brûlantes de l’heure.

Le professeur Al-Khalili avertit que le réel potentiel de l’intelligence artificielle ne saurait être révélé sans une plus grande transparence et un engagement public. Pour lui, tant que le gouvernement, l’industrie et les universitaires ne se concertent pas pour agir, l’intelligence artificielle pourrait vite devenir incontrôlable et centralisée entre les mains de quelques sociétés extrêmement puissantes.

Il convient cependant de préciser que c’est un sujet à prendre avec des pincettes. Toute avancée scientifique mal encadrée et mal exploitée peut virer au cauchemar. L’intelligence artificielle ne fait certainement pas exception à ce principe. Mais, il faut aussi prendre en compte les possibilités d’applications quasi illimitées de l’intelligence artificielle. Cette technologie permet de faire beaucoup plus de choses, plus vite et mieux, avec une marge d’erreur relativement faible.

Source : Metro

Et vous ?

Que pensez-vous de cet avis du professeur ?

Voir aussi

Elon Musk considère l'IA comme un risque fondamental pour l'existence de la civilisation humaine et sa colonisation de Mars comme un plan de secours

L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité

Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans selon une étude menée par les deux universités Harvard et Yale

Une IA aurait permis de commencer à percer les mystères entourant le manuscrit de Voynich considéré comme le plus important cryptogramme non résolu


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de Thorna Thorna - Membre éprouvé https://www.developpez.com
le 08/09/2018 à 8:22
L'IA ne représente qu'un seul et unique danger: c'est celui que nous y mettrons, nous humains "programmeurs" ou "enseignants" de cette IA. Voir par exemple le bot de Microsoft qui est devenu raciste en quelques jours il y a 1 an ou 2.
Consacrez un peu de temsp à cette excellente série de vidéos, tout y est détaillé, du plus simple au plus complexe.
Avatar de jimmitry jimmitry - Membre du Club https://www.developpez.com
le 08/09/2018 à 8:56
Affirmation fausse. Plu de planète = fin de l'humanité.

L'IA n'est qu'un être "futur vivant" comme un autre.
Je parle de la super IA, pas les petits algo écrit jusqu'à maintenant en Machine Learning.
Une machine avec un "Mentalais" intégré, comme nous.
Une nouvelle espèce de fer et d'acier qu'il faudra intégrer dans le monde des "humains".

L'enfant de l'Homme! Et comme tout enfant il faudra lui apprendre à vivre avec autrui.
Une machine aussi intelligente s'aura largement vivre avec les autres.

Le vrai problème c'est les hobbies financier qui ont pris le pouvoir.
Le vrai problème c'est l'Homme qui préfère choisir "argent tout de suite" que "survis de nos petits enfants".

Et l'Homme a peur de la super IA, car "Comment convaincre une machine aussi intelligente que 'la corruption, c'est bon pour le monde ?... '". Impossible !!!

L'Homme a peur de lui même.

La priorité est que "L'Homme change !!!!!!!!!!"

http://www.innov-ai.com
Avatar de brulain brulain - Membre régulier https://www.developpez.com
le 08/09/2018 à 9:54
C'est bien parce que cela vient de nous que le danger est énorme.
Mais bon, c'est comme ça n'est-ce pas...
Avatar de Anselme45 Anselme45 - Membre éclairé https://www.developpez.com
le 08/09/2018 à 10:04
Citation Envoyé par jimmitry Voir le message
Affirmation fausse. Plu de planète = fin de l'humanité.
Ta propre information est fausse!

Fin de l'humanité, très certainement, on fait tout pour accélérer notre fin... Mais fait-toi pas de soucis, la planète sera toujours là pour nous dire au revoir

L'Humain est tellement imbus de lui-même qu'il croit pouvoir faire disparaître la planète... L'Humain ne fait que disparaître les conditions nécessaires à sa propre survie...

La planète a déjà vécu de nombreuses extinctions massives de vie (la plus connue celle des dinosaures), elle est toujours là pour subir nos conneries!
Avatar de ShigruM ShigruM - Futur Membre du Club https://www.developpez.com
le 08/09/2018 à 10:18
Citation Envoyé par Anselme45 Voir le message
La planète a déjà vécu de nombreuses extinctions massives de vie (la plus connue celle des dinosaures), elle est toujours là pour subir nos conneries!
tu parle de la planète comme si c'était un être vivant....
c'est juste un tas de caillou hein faut relativiser. La planète tu peut la forer comme du gruyère elle te dira rien, c'est juste un morceau de caillou avec de l’oxygène et de la vie.

Tu lui donne trop d'importance, aujourd'hui l’espèce humaine sait créer des environnements artificiels propice a sa vie, ces environnement sont appeler bunkers, des lieux enterré sous terre capable de généré/recyclé oxygène, eau, électricité et nourriture pendant plus d'1 siècle en parfaite autonomie.

l'homme a toujours aimé vivre sous terre dans des grotte depuis la nuit des temps, il n'aime pas aller l’extérieure, il préfère rester dans sa grotte devant un ordinateur a écrire des message sur developpez.net

la nature est un poison, un environnement hostile a l'homme : le soleil pourquoi faut mettre de la crème solaire ? parce que le soleil c'est pire que d'habiter pres d'une centrale nucléaire.
la nature c'est des rats, des tics, des serpents, des mous-tic, des frelons bref des parasites qu'il faut exterminer. Ils transportent des maladies pouvant nous infecter et pollue notre environnement et pire encore tuent les animaux qui servent nos ambitions (frelon qui tue les abeilles...)

relativisons la nature et la planète s'il vous plait, tous est loin "d’être vert", des races exterminé ferais pas trop de mal a l'homme comme les mous-tics par exemple.
Avatar de cryptonyx cryptonyx - Membre actif https://www.developpez.com
le 08/09/2018 à 11:38
Le plus grand "danger" pour la communauté scientifique est que des pseudo-intellectuels abusent de la fumette ou d'autres substances illicites avant de monter en tribune dans des congrès ou par malheur des journalistes sont présents.

Quand au plus grand danger pour l'humanité, la connerie humaine tient toujours la corde.
Avatar de Jamatronic Jamatronic - Membre averti https://www.developpez.com
le 08/09/2018 à 12:14
On dire ce qu'on voudra, j'aurai toujours plus peur d'un terroriste que de mon ordinateur.

Tous ces soi-disant "experts" qui n'ont aucune idée de ce qu'est l'IA et qui viennent vous donner des leçons, c'est assez... représentatif du monde de l'IT en fait.
Avatar de robertledoux robertledoux - Membre habitué https://www.developpez.com
le 08/09/2018 à 12:22
Citation Envoyé par ShigruM Voir le message
la nature est un poison, un environnement hostile a l'homme : le soleil pourquoi faut mettre de la crème solaire ? parce que le soleil c'est pire que d'habiter pres d'une centrale nucléaire.
la nature c'est des rats, des tics, des serpents, des mous-tic, des frelons bref des parasites qu'il faut exterminer. Ils transportent des maladies pouvant nous infecter et pollue notre environnement et pire encore tuent les animaux qui servent nos ambitions (frelon qui tue les abeilles...)

relativisons la nature et la planète s'il vous plait, tous est loin "d’être vert", des races exterminé ferais pas trop de mal a l'homme comme les mous-tics par exemple.
Mais W-F-T, je ne sais pas ce que tu prends, mais c'est efficace ! L'homme n'est qu'un maillon de la chaîne alimentaire, est c'est justement le fait qu'il essaye de s'y élever ou de s'absoudre de la mortalité qui pose soucis . La terre, certes, c'est un "cailloux" mais qui héberge tout un écosystème, retire une seule brique et boom, une partie de la pyramide se casse la gueule. Je vais reprendre ton exemple des moustiques, cet animal aide à la dépollution des eaux, et à nourrir d'autres animaux comme les oiseaux, ils sont de grand pollinisateurs et petit fait historique, la aiguilles utilisées en médecine sont directement inspirées de la trompe des moustiques. Il a été estimé que si les moustiques venaient à disparaître, près de 40-50% des oiseaux disparaîtraient dans la foulée. Autre cas de ton exemple, les frelons, ce sont des exterminateurs de nuisibles naturels et il sont généralement passifs, ils n'attaquent jamais sans raison. Et de plus, les frelons tuent rarement les abeilles. Le frelon européen s’attaque à la fausse teigne de cire, un insecte qui nuit considérablement aux ruches des abeilles.
Avatar de sergio_is_back sergio_is_back - Membre expérimenté https://www.developpez.com
le 08/09/2018 à 12:40
Citation Envoyé par ShigruM Voir le message
tu parle de la planète comme si c'était un être vivant....
c'est juste un tas de caillou hein faut relativiser. La planète tu peut la forer comme du gruyère elle te dira rien, c'est juste un morceau de caillou avec de l’oxygène et de la vie.
Anselme45 parle de planète en temps que "Biomasse" un concept que te ne semble pas vraiment connaître

Citation Envoyé par ShigruM Voir le message
Tu lui donne trop d'importance, aujourd'hui l’espèce humaine sait créer des environnements artificiels propice a sa vie, ces environnement sont appeler bunkers, des lieux enterré sous terre capable de généré/recyclé oxygène, eau, électricité et nourriture pendant plus d'1 siècle en parfaite autonomie.
Un siècle c'est un battement de cil à l'échelle de la planète même si t'est pas bien vieux et que du coup tu pense que c'est une éternité surement pas assez pour régénérer un biotope détruit...

Et comment vont se reproduire tes descendants entre eux ? Bonjour la consanguinité

Citation Envoyé par ShigruM Voir le message
l'homme a toujours aimé vivre sous terre dans des grotte depuis la nuit des temps, il n'aime pas aller l’extérieure, il préfère rester dans sa grotte devant un ordinateur a écrire des message sur developpez.net
C'est vrai que vivre dans une mine de charbon ça peut être sympa... Un peu humide peu être...

Citation Envoyé par ShigruM Voir le message
la nature est un poison, un environnement hostile a l'homme : le soleil pourquoi faut mettre de la crème solaire ? parce que le soleil c'est pire que d'habiter pres d'une centrale nucléaire.
la nature c'est des rats, des tics, des serpents, des mous-tic, des frelons bref des parasites qu'il faut exterminer. Ils transportent des maladies pouvant nous infecter et pollue notre environnement et pire encore tuent les animaux qui servent nos ambitions (frelon qui tue les abeilles...)
Les "mous-tic" c'est des "tics" qui volent.... Conseil : Achète toi un dictionnaire avant de descendre dans ta grotte...

Note : "mous-tic" s'écrit moustique et "tics" s'écrit tiques

En matière de pollution de l'environnement l'humain en connait un rayon de plus que les frelons... (qui ne me dérangent pas outre mesure)
Et toutes les espèces ont leur utilité dans l’écosystème, prétendre le contraire, c'est être le plus grand des crétins et démonter en même temps que toi tu n'ya aucune utilité et que tu pourrais participer aux Darwin Awards avec succès

Citation Envoyé par ShigruM Voir le message
relativisons la nature et la planète s'il vous plait, tous est loin "d’être vert", des races exterminé ferais pas trop de mal a l'homme comme les mous-tics par exemple.
C'est bien parce qu'on la "relativise" qu'elle nous le fera payer un jour...

Sinon ta prose nous renvoie par certains cotés au paradoxe de Fermi :

« S’il y avait des civilisations extraterrestres, leurs représentants devraient être déjà chez nous. Où sont-ils donc ? »
Ce à quoi on pourrait répondre : parce cette civilisation extraterrestre s'est auto-détruite bien avant de conquérir l'espace...

Sinon Anselme45 a raison, la terre existera encore bien après nous, la vie n'a pas besoin de l'homme pour se développer, mais l'homme a besoin de la vie pour survivre...

Et le principal danger de l'IA c'est de se reposer sur elle et devenir fainéants. Il y'a qu'a regarder actuellement comment la majorité des gens ne sait plus rien faire sans l'aide du moindre gadget technologique (alors c'est aussi facile à la main).... C'est ça le principal danger : se laisser lobotomiser par la technologie...

C'est ce qu'on appelle le déclin d'une civilisation lorsque l'on devient tellement imbus de nous mêmes que l'on pense survivre quoi qu'il advienne
Avatar de sergio_is_back sergio_is_back - Membre expérimenté https://www.developpez.com
le 08/09/2018 à 13:18
Citation Envoyé par jimmitry Voir le message
L'IA n'est qu'un être "futur vivant" comme un autre.
Hou-là, ça part loin....

Déjà commence par définir ce que entend par "vivant" ?

A partir de quels critères défini-tu qu'une chose est "vivante" ?

Je cite :
La principale caractéristique d’un être vivant, par rapport aux objets inanimés et aux machines, est qu’il est « un corps qui forme lui-même sa propre substance » à partir de celle qu’il puise dans le milieu
Est-ce à dire que l'IA possède un corps et qu'elle le développe elle-même ?

ou

N'est elle plutôt qu'une construction abstraite qui t'échappe ?
Contacter le responsable de la rubrique Accueil