Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'IA représente-t-elle une menace pour l'humanité ?
Non, pour un philosophe, qui estime que l'IA n'est qu'une pseudo-intelligence

Le , par Michael Guilloux

239PARTAGES

2  2 
Elles sont nombreuses, les critiques qui portent sur l’intelligence artificielle. L’IA est considérée comme une menace réelle pour la race humaine, voire un signe apocalyptique.

S'exprimant lors du centenaire du département Aéronautique et Spatial du Massachusets Institute of Technology, Elon Musk, fondateur de SpaceX et Tesla, a mis en garde contre les dangers de l'intelligence artificielle. Selon lui, « Avec l’intelligence artificielle, on invoque le démon ».

Mais cette intelligence artificielle représente –t-elle vraiment un danger pour l’humanité ?

Selon Alva Noë, philosophe et professeur à l'Université de Berkeley, pour que l’IA soit une menace réelle pour la race humaine, il faudrait d’abord que l’intelligence artificielle surpasse celle de l’Homme. Ce qui n’est pas le cas, puisqu’il s’agit d’une pseudo-intelligence.

« L’une des raisons pour lesquelles je ne suis pas inquiet à propos de la possibilité que nous allons bientôt créer des machines qui soient plus intelligentes que nous, est que nous n’avons pas réussi à faire jusqu'à maintenant des machines qui soient vraiment intelligentes. L'intelligence artificielle n’est pas l'intelligence synthétique : C’est une pseudo- intelligence. » Affirme-t-il.

Cette déclaration tend à balayer du revers de la main toute possibilité que l’IA soit capable de mettre fin à la race humaine comme pouvait le penser Elon Musk.

Les machines intelligentes ne font qu’obéir à des algorithmes qui leur ont été dictés par leurs concepteurs, elles n’ont pas d’intelligence autonome. Ces machines sont comparées à des horloges qui peuvent donner l’heure, mais qui ne savent pas l’heure qu’il est. En d’autres termes, leur intelligence est programmée par l’Homme, c’est ce dernier qui décide de ce qu’elles doivent faire, et non elles-mêmes.

Le superordinateur d’IBM ne fait pas exception à la règle, même s’il a participé au jeu télévisé Jeopardy ! et qu’il a remporté le jeu face aux humains. Watson « n’a pas répondu aux questions, il n’a participé à aucune compétition, il n’a rien fait du tout, c’est nous qui avons tout fait. Nous avons joué à Jeopardy ! avec Watson »

Par ces propos, on pourrait se dire que s’il y a un réel danger de l’IA, ce serait l’Homme le responsable, et non ces machines dites intelligentes, parce qu’elles ne le sont pas en réalité.

En plus, si l’on veut se référer aux scientifiques qui comparent l’Homme à une machine, on pourrait dire que la véritable machine intelligente, c’est l’humain. Les plus petites cellules vivant en lui sont dotées d’énormes capacités qu’on ne pourrait pas retrouver dans les programmes d’intelligence artificielle : « elles sont dotées d’une intelligence, une autonomie, une originalité qui dépassent de loin même les ordinateurs les plus puissants. »

Source : NPR News

Et vous ?

Pensez-vous que l’intelligence artificielle menace la race humaine ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 26/11/2014 à 15:12
Citation Envoyé par Michael Guilloux Voir le message
Selon Alva Noë, philosophe et professeur à l'Université de Berkeley, pour que l’IA soit une menace réelle pour la race humaine, il faudrait d’abord que l’intelligence artificielle surpasse celle de l’Homme.
Peut-on dire que la peste, le cancer , les cyclones, les tremblements de terre, la montée des eaux ou le réchauffement climatique sont intelligents? Je pense que beaucoup sont convaincus que non, tout au plus les premiers montrent une très bonne adaptation pour obtenir ce qu'il leur faut, mais certainement pas une intelligence notable. Pourtant, je suis convaincu que tout le monde acceptera qu'on dise que ce sont des menaces réelles pour l'humanité, au sens des menaces qui peuvent s'appliquer sur un groupe massif d'humains. Probablement davantage pour ceux qui ne sont pas localisés ou se transmettent.

(Le paragraphe suivant est barré car initialement l'article mentionnait "pseudo-science", d'où ma réaction. J'imagine qu'il a été rapidement édité mais je ne l'ai pas remarqué.)
Citation Envoyé par Michael Guilloux Voir le message
Ce qui n’est pas le cas, puisqu’il s’agit d’une pseudo-intelligence.
Là je ne vois pas le rapport. Une pseudo-science est ce qui se dit être du domaine de la science sans en avoir les attributs (réfutabilité, reproducibilité, etc.). En quoi "ne pas avoir les attributs d'une science" (à supposer que ce soit vrai, ce dont j'ai des doutes) empêcherait une IA de surpasser l'Homme ? Tout au plus, ça permet de douter de la chose, certainement pas de poser des garanties. Et pour ainsi dire, l'argumentaire développé par ce philosophe semble pour moi entrer dans la même catégorie de pseudo-science qu'il dénigre (cf. la suite).


Citation Envoyé par Michael Guilloux Voir le message
L’une des raisons pour lesquelles je ne suis pas inquiet à propos de la possibilité que nous allons bientôt créer des machines qui soient plus intelligentes que nous, est que nous n’avons pas réussi à faire jusqu'à maintenant des machines qui soient vraiment intelligentes.
Là par contre je suis d'accord, notamment avec son exemple d'IBM qu'on a déjà mentionné dans les discussions précédentes. Mais ça s'arrête là, vu que l'argumentaire tend à montrer un manque de connaissance sur les algorithmes avancés tels que les algorithmes évolutionnaires et autres techniques d'optimisation.

Citation Envoyé par Michael Guilloux Voir le message
Les machines intelligentes ne font qu’obéir à des algorithmes qui leur ont été dictés par leurs concepteurs, elles n’ont pas d’intelligence autonome. Ces machines sont comparées à des horloges qui peuvent donner l’heure, mais qui ne savent pas l’heure qu’il est. En d’autres termes, leur intelligence est programmée par l’Homme, c’est ce dernier qui décide de ce qu’elles doivent faire, et non elles-mêmes.
S'il est vrai que les machines ne font qu'obéir à des algorithmes, rien ne montre que l'Homme fasse mieux à ma connaissance. Nombre d'actions et réactions de l'Homme sont aujourd'hui associées à des zones spécifiques du cerveau et des processus purement biologiques. Un tel argument ne trouverait donc de la valeur que dans le cas où on prendrait le parti d'une "âme" ou d'un "esprit", séparé du corps et de ses processus, et ayant un contrôle supérieur sur ce dernier. Mais là on entre bien plus certainement dans la pseudo-science.

Ensuite, quand il dit que ce sont les concepteurs qui décident de ce que la machine doit faire, il semble ignorer que ce contrôle se réduit significativement selon les techniques employées. Par exemple, une technique d'apprentissage permet d'obtenir des résultats escomptés sur un certain ensemble de cas, mais non seulement on ne sait pas exactement comment ces décisions sont prises, mais en plus on lui fait confiance pour les cas restants, en supposant que "ça marche bien". On est donc loin d'un contrôle total.

Citation Envoyé par Michael Guilloux Voir le message
En plus, si l’on veut se référer aux scientifiques qui comparent l’Homme à une machine, on pourrait dire que la véritable machine intelligente, c’est l’humain. Les plus petites cellules vivant en lui sont dotées d’énormes capacités qu’on ne pourrait pas retrouver dans les programmes d’intelligence artificielle : « elles sont dotées d’une intelligence, une autonomie, une originalité qui dépassent de loin même les ordinateurs les plus puissants. »
Là, on nage dans le brouillard : si de simples cellules sont considérées comme intelligentes, alors comment définit-il l'intelligence ? Si je me fie à ce que j'ai lu sur le sujet, l'intelligence est lié aux processus cognitifs et moteurs. Une simple cellule ne saurait entrer dans ce cadre par son absence de processus cognitif. Tout au plus elle participe au processus. Il me semblait que ce philosophe mélangait intelligence et conscience, mais c'est visiblement plus vague encore s'il rapporte l'intelligence à une seule cellule. Et si on lit la source, et qu'on suit le lien qu'il donne pour justifier que les cellules sont plus intelligentes, on tombe sur un de ses propres articles où non seulement il identifie la confusion :
And so we confront a lovely irony. Plants are intelligent, it is claimed, because they are, in effect, robots! I began by criticizing claims that Watson is intelligent by comparing Watson to a mere plant. But defenders of plant intelligence argue that plants are intelligent, that they have minds because they are, really, computational systems; they are, in effect, like Watson!
Mais en plus il se contente de la résoudre en prenant simplement une position qui l'arrange dans son raisonnement :
But this seems misguided. [...]If we want to understand plants, and their minds, we need to start not with computation, but with the fact that they are alive.
À partir de là, son raisonnement coule de source : ce n'est pas une raison technique qui fait qu'on n'arrive pas à faire quelque chose d'intelligent, mais c'est parce que ce n'est pas Mère Nature qui l'a fait, donc ça ne peut pas être intelligent, point barre. Parler d'intelligence artificielle, sur ce point de vue, n'a donc juste pas de sens : dès lors que c'est artificiel, ça ne peut pas être intelligent. Et dès lors ce commentaire prend tout son sens :
Citation Envoyé par Michael Guilloux Voir le message
L'intelligence artificielle n’est pas l'intelligence synthétique : C’est une pseudo- intelligence.
Opinion que je ne saurai suivre. Mais cela ne reste que mon humble avis, bien entendu {^_^}.
8  1 
Avatar de Amine Horseman
Expert éminent sénior https://www.developpez.com
Le 26/11/2014 à 13:56
Il est vrai que lorsque tu envoie un missile "intelligent" pour traquer et tuer une cible, c'est toi le responsable, pas le missile. De la même façon si tu programme un robot pour exterminer la race humaine, il n'a pas besoin d'être intelligent pour le faire.

L’intelligence artificielle (même si ce n'est qu'une pseudo-intelligence) pourra être dangereuse si dans ton algorithme tu donne assez de liberté à la machine pour prendre des décisions critiques, du genre si tu dis à ton super robot de guerre "tu peux tuer quelqu'un si tu détecte qu'il porte une arme", attends toi, dans le champs de bataille, qu'il ne tue pas seulement les ennemis mais aussi les alliés.

Donc tout est lié au degré de liberté que tu donne à ta machine. Même si elle n'est pas intelligente, elle peut être très dangereuse si ton algorithme contient des failles dans le raisonnement.
4  1 
Avatar de Chauve souris
Membre émérite https://www.developpez.com
Le 26/11/2014 à 17:42
Citation Envoyé par Guikingone Voir le message
Donnez-leur un bâton et il se tueront les uns les autres, donnez-leur la foi et il tueront ceux qui n'y croit pas, donnez-leur le savoir et même le moins érudit de tous dirigera le monde, donnez-leur la parole et ils vous forceront à vous taire.
Excellente citation mais de qui est-ce ?

La définition de l'intelligence est un vieux débat. Tout comme celui de la sagesse qui embarrassait Socrate, pourtant déclaré comme l'homme le plus sage de la Terre par l'oracle de Delphes, au point que Platon relate la discussion qu'il a eu avec un charmant éphèbe, au demeurant très intelligent, Charmide où les deux s'accordèrent que c'était un idéal à atteindre sans qu'on puisse vraiment le définir. Ce qu'on retrouve aussi dans le bouddhisme des origines (appelé "Petit Véhicule".

Les anciens soixante-huitards des sciences humaines (dont je fus) se souviennent de la réponse à la question "Qu'est-ce que l'intelligence ?" à laquelle René Zazzo répondit "C'est ce que mesure mon test". Ce qui lui valu un célèbre graffiti sur les murs de la faculté de Nanterre "le petit zazzo qui fait QI QI"

La crainte de l'IA est donc bien un fantasme traité par bon nombre d'auteurs de science fiction. Mais tous les robots doué d'IA ne sont pas des "méchants" comme dans Terminator où la série Battlestar galactica, Spielberg dans son film IA, dont le brouillon a été fait par Stanley Kubrick mais qu'il ne put réaliser de son vivant, montre un sympathique gamin robot intelligent et sensible, David (joué par Haley Joel Osment). Ce qui pose aussi d'autres questions : qu'est-ce que l'amour ? A laquelle Jacques Lacan répondit que "c'est donner quelque chose que l'on n'a pas à quelqu'un qui n'en veux pas" et qu'est ce que la vie. Car on pourrait aussi poser la problématique de la définition de la vie, pour un robot intelligent (Data dans la série Startrek) si elle ne doit être que biologique ou non.
5  2 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 27/11/2014 à 15:08
Au sujet du caractère "stupide et mécanique" :

Citation Envoyé par asfez Voir le message
Je pense que cette affirmation est contredite par nombreux algorithmes d'apprentissage et de comportements évolutifs.
Citation Envoyé par Traroth2 Voir le message
Si tu considères que le fonctionnement de l'esprit humain n'est que de l'exécution stupide et mécanique d'un certain nombre de principes moteurs, comme des pulsions, ça peut se défendre. Si tu considères que les humains sont intelligents, dans ce cas, il y a des systèmes informatiques qui commencent à s'en approcher (de loin pour l'instant, mais les principes sont là), comme le projet Omega de Google.

Je pense que tu devrais t'intéresser à des choses comme les systèmes multi-agents, les réseaux de neurones ou les algorithmes génétiques.
L'intelligence humaine, on n'est pas capable d'en avoir une définition qui satisfasse un consensus (cf. discussions précédentes), donc argument difficile à valoriser si tu ne donnes pas ta définition.

Si tu prends le côté "propriétés émergentes" des systèmes que tu cite (Omega, multi-agent, réseaux de neurones, auxquels j'ajouterait automates cellulaires), il n'en reste pas moins que la machine exécute "stupidement" (i.e. sans davantage de procès) les lignes de code qui lui sont données. Elle n'est pas plus consciente des propriétés émergentes qu'elle n'est consciente de ce qui se passe dans le batiment d'à côté.

L'identification d'une propriété correspond à la reconnaissance d'un pattern, et si ce pattern n'était pas prévu lors de l'implémentation alors on le qualifie d'émergent, rien de plus. Si tu prends n'importe quel système prévu pour faire quelque chose dans un contexte donné, et que tu l'appliques dans un contexte différent, tu as de bonnes chances de voir des prorpiétés émergentes. Mais cela ne veut pas dire que le système soit particulièrement intelligent. Par exemple, tu fais un robot capable de se mouvoir, et comme tu y intègres certains composants sensibles à la chaleur, tu lui implémente ce qu'il faut pour se déplacer vers les zones les plus froides, qui est alors un comportement de survie. Cela est prévu, rien d'émergent donc. Maintenant, tu montre ton robot à un pote cuisinier, mais comme il est occupé tu le lui montres dans sa cuisine. Tu le fais marcher, et soudain tu le vois se diriger vers le fond de la pièce où se trouve le frigo. Là, ton pote te demande pourquoi et tu lui dis "ben normalement il va vers les zones les plus froides, mais le frigo n'est pas ouvert donc ça ne devrait pas arriver." Et là tu te rends compte après contrôle que la porte n'est pas étanche. Résultat : propriété émergente, le robot est capable de détecter les frigos non étanches quand ils fonctionnent. Super ! Est-ce que ça rend ton robot intelligent ? Je ne pense pas : tu es muté au pole Nord (qu'est-ce que t'as fait encore ?) et bien entendu tu emporte ton robot avec toi. Tu le met en route et pendant qu'il boot tu va te prendre un café. Manque de bol, une fois ton robot booté tu n'est toujours pas revenu, et le robot part en exploration du labo. La porte grande ouverte, le robot se dirige lentement vers une autre salle où une des portes menant à l'extérieur est ouverte. Il sort, affronte les -50°C, et crame car certaines pièces n'étaient pas faite pour le grand froid et tu n'as rien implémenté pour l'éviter. Propriété émergentes : suicide par grand froid. Deux propriétés émergentes dues à la même fonctionnalité. Ce qui ferait la différence, à mon avis, entre un être intelligent et un être non intelligent serait l'identification et l'exploitation de ces propriétés. Notamment, avec un objectif d'aide, exploiter cette propriété pour découvrir le frigo non-étanche mais pas pour aller se suicider.
5  2 
Avatar de Sunchaser
Membre expert https://www.developpez.com
Le 30/01/2015 à 11:30
Citation Envoyé par eimilia Voir le message
Les vibrations sont toujours mais nettement moins fortes.

--------------------------------------------------------------------
Ouais, tous les bons vibro de nos jours ont des modes de vibration divers et variés, il y en a pour tout les goûts, pas la peine de se faire du mal pour se faire du bien.
Utiliser un gel adapté aussi ...
3  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 10/12/2014 à 15:54
Citation Envoyé par r0d Voir le message
Les sophistes arrivèrent bien après, pendant la période socratique, et étaient une "sous-espèce" de philosophes.
Hélas, Darwin n'a pas eu raison d'eux depuis.
2  0 
Avatar de youtpout978
Membre expert https://www.developpez.com
Le 30/01/2015 à 0:05
Citation Envoyé par Lolilolight Voir le message
Alors pourquoi pas une IA ?

Et puis d'abord d’où vient t’ont ? Somme nous des rescapés d'une IA malfaisante, vivant sur une planète lointaine ?

Tout est possible.
T'as trop regardé battlestar galactica toi.
2  0 
Avatar de JackJnr
Membre confirmé https://www.developpez.com
Le 26/11/2014 à 15:08
En fait la réponse de cette personne n'apporte rien de nouveau. J'ai l'impression qu'on fait souvent l'amalgame entre IA et Intelligence consciente. L'IA telle qu'il semble la décrire d'après l'article se rapporte à un ensemble de routines et d'algorithmes dont les situations sont normalement prédictibles donc prédéfinies. Donc la machine est un simple exécutant. l'IA telle que je la conçois - et qui me semble être la définition communément donnée -, est une entité consciente de ses mécanismes ou ses schémas de pensées, comparables à des algorithmes, et capable de les faire évoluer au fil d'un apprentissage. Donc rien à voir.
3  2 
Avatar de erca57
Membre actif https://www.developpez.com
Le 26/11/2014 à 15:08
S'agit-il d'une pseudo-intelligence se conformant aux tests de Turing ?
Implique-t-elle le libre arbitre (ce qui exclue qu'elle soit "programmée" ?
etc, etc.
2  1 
Avatar de asfez
Membre régulier https://www.developpez.com
Le 27/11/2014 à 11:14
Citation Envoyé par Jipété Voir le message
Les machines ne sont capables de rien du tout à part exécuter stupidement et mécaniquement les instructions qu'un humain a codées et leur a implantées. Point barre.

("mécaniquement" dans le sens enchaînements logiques, comme un engrenage mécanique : if condition then action1 else action2 c'est de la mécanique)
Je pense que cette affirmation est contredite par nombreux algorithmes d'apprentissage et de comportements évolutifs.
2  1