L'IA : rêve ou cauchemar, Science ou Science-Fiction ?
Le cosmologiste britannique Stephen Hawking nous met en garde

Le , par doublex, Membre confirmé
L'IA : rêve ou cauchemar, Science ou Science-Fiction ?
Stephen Hawking nous met en garde

Stephen Hawking, physicien théoricien et cosmologiste britannique, nous alerte, sur l'IA. Son avènement pourrait être la découverte la plus importante de l'Histoire de l'humanité. Mais cela pourrait être sa dernière.
Toutes nos réalisations en IA, depuis Eliza jusqu'à Cortana, seront très largement surpassées dans le futur.

À sa racine, l'IA constitue avant tout un problème philosophico-religieux.
Soit notre conscience est le pur fruit de notre physiologie, auquel cas on peut fabriquer une conscience, soit notre conscience n'est possible que par un biais métaphysique, une âme, auquel cas, on ne peut en fabriquer une.

On trouve souvent, dans les livres d'informatique, l'idée que l'Homme est un ordinateur complexe.
L'idée de l'homme-machine est encore plus vieille, dérivée du concept d'animal-machine, proposé par Descartes, au siècle des Lumières.

Aujourd'hui, deux grandes écoles s'affrontent dans le domaine de l'IA : le cognitivisme et le connexionnisme.
Doit-on émuler des comportements intelligents avec une implémentation de haut niveau (approche top-down cognitiviste), ou faire émerger l'IA à partir d'un substrat de bas niveau (approche bottom-up connexionniste) ?

Les réseaux de neurones, en tant que système capable d'apprendre connexionniste, mettent en œuvre le principe de l'induction, c’est-à-dire l'apprentissage par l'expérience.
Par opposition, les systèmes symboliques cognitivistes, capables d'apprentissage, s'ils implémentent également l'induction, le font sur base de la logique algorithmique.

Grâce à leur capacité de classification et de généralisation, les réseaux de neurones sont généralement utilisés dans des problèmes de nature statistique, tels que la classification automatique de codes postaux ou la prise de décision concernant un achat boursier en fonction de l'évolution des cours.
Mais les réseaux de neurones ont leurs limites. Un exemple caricatural, mais significatif, est le suivant: disposant en entrée du seul poids d'une personne, le réseau doit déterminer si cette personne est une femme ou bien un homme. Les femmes étant statistiquement un peu plus légères que les hommes, le réseau fera toujours un peu mieux qu'un simple tirage au hasard : cet exemple dépouillé indique la simplicité et les limitations de ces modèles mais il montre également comment l'étendre: L'information « port d'une jupe », si on l'ajoute, aurait clairement un coefficient synaptique plus grand que la simple information de poids.

Les dates prévues pour l'arrivée de l'IA divergent selon les sources, bien sûr.
Mais on peut dire que, dans l'ensemble, la singularité technologique est généralement prévue pour notre XXIe siècle.
Certains experts pronostiquent même l'avènement de la singularité dans les années 20.

Par définition, on ne peut savoir ce qu'il se passera après la singularité technologique.
Tout comme on ne peut savoir ce qui s'est passé avant la singularité initiale, le Big Bang.

Le champ est donc libre pour la Science-Fiction.
Il arrive que l'IA nous soit favorable, comme les Robots d'Asimov. Voire qu'ils nous sauvent.
Mais souvent, la prophétie est funeste...
Terminator, les Cylons... Autant de génocides de l'espèce humaine à la suite de la singularité technologique.

Stephen Hawking nous dit qu'il faut poser dans la réalité les questions de la Science-Fiction sur l'IA.

J'apporte beaucoup de questions, et peu de réponses.
Mais j'ai essayé de mettre ces questions dans le contexte le plus adéquat afin qu'un riche débat en découle.

Et vous ?

Doit-on privilégier l'approche connexionniste, cognitiviste, ou une synthèse des deux ?

Arriverons-nous à l'IA ?

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Sources :
http://www.clubic.com/interfaces-hom...ficielle.htmll
http://fr.wikipedia.org/wiki/Singula..._technologique
http://fr.wikipedia.org/wiki/Intelligence_artificielle
http://fr.wikipedia.org/wiki/Animal-machine
http://fr.wikipedia.org/wiki/R%C3%A9seaux_de_neurones
https://www.google.fr/url?sa=t&sourc...FAzva_x3JWZrXQ


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de Uranne-jimmy Uranne-jimmy - Membre expérimenté http://www.developpez.com
le 19/05/2014 à 12:11
C'est de l'anthropocentrisme pur
Contrairement à ces créateurs, sauf si ils sont suffisamment bête pour l'ajouter, les IA ne sont pas violentes et surtout pas avide de pouvoir. A partir de ce postulat, beaucoup de choses sont enlevé du débat.
Ensuite : Ce qui, je pense, posera problème d'un point de vu sécurité c'est ce qu'on va faire des IA, si c'est pour faire la guerre, on est mal barré, si c'est pour remplacer efficacement des tâches complexes pour l'homme, là tout va pour le mieux. Il y aura toujours un détraquer pour faire une armée cela dit ...

Beaucoup d'oeuvre de SF utilise les IA comme un miroir, une façon assez efficace d'interroger le lecture sur l'humanité plus que sur la technologie, de lui faire comprendre les bases même de ce que nous sommes, plus souvent les défaut que les qualités d'ailleurs. Parce qu'un robot est fait uniquement de l'essentielle, et en plus fait pour nous ressembler, ainsi dénudé, les défauts sont mis à jour très clairement, et exploités.

Pour revenir sur les questions :
Doit-on privilégier l'approche connexionniste, cognitiviste, ou une synthèse des deux ?

Les deux, selon le domaine d'application, chacun à ses qualités et ses défauts.

Arriverons-nous à l'IA ?

Je n'en doute pas du tout, mais ça prendra pour moi plus de temps que l'indique cet article. L'intelligence est quelque chose de complexe, notre système de base, celui qui construit notre vision de l'intelligence, c'est le cerveau. Et actuellement, on en sait encore très peu sur le cerveau, donc il sera difficile de le copier, même en partie. Une étape qui sera à mon avis primordiale sera l'arrivé des études in-silico sur le cerveau, je rêve de cette étape, c'est là que se jouera les révolutions, et on approche, petit à petit.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Ca dépendra des intentions du créateur.

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Il faut prendre des mesures pour assurer le contrôle des gens qui produiront les bestioles. Je suis peut-être fataliste ou anthropophobe, mais je le répète : c'est l'humain qui recherche le pouvoir et qui à des instinct brutaux, tout comme une arme à feu, un outil comme l'IA peut être utilisé à bon ou à mauvais escient.
Avatar de martinien.olinga martinien.olinga - Nouveau membre du Club http://www.developpez.com
le 19/05/2014 à 12:55
Je crois sur ce coup que c'est la curiosité qui aura notre peau.
Avatar de Franck.H Franck.H - Rédacteur http://www.developpez.com
le 19/05/2014 à 13:09
Arriverons-nous à l'IA ?

Sans aucun doute mais peut-être plus de notre vivant.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Comme il l'a été dit, tout dépend des créateurs et à quelle fin ils veulent l'utiliser. Cela dit, une IA totalement autonome pourra toujours décider de changer les règles et en voyant la nature profonde de l'homme ou du moins de certains, on ne peut redouter que le pire.

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Des gardes-fous, oui il en faudra.
Avatar de Kaamui Kaamui - Membre expérimenté http://www.developpez.com
le 19/05/2014 à 13:23
Je penses qu'avec le temps le débat tend à s'orienter vers un aspect philosophico-scientifique, plutôt que philosophico-religieux. Peut-on aujourd'hui, avec la science moderne, ou bientôt, atteindre un niveau de duplicité, entre organismes biologiques vivants et simulateurs de vie, suffisamment fin pour recréer le miracle de la "conscience d'exister", d'être la pièce d'un puzzle plus grand. Pourra-ton un jour obtenir des IA qui ressentiront vraiment la peur de chocs brutaux physiquement inévitables, induits par la mécanique de l'univers et son évolution imprédictible, peur pour leur existence, conscients qu'il vaut mieux qu'elle perdure, ou sera-t'on juste à un tel point de simulation que le faux sera indissociable du vrai, juste le fruit d'une succession immense de "if-statement" ?

A la première question posée, je penses que le temps nous offrira une synthèse des deux : un système à base cognitive, qui construit la logique de l'intelligence, et un réseau de connexions neuronales artificielles capable de traiter une quantité phénoménale d'informations, en parallèle, puis d'utiliser la logique précitée pour en tirer des conclusions sur la pertinence de l'information, et sur son intérêt, sa nature, sa valeur face à la référence, si existante, connue jusqu'alors par ce système.

Arriverons-nous à l'IA ?

Si on part de l'hypothèse qu'aucun événement ne mettra avant un terme à l'existence de notre branche animale, oui, sans aucun doute. Mon opinion personnelle est que la séparation corps-esprit n'existe que dans notre esprit (et donc également que dans notre corps.. euh ... vous me suivez toujours hein ? ). Ainsi, il ne peut y avoir d'existence propre de notre "âme" sans notre corps. A la fin de notre vie, l'esprit cesse d'exister, et permet au corps (un amas de particules) d'être libéré, afin de nourrir l'écosystème qui l'a vu naître et qui l'a nourrit durant toute son existence (en excluant les fins de mois difficiles ), et la boucle est bouclée. Si nous arrivons à simuler les principes de la génétique artificiellement, l'IA aura une âme.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Si on parle d'une IA autonome consciente, capable d'avoir des sentiments, car des avis personnels sur des sujets, alors je dirais que chaque entité de cette nouvelle espèce aura son caractère, puisque sujet comme nous tous à un point de vue dans l'espace-temps unique à chaque instant, avec une somme d'événements cumulés toute aussi unique.

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Si on en arrive au point qu'ils soient conscients, mais avec des capacités décuplées par rapport à l'homme, il faudra espérer qu'une majorité d'entre-eux auront une vision plus juste que pragmatique, ou que le plus orateur d'entre eux soit un pacifique qui souhaite servir la coexistence de nos deux espèces respectives, sachant que le rapport d'une espèce à son créateur est une notion qui pour la première fois sera perceptible réellement, et pas seulement métaphysiquement.

Il faudra également se méfier, peut-être même encore plus, du contrôle de l'homme sur ces IA. Un rapport maitre-esclave d'un homme vers une machine, et la possibilité de "pirater" une telle IA pourraient très vite remettre en cause la durée de vie de notre espèce.

Vers un aspect philosophique du débat qui est posé, j'aurais tendance à me poser certaines questions, pour savoir "de quoi parle-t'on quand on parle d'une 'Intelligence Artificielle Consciente et Autonome" :
- Arriverons-nous un jour à développer une IA capable de créer, d'innover, de souffrir moralement, d'être traumatisée, d'aimer, de haïr, etc ?
- Pourra-t'on un jour obtenir un IA capable de désobéir à la logique de son programme ? Si non, est-ce que l'Homme le peut ?
- Dois-t'on croire au mythe du retournement des machines conscientes contre leurs créateurs, comme celui des dieux contre les titans, puis des hommes contre les dieux, ou s'agit-il de l'expression inconsciente d'un même constat sur le rapport de l'Homme à son univers , sa nature ?

Il y a également un autre aspect qui me vient en tête : on oppose systématiquement les organismes vivants des futures IA qui seront des machines, mais rien n'est moins sûre. Où se trouve la frontière entre naturel et artificiel lorsqu'on voit émerger des systèmes biologiques dans l'informatique ? Peut-on imaginer que l'IA du futur soit en réalité un être biologique ? Dans ce cas là, sera-t-elle une intelligence artificielle ? Peut-être que le lendemain de l'intelligence artificielle sera l'IN (intelligence naturelle)
Avatar de Arnard Arnard - Membre chevronné http://www.developpez.com
le 19/05/2014 à 13:30
Si on prend en repère I Robot, une autre parmi tant d'autres, l'iA est codée pour protéger l'humain, et afin de le protéger de lui-même décide de le mettre sous fers...

Faut que je lise les Asimov tiens.
Avatar de jmv jmv - Membre averti http://www.developpez.com
le 19/05/2014 à 13:47
Bonjour,
Citation Envoyé par doublex  Voir le message
À sa racine, l'IA constitue avant tout un problème philosophico-religieux.
Soit notre conscience est le pur fruit de notre physiologie, auquel cas on peut fabriquer une conscience, soit notre conscience n'est possible que par un biais métaphysique, une âme, auquel cas, on ne peut en fabriquer une.

Personnellement j'adhère à la première philosophie, donc pour moi, oui, il est théoriquement possible de créer une I.A.

Citation Envoyé par Uranne-jimmy  Voir le message
Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Ca dépendra des intentions du créateur

Ben non justement, si on crée une système vraiment intelligent, rien ne garantie que ce système acceptera de suivre nos ordres.

Le problème est qu'on utilise le terme "intelligence artificielle" à toutes les sauces. Des objets sont dit intelligents alors qu'ils ne le sont pas, ils peuvent être complexes, sophistiqués, puissants,... mais pas intelligents. C'est du pur marketing de dire qu'un système est intelligent actuellement. L'intelligence artificielle n'existe pas encore, il y a bien du chemin à accomplir pour y arrivé, mais je suis certain que ce sera possible.

Et l'intelligence amène parfois (souvent ?) la désobéissance.

jmv
Avatar de Saverok Saverok - Expert éminent http://www.developpez.com
le 19/05/2014 à 14:07
C'est "rigolo" comment on essaye toujours de comparer les autres organismes à l'humain
Un peu comme toutes ces personnes qui parlent à leurs animaux de compagnie comme si c'était des humains et surinterprètent toutes leurs actions

Une IA sera une IA, pas une intelligence humaine
Quel intérêt pour une machine de savoir "aimer" ou d'avoir un sens esthétique ?
Ça sert à rien pour une machine

Une IA sera une forme d'intelligence totalement dissociée de l'intelligence humaine
Difficile de prédire se qu'elle "pensera" et quelles seront ses désires ou ses peurs

De même, les notions de bien et de mal sont purement humaines
La nature se moque de savoir ce qui est bien ou mal, elle trouve son chemin et puis c'est tout
De notre point de vu, les nature est même cruelle et impitoyable : les forts vivent, les faibles meurent, les grands mangent les petits, etc.
Une virus est-il "méchant" ?
Lorsqu'on tombe malade, ce n'est que parce que le virus "cherche à survivre" ?
Le bien et le mal ne dépendent que du point de vu
Dans le cas d'une IA, en sera t'il autrement ?
Avatar de Zilpix Zilpix - Membre habitué http://www.developpez.com
le 19/05/2014 à 14:30
Doit-on privilégier l'approche connexionniste, cognitiviste, ou une synthèse des deux ?

Je n'en ai aucune idée.

Arriverons-nous à l'IA ?

Je pense que oui, mais les 2 questions importantes sont : Quand ? Et qu'entendons-nous par IA ?

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Encore faudrait-il que cette IA ait une conscience (d'un point de vue scientifique et philosophique) se rapprochant de celle de l'Homme. Une telle conscience voudrait dire conscience de soi en tant qu'IA, conscience des autres ? Et donc comment considérer l'Homme par rapport à soi ?

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Arriverons nous à créer une IA à l'image de l'Homme, avec une conscience telle que nous en avons ? Si oui, l'IA disposera de son libre arbitre et d'une puissance de calcul immense, rajoutez à cela un soupçon de manipulation de l'Homme et beaucoup de choses sont possible contre l'intérêt de l'Homme.

Je pense que cet article permet de soulever plus de questions que d'apporter des réponses. A partir de cela, la démarche de Stephen Hawking est pertinente, il faut débattre de l'IA, et soulever toutes les questions qui accompagnent ce sujet afin d'avancer dans ce domaine en toute sécurité.
Avatar de Zilpix Zilpix - Membre habitué http://www.developpez.com
le 19/05/2014 à 14:46
Citation Envoyé par Saverok  Voir le message

Une IA sera une IA, pas une intelligence humaine
Quel intérêt pour une machine de savoir "aimer" ou d'avoir un sens esthétique ?
Ça sert à rien pour une machine

Une IA sera une forme d'intelligence totalement dissociée de l'intelligence humaine

Je ne partage pas ton point de vue, je pense qu'il y a toute intérêt à créer une IA se rapprochant de l'intelligence humaine et surtout de la raison humaine, une bête de calcul qui exécute du code ça l'Homme sais le faire. Mais créer une "machine" qui saurait faire des choix de raison ça non. Et selon moi là est tout l'intérêt, aider l'homme à faire des choix raisonnables, pas uniquement des choix statistiques. Mais également découvrir de nouvelles choses grâce à des capacités de raisonnement que nous n'avons pas encore.

Il arrive un stade ou le calcul dans le but d'avoir des résultats statistiques ne nous font plus avancer.

"L'intelligence est l'ensemble des facultés mentales permettant de comprendre les choses et les faits, de découvrir ces relations entre elles et d'aboutir à la connaissance conceptuelle et rationnelle (par opposition à la sensation et à l'intuition). Elle permet de comprendre et de s'adapter à des situations nouvelles et peut en ce sens être également définie comme la faculté d'adaptation. L'intelligence peut être également perçue comme la capacité à traiter l'information pour atteindre ses objectifs." Source Wikipédia

Les ordinateurs d'aujourd'hui nous donnent des capacités de calcul (surtout en vitesse) que nous ne possédons pas, l'IA nous donnera des capacités de raisonnements (une organisation de la pensée) que nous n'avons pas (encore?). Le bénéfice scientifique serait considérable.
Je pense en tous cas que c'est ce vers quoi il faut tendre.
Avatar de Zilpix Zilpix - Membre habitué http://www.developpez.com
le 19/05/2014 à 15:05
Citation Envoyé par Kaamui  Voir le message

Je suis d'accord en très grande partie avec tes raisonnements. Par contre :
Ainsi, il ne peut y avoir d'existence propre de notre "âme" sans notre corps. A la fin de notre vie, l'esprit cesse d'exister, et permet au corps (un amas de particules) d'être libéré, afin de nourrir l'écosystème qui l'a vu naître et qui l'a nourrit durant toute son existence ...

Euh, quelqu'un t'a raconté comment ça se passait lors d'un décès ? A ma connaissance personne n'a encore fait l'aller retour dans un état conscient pour le raconter. Mais je te l'accorde c'est bien dommage !

Offres d'emploi IT
Administrateur dba opensource postgresql h/f
EKXEL - Luxembourg - Luxembourg
Développeur php h/f
EXTIA - Rhône Alpes - Lyon (69000)
Gestionnaire de données h/f
Atos - Pays de la Loire - Angers (49000)

Voir plus d'offres Voir la carte des offres IT
Contacter le responsable de la rubrique Accueil