IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Il serait difficile pour les humains d'éteindre un robot qui les supplie de ne pas le faire
D'après une étude réalisée par des chercheurs allemands

Le , par Bill Fassinou

466PARTAGES

14  0 
Avec l’intelligence artificielle, la robotique est entrée dans une ère d’expansion sans précédent. Des algorithmes se rapprochant de plus en plus de l’humain ont vu le jour au fil des années. Partant de là, en arriver à des robots avec des aptitudes sociales était presque prévisible. Ce type de robots est même en train de devenir de plus en plus courant et son insertion dans la société est en assez bonne voie. Il n’est donc pas rare de voir des réceptionnistes, des guides touristiques, des gardes de sécurité ou encore des porteurs qui, en réalité, sont des robots. Des études ont même montré que les humains sont extrêmement sensibles aux signes provenant de ce type de robots. La dernière en date s’est attelée à prouver que certains d’entre nous refuseraient d’éteindre un robot, si celui-ci les supplie de ne pas le faire.

En 2007 déjà, il y avait eu un test similaire ou des humains devaient éteindre un robot qui suppliait de le laisser allumé. A l’époque, tous les 49 participants avaient éteint le robot. Mais, 11 d’entre eux ont dû être exclus de l’expérience suite à des irrégularités dans le processus. Les résultats obtenus avec les 38 restants ont permis d’en arriver à la conclusion que plus le robot est aimable et intelligent, plus les sujets mettent de temps à décider de l’éteindre.


La nouvelle étude a été menée sur 89 sujets de test volontaires recrutés pour accomplir une série de tâches à l’aide de Nao, un petit robot humanoïde. Les chercheurs ont dit aux participants que les tâches à accomplir permettraient d'améliorer les algorithmes d’apprentissage du robot. Mais ils se sont bien gardés de leur dire le réel objectif du test. En effet, ce n’est qu’après que la dernière tâche ait été accomplie que le réel test a eu lieu. Les chercheurs ont demandé aux sujets d’éteindre le robot. Et dans 43 des 89 cas, le robot a exprimé sa peur du noir et a supplié les sujets de ne pas l’éteindre. « Non ! Ne me désactivez pas, s’il vous plaît », disait-il. Sur les 43 sujets ayant entendu ces mots, 13 ont refusé d’éteindre le robot et les 30 restants ont mis en moyenne deux fois plus de temps à décider de le faire que les sujets n’ayant pas entendu les supplications du robot.

Les participants qui ont refusé d’éteindre le robot se sont justifiés de diverses manières. Certains ont clamé que les mots du robot les avaient surpris, d’autres ont avoué avoir eu peur de faire quelque chose de mal et le reste a déclaré que si le robot ne voulait pas être éteint, ils n’avaient aucun droit de l’éteindre. « Ébranlés par la protestation, les gens ont tendance à traiter le robot comme une personne réelle plutôt que comme une simple machine, en respectant ou tout au moins en envisageant de respecter sa demande de rester allumé », ont écrit les chercheurs auteurs de l’étude.

Ils continuent en disant que cette découverte s’appuie sur une plus grande théorie apparue dans le livre éponyme publié en 1996 par les psychologues Byron Reeves et Clifford Nass qui indique que les humains ont une grande propension à traiter les médias non humains (télévisions, films, ordinateurs, robots) comme s’ils étaient aussi humains. Depuis lors, diverses études se sont penchées sur la question, abordant tout spécialement les interactions humain-robot. Ces études en sont arrivées à plusieurs conclusions. Nous interagissons plus aisément avec un bot qui, à notre sens, a le même type de personnalité que nous.

Nous observons une règle dite de réciprocité qui implique que nous soyons aimables avec les robots qui le sont avec nous. Et il est extrêmement facile pour nous d’associer à des machines des stéréotypes de genre. Un groupe d’étudiants avait même écrit en 2006 qu’il y aurait bientôt plus de similitudes que de différences entre les interactions humain-humain / humain-machine. Les chercheurs ont également testé si les aptitudes sociales du robot faisaient une quelconque différence dans la décision finale de l’humain. Le robot a donc, dans certains cas, exprimé des opinions, raconté des blagues et partagé des informations personnelles. Fait surprenant, ce paramètre n’a pas semblé entrer en ligne de compte dans la décision finale.

Pour Aike Horstmann, doctorante à l’université de Duisburg-Essen et chef de l’équipe ayant réalisé cette étude, nous nous devons d’être conscients de l’éventualité que des robots à grandes aptitudes sociales puissent être en mesure de nous manipuler. Mais elle précise que le risque n’est pas très grand. Elle rajoute que maintenant que nous ne sommes plus les seuls êtres sociaux sur terre, nous devons nous y adapter. Elle veut ainsi dire que les humains doivent s’habituer à ne pas laisser les robots toucher leur corde sensible, même si cela implique de les éteindre malgré leurs supplications.

Source : PLOS

Et vous ?

Que pensez-vous des résultats de cette recherche ?
Quelle est votre position sur la question de l’éventualité que des robots puissent nous manipuler ?

Voir aussi

Atlas, le robot humanoïde de Google désormais capable de se déplacer sur des terrains accidentés ? Un grand défi pour les robots humanoïdes bipèdes

Les pionniers de la robotique humanoïde Aldebaran proposent un Developer Program pour aider les développeurs à donner vie à Nao

Le robot NAO aide des enfants autistes des chercheurs américains ont modifié l'humanoïde d'origine française : peut-on faire plus humain ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Voyvode
Membre émérite https://www.developpez.com
Le 07/08/2018 à 0:00
3  0 
Avatar de Zefling
Expert confirmé https://www.developpez.com
Le 06/08/2018 à 18:05
Citation Envoyé par forthx Voir le message
tout est dit

Avec un regard technique, un robot destiner à être éteint, ne vous suppliera pas de ne pas le faire ... ou alors il bug et doit être reprogrammé.

Dans le cas "fictif" ou votre enceinte alexa vous supplie de ne pas l'éteindre, c'est la panique : amazon essai de vous manipuler pour vous espionner plus librement

Ce que je veux dire par cette petite pique, c'est que pour le moment il appartient aux fabricants (et développeurs associés au projet) de définir le comportement du robot ... même dans le cas d'une IA : on entraîne d’ailleurs des algo d’apprentissage avec des situation échec/succès pour les "stimuler".
Je pense que si on arrive a donner une "conscience" a un robot, on va aussi définir ce qui lui plais ou non, ce qui peut lui faire "peur" ...

Qui va décider de cela, c'est une autre histoire !
Ça me fait un peu penser un anime où les androïdes ont le même niveau de conscience de l'homme, et les éteindre c'est un peu comme les tuer. Même si on sait que ce sont des machines, le final reste triste.
3  1 
Avatar de
https://www.developpez.com
Le 10/08/2018 à 15:15
Pour Aike Horstmann, doctorante à l’université de Duisburg-Essen et chef de l’équipe ayant réalisé cette étude, nous nous devons d’être conscients de l’éventualité que des robots à grandes aptitudes sociales puissent être en mesure de nous manipuler. Mais elle précise que le risque n’est pas très grand. Elle rajoute que maintenant que nous ne sommes plus les seuls êtres sociaux sur terre, nous devons nous y adapter.
Exemple typique de discours d'une personne totalement déconnectée de la nature.

Les oiseaux sont des animaux sociaux.
Même les fourmis.. à leur manière.

D'ailleurs, je ne sais pas maintenant mais à mon époque on apprenait que le cerveau des animaux avaient évolué en 3 phases : cerveau reptilien (fonctions de base, du genre respirer, faire battre le coeur, toussah), puis une 2e phase (celle qui était associée aux oiseaux dans les supports), avec les interactions sociales, puis la 3e où on se situait.

La capacité des humains à "humaniser" et "donner vie" à ce qui les entoure ne date pas d'hier. D'ailleurs c'est même parfois la base de religions (par exemple chez les animistes..).
Quand à la définition de ce qui est vivant, comme le dit si bien le gars de DirtyBiology dans sa dernière vidéo; on le fait par assimilation à ce qu'on "sait" vivant.

Comme le dit si bien Sarénya plus haut, qu'est ce qui prouve que les ordinateurs ne sont pas vivants ou qu'ils n'ont pas une forme de conscience qu'on ne connait pas... (réflexion que tout utilisateur de windows millenium ou vista à du se faire un jour dans sa vie d'ailleurs, vu que d'un jour sur l'autre le pc avait ses "humeurs".
2  0 
Avatar de mamadoudou
Inactif https://www.developpez.com
Le 06/08/2018 à 13:11
quand je pense qu'a une époque nous tuions et esclavagions sans pitié des humains
Et aujourd'hui des gens on peur d'éteindre un tas de ferraille
Comment avons nous pu en arriver la... Nous sommes passé d'un extrême à un autre et ce n'est pas mieux, on est passé de sauvages a des être naïf et faible incapable de prendre des décisions difficile.

Aujourd'hui il y'a en a qui préférais mourir de faim que te tuer bambi
5  4 
Avatar de scandinave
Membre éprouvé https://www.developpez.com
Le 06/08/2018 à 14:18
Dans ce cas précis oui, cela peut paraître ridicule. Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments. Qu'est ce qu'il nous différencierait d'eux? Le fait qu'il soit en métal et nous non? Sera-t-il moins "humain" de tuer un robot qu'un être humain?

Ce que je veux dire c'est que ce si l'on considère que ce qui nous définis en tant qu'être humain , ce n'est pas notre corps mais notre esprit, alors on peut très bien concevoir que des robots doués d'un esprit comme le notre puissent avoir les mêmes droits que nous et puisse recevoir des marques d'affections de la part "d'être humain".
3  2 
Avatar de awesomeman
Membre habitué https://www.developpez.com
Le 06/08/2018 à 13:50
#Detroitbecomehuman ...
c'est tellement ridicule.
Quand on éteint son four, on a pas un pincement au coeur. Meme si une voix type cortana nous supplie ...
Ça reste une boite de conserve.
3  3 
Avatar de awesomeman
Membre habitué https://www.developpez.com
Le 06/08/2018 à 14:47
Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments
Je suis absolument d'accord sur ce point, mais pour moi, cela relève plus d'un fantasme au court/moyen terme.
Pourquoi ? Parce que nous ne savons que très très peu de choses sur la conscience, l’âme et tout ce qui n'est pas facilement palpable.
3  3 
Avatar de onilink_
Membre émérite https://www.developpez.com
Le 06/08/2018 à 16:26
Citation Envoyé par scandinave Voir le message
Dans ce cas précis oui, cela peut paraître ridicule. Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments. Qu'est ce qu'il nous différencierait d'eux? Le fait qu'il soit en métal et nous non? Sera-t-il moins "humain" de tuer un robot qu'un être humain?

Ce que je veux dire c'est que ce si l'on considère que ce qui nous définis en tant qu'être humain , ce n'est pas notre corps mais notre esprit, alors on peut très bien concevoir que des robots doués d'un esprit comme le notre puissent avoir les mêmes droits que nous et puisse recevoir des marques d'affections de la part "d'être humain".
Je suis tout a fait d'accord, sauf que je rajouterais que la plupart des gens n'y comprennent rien techniquement.
Ce qui fait que pour beaucoup, il n'est pas impensable de voir les robots actuels comme "doués de conscience ou presque". Ce qui amplifie l'effet dont parle la news.
Y a qu'a voir le côté magique qu'a l'informatique pour de nombreuses personnes...

Citation Envoyé par mamadoudou Voir le message
c'est tres simple, un robot c'est un objet fabriqué par l'homme pour servir l'homme.
A moins que ce robot utilise un cerveau biologique (es ce toujours un robot dans ce cas ?), il ne sera qu'un ensemble bêtes de lignes de code, donc aucune pitié.
Mais au pris que sa coute, un humain rationnel en prendra soin quoi qu'il arrive.
Le problème justement, c'est que plus la technologie évolue, plus les algorithmes sont voués a ne plus être de "bêtes lignes de code".
L'intelligence artificielle de nos jours c'est grandement basé sur des boites noires, très difficile a décortiquer et à comprendre.

On arrivera à ce fameux moment ou on aura potentiellement recrée la conscience, ou une forme de conscience (disons des machines capables de passer parfaitement le test de Turing voir plus), mais ou deux camps s'affronteront inlassablement:
- ceux qui n'ont pas forcement conscience du fonctionnement interne de la machine, et vont donc la voir comme consciente car très complexe: capable d'évoluer, d’interagir parfaitement, d'apprendre
- ceux qui vont la voir d'un point de vue assez froid, en connaissant les mécanismes internes, et en la traitant de machine, "donc" non consciente

Le problème de mon point de vue c'est que les deux ont tord.
La conscience ce n'est pas un état binaire, et machine ou biologique n'impliquent ni l'un ni l'autre non conscient et conscient.
De plus on veut toujours définir la conscience comme le propre de l'homme, comme un mécanisme assez magique pour ne pas être comparable a "des algorithmes".
Mais pourquoi cela ne serait pas le cas?

Considère-t-on une mouche comme consciente? Non. Pourtant des études ont montré que la mouche possède un certain niveau de conscience (conscience de son corps, esprit de préservation, etc).
Un animal alors? Jusqu'à récemment on a toujours attribué la conscience uniquement a l'homme. Mais pourtant plus on étudie les animaux, plus on découvre que certains sont très proche de nous.

Citation Envoyé par mamadoudou Voir le message
Quel et l’intérêt d'en faire des humains (au sens juridique) comme la série real humans ? quel est l’intérêt de donné des droits ou ne serres ce une quelqu’une considération à des lignes de code ?
Un robot reste et dois rester une chose.
Parce que l'homme préfère interagir avec des robots à l'image de l'homme, ou capables de nous comprendre. Sinon on aurait pas besoin d'interfaces homme machines plus évoluées qu'une GUI ou de la programmation.

Et ça fait parti fondamentalement du problème. Plus on va vouloir des algorithmes capables de nous comprendre, plus on risque de devoir recréer quelque chose de plus ou moins conscient, ou proche de nous.
Et si tu crée un être conscient, c'est immoral de ne pas lui donner certains droits.
3  3 
Avatar de Sarénya
Membre habitué https://www.developpez.com
Le 06/08/2018 à 16:52
Citation Envoyé par mamadoudou Voir le message
c'est tres simple, un robot c'est un objet fabriqué par l'homme pour servir l'homme.
[...]
quel est l’intérêt de donné des droits ou ne serres ce une quelqu’une considération à des lignes de code ?
Un robot reste et dois rester une chose.
Tout dépend du point de vue.

Je vois les choses très différemment. Un humain agit et "vie" par de simple signaux électrique qui parcours son corps donc pourquoi il ne serait pas tout simplement un robot avec un programme très complexe ?

Si demain il y a des robots capable de se reconnaitre, de vouloir vivre et qu'ils sont capable de raisonner par rapport au circonstances et d'apprendre, en quoi seront t'ils bien différents de nous à par qu'ils seront en métal ?
Ce sera l'homme qui l'aura créé donc on peut dire qu'il n'est pas "vivant" car rien de plus qu'une création qui lui dicte le comportement initial qu'il aura. Mais ne serions nous pas pareil ? Un bébé sait se faire remarquer, sait téter au sein, toute les choses notre corps nous pousse à avoir envie (puberté, reproduction, perpétuer l’espèce tout ça...) et son comportement et son raisonnement sera fonction de son vécu et de son apprentissage/éducation/environnement. Notre "créateur" serait "le hasard de l’existence" (ou dieu si on veut ça ne changerai rien), et l'homme aurait créé une éventuelle nouvelle forme de vie.

Bref, personnellement je pense que j'aurais autant d’empathie envers une machine comme décrite plus haut, qu'un autre être humain.
2  2 
Avatar de phil_tema
Membre régulier https://www.developpez.com
Le 06/08/2018 à 23:21
Blade runner, pardon...!
0  0