Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov

Le , par Coriolan

22PARTAGES

10  4 
Les trois lois de la robotique ont été formulées par l’écrivain de science-fiction Isaac Asimov, ce sont des règles auxquelles doivent obéir les robots positroniques qui apparaissent dans ses romans. Selon ces lois, un robot ne peut porter atteinte à un être humain ni en restant passif, permettre qu'un être humain soit exposé au danger. Il doit obéir également aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi. Enfin, un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Beaucoup de films comme Terminator illustrent comment des robots intelligents pourraient être une menace grave pour les humains, une crainte renforcée par l’augmentation de la complexité des robots et l’avancée considérable de la technologie en termes d’intelligence artificielle. C’est dans cette optique qu’un ingénieur de l’Université de Berkeley a créé un bras robotisé destiné à blesser des humains dès qu’ils se mettent à proximité. Le bras est équipé d’une lame fine qui bouge en direction de la chair humaine avec précision. La particularité de ce robot est qu’il est imprédictible, c’est-à-dire qu’il n’est pas programmé pour blesser des humains à la volée ; loin de là, il peut décider seul à l’aide d’un algorithme quelle action entreprendre. En d’autres termes, ce bras robotisé entre en conflit direct avec la première loi d’Asimov, qui stipule qu’un robot ne doit pas blesser un humain.

De nos jours, on est entré dans l’ère de la robotique, où des machines dotées d’intelligence artificielle sont supposées prendre des décisions autonomes, loin de l’intervention humaine. Un exemple de ces machines qui vont bientôt entrer en production en masse est les voitures sans conducteur. Ces voitures seront mises dans des scénarios où elles doivent décider à elles seules de sauver les passagers à bord ou bien donner la priorité à un groupe de piétons.

Les mouvances technophile et transhumaniste voient parfois les trois lois comme un idéal à venir. Beaucoup pensent qu’elles sont insuffisantes et ne correspondent pas à la problématique de l’intelligence artificielle. Asimov lui-même a été amené à corriger certaines imperfections de ses lois et a ajouté une quatrième loi, appelée loi zéro et statuant qu’un robot ne peut pas porter atteinte à l'humanité ni par son inaction, permettre que l'humanité soit exposée au danger. À noter aussi que les trois lois ne sont pas applicables pour les robots militaires qui peuvent avoir pour objectif de tuer des personnes humaines. Dans un tel cas, il est proposé que les robots puissent prendre des décisions éthiques.



Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Les hackers seront bientôt capables de s'infiltrer dans votre cerveau, en compromettant les interfaces de contrôle cérébral, d'après des chercheurs

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 01/09/2016 à 6:28
Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov
je suis le seul à trouver ça complètement con ?

il parait que d'autres chercheurs mettent en ce moment même au point un sèche cheveu géant permettant de faire fondre la calotte glacière bien plus vite, dans le but de prouver que Noé n'a pas pu construire une arche aussi rapidement...
21  2 
Avatar de forthx
Membre éclairé https://www.developpez.com
Le 01/09/2016 à 10:20
ca ressemble a un exercice d’école, 2 étudiants devant le bras robot avant le tp:
- tu imagine si on pouvais faire un robot qui joue a la roulette russe ?
- trop cool ! mais c'est con : le bras il a pas de tete !
- ben on a qu'a le faire jouer avec un humain...
- Ha mais ca va pas, Asimov a dit que ...
- Pour le moment c'est contraire a aucune loi ! par contre mon gun rentre pas dans la pince du robot.
- pas grave on a qu'a lui donner un sarbe, on appellera ca la "coupette russe".
- tu a un sabre toi ?
- non, j'ai juste une épingle...
- aller envoi, félicitation tu est l'heureux créateur de la "piquette russe"
- Du coup on va devoir faire un random sur l'attaque du robot
...
- Hé Kevin vien voir ! On a un truc génial a te montré ! Regarde, met ton doit la...
- AIE !
15  0 
Avatar de Haseo86
Membre éclairé https://www.developpez.com
Le 01/09/2016 à 8:46
Au delà du fait qu'on se demande quel est l'intérêt d'avoir fabriquer ce robot si ce n'est faire parler de lui, je ne comprend pas le "débat".

En quoi est-ce étonnant qu'un robot ne respecte pas les lois d'Asimov ? C'est pas comme s'il s'agissait d'une règle universelle, que tous les hommes avaient jurés de toujours respecter, ou s'il s'agissait d'une espèce de vérité absolue, comme si Asimov était intrinsèquement un modèle de pensée pour toute intelligence artificielle à venir.

Vraiment je ne comprend pas ce qu'essaie de nous dire cet article, ni finalement ce qu'essaie de prouver le créateur du robot. En quoi est-ce surprenant, en quoi cela soulève-t-il des questions particulières ? Je veux dire, il y a vraiment des gens qui pensaient qu'on ne pouvait pas créer un robot qui pourrait décider aléatoirement de blesser un doigt qui passe par là ? Ou quoi, que le robot aurait de lui-même dit "non non, c'est un humain, je peux pas le blesser, bouh, c'est mal" ?

Sans parler du gars qui fait une vidéo de 30 secondes, sans réelle explication, mais en montrant pendant deux tiers du temps son doigt qui saigne (c'est cool mon gars, tu saignes, c'est bien, on passe à autre chose ?), et qui a clairement, vu son site, plus une démarche artistique que scientifique. On ne sait rien de sa démarche, de la façon dont le robot décide. Pour ce qu'on en sait ça peut très ben être juste un tirage aléatoire quand quelque chose se présente sur le capteur, sans chercher à savoir si c'est humain ou non, et sans réel processus de décision. Et il affirme avoir créé le premier robot de ce genre, et franchement j'en doute très fortement.

Bref, je veux bien qu'on m'explique l'intérêt de tout ça (pas des réflexions sur l'éthique en robotique hein, l'intérêt de faire des publications autour de ce bras articulé).
13  1 
Avatar de Zefling
Membre expert https://www.developpez.com
Le 01/09/2016 à 8:55
Il agit volontairement, ignorant la première loi d'Asimov
Rien que cette phrase rend l'article ridicule. D'une qui à dit que les lois d'une roman de fiction était la vérité absolue ? Si c'était le cas, il n'y aurait aucun accident avec les robots dans l'industrie. Un robot, par définition ça fait ce qu'on lui a programmé, si c'est de trancher de tête, il le ferra sans le moindre remord. Oui, il faudrait déjà lui faire comprendre ce qu'est le remord, l'empathie, la morale, l'éthique... des notions purement humaine qui peuvent varier d'une individu à l'autre, d'une culture à une autre.
12  1 
Avatar de Aurelien Plazzotta
Membre extrêmement actif https://www.developpez.com
Le 01/09/2016 à 8:01
Il me semble que l'objectif de ce bras est d'évaluer les conséquences de l'imprédictibilité d'un automate. Un exemple est cité dans l'article : observer le comportement d'une machine autonome de type véhicule automobile, ayant la responsabilité de la vie d'êtres humains.

Les travaux dans le domaine de l'IA ont démontré qu'une machine appliquant les trois lois fondamentales d'Isaac Asimov peut donner des comportements absurdes en raison des absolus mathématiques qui empêchent parfois le robot de sortir d'un cercle vicieux interminable (voir l'expérience de l'uranium à extraire). C'est, je pense, la raison pour laquelle de nouveaux travaux comme celui cité dans ledit article tendent à explorer de nouvelles pistes en violant délibérément la première loi.

L'objectif actuel étant probablement pour un constructeur automobile de contrôler si le véhicule sans conducteur ne fait pas "pire" qu'un automobiliste humain dans une situation à grand danger (e.g. lorsqu'il n'est pas possible de sauver à la fois les passagers de la voiture ET les piétons qui traversent la rue). Le cas échéant, les pouvoirs publics voteront une législation favorable pour la commercialisation de masse de véhicules autonomes.
10  1 
Avatar de yoyo3d
Membre éclairé https://www.developpez.com
Le 01/09/2016 à 8:39
Dans un tel cas, il est proposé que les robots puissent prendre des décisions éthiques.
ha ba elle est balaise celle là...y à pas plus inhumain que l'être humain... et on veut demander à des machines programmées par l'homme de prendre des décisions éthiques....

Du point de vue informatique je serais curieux de voir comment il à programmer son "Agression" qui va à l'encontre des lois d'Asimov. et du point de vue philosophique, y à certainement des recherches plus stupide que celle la, mais y aussi des sujets plus utiles...
8  0 
Avatar de Waikiki
Membre du Club https://www.developpez.com
Le 01/09/2016 à 9:18
Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.
8  0 
Avatar de Askeridos
Membre régulier https://www.developpez.com
Le 01/09/2016 à 7:38
Citation Envoyé par BufferBob Voir le message
je suis le seul à trouver ça complètement con ?
Non, rassures-toi, on est deux.

N'oublions pas qu'Isaac Asimov était un auteur de SF....
8  1 
Avatar de Gugelhupf
Modérateur https://www.developpez.com
Le 01/09/2016 à 9:35
Ce robot semble avoir un cerveau positronique défectueux, l'homme à qui il aurait causé la piqure sanglante serait mort dans des circonstances douteuses... Il faut vite appeler l'inspecteur Elijah Bailey pour résoudre cette enquête.
6  0 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 01/09/2016 à 23:06
Citation Envoyé par zoonel Voir le message
putaclick
on voit ici un parfait exemple de l'information niveau zéro, juste là pour générer du click sans apporter quoi que ce soit d'intéressant. C'est la nullité du journalisme actuel.
Cet article est complètement vide, pourquoi un tel robot, a t'il été construit avec un algorithme cherchant à répondre aux "lois d'asimov", etc.. mais c'est sur qu'avec une vidéo de 30 sec ne montrant quasi rien on est pas avancé et il faut bien broder avec du asimov et embrayer sur un débat machine intelligente.
Ici on a une pauvre machine qui agit aléatoirement, qui n'a aucun intérêt et qui ne mérite pas d'être en article.
Bien sur que la news est une blague, même sans la lire on sait que c'est une blague avant de cliquer, si tu as pas d'humour et que tu aimes pas rigoler c'est ton problème, elle doit être triste ta vie, et c'est pas une raison d'insulter pareillement la personne qui à fait cette news, qui semble bien avoir amusé la galerie en tout cas, et même si le prétexte est une blague le sujet est intéressant, preuve en est ce débat...
Pour lancer le débat tu voulais quoi ? une démo d'un robot avec un cerveau positronique ou sont programmés les 3 lois d'Asimov ?
La démo elle existe, ici :

6  0