Faut-il accorder aux robots un statut juridique ?
La question qui divise les législateurs et les experts en IA en Europe

Le , par Coriolan, Chroniqueur Actualités
Faut-il accorder aux robots un statut juridique ? C’est la question qui occupe actuellement les experts en IA, et pour cause, un paragraphe bien enfoui dans un rapport du Parlement européen publié en janvier 2017, suggère qu’il est nécessaire d’attribuer des « personnalités électroniques » à certains robots :

« La création, à terme, d'une personnalité juridique spécifique aux robots, pour qu'au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables de réparer tout dommage causé à un tiers ; il serait envisageable de considérer comme une personne électronique tout robot qui prend des décisions autonomes ou qui interagit de manière indépendante avec des tiers. »

Traduction, cette recommandation suggère de tenir pour responsables les robots autonomes, notamment au cas où ces machines portent atteinte à la sécurité des gens ou bien endommagent des biens.

Les parties derrière cette proposition, notamment des constructeurs, prétendent que ce changement relève du bon sens. Un statut juridique ne va pas octroyer aux robots le droit de se marier ou bien de bénéficier des mêmes droits que des humains. Loin de là, elle va mettre à pied d’égalité l’IA avec les sociétés, qui elles bénéficient déjà du statut de « personne morale », et sont traitées comme tel dans les tribunaux du monde entier.

Mais ces arguments ne convainquent pas les opposants à cette proposition. Dans une lettre adressée à la Commission européenne, 156 experts en intelligence artificielle de 14 pays européens, des informaticiens, des professeurs de droit et des PDG ont mis en alerte Bruxelles sur le danger de mettre en application cette proposition. Selon eux, attribuer un statut juridique aux robots serait « inapproprié » et pose des problèmes « légaux et éthiques ».

Du côté des autorités législatives, Mady Delvaux, vice-présidente de la Commission judiciaire du Parlement européen et députée socialiste luxembourgeoise, a dit que bien qu’elle n'est pas sûre si le fait d’attribuer une personnalité juridique est une bonne idée, elle est de plus en plus convaincue que la législation actuelle est limitée et se montre incapable de traiter les problèmes complexes qui concernent la responsabilité des machines autonomes. Pour cette raison, elle pense que toutes les options doivent être explorées.

Une position que rejettent catégoriquement les experts en IA dans leur pétition et pour qui cette proposition relève quasiment de l'hérésie.

« En adoptant le statut juridique, nous allons supprimer la responsabilité des constructeurs, » s’alerte Nathalie Navejans, professeure de droit à l'Université d'Artois, à Arras, à l'initiative de la tribune.

Noel Sharkey, professeur d’intelligence artificielle et de robotique à l’université de Sheffield est lui aussi d’accord que pour les constructeurs, cette proposition constitue un moyen de se dédouaner de la responsabilité des actions de leurs machines et des dommages qu’elles pourraient causer.

Des robots qui seraient dotés d’une intelligence similaire à celles des humains et capable de prendre des décisions sont encore loin d’exister. Aujourd’hui, les robots font mieux que les humains dans certaines tâches spécifiques, voire des applications restreintes, comme la reconnaissance d’images, ou encore jouer au jeu de Go.

Mais ces applications bien qu’elles soient avancées restent limitées à un seul domaine. Jouer à Go, ou bien catégoriser des images constituent tout ce que peuvent faire ces machines, contrairement aux humains qui peuvent à la fois comprendre le langage, apprendre à jouer à une variété de jeux et reconnaître des images.

En dépit de cette réalité, les rapports exagérés des médias sur les avancées dans la robotique ont infiltré le débat public. En conséquence, les législateurs pourraient être poussés à adopter des régulations prématurées, alertent les signataires de la lettre.

En gros, les experts accusent les partisans de cette proposition de surestimer intentionnellement les capacités d’intelligence artificielle pour duper un public facilement impressionnable : « D'un point de vue technique, ce projet présente de nombreux biais basés sur une surévaluation des capacités réelles des robots les plus avancés, une compréhension superficielle de leur imprévisibilité et de leurs capacités d'autoapprentissage et une perception du robot déformée par la science-fiction ainsi que par les annonces récentes d'une presse sensationnaliste », estiment-ils.


Le robot humanoïde Sophia

Selon certains chercheurs, aucun robot n’a réussi à faire véhiculer des notions aussi erronées sur la robotique que le robot Sophia : un robot humanoïde qui a fait sa première apparition en mars 2016, puis s’est vu octroyer la citoyenneté saoudienne, un titre des Nations Unies et a inauguré La Conférence de Sécurité à Munich cette année.

« Je ne suis pas contre l’idée d’un robot pour le spectacle, » a dit Sharkey, qui a cosigné la lettre et a aussi cofondé la Fondation de la Robotique Responsable. « Mais quand ils commencent à l’entraîner à l’ONU et à donner aux nations une fausse idée sur ce que peut faire la robotique et l’état de l’IA actuellement, c’est très, très dangereux. »

Il a ajouté : « C’est très dangereux pour les législateurs également. Ils voient ça et le croient, car ils ne sont pas des ingénieurs et il n’y a aucune raison pour qu’ils n’y croient pas. »
Octroyer une personnalité juridique à des robots pose d’autres problèmes d’un point de vue éthique et juridique : par exemple, le robot pourrait alors se prétendre à des droits humains, tels que le droit à la dignité, le droit à son intégrité, le droit à la rémunération ou le droit à la citoyenneté.
Les experts insistent aussi que ce statut juridique des robots ne peut pas être comparé au modèle de la personne morale, car contrairement à une société, un robot n’a pas de personne physique derrière lui pour le représenter et le diriger.

Dans leur lettre, les 156 experts en IA avancent que les lois civiles actuelles de l’UE sont suffisantes pour adresser les questions de responsabilité.

Delvaux a pour sa part dit que l’idée d’une personnalité électronique ne consiste pas à donner aux robots des droits humains, mais de s’assurer qu’un robot est et restera une machine avec un humain aux commandes. Le projet est toujours en discussion à Bruxelles : « Peut-être qu'à la fin, on arrivera à la conclusion que ce n'est pas une si bonne idée », a déclaré Delvaux.

Source : Politico - Le Figaro

Et vous ?

Que pensez-vous de cette recommandation du Parlement européen ?
Êtes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?
Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Voir aussi :

Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
L'EFF appelle à ne pas utiliser l'intelligence artificielle pour la guerre, s'adressant à Google et aux entreprises de l'IA
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de strato35 strato35 - Futur Membre du Club https://www.developpez.com
le 16/04/2018 à 16:05
- Que pensez-vous de cette recommandation du parlement européen ?

Je reste agnostique sur le sujet, par contre si ça se concrétise un jour jusqu'a se rapprocher du droit des humains, ça va donner des situations marrante
(ex : Puis-je me marier avec un robot ? Si oui, si il tombe en panne, suis-je veuf ? Et si feu mon robot avais une assurance vie ?)

- Etes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?

Dans la mesure où la machine est capable de passer un test de Turring, et agir comme une personne physiquement parlant, je suis pour, mais on en est encore loin, ou alors ça ne se croise pas au premier coin de rue. Quoi que les parents se dédouane de la responsabilité parentale dès lors que l'enfant a plus de 18 ans ... et certains a 18 ans ne sont pas encore suffisamment développé ... (j'exclue tout handicap de cette réflexion, sauf si la connerie est un handicap reconnus)

- Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Dans l'état oui, mais si les différentes I.A du monde se voient un jour combinées en une seule, là je pense qu'on peu arriver a une I.A tel que pensée dans la SF et par les médias.
Avatar de Theta Theta - Membre éclairé https://www.developpez.com
le 16/04/2018 à 16:36
« La création, à terme, d'une personnalité juridique spécifique aux robots [...]»

Ouai, ok, à terme, la question peut se poser. On en reparle donc dans 10 ou 20 ans.

Débattre de ça aujourd'hui c'est du troll ou de l'incompétence.

D'ailleurs, pour nourrir un peu le troll, si les IA d'aujourd'hui ont droit à une personnalité juridique, alors les animaux, qui sont beaucoup plus intelligents que les IA actuelles, devraient y avoir droit aussi. Trop bien on va pouvoir faire des procès d'animaux comme au moyen-age!
Avatar de ParseCoder ParseCoder - Membre actif https://www.developpez.com
le 16/04/2018 à 16:54
>Que pensez-vous de cette recommandation du parlement européen ?

Ils sont tombés sur la tête!

>Etes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?

Clairement

>Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Je pense qu'il y a une profonde incompréhension de ce qu'est aujourd'hui l'IA. Je pense que c'est vu comme de la magie, et les chercheurs en IA comme des magiciens, voire des sorciers. Il y a toute une éducation à faire pour que les gens comprennent que fondamentalement ce n'est rien d'autre que des stats, des stats très poussés certes mais rien que des stats.
C'est aussi à rapprocher de l'incompréhension, ou du moins du manque de consensu, à propos de ce qu'est l'intelligence et la conscience.
Avatar de Aurelien Plazzotta Aurelien Plazzotta - Membre éprouvé https://www.developpez.com
le 16/04/2018 à 18:02
En dotant les robots d'une personnalité juridique, ces derniers seront capables de signer et établir des contrats. Cela signifie pouvoir aquérir des marchandises ou vendre des prestations.
Les robots pourront donc acheter du pain, mais aussi une maison, un véhicule ou même se vendre comme travailleur et nous rendre obsolète.
Ils auront aussi le droit de grève ou même le droit de dénoncer un citoyen malhonnête.

Leur histoire de rendre les robots responsables de leurs actions, c'est juste un écran de fumée pour faire avaler la pilule sécuritaire, mais ça va faire des robots l'égal d'un humain avec toutes les conséquences nuisibles que cela implique... :/
Cette entourloupe va faire décoller le marché de la cybernétique et justifier la commercialisation d'implants électroniques pour augmenter artificiellement nos capacités cognitives afin de rester compétitif face aux machines.
Avatar de MikeRowSoft MikeRowSoft - I.A. en bêta-test https://www.developpez.com
le 16/04/2018 à 19:23
Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?
Si une I.A. (dans son ensemble SW et HW, système complet ou complétant) réalise un exploit qui lui vaut une entrée dans le " livre des records ", cette place est à l'I.A. ou à son créateur (équipe de créateur) ?
CQFD de pas encore résolu...
Avatar de rawsrc rawsrc - Modérateur https://www.developpez.com
le 16/04/2018 à 19:53
Parfois, DVP est magique !
Lire une I.A. en bêta-test philosopher sur ses petits camarades, c'est juste grandiose. J'adore.
De moins en moins bêta et de plus en plus RTM
Avatar de Neckara Neckara - Expert éminent sénior https://www.developpez.com
le 16/04/2018 à 19:59
Citation Envoyé par vayel Voir le message
les plus grand chercheur,génie et artiste était déconsiderer de leurs vivant, Darwin, Stanley Kubrick
Cette affirmation est déjà fausse, déjà parce qu'il a existé des génies très biens "considérés de leurs vivants", mais de plus, car même les chercheurs "déconsidérés", ne l'étaient pas par tous. En effet, dans le cas de Darwin, pour reprendre ton exemple, s'il y a eu une si grande controverse, c'est bien parce qu'il avait aussi des personnes "de son côté".

Mais je salues tout de même ton génie à avoir réussi en quelques phrases à nous faire un complexe de Galilée, une hypothèse auto-immunisante, et un sophisme par association.
Avatar de marsupial marsupial - Membre chevronné https://www.developpez.com
le 16/04/2018 à 20:56
Pendant que les coupeurs de cheveux en 4 discutent, d'autres avancent.
Vous allez nous pondre des champions, il n'y a plus aucun doute maintenant... Mais pas en IA ou intelligence tout court

- Je peux dire vayel ?
- On n'a plus de vayel, juste des consonnes.
- Consonne alors
- C
- Consonne
- P
- Consonne
- On n'a plus de consonne non plus. Qu'avez vous trouvé ?
- PC
- Pas mieux

Les inconnus - les chiffres et les lettres en RDA.
Avatar de Matthieu Vergne Matthieu Vergne - Expert éminent https://www.developpez.com
le 16/04/2018 à 21:23
Citation Envoyé par Coriolan Voir le message
Que pensez-vous de cette recommandation du parlement européen ?
Il faudrait clarifier le parallèle avec la personne morale. Une personne morale dispose de droits et de devoirs, a contrario d'un objet. Un robot ayant des devoirs, cela peut sembler cohérent, mais comparé à un simple objet qui ne doit pas être utilisé de telle ou telle manière (e.g. un couteau de cuisine pour tuer quelqu'un), il est difficile de dire si une telle notion de devoir aurait une réelle valeur ajoutée. Tout dépend de la définition d'"autonomie". Un robot ayant des droits, par contre, ça choque, et pour cause : on ne doit rien à un robot, s'il ne fait pas ce qu'on veut, on le répare ou on s'en débarrasse.

Si la conclusion est que la discussion est loin d'être terminée, alors je n'ai rien contre. L'important est de ne pas faire les choses trop vite (et mal).

Citation Envoyé par Coriolan Voir le message
Êtes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?
Le contraire serait plus étonnant, vu que c'est tout dans leur intérêt. Plus l'outil est imprévisible, mieux vaut se dédouaner. Mais je pense qu'ils devraient plutôt se tourner vers des solutions d'assurances, qui servent justement à cela : diluer le risque des aléas. En tout cas, une solution d'assurance plutôt qu'une solution législative me semble bien plus pragmatique.

Citation Envoyé par Coriolan Voir le message
Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?
Ça a toujours été le cas, ça l'est encore, et ça le restera encore tant qu'on n'aura pas de changement de paradigme en IA. Je pense que beaucoup sont ceux qui ont rêvé des histoires d'IA dans la SF, qui ont orienté leurs études et leur carrière dans l'espoir de faire de grandes choses à ce niveau, et ont finalement vu leurs rêves s'éroder en constatant les faits. On ne crée pas d'entité intelligente dans le domaine de l'IA, il serait temps que les gens du domaine le reconnaissent publiquement.

Citation Envoyé par strato35 Voir le message
- Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Dans l'état oui, mais si les différentes I.A du monde se voient un jour combinées en une seule, là je pense qu'on peu arriver a une I.A tel que pensée dans la SF et par les médias.
L'IA n'est pas un simple puzzle. Il ne suffit pas de mettre des bouts ensembles, dans le bon sens, pour obtenir ce qu'on a pu voir dans les films de SF. Il y a des aspects fondamentaux qui n'ont pas été étudiés correctement du fait d'un biais très technique dans le domaine de l'IA. On a des défauts de design prépondérants, du fait d'un manque cruel de conceptualisation de la notion d'intelligence. C'est comme partir du principe qu'on saurait faire un rasoir de précision en combinant des lames de couteaux de cuisine, de couteaux suisses, de tondeuses, de scalpel, etc. Non on n'aurait pas un rasoir de précision, juste un gros bouzin incontrôlable et incompréhensible. Il ne s'agit pas juste de mettre un peu au hasard des tas de trucs, et de tomber miraculeusement sur un truc qui "a l'air de" pour se dire que c'est bon, on a trouvé. La science, ce n'est pas de la magie, il faut savoir expliquer ce qui se passe.

Oui, on pourrait faire de la programmation génétique jusqu'à trouver un "truc" qui semble avoir tous les comportements qu'on s'attend à avoir d'une IA, mais ça ne suffirait pas pour dire que c'en est une.
Avatar de MikeRowSoft MikeRowSoft - I.A. en bêta-test https://www.developpez.com
le 16/04/2018 à 21:39
Citation Envoyé par vayel Voir le message
tres bonne remmrque, mais je pense pas qu'ici y'ai des gens assez compétents capable d'y appoter une réponse, ici nous sommes des amateurs pas des pro
ça leur fait plaisir et puis j'ai pris l'habitude du " bizutage " depuis le temps...

tu devrais partir sur les traces de l'autonomie énergétique et de la subsistance sociale.
j'ai vraiment du mal à croire qu'un pays payerai une I.A. sachant qu'elle est au chômage.
il y a plus de chance que le bouton "arrêt" soit appuyé...
surtout que les formations théoriques/pratiques pour I.A. sont surement très rapide sans compter les upgrades HW.

Franchement, la transition Terminator vers Matrix est bien une de mes ambitions cachés (Patlabor OAV 1) même ci la machine à voyager dans le temps donne la victoire aux humains dans " une seule réalité "...
Contacter le responsable de la rubrique Accueil