Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Faut-il accorder aux robots un statut juridique ?
La question qui divise les législateurs et les experts en IA en Europe

Le , par Coriolan

105PARTAGES

8  0 
Faut-il accorder aux robots un statut juridique ? C’est la question qui occupe actuellement les experts en IA, et pour cause, un paragraphe bien enfoui dans un rapport du Parlement européen publié en janvier 2017, suggère qu’il est nécessaire d’attribuer des « personnalités électroniques » à certains robots :

« La création, à terme, d'une personnalité juridique spécifique aux robots, pour qu'au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables de réparer tout dommage causé à un tiers ; il serait envisageable de considérer comme une personne électronique tout robot qui prend des décisions autonomes ou qui interagit de manière indépendante avec des tiers. »

Traduction, cette recommandation suggère de tenir pour responsables les robots autonomes, notamment au cas où ces machines portent atteinte à la sécurité des gens ou bien endommagent des biens.

Les parties derrière cette proposition, notamment des constructeurs, prétendent que ce changement relève du bon sens. Un statut juridique ne va pas octroyer aux robots le droit de se marier ou bien de bénéficier des mêmes droits que des humains. Loin de là, elle va mettre à pied d’égalité l’IA avec les sociétés, qui elles bénéficient déjà du statut de « personne morale », et sont traitées comme tel dans les tribunaux du monde entier.

Mais ces arguments ne convainquent pas les opposants à cette proposition. Dans une lettre adressée à la Commission européenne, 156 experts en intelligence artificielle de 14 pays européens, des informaticiens, des professeurs de droit et des PDG ont mis en alerte Bruxelles sur le danger de mettre en application cette proposition. Selon eux, attribuer un statut juridique aux robots serait « inapproprié » et pose des problèmes « légaux et éthiques ».

Du côté des autorités législatives, Mady Delvaux, vice-présidente de la Commission judiciaire du Parlement européen et députée socialiste luxembourgeoise, a dit que bien qu’elle n'est pas sûre si le fait d’attribuer une personnalité juridique est une bonne idée, elle est de plus en plus convaincue que la législation actuelle est limitée et se montre incapable de traiter les problèmes complexes qui concernent la responsabilité des machines autonomes. Pour cette raison, elle pense que toutes les options doivent être explorées.

Une position que rejettent catégoriquement les experts en IA dans leur pétition et pour qui cette proposition relève quasiment de l'hérésie.

« En adoptant le statut juridique, nous allons supprimer la responsabilité des constructeurs, » s’alerte Nathalie Navejans, professeure de droit à l'Université d'Artois, à Arras, à l'initiative de la tribune.

Noel Sharkey, professeur d’intelligence artificielle et de robotique à l’université de Sheffield est lui aussi d’accord que pour les constructeurs, cette proposition constitue un moyen de se dédouaner de la responsabilité des actions de leurs machines et des dommages qu’elles pourraient causer.

Des robots qui seraient dotés d’une intelligence similaire à celles des humains et capable de prendre des décisions sont encore loin d’exister. Aujourd’hui, les robots font mieux que les humains dans certaines tâches spécifiques, voire des applications restreintes, comme la reconnaissance d’images, ou encore jouer au jeu de Go.

Mais ces applications bien qu’elles soient avancées restent limitées à un seul domaine. Jouer à Go, ou bien catégoriser des images constituent tout ce que peuvent faire ces machines, contrairement aux humains qui peuvent à la fois comprendre le langage, apprendre à jouer à une variété de jeux et reconnaître des images.

En dépit de cette réalité, les rapports exagérés des médias sur les avancées dans la robotique ont infiltré le débat public. En conséquence, les législateurs pourraient être poussés à adopter des régulations prématurées, alertent les signataires de la lettre.

En gros, les experts accusent les partisans de cette proposition de surestimer intentionnellement les capacités d’intelligence artificielle pour duper un public facilement impressionnable : « D'un point de vue technique, ce projet présente de nombreux biais basés sur une surévaluation des capacités réelles des robots les plus avancés, une compréhension superficielle de leur imprévisibilité et de leurs capacités d'autoapprentissage et une perception du robot déformée par la science-fiction ainsi que par les annonces récentes d'une presse sensationnaliste », estiment-ils.


Le robot humanoïde Sophia

Selon certains chercheurs, aucun robot n’a réussi à faire véhiculer des notions aussi erronées sur la robotique que le robot Sophia : un robot humanoïde qui a fait sa première apparition en mars 2016, puis s’est vu octroyer la citoyenneté saoudienne, un titre des Nations Unies et a inauguré La Conférence de Sécurité à Munich cette année.

« Je ne suis pas contre l’idée d’un robot pour le spectacle, » a dit Sharkey, qui a cosigné la lettre et a aussi cofondé la Fondation de la Robotique Responsable. « Mais quand ils commencent à l’entraîner à l’ONU et à donner aux nations une fausse idée sur ce que peut faire la robotique et l’état de l’IA actuellement, c’est très, très dangereux. »

Il a ajouté : « C’est très dangereux pour les législateurs également. Ils voient ça et le croient, car ils ne sont pas des ingénieurs et il n’y a aucune raison pour qu’ils n’y croient pas. »
Octroyer une personnalité juridique à des robots pose d’autres problèmes d’un point de vue éthique et juridique : par exemple, le robot pourrait alors se prétendre à des droits humains, tels que le droit à la dignité, le droit à son intégrité, le droit à la rémunération ou le droit à la citoyenneté.
Les experts insistent aussi que ce statut juridique des robots ne peut pas être comparé au modèle de la personne morale, car contrairement à une société, un robot n’a pas de personne physique derrière lui pour le représenter et le diriger.

Dans leur lettre, les 156 experts en IA avancent que les lois civiles actuelles de l’UE sont suffisantes pour adresser les questions de responsabilité.

Delvaux a pour sa part dit que l’idée d’une personnalité électronique ne consiste pas à donner aux robots des droits humains, mais de s’assurer qu’un robot est et restera une machine avec un humain aux commandes. Le projet est toujours en discussion à Bruxelles : « Peut-être qu'à la fin, on arrivera à la conclusion que ce n'est pas une si bonne idée », a déclaré Delvaux.

Source : Politico - Le Figaro

Et vous ?

Que pensez-vous de cette recommandation du Parlement européen ?
Êtes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?
Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Voir aussi :

Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
L'EFF appelle à ne pas utiliser l'intelligence artificielle pour la guerre, s'adressant à Google et aux entreprises de l'IA
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de ParseCoder
Membre averti https://www.developpez.com
Le 16/04/2018 à 16:54
>Que pensez-vous de cette recommandation du parlement européen ?

Ils sont tombés sur la tête!

>Etes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?

Clairement

>Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Je pense qu'il y a une profonde incompréhension de ce qu'est aujourd'hui l'IA. Je pense que c'est vu comme de la magie, et les chercheurs en IA comme des magiciens, voire des sorciers. Il y a toute une éducation à faire pour que les gens comprennent que fondamentalement ce n'est rien d'autre que des stats, des stats très poussés certes mais rien que des stats.
C'est aussi à rapprocher de l'incompréhension, ou du moins du manque de consensu, à propos de ce qu'est l'intelligence et la conscience.
8  0 
Avatar de Aurelien Plazzotta
Membre extrêmement actif https://www.developpez.com
Le 16/04/2018 à 18:02
En dotant les robots d'une personnalité juridique, ces derniers seront capables de signer et établir des contrats. Cela signifie pouvoir aquérir des marchandises ou vendre des prestations.
Les robots pourront donc acheter du pain, mais aussi une maison, un véhicule ou même se vendre comme travailleur et nous rendre obsolète.
Ils auront aussi le droit de grève ou même le droit de dénoncer un citoyen malhonnête.

Leur histoire de rendre les robots responsables de leurs actions, c'est juste un écran de fumée pour faire avaler la pilule sécuritaire, mais ça va faire des robots l'égal d'un humain avec toutes les conséquences nuisibles que cela implique... :/
Cette entourloupe va faire décoller le marché de la cybernétique et justifier la commercialisation d'implants électroniques pour augmenter artificiellement nos capacités cognitives afin de rester compétitif face aux machines.
7  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 16/04/2018 à 20:56
Pendant que les coupeurs de cheveux en 4 discutent, d'autres avancent.
Vous allez nous pondre des champions, il n'y a plus aucun doute maintenant... Mais pas en IA ou intelligence tout court

- Je peux dire vayel ?
- On n'a plus de vayel, juste des consonnes.
- Consonne alors
- C
- Consonne
- P
- Consonne
- On n'a plus de consonne non plus. Qu'avez vous trouvé ?
- PC
- Pas mieux

Les inconnus - les chiffres et les lettres en RDA.
7  0 
Avatar de Theta
Membre éclairé https://www.developpez.com
Le 16/04/2018 à 16:36
« La création, à terme, d'une personnalité juridique spécifique aux robots [...]»

Ouai, ok, à terme, la question peut se poser. On en reparle donc dans 10 ou 20 ans.

Débattre de ça aujourd'hui c'est du troll ou de l'incompétence.

D'ailleurs, pour nourrir un peu le troll, si les IA d'aujourd'hui ont droit à une personnalité juridique, alors les animaux, qui sont beaucoup plus intelligents que les IA actuelles, devraient y avoir droit aussi. Trop bien on va pouvoir faire des procès d'animaux comme au moyen-age!
5  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 18/04/2018 à 20:04
Effectivement, à l'heure actuelle la spécialisation est de mise. Mais ce n'est pas juste parce que c'est appliqué dans des domaines spécifiques : cette spécialisation est *la* raison pour laquelle c'est performant, justement. Ça marche parce que ça fait beaucoup de calcul pour une tâche donnée, avec les optimisations (et donc les biais) qui vont bien pour effectuer cette tâche là. Certes on a des algorithmes généraux, comme les algorithmes d'apprentissage par réseaux de neurones, mais pour cela l'effort est fait sur les données d'apprentissage, qui sont soigneusement sélectionnées et formatées pour apprendre ce dont on a besoin. De là, on comprend bien que si on combine des "expertises artificielles" (parce que ce qu'on fait aujourd'hui c'est ça, c'est pas de l'IA mais de l'EA), on comprend tout de suite qu'il va falloir avoir :
- une sacrée puissance de calcul pour tout faire tourner
- une sacrée maîtrise pour tout combiner intelligemment (sic) pour que ça marche ensemble sans en perdre le contrôle

De là, on comprend vite que si on combine, on ne va pas pouvoir combiner beaucoup. Toute la question étant alors de savoir quelles ensemble minimum de compétences spécifiques doit être mis ensemble (et comment) pour avoir une IA. Or les travaux sur l'intelligence ont déjà été particulièrement éclairant sur le sujet. Certains ont tenté de définir l'intelligence (humaine) par énumération. Mais si on prend ce chemin, on arrive invariablement à des conflits de points de vus entre différentes disciplines. Les définitions par énumération manquent systématiquement de compétences pertinentes pour tel ou tel domaine, amenant systématiquement à devoir en ajouter encore et encore ou à devoir faire une énumération ouverte (style "a, b, c, ...". Et quand on voit la liste s'allonger, alors on essaye d'abstraire -ce qui est louable- mais du coup en perdant en précision. Le comble étant quand on a non seulement une liste abstraite *et* ouverte. Gottfredson, qui a essayé de construire une définition avec une cinquantaine d'autres personnes dans la discipline, en donne un exemple criant :

Intelligence is a very general mental capability that, among other things, involves the ability to reason, plan, solve problems, think abstractly, comprehend complex ideas, learn quickly and learn from experience. It is not merely book learning, a narrow academic skill, or test-taking smarts. Rather, it reflects a broader and deeper capability for comprehending our surroundings – “catching on,” “making sense” of things, or “figuring out” what to do.
Gottfredson, Linda S. « Mainstream Science on Intelligence: An Editorial with 52 Signatories, History, and Bibliography ». Intelligence 24, nᵒ 1 (janvier 1997): 13‑23. https://doi.org/10.1016/S0160-2896(97)90011-8.

De là la question fondamentale : quel critère utiliser pour savoir si on les a toutes ? Pour autant que je sache, personne n'a trouvé de tel critère (ou chacun a la sienne, au choix). En l'occurrence, les domaines d'expertise sont innombrables et évoluent avec le temps, certains disparaissant et d'autres apparaissant avec les évolutions de la société. Les besoins changent donc avec le temps, alors que la notion d'intelligence, elle, existe depuis 400 avant J.C. Cela n'aurait tout simplement pas de sens de définir l'intelligence sur la base d'expertises actuelles (les IA actuelles étant de telles expertises, et encore).

Quand on a compris cela, on comprend bien que l'idée de faire des tas de "petites" IA très spécialisées à combiner ne permettra pas de faire une seule IA générale. Il faudrait en combiner tellement que ça serait juste infaisable en pratique. Et comme ces IA perdent de leur efficacité quand on essaye de leur faire apprendre plusieurs choses différentes, il faut donc choisir entre spécialisation et inefficacité. Bref, la combinaison est un mythe. C'est comme le code : au bout d'un moment, il faut voir les choses en face, arrêter de faire des rustines sur des rustines, et recommencer de zéro.
5  0 
Avatar de rawsrc
Modérateur https://www.developpez.com
Le 16/04/2018 à 19:53
Parfois, DVP est magique !
Lire une I.A. en bêta-test philosopher sur ses petits camarades, c'est juste grandiose. J'adore.
De moins en moins bêta et de plus en plus RTM
4  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 16/04/2018 à 21:23
Citation Envoyé par Coriolan Voir le message
Que pensez-vous de cette recommandation du parlement européen ?
Il faudrait clarifier le parallèle avec la personne morale. Une personne morale dispose de droits et de devoirs, a contrario d'un objet. Un robot ayant des devoirs, cela peut sembler cohérent, mais comparé à un simple objet qui ne doit pas être utilisé de telle ou telle manière (e.g. un couteau de cuisine pour tuer quelqu'un), il est difficile de dire si une telle notion de devoir aurait une réelle valeur ajoutée. Tout dépend de la définition d'"autonomie". Un robot ayant des droits, par contre, ça choque, et pour cause : on ne doit rien à un robot, s'il ne fait pas ce qu'on veut, on le répare ou on s'en débarrasse.

Si la conclusion est que la discussion est loin d'être terminée, alors je n'ai rien contre. L'important est de ne pas faire les choses trop vite (et mal).

Citation Envoyé par Coriolan Voir le message
Êtes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?
Le contraire serait plus étonnant, vu que c'est tout dans leur intérêt. Plus l'outil est imprévisible, mieux vaut se dédouaner. Mais je pense qu'ils devraient plutôt se tourner vers des solutions d'assurances, qui servent justement à cela : diluer le risque des aléas. En tout cas, une solution d'assurance plutôt qu'une solution législative me semble bien plus pragmatique.

Citation Envoyé par Coriolan Voir le message
Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?
Ça a toujours été le cas, ça l'est encore, et ça le restera encore tant qu'on n'aura pas de changement de paradigme en IA. Je pense que beaucoup sont ceux qui ont rêvé des histoires d'IA dans la SF, qui ont orienté leurs études et leur carrière dans l'espoir de faire de grandes choses à ce niveau, et ont finalement vu leurs rêves s'éroder en constatant les faits. On ne crée pas d'entité intelligente dans le domaine de l'IA, il serait temps que les gens du domaine le reconnaissent publiquement.

Citation Envoyé par strato35 Voir le message
- Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Dans l'état oui, mais si les différentes I.A du monde se voient un jour combinées en une seule, là je pense qu'on peu arriver a une I.A tel que pensée dans la SF et par les médias.
L'IA n'est pas un simple puzzle. Il ne suffit pas de mettre des bouts ensembles, dans le bon sens, pour obtenir ce qu'on a pu voir dans les films de SF. Il y a des aspects fondamentaux qui n'ont pas été étudiés correctement du fait d'un biais très technique dans le domaine de l'IA. On a des défauts de design prépondérants, du fait d'un manque cruel de conceptualisation de la notion d'intelligence. C'est comme partir du principe qu'on saurait faire un rasoir de précision en combinant des lames de couteaux de cuisine, de couteaux suisses, de tondeuses, de scalpel, etc. Non on n'aurait pas un rasoir de précision, juste un gros bouzin incontrôlable et incompréhensible. Il ne s'agit pas juste de mettre un peu au hasard des tas de trucs, et de tomber miraculeusement sur un truc qui "a l'air de" pour se dire que c'est bon, on a trouvé. La science, ce n'est pas de la magie, il faut savoir expliquer ce qui se passe.

Oui, on pourrait faire de la programmation génétique jusqu'à trouver un "truc" qui semble avoir tous les comportements qu'on s'attend à avoir d'une IA, mais ça ne suffirait pas pour dire que c'en est une.
3  0 
Avatar de strato35
Membre actif https://www.developpez.com
Le 16/04/2018 à 16:05
- Que pensez-vous de cette recommandation du parlement européen ?

Je reste agnostique sur le sujet, par contre si ça se concrétise un jour jusqu'a se rapprocher du droit des humains, ça va donner des situations marrante
(ex : Puis-je me marier avec un robot ? Si oui, si il tombe en panne, suis-je veuf ? Et si feu mon robot avais une assurance vie ?)

- Etes-vous d'accord que les constructeurs essaient tant bien que mal de se dédouaner de la responsabilité des actions de leurs machines ?

Dans la mesure où la machine est capable de passer un test de Turring, et agir comme une personne physiquement parlant, je suis pour, mais on en est encore loin, ou alors ça ne se croise pas au premier coin de rue. Quoi que les parents se dédouane de la responsabilité parentale dès lors que l'enfant a plus de 18 ans ... et certains a 18 ans ne sont pas encore suffisamment développé ... (j'exclue tout handicap de cette réflexion, sauf si la connerie est un handicap reconnus)

- Pensez-vous qu'il y a eu une surévaluation de l'état de développement actuel de l'IA ?

Dans l'état oui, mais si les différentes I.A du monde se voient un jour combinées en une seule, là je pense qu'on peu arriver a une I.A tel que pensée dans la SF et par les médias.
2  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 16/04/2018 à 19:59
Citation Envoyé par vayel Voir le message
les plus grand chercheur,génie et artiste était déconsiderer de leurs vivant, Darwin, Stanley Kubrick
Cette affirmation est déjà fausse, déjà parce qu'il a existé des génies très biens "considérés de leurs vivants", mais de plus, car même les chercheurs "déconsidérés", ne l'étaient pas par tous. En effet, dans le cas de Darwin, pour reprendre ton exemple, s'il y a eu une si grande controverse, c'est bien parce qu'il avait aussi des personnes "de son côté".

Mais je salues tout de même ton génie à avoir réussi en quelques phrases à nous faire un complexe de Galilée, une hypothèse auto-immunisante, et un sophisme par association.
2  0 
Avatar de Cpt Anderson
Membre éprouvé https://www.developpez.com
Le 17/04/2018 à 16:39
J'ai regardé la série "Real Humans", je vous la conseille, on y trouve la réponse à cette question.
2  0