Des universitaires suggèrent de doter les robots autonomes d'une « boîte noire éthique »
Pour retracer et expliquer leurs actions en cas d'accident

Le , par Michael Guilloux, Chroniqueur Actualités
Les robots intelligents s’invitent de plus en plus dans notre quotidien et dans des environnements moins contrôlés. Et en dépit de leur niveau de sophistication sans cesse croissant, les risques d’accident sont loin d’être nuls. « Les accidents, nous l'espérons, seront rares, mais ils sont inévitables », a déclaré Alan Winfield, professeur d'éthique des robots à l'Université de l'Ouest de l'Angleterre à Bristol. « Là où les robots et les humains devront collaborer, il y aura une situation potentielle pour les accidents », dit-il.

Les accidents, on en dénombre beaucoup, certains moins graves, mais d’autres mortels. L’année dernière par exemple, un homme a perdu la vie dans un accident avec sa Tesla Model S. Joshua Brown avait déclenché le système de pilotage automatique quand il fut heurté par un camion au niveau d’une intersection. Ni lui ni les capteurs de la voiture n’ont pu détecter le camion qui a traversé son chemin, entraînant ainsi une collision mortelle. L’incident a conduit à des critiques selon lesquelles la société Tesla d'Elon Musk a donné un « faux sentiment de sécurité » à ses clients alors qu’en réalité elle testait une technologie de sécurité critique sur ces derniers. Une enquête menée par l'Agence nationale des routes et des transports des USA (NHTSA) a toutefois rejeté la faute sur le conducteur.

Dans ce genre de situation, avant même de parler de responsabilité, il est important de comprendre ce qui s’est réellement passé. « Les accidents graves devront être étudiés, mais que faites-vous si un enquêteur arrive et découvre qu'il n'y a pas de données internes, qu'il n'y a aucun enregistrement de ce que le robot faisait au moment de l'accident ? Il sera plus ou moins impossible de dire ce qui s'est passé », a déclaré Winfield. Alan Winfield et Marina Jirotka – un professeur d'informatique centrée sur l'Homme à l'Université d'Oxford - soutiennent donc que les entreprises de robotique devraient suivre l'exemple de l'industrie aéronautique. Cette dernière a en effet introduit des boîtes noires et des enregistreurs vocaux des cabines de pilotage afin qu’en cas d’accident, les enquêteurs puissent comprendre ce qui a provoqué l'accident et s'assurer que des leçons cruciales de sécurité ont été apprises.

Les universitaires pensent que les robots devraient être équipés d'une « boîte noire éthique » pour suivre leurs décisions et leur permettre d'expliquer leurs actions lorsque des accidents se produisent. Installée dans un robot, une « boîte noire éthique » enregistrerait en effet les décisions du robot, les éléments sur lesquels il se base pour les prendre, ses mouvements et l'information provenant de capteurs tels que des caméras, des microphones. Ils estiment que la nécessité d'une telle mesure de sécurité est devenue plus pressante étant donné que les robots se sont propagés au-delà des environnements contrôlés des lignes de production industrielle pour travailler aux côtés des humains comme des voitures sans conducteur, des gardes de sécurité, des aides-soignants et assistants clients.


Les chercheurs pensent que l'introduction de boîtes noires éthiques aurait des avantages au-delà de l'enquête sur les accidents. Les mêmes dispositifs pourraient doter les robots - assistants de soins de longue durée, par exemple - de la possibilité d'expliquer leurs actions en langage simple, afin d'aider les utilisateurs à avoir confiance dans la technologie. Leurs propositions seront discutées ce jeudi lors d’une conférence à l'Université de Surrey, où les experts discuteront des progrès vers des robots autonomes qui peuvent fonctionner sans contrôle humain.

Source : The Guardian

Et vous ?

Que pensez-vous de doter les robots autonomes d’une « boîte noire éthique » ?
Quels sont les bénéfices attendus selon vous ?
La nécessité est-elle plus importante que les risques potentiels liés à un tel dispositif ?

Voir aussi :

UE : le CESE s'oppose à la mise en place d'une personnalité juridique pour les robots ou IA, craignant un risque moral des fabricants et utilisateurs
Un robot renverse un enfant dans un centre commercial en Californie, son champ de vision limité l'ayant empêché de voir le bébé de 16 mois
La technologie Autopilot serait-elle à l'origine d'un accident mortel d'une voiture Tesla Model S ? Une enquête préliminaire a été ouverte


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de Philippe JOCHMANS Philippe JOCHMANS - Rédacteur/Modérateur https://www.developpez.com
le 20/07/2017 à 13:16
Salut

Issac Asimov y a pensé avant eux, ils devraient relire les ouvrages de cet excellent auteur.

Philippe
Avatar de abbe2017 abbe2017 - Membre actif https://www.developpez.com
le 20/07/2017 à 13:37
différence entre boite noire éthique et un système de log ?

si les logs sont là, pas besoin de boite noir en plus.
Avatar de Florian_PB Florian_PB - Membre averti https://www.developpez.com
le 20/07/2017 à 15:56
Ce qui est surprenant c'est qu'ils y pensent que maintenant alors que comme dit dans l'article c'est déjà appliqué dans l'aéronautique. Faire des robots et des IA sans boîte noire peut s'avérer extrêmement dangereux à moyen terme car lors d'accident il nous serait effectivement impossible de savoir ce qu'il est passé.
Comme dit deux commentaires au dessus, même Isaac Asimov y avait pensé dans ses ouvrages.
Avatar de Kikuts Kikuts - Membre éclairé https://www.developpez.com
le 20/07/2017 à 16:13
Ils ne sont pas fou

Ils savent qu'en cas d'accident, c'est plus facile de se dédouaner s'il n'y a pas de preuve de dysfonctionnement logiciel

Un peu comme certains flics aux USA qui désactivent la caméra frontale avant d'aller commettre une bavure euh de commettre une arrestation
Avatar de seikida seikida - Membre habitué https://www.developpez.com
le 21/07/2017 à 1:43
différence entre boite noire éthique et un système de log ?

si les logs sont là, pas besoin de boite noir en plus.
Sauf erreur la boite noire est un systeme de logs ou il y aurait le son en plus.
Donc c'est relativement la meme chose. Les logs enregistre des infos lorsqu'il se passe un evenement quelconque. La boite noire elle enregistre tout le temps et tout normalement (position geographique, son, composition atmospherique, etc...).

On y enregistre ce qui se passe (meme s'il ne se passe "rien") et l'heure a laquelle ca se passe.
Avatar de TiranusKBX TiranusKBX - Expert confirmé https://www.developpez.com
le 21/07/2017 à 2:21
Tous les robots on déjà un système de log mais il n'y a pas de format standard pour ces données, ils devraient donc proposer un standard au lieu de réclamer quelque chose qui existe déjà. Pour l'enregistrement Audio cela ne peut concerner que les robot ayant une interaction avec les humains(voiture auto, robot infirmier, ...) mais pas les robot aspirateurs ou lave vitre sinon on ne ferait que multiplier volontairement le nombre d'appareil utilisable pour l'espionage
Avatar de seikida seikida - Membre habitué https://www.developpez.com
le 21/07/2017 à 8:37
Tous les robots on déjà un système de log mais il n'y a pas de format standard pour ces données, ils devraient donc proposer un standard au lieu de réclamer quelque chose qui existe déjà. Pour l'enregistrement Audio cela ne peut concerner que les robot ayant une interaction avec les humains(voiture auto, robot infirmier, ...) mais pas les robot aspirateurs ou lave vitre sinon on ne ferait que multiplier volontairement le nombre d'appareil utilisable pour l'espionage
Non ! A partir du moment ou des robots seront en circulation (avec une boite noire ou non) sans surveillance, qu'ils soient autonome ou non, il y aura toujours des KEKE pour essayer de hacker et/ou de voler les pieces.
Donc si on enregistre les logs (ou boite noire) il y aura TOUJOURS des personnes qui vont recuperer ces donnees.

Ensuite, pour avoir des infos pertinante dans une boite noire, il faut enregistrer TOUT : son y compris.
Et il ne faut pas se leurrer, tous ces jolies appareils seront hacker donc 0 vie privee. C'est le prix a payer si on veut des appareils autonome.
Avatar de MikeRowSoft MikeRowSoft - Provisoirement toléré https://www.developpez.com
le 21/07/2017 à 13:39
Les enseignants le font déjà pour justifier leur travail, cours TP TD, cela même ci les étudiants n'ont pas le niveau pour être diplômer.
Cela s'applique aussi aux employeurs qui recrute un stagiaire et qui compte prendre la suite sur le projet avec un de leur salarié revenu de vacance...
"Vive la programmation !!!"
Offres d'emploi IT
Développeur java H/F
BMarkets - Ile de France - Paris (75000)
Responsable d'exploitation php h/f
altima - Nord Pas-de-Calais - Roubaix (59100)
Développeur PHP PrestaShop junior
Europeansourcing - Aquitaine - Bordeaux (33300)

Voir plus d'offres Voir la carte des offres IT
Contacter le responsable de la rubrique Accueil