Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La responsabilité pénale d'Uber n'est pas engagée dans la mort de la femme fauchée par l'un de ses véhicules autonomes
Selon une décision de justice

Le , par Bill Fassinou

587PARTAGES

15  0 
Les faits remontent à mars 2018 où une voiture autonome de la firme Uber a heurté mortellement une femme dans la ville de Tempe dans l'Arizona alors qu’elle traversait en dehors d’un passage piéton. Bien qu’il y avait un conducteur humain au volant de la voiture, elle était sur contrôle informatique au moment de l’impact. L’enquête a continué jusqu’à cette semaine où dans une lettre adressée au comté de Maricopa, son homologue du comté de Yavapai a souligné qu’après toute investigation, La responsabilité pénale d'Uber n'est pas engagée dans la mort de la femme impliquée dans l’accident. Uber fait partie des nombreuses entreprises technologiques et équipementiers automobiles qui imaginent la mobilité du futur autrement. Pour elles, les voitures autonomes auront un grand rôle à jouer dans les transports de demain.

Les promoteurs de VTC et de voitures autonomes tels que Uber, Tesla et Lyft ou encore General Motors investissent des milliards de dollars dans ce domaine et nombreux de ces véhicules circulent déjà en Europe et aux États-Unis. Selon un rapport préliminaire à l’enquête du NTSB (National Transportation Safety Board), pendant les six secondes qui ont précédé l'impact, le système de conduite autonome a classé le piéton en tant qu'objet inconnu, puis en tant que véhicule, puis en tant que bicyclette. Bien que le système ait identifié la nécessité d'une manœuvre de freinage d'urgence pour atténuer une collision, le système a été configuré pour ne pas activer le freinage d'urgence lorsqu'il est piloté par l'ordinateur. En fait, le système de la voiture est conçu de manière à ce que les manœuvres d’urgence soient à la charge de l'opérateur humain. De ce fait, pourquoi dire d’une voiture incapable de prendre des décisions immédiates qu’elle est autonome ?

Ces entreprises misent énormément sur cette technologie de pilote autonome. Seulement, elle ne semble pas encore du tout indépendante de l’intervention humaine. Le NTSB écrivait que le système était en partie responsable de l'accident et n'aurait pas dû être utilisé sur la route où était survenu l'accident parce que celle-ci n'était pas adaptée à cette technologie. « La trop grande dépendance du conducteur à Autopilot a entraîné un désengagement prolongé ayant conduit à la collision », concluait l’organisme. Dans la foulée, Tesla avait fait savoir qu' « Autopilot n'est pas une technologie de conduite autonome et les conducteurs doivent bien entendu rester attentifs à tout moment pendant la conduite ». Néanmoins, pour l’affaire qui le concerne, Uber vient d’être acquitté de toute poursuite.


« Après un examen très approfondi de toutes les preuves présentées, notre bureau a déterminé qu'il n'y avait aucune raison pour engager la responsabilité pénale de la société Uber dans cette affaire », a écrit le bureau du procureur du comté de Yavapai dans une lettre au procureur du comté de Maricopa dans le lequel se trouve la ville de Tempe. Cependant, même si une grande partie de la responsabilité pourrait revenir à la conductrice de la voiture d’Uber, ce dernier ne semble pas être sortir de l’affaire pour autant, a indiqué le NPR (National Police Radio). La conductrice peut, dans les mois à venir faire face à des accusations d’homicide involontaire, mais Uber également pourrait toujours être poursuivi devant un tribunal civil et contraint de payer des dommages et intérêts. Le gouvernement pourrait éventuellement engager des poursuites pénales contre des dirigeants ou des employés d’Uber, indique le NPR.

Le NPR n’est pas le seul à émettre des réserves par rapport à la décision qui vient d’être rendue par le procureur de Yavapai. En effet, Bryant Walker Smith, professeur de droit à l'Université de Caroline du Sud, dont les recherches portent sur les systèmes de conduite automatisés, pense que la lettre du procureur ne résoudra pas l’affaire aussi facilement. « Cela n'exonère pas Uber et ne met pas la conduite de l'entreprise au-delà de toute critique. Je ne suis pas sûr que cela nous en dise beaucoup sur la responsabilité pénale, et encore moins civile, des développeurs de conduite automatisée lors d'incidents futurs », a-t-il indiqué au NPR dans un courrier électronique. Notons que quelque temps après l’accident, l'administration Trump avait autorisé plus de tests de voitures autonomes sur les routes. Le gouvernement américain avait émis comme argument que cette technologie pouvait, outre le fait de réduire les accidents, aussi améliorer la mobilité des personnes âgées, handicapées et autres personnes isolées.

Par contre, pour l’association des consommateurs, Consumer Watchdog, cette décision relève d’un mépris des éventuels risques auxquels le gouvernement expose les citoyens. « C'est une feuille de route autorisant les constructeurs à faire ce qu'ils veulent, quand ils veulent et où ils veulent, faisant de nos routes des laboratoires privés pour des voitures robots sans aucune considération pour notre sécurité », avait lancé l’association en mécontentement à la décision de l’administration dirigée par le président Trump. Pour l’heure, écrire le NPR, Smith espère bien que le rapport final du NTSB sur l'accident éclairera davantage. Aussi, aimerait-il quand même voir Uber s'excuser publiquement et expliquer ce qui s'est spécifiquement passé. « Les entreprises devraient mériter notre confiance en partie en étant franches sur leurs échecs et leurs succès », a-t-il expliqué.

Dans le rang des internautes, beaucoup désignent Uber comme le principal responsable dans cette affaire. Dire à une personne qu’une voiture est autonome joue sur sa psychologie. Cette dernière se met à l’esprit que la voiture peut tout faire, toute seule. « Alors, pourquoi lui demander encore de rester attentif ? Si une technologie n’existe pas, on ne la vend pas », s’insurgent-ils. Les procureurs ne devraient pas prendre en compte la force des entreprises pour juger des erreurs qu’elles commettent, ont-ils souligné par la suite. Pour un autre, le procureur a fait un mauvais appel. « Cette partie est une négligence absolument criminelle. Mettre en place une voiture autonome sur laquelle le freinage d'urgence n'est pas activé (apparemment parce que cela crée trop de faux positifs) est un risque injustifiable. Le freinage d’urgence devrait être la première chose à faire avant que l’ordinateur ne puisse contrôler la voiture », ajoute-t-il pour jeter la responsabilité des faits à Uber.

Rappelons qu'en janvier dernier, malgré toutes les prouesses déjà réalisées dans le domaine de l'intelligence artificielle, Luc Julia, l’un des inventeurs de l’assistant vocal Siri d’Apple, actuel vice-président innovation de Samsung Monde, et directeur du laboratoire de recherche en IA de Samsung, signe un livre décalé sur l’intelligence artificielle dans lequel il partage son opinion qui est diamétralement opposée au discours marketing ambiant sur l’IA. Il dit carrément que l'intelligence artificielle n'existe pas. Pour justifier ses propos, il dit ceci : « je suis un peu fatigué par toutes les bêtises que l’on entend depuis quelques années sur l’intelligence artificielle et j’ai voulu rétablir la vérité. On ne sait pas ce que c’est que l’intelligence donc on ne peut pas construire de l’intelligence artificielle. Ce que l’on appelle "intelligence artificielle" depuis 1956 ce sont des techniques mathématiques qui n’ont rien à voir avec l’intelligence. Il n’en reste pas moins que ces techniques (deep learning, machine learning, etc.) sont très intéressantes. Mais la machine ne crée pas, ne réfléchit pas, et les humains conservent pleinement la main sur ces techniques ».

Sources : Décision de justice, NPR

Et vous ?

Pensez-vous que les constructeurs de véhicules autonomes doivent être tenus responsables en cas d'accidents ? Pourquoi ?
Selon vous, peut-on qualifier un véhicule d'autonome s'il ne peut prendre la décision de freiner en cas de situation d'urgence ? Pourquoi ?

Voir aussi

« L'intelligence artificielle n'existe pas et la voiture autonome n'existera jamais », selon un expert en IA

Uber arrête définitivement son activité de voiture autonome en Arizona après l'accident mortel de mars et amorce une procédure de licenciements

La police a diffusé la vidéo de la collision du véhicule autonome d'Uber qui a causé la mort d'une piétonne dans la nuit de dimanche

Accident Uber : les capteurs du véhicule étaient fonctionnels, mais il y avait un problème logiciel d'après l'enquête préliminaire du NTSB

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 09/03/2019 à 7:10
Alors que pour s'exprimer sur une affaire dont on ignore les tenants et aboutissants, y'a toujours du monde.
10  0 
Avatar de transgohan
Expert éminent https://www.developpez.com
Le 07/11/2019 à 13:47
Bref... Si vous comptez traverser en dehors des passages à piétons, armez vous d'une bombe blanche pour le dessiner en dessous de vous en traversant pour éviter d'être renversé par une voiture autonome.
5  0 
Avatar de el_slapper
Expert éminent sénior https://www.developpez.com
Le 07/11/2019 à 14:33
Et on appelle ça une IA? C'est un bête système expert, dont l'expertise est d'ailleurs limitée, semble-t-il. a partir du moment ou il ya un truc qui bouge, le système devrait réagir en conséquence. On s'en fout de ce qu'est le truc en question, d'ailleurs. Imaginez un plot de travaux qui bouge, poussé par le vent, ou que sais-je. Il faut l'éviter aussi. Tuer le plot n'est pas grave, mais le choc peut envoyer la voiture autonome(et les gens dedans) dans le décor.

Un conducteur humain qui voit un truc bouger, il se méfie. Avant même d'identifier le truc(piéton, voiture, carton poussé par le vent...). Si l'automate(je refuse à parler d'IA pour un système même pas foutu d'apprendre de ses erreurs) n'en fait pas autant, il est par définition plus vulnérable qu'un conducteur humain.
7  2 
Avatar de fredoche
Membre expert https://www.developpez.com
Le 18/11/2019 à 18:32
Juste hallucinant ce rapport
Citation Envoyé par Christian Olivier Voir le message
L'IA n'avait aucune idée de ce qu'est un piéton traversant la chaussée au niveau d'un point de passage inapproprié
Conclut le NTSB dans un rapport sur l’accident mortel ayant impliqué un véhicule Uber

[...]

Un rapport officiel publié cette semaine par le National Safety Transportation Board (NTSB) - l’agence américaine indépendante qui est responsable des enquêtes sur les accidents aéronautiques, routiers, maritimes, ferroviaires et ceux concernant les pipelines - apporte de nouvelles précisions quant aux causes réelles à l’origine de cette tragédie. Il indique que la voiture d’Uber impliqué dans cet accident n’était pas conçue pour détecter « les piétons qui traversent illégalement la chaussée ».
pas conçu pour ça ? pour un cas qui serait juste ultra-courant n'importe où dans le monde
M'enfin on écrit illégal, et dans ce cas l'illégal vaut bien la peine de mort
Citation Envoyé par Christian Olivier Voir le message

L’enquête du NTSB a montré que le logiciel embarqué n’avait pas réussi à identifier la victime comme une piétonne, car elle n’était pas au niveau d’un point de passage clairement désigné. La voiture n’a pas non plus réussi à anticiper correctement les mouvements de la victime en tant que personne se déplaçant sur la route et a fini par la heurter directement. Les systèmes de vision par ordinateur des voitures autonomes sont formés pour identifier les éléments de leur environnement proche, comme les autres véhicules, les arbres, les poteaux de signalisation, les bicyclettes… et prendre des décisions sur ce qu’il faut faire ensuite en utilisant ces informations. Il semble que le logiciel d’Uber n’a pas été en mesure d’identifier Herzberg puisqu’il n’y avait pas d’étiquette de classification pour une personne n’utilisant pas un point de passage approprié et qu’il n’était pas en mesure de prendre les bonnes décisions.
putain pas de "case else" dans mon switch case c'est con hein.
Citation Envoyé par Christian Olivier Voir le message
Le rapport précise que « la conception du système ne tenait pas compte des piétons qui traversent illégalement la chaussée » et le logiciel était « incapable de prédire correctement le parcours » de la victime. Le système a plus ou moins ignoré la victime et l’a initialement considéré comme un objet immobile qui n’était pas, ou seulement partiellement, sur sa route et qui ne gênerait pas le passage du véhicule. À peine 1,2 seconde avant l’accident, le véhicule l’a identifiée non seulement comme une bicyclette, mais aussi clairement comme un obstacle sur son chemin. Il était malheureusement déjà trop tard. Si la voiture d’Uber avait correctement identifié Elaine Herzberg plus tôt comme une personne traversant la rue, elle aurait peut-être pu ralentir considérablement ou essayer de l’éviter d’une autre manière. Mais le véhicule n’a pas anticipé la collision parce que, la plupart du temps, il a considéré Elaine Herzberg comme un objet inconnu qui n’était pas sur le chemin. Il faut également préciser que le système de freinage d’urgence du véhicule avait été délibérément désactivé parce que lorsqu’il était mis en marche, le véhicule agissait de façon erratique, selon Uber. Le document suivant produit par le NTSB retrace la prise de décision et la vitesse de la voiture dans les secondes qui ont précédé l’accident :

"malheureusement"
Malheureusement j'avais pris un apéro de plus ce soir là. Ah non en fait

Malheureusement on désactive le système qui aurait peut-être pu lui sauver la vie, parce que évidemment la conduite devient chaotique. Et qu'on a pas le temps de reprogrammer un truc qui marche mieux et qui reste prudent. Pis ça coute des ronds. Et la valeur de l'action les gars ? Non allez on passe en test réel, on verra bien ce que ça donne sans ce système de freinage d'urgence.
Citation Envoyé par Christian Olivier Voir le message
Le NTSB a aussi publié plus de 40 documents totalisant au moins 430 pages avec divers éléments de preuve à l’appui et des comptes rendus détaillés sur des sujets comme les propriétés du véhicule et la culture de sécurité interne chez Uber. Il révèle en outre que les voitures autonomes du groupe ont été impliquées dans 37 collisions entre septembre 2016 et mars 2018, avant l’accident mortel. Dans ces 37 incidents, toutes les voitures étaient conduites en mode autonome.

Mardi soir, un porte-parole d’Uber a déclaré : « Nous regrettons l’accident survenu en mars 2018 impliquant l’un de nos véhicules autonomes qui a coûté la vie à Elaine Herzberg. À la suite de cette tragédie, l’équipe du Groupe Uber Advanced Technologies a adopté des améliorations essentielles à son programme afin d’accorder la priorité à la sécurité ». « Nous attendons avec impatience de revoir les recommandations qu’il [le NTSB] a formulées », a-t-il ajouté.

[...]

Et vous ?

Qu’en pensez-vous ?
Je pense qu'on vit dans un monde de merde où des technophiles s'imaginent sans limite et tout-puissants. Alors que c'est littéralement des courges sur pattes, mais je suis sur qu'en plus ils se pensent suprêmement intelligents avec leurs beaux diplômes. Et ça a pas du empêcher grand monde d'aller en vacances en Thaïlande, faut pas déconner quand même.

J'en pense qu'il y a tellement de pognon investi là-dedans qu'on est pas prêt de dire "stop". M'enfin tout va bien désormais :
l’équipe du Groupe Uber Advanced Technologies a adopté des améliorations essentielles à son programme afin d’accorder la priorité à la sécurité
La priorité avant, c'était quoi au juste ?
4  0 
Avatar de fredoche
Membre expert https://www.developpez.com
Le 18/11/2019 à 22:07
Ils foisonnent dans ma butte de permaculture, ces vers, même si ce même Gatineau ne fait pas l’éloge du dispositif. Les limaces aussi remarque.

J'ai 4 ou 5 geais dans le jardin depuis plusieurs mois, sans compter le reste des oiseaux que je peux observer, aujourd'hui un héron par exemple. T'inquiète qu'ils ne sont pas là sans cette faune souterraine.

Oui ça me troue le cul de savoir que on fout des bagnoles comme ça sur la route, et qu'ensuite on commence à lister les cas non prévus. A se demander s'il ne faut pas être con pour être informaticien. Comme cette histoire de camion qui n'est pas censé traverser la route pour le programme de Tesla. Mais dans leur satané programme, ils n'ont pas prévu l'éventualité d'un mur. Putain un camion qui se met en portefeuille c'est un mur devant toi. Ca arrive sur les autoroutes, faut pas avoir fait le MIT pour le savoir. Quand t'as 40 tonnes au cul et que tu freines comme un malade, il y a des chances que ta cargaison ait envie de te dépasser. N'importe quel chauffeur de poids-lourd le sait

c'est même sur wikipédia, et en english en plus :
https://fr.wikipedia.org/wiki/Mise_en_portefeuille
https://en.wikipedia.org/wiki/Jackknifing

J'ose pas imaginer tout ce qu'ils ont pas prévus ces gros melons, surtout depuis que la priorité est accordée à la sécurité

Et bon dieu je sais à quoi elle était accordée avant
5  1 
Avatar de sergio_is_back
Membre émérite https://www.developpez.com
Le 20/11/2019 à 11:49
Citation Envoyé par Stéphane le calme Voir le message
« La collision était le dernier maillon d'une longue chaîne d'actions et de décisions prises par une organisation qui, malheureusement, n'a pas fait de la sécurité sa priorité absolue », a déclaré le président du NTSB, Robert Sumwalt. La chambre a critiqué une série de décisions d'Uber qui, selon elle, résultaient d'une « culture de sécurité inefficace » à l'époque.
J'avais déjà évoqué, et c'est toujours mon opinion, que les voitures autonomes sont d'abord pensées pour rapporter du pognon et que l'argument sécuritaire n'est que purement marketing et ce que je lis partout me conforte dans cette voie...

Citation Envoyé par Stéphane le calme Voir le message
Certains critiques se sont demandé pourquoi l’accent est mis sur la mort d’un seul piéton lorsque les piétons américains tués dans des accidents de la route ont atteint leur plus haut niveau en 30 ans en 2018 (ils étaient près de 6 300).
Parce que l'argument sécuritaire a été matraqué à n'en plus finir pour vanter les mérites (supposés) de la voiture autonome...

Plus grande sécurité au volant, moins de fatigue, moins de morts sur les routes, circulation plus fluide, moins de pollution, etc...
En gros la voiture autonome allait conduire mieux que les humains... Bon à voir comment certains conduisent dans certains cas, ça pourrait s'avérer vrai....
La vérité c'est que UBER, et les autres, ne cherchent qu'a faire de l'argent avec leurs bagnoles...
6  2 
Avatar de eldran64
Membre éprouvé https://www.developpez.com
Le 07/11/2019 à 11:54
Un objet détecté en tant que bicyclette ou piéton devrait resté identifié comme tel. Ici le système ne tiens pas en compte la 1ère identification. Il recommence à chaque cycle l'identification de "l'objet".
A mon sens c'est le manque d'historisation qui a conduit ce système à ce résultat.

Une fois qu'on a identifié une bicyclette ou un piéton sur la chaussée on doit faire ralentir le véhicule avant de dépasser l'obstacle.

Avec une vitesse moindre, et même si la bicyclette avait un comportement erratique, le système aurait éviter la collision ou tout du moins réduire les blessures sur le cycliste.
4  1 
Avatar de Christian_B
Membre actif https://www.developpez.com
Le 16/11/2019 à 16:13
Citation Envoyé par CoderInTheDark
Je pense que dans ce cas à force qu'il ne se passe rien il a surestimé les capacités de la conduite autonome, et sousestimer son rôle.
Ce n'est pas facile de rester concentrer sur une tâche monotone.
j'irai même plus loin : sur une durée un peu longue, il est non seulement pénible mais pratiquement impossible de consacrer en permanence son attention à une surveillance qui normalement ne conduit à aucune décision ou action quelconque. Il y a forcément des périodes d'inattention de plus en plus en plus fréquentes. Et de toute façon avant de réaliser qu'il se passe quelque chose d'anormal, il faut qu'il se soit écoulé assez de temps pour rendre évident que l'automatisme ne fait pas ce qu'il faut. Et souvent il est alors trop tard.

Attribuer une part de responsabilité au conducteur n'est qu'une astuce des constructeurs pour essayer de minimiser leur responsabilité.

Je ne vois que deux situations où les automatismes seraient acceptables :
- si le "conducteur" conduit réellement mais l'automatisme peut entrer en jeu exceptionnellement pour pallier à une défaillance du conducteur par des mesures d'urgence. On a alors une double sécurité (humaine + informatique) et c'est relativement plus facile à réaliser.
- si les IA deviennent suffisamment sûres (logiciellement et matériellement) malgré leur complexité pour que la notion de conducteur disparaissent sans risque notable. Mais les constructeurs, pour rentabiliser les recherches, ne veulent pas attendre d'atteindre ce difficile objectif.
Notons que dans des environnements bien plus simples et aménagés pour, c'est déjà fait, comme dans le cas du métro. Ce serait sans doute réalisable sur autoroute, si cela valait le coup d'acheter un véhicule très cher qui n'est automatique que dans ce cas.
3  0 
Avatar de fredoche
Membre expert https://www.developpez.com
Le 18/11/2019 à 18:52
il y a 2 jours de cela j'avais regardé cette conférence TED :


Ça vaut ce que ça vaut, mais on y entend en introduction que l'AI est à peu près aussi intelligente qu'un ver de terre.

Et à partir de 7'30 le récit d'un accident fatal où on n'avait pas prévu qu'un camion puisse traverser la route. Bah oui le programme avait été conçu pour les autoroutes, et t'as quand même des mecs qui ont décidé de tester sur la route normale. Des mecs avec une intelligence humaine, probablement le chefs de ces programmes non ? Ça laisse songeur
3  0 
Avatar de macslan
Membre éclairé https://www.developpez.com
Le 20/11/2019 à 9:24
Il y a quand même deux trois problèmes dans cette histoire.
L'IA (qui est une IA faible peut faire des erreurs de reconnaissance d'objet et donc c'est pourquoi il faut tester et retester)
La personne derrière le volant doit rester attentif surtout en cas de test mais aussi vu que c'est pas tout à fait autonome et il y a des erreurs et donc la personne derrière le volant doit rester attentive (plus ou moins en rapport avec la situation)
Le piéton a quand même traverser de nuit sans lumière hors passage piéton et il me semble une route à 80 kmh typiquement
4  1