Le véhicule autonome d'Uber impliqué dans l'accident mortel aurait vu sa victime, mais l'a ignorée,
à cause d'une défaillance de son système

1.8KPARTAGES

9  0 
Plus tôt en mars, un véhicule autonome d'Uber a été impliqué dans un accident qui a coûté la vie à une piétonne aux États-Unis, a indiqué l'entreprise, qui a décidé dans la foulée de suspendre son programme de circulation de voitures sans conducteur à Phoenix, à Pittsburgh, à San Francisco et à Toronto. L’entreprise a assuré qu’il s’agit là d’une procédure standard.

L'accident s'est déroulé dans la ville de Tempe, en Arizona, où Uber fait rouler des voitures autonomes. Les autorités locales ont identifié la victime comme étant Elaine Herzberg, âgée de 49 ans. Selon la police de Tempe, l’accident « s'est produit pendant la nuit sur Mill Avenue juste au sud de Curry Rd ». Herzberg poussait sa bicyclette de l'autre côté de la rue quand le véhicule Uber, qui se dirigeait vers le nord, l’a heurtée.

La cause de cet accident mortel engendré par un véhicule Uber semble avoir été au niveau logiciel, en particulier une fonction qui détermine quels objets ignorer ou surveiller. En effet, les capteurs installés sur ce type de véhicule sont censés détecter et générer des alertes si la présence d’un piéton au milieu de la route est signalée. Ce qui permet de déclencher le processus de freinage d’urgence.


Compte tenu de la multiplicité des systèmes de vision et des sauvegardes à bord des véhicules autonomes, il semble impossible que l'un d'entre eux n'ait pas fonctionné et ait empêché les systèmes de la voiture de percevoir Elaine Herzberg qui traversait la rue devant le radar. Cependant, comme la voiture n'a pas freiné et qu'aucune alarme n'a été déclenchée, cela pousse les enquêteurs à mettre en doute la crédibilité de l'automatisation de ce véhicule.

Les véhicules autonomes ont des sens surhumains. Ils sont équipés de radars qui s'étendent sur des centaines de pieds dans l'obscurité totale. Comment le véhicule Uber a-t-il fait pour ne pas détecter Herzberg ?

Suite à cet incident, diverses hypothèses ont été émises visant toutes à déterminer la cause de cet accident. Entre autres :
  • erreur dans le système de reconnaissance d'objets, qui peut avoir été incapable de classer Herzberg et son vélo comme piéton. Cela semble improbable puisque les motos et les personnes font partie des choses que le système devrait être le plus capable d'identifier ;
  • défaut dans la logique supérieure de la voiture, qui prend les décisions (au lieu des personnes) comme les objets à surveiller. Pas besoin de ralentir pour un vélo stationné sur le bord de la route, par exemple, mais un virage dans un carrefour est la cause d'une action immédiate.

Il faut noter que beaucoup valident la seconde option. Plus précisément, le système a été conçu pour ignorer les objets auxquels il aurait dû répondre ; Herzberg semble avoir été détectée, mais considérée comme un faux positif.

Uber a publié des mises à jour, mais n'a pas commenté les causes de l'accident. « Nous collaborons activement avec le NTSB dans son enquête. Par respect pour ce processus et la confiance que nous avons établie avec le NTSB, nous ne pouvons pas commenter les détails de l'incident. Entre-temps, nous avons entrepris un examen de sécurité de haut niveau de notre programme de véhicules autonomes, et nous avons invité l'ancien président du NTSB, Christopher Hart, à nous conseiller sur notre politique de sécurité ».

Source : The Information

Et vous :

Qu'en pensez-vous ?
D'après vous, qu'est-ce qui serait la cause de cet accident ?

Voir aussi :

La police a diffusé la vidéo de la collision du véhicule autonome d'Uber, qui a causé la mort d'une piétonne dans la nuit de dimanche
Uber va arrêter les tests de sa voiture autonome « indéfiniment » en Californie, en Pennsylvanie et à Toronto, après l'accident mortel d'Arizona
Uber suspend son activité de voiture autonome après une collision mortelle aux États-Unis, suite à laquelle une piétonne a perdu la vie

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Madmac
Membre éprouvé https://www.developpez.com
Le 08/05/2018 à 8:08
Le film de l'accident a circulé sur liveleak. Et ce que l'on constate est que:

- le "chauffeur de taxi" était endormi.
- le système utilisé par uber ne surveille que l'avant du véhicule (que la partie éclairé par les phares), et qu'avec un angle additionnelle de 30 degrés, l'accident aurait pu éviter.
- un humain aurait pu faire la même erreur. La victime a tenté un voie rapide avec des vêtements très sombres, pendant une heure tardive.
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 08/05/2018 à 9:47
Citation Envoyé par Madmac Voir le message
- un humain aurait pu faire la même erreur. La victime a tenté un voie rapide avec des vêtements très sombres, pendant une heure tardive.
Un humain qui aurait fait ça en ayant malgré tout vue la victime aurait été inculpé pou meurtre ^^. Le principe de la voiture autonome dans le cahier des charges c'est d'être plus sur que la conduite humaine d'autant qu'elle possède bien plus de capteurs que l'homme.
Avatar de Chuck_Norris
En attente de confirmation mail https://www.developpez.com
Le 08/05/2018 à 10:13
Citation Envoyé par pierre-y Voir le message
Un humain qui aurait fait ça en ayant malgré tout vue la victime aurait été inculpé pou meurtre ^^.
Meurtre ? Rien que ça ? Pourquoi pas assassinat, tant qu'à faire ? Au pire, on pourrait inculper d'homicide involontaire. Mais dans tous les cas, voir la personne ne veut malheureusement pas dire que l'accident aurait pu être évité, vu qu'un arrêt immédiat du véhicule n'est pas possible à cause des lois de la physique.

Et en ce qui concerne le "conducteur" (qui est en réalité un passager), on ne peut malheureusement pas nier le fait qu'il est impossible d'être aussi attentif à la route et aux événements quand on ne pilote pas directement. Prétendre le contraire serait de la mauvaise foi. Bon, ce n'est pas une excuse pour dormir ou tripoter un téléphone mais le fait est que dans le rôle potentiel d'éviter un accident mortel qui se joue en quelques millisecondes, l'humain qui ne pilote pas ne sera pas d'une grande aide.
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 08/05/2018 à 10:48
Citation Envoyé par Chuck_Norris Voir le message
vu qu'un arrêt immédiat du véhicule n'est pas possible à cause des lois de la physique.
Les lois de la physique ne sont pas au-dessus des lois des États souverains !

.

Le meurtre se caractérise par une volonté de donner la mort. Je ne pense pas qu'on puisse assumer qu'une machine, ou ses concepteurs, aient eu une telle volonté.
On peut aussi voir, sans reconnaître correctement la situation. Quand on conduit, on voit tout, la lumière nous arrive directement dans les yeux. Cependant il y a derrière tout un traitement effectué par le cerveau, que ce soit l'identification de mouvements, de zones d'intérêts, des entités présentes dans le champ de vision, etc.

Ainsi voir n'est pas suffisant pour percevoir. Il en est de même pour une IA.

Un petit exemple en vidéo.
Avatar de
https://www.developpez.com
Le 08/05/2018 à 10:49
Citation Envoyé par Blondelle Mélina Voir le message
La cause de cet accident mortel engendré par un véhicule Uber semble avoir été au niveau logiciel, en particulier une fonction qui détermine quels objets ignorer ou surveiller.
[...]
Compte tenu de la multiplicité des systèmes de vision et des sauvegardes à bord des véhicules autonomes, il semble impossible que l'un d'entre eux n'ait pas fonctionné et ait empêché les systèmes de la voiture de percevoir Elaine Herzberg qui traversait la rue devant le radar. Cependant, comme la voiture n'a pas freiné et qu'aucune alarme n'a été déclenchée, cela pousse les enquêteurs à mettre en doute la crédibilité de l'automatisation de ce véhicule. [...]
Même ci le mot obstable ou obstable mobile aurait pu être utilisé au lieu de simplement piéton, c'est tout de même plutôt gros de perdre de vue (ignorer ou ne pas surveiller) une masse aussi volumineuse qui en plus est mobile...
Un gros bogue digne de poser des questions et d'a un moment obtenir une réponse absurde parque les questions (if imbriqué) n'aurait pas été posé dans le bonne ordre...
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 08/05/2018 à 10:51
Ils n'ont pas de capteur infrarouge sur leur p* de voiture à plusieurs milliions!

Que se passe t'il derrière la voiture en cas d'arrêt brutal !!!
Un vrai danger public.

Les conducteurs derrière cette voiture autonome n'ont pas les réflexes et la même conduite qu'une machine, il faudrait en tenir compte.
Comment un système comme celui-là a t'il pû voir le jour et avoir l'homologation!
Des personnes ont touché un gros paquet d'argent, ça ne fait aucun doute!

J'espère que la famille de la victime vont prendre jusque leur chemise.
Avatar de sergio_is_back
Membre chevronné https://www.developpez.com
Le 08/05/2018 à 11:21
Citation Envoyé par hotcryx Voir le message
Ils n'ont pas de capteur infrarouge sur leur p* de voiture à plusieurs milliions!
Et non : Pas de capteur infrarouge mais plutôt un "Lidar"

Le capteur infrarouge ne détecte que ce qui émet des infrarouges : Un animal, une personne, bref une source de chaleur.
Un bloc de béton tombé sur la chaussée par exemple sera invisible aux infrarouges... Même chose pour une voiture tous
feux éteints arrêtée sur la voie de circulation...

De plus un capteur infrarouge peut être aveuglé par une source de chaleur, par exemple une forte source lumineuse renvoyée par
une surface vitrée, ce n'est pas le cas du lidar.

Citation Envoyé par hotcryx Voir le message

Comment un système comme celui-là a t'il pû voir le jour et avoir l'homologation!
Que je sache, aucun de ces véhicules n'est actuellement HOMOLOGUE !
Ils sont tous en phase de test et de développement...

A part, les Tesla qui proposent une "Aide à la conduite" mais ne sont pas des véhicules totalement autonomes à proprement parler:
La voiture ne peut pas décider de démarrer toute seule et de se rendre en totale autonomie d'un point A à un point B sans chauffeur.
Avatar de
https://www.developpez.com
Le 08/05/2018 à 13:08
Exemple de l'usage du Lidar. Cependant il ne peut voir les faces cachées.

Franchement, une cible est different d'un obstacle en tout cas...

Les vecteurs ont leurs importances.
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 08/05/2018 à 21:41
Citation Envoyé par Chuck_Norris Voir le message
Meurtre ? Rien que ça ? Pourquoi pas assassinat, tant qu'à faire ? Au pire, on pourrait inculper d'homicide involontaire.
Oui c'est bien un meurtre. Le fait d'être conscient et de voir quelqu'un sur la route puis de continuer à rouler dans sa direction sans chercher à l'éviter ou à freiner rentre bien dans cette catégorie et ça n'est certainement pas involontaire.

Citation Envoyé par Chuck_Norris Voir le message
Et en ce qui concerne le "conducteur" (qui est en réalité un passager), on ne peut malheureusement pas nier le fait qu'il est impossible d'être aussi attentif à la route et aux événements quand on ne pilote pas directement.
A mon avis c'est moins le conducteur que google qui est en cause si j'ai bien suivi l'histoire au départ il y a avait deux personnes d'assigné à cette tache justement pour réduir les risque et il l'avait ramené à un conducteur. C'est comme ça que j'ai compris l'affaire du moins.
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 08/05/2018 à 22:09
Citation Envoyé par pierre-y Voir le message
Le fait d'être conscient et de voir quelqu'un sur la route puis de continuer à rouler dans sa direction sans chercher à l'éviter ou à freiner rentre bien dans cette catégorie et ça n'est certainement pas involontaire.
Comme je l'ai fait remarquer lors de ma précédente intervention, pour un humain, comme pour une IA, voir n'est pas suffisant pour percevoir.
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web