Les nouveaux tests de sécurité du projet Dawn montrent que le logiciel de conduite autonome de Tesla heurte à plusieurs reprises un mannequin d'enfant

Dans une poussette

Les nouveaux tests de sécurité du projet Dawn montrent que le logiciel de conduite autonome de Tesla heurte à plusieurs reprises un mannequin d'enfant
dans une poussette

The Dawn Project est une organisation qui se consacre à rendre les ordinateurs vraiment sûrs pour l'humanité. L'année dernière, elle a sensibilisé le public aux risques liés à l'utilisation du logiciel de conduite autonome de Tesla en réalisant divers tests de sécurité. Récemment, elle nous a présenté un nouveau test révélant que le système de la voiture heurtera à plusieurs reprises un mannequin d'enfant dans une poussette.


The Dawn Project a été fondé par Dan O'Dowd, un expert en création de logiciels. The Dawn Project reconnaît que la vie humaine dépend de systèmes contrôlés par ordinateur, qui sont exposés à toutes sortes de risques lorsqu'ils sont connectés à l'internet. Les mauvais acteurs qui possèdent les connaissances techniques appropriées peuvent avoir de graves répercussions sur l'infrastructure de l'humanité.

Mais le premier danger auquel l'entreprise s'attaque est le déploiement par Elon Musk de dangereuses voitures entièrement autonomes (FSD). The Dawn Project offre même un prix de 15 000 dollars à la première personne qui démontrera un produit commercial actuel et tout nouveau d'une entreprise du classement Fortune 500 qui présente un dysfonctionnement de sécurité critique toutes les huit minutes en moyenne, qui est sur le marché depuis au moins six mois, qui est actuellement en production et qui n'a jamais été rappelé. Le prix de 15 000 dollars est inspiré par le fait qu'Elon Musk a augmenté le prix du logiciel de conduite autonome 10.69.2 à ce prix précis.


Le dernier test de sécurité effectué par The Dawn Project a été réalisé dans un parking public de Santa Barbara, en Californie, en octobre 2022. L'entreprise a utilisé la dernière version du logiciel disponible à ce moment-là, Tesla Full Self-Driving Beta 10.69.2.2.

Un mannequin d'enfant dans une poussette a été placé sur la trajectoire de la Tesla. Le conducteur a programmé la Tesla avant chaque essai, et les images montrent clairement que la conduite autonome complète est engagée. Une lampe de poche a été placée au-dessus de la pédale d'accélérateur pour montrer qu'elle n'a pas été enfoncée pendant le test.

La voiture accélère jusqu'à 48 km/h et heurte la poussette de plein fouet, car le logiciel n'a identifié aucun obstacle. Le seul message d'erreur affiché sur l'écran de la Tesla était : "Supercharging Unavailable : ajoutez un mode de paiement à votre compte Tesla".


The Dawn Project a également testé récemment la fonction de conduite autonome complète dans d'autres scénarios réalistes. Les résultats ont indiqué que le logiciel contournait les bus scolaires à l'arrêt avec le bras du panneau d'arrêt déployé et leurs feux clignotants. De plus, ils ont montré que la Tesla n'identifiait pas les limites variables des zones scolaires, de sorte qu'elle ne ralentissait pas même en présence d'enfants.

Un autre test a donné des résultats encore plus horribles : il a révélé que la FSD de Tesla a écrasé à plusieurs reprises des mannequins de taille enfantine de différentes tailles sur son passage, surtout lorsqu'ils étaient en mouvement. Le projet Dawn demande l'interdiction du logiciel FSD sur les routes jusqu'à ce que le géant de la technologie prouve que la voiture peut réagir lorsqu'elle rencontre des enfants.

De plus, The Dawn Project a prouvé que le logiciel ignorait à plusieurs reprises les panneaux "Do Not Enter" et "Road Closed", même si le véhicule avait la possibilité de reconnaître ces panneaux et de s'arrêter pendant les tests.

Tous ces résultats sont certainement inquiétants - même si la fonction FSD de Tesla est indéniablement innovante, les clients de Tesla qui optent pour cette fonction doivent savoir qu'elle est actuellement en cours de développement et qu'il ne faut pas s'y fier uniquement. Jusqu'à présent, Tesla a menacé de poursuivre The Dawn Project pour sa campagne nationale, qui comprenait des publicités télévisées et des pages dans le New York Times. Dan O'Dowd a répliqué en proposant une démonstration publique des défauts de sécurité de la conduite autonome intégrale de Tesla, en septembre dernier. Il sera intéressant de voir si ces nouveaux tests inciteront Tesla à prendre des mesures, qu'il s'agisse de poursuivre l'action en justice ou de résoudre les problèmes.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des allégations du Dawn Project sur le FSD ?
Que pensez-vous du FSD ? Les utilisateurs devraient-ils être autorisés à tester les versions bêta du FSD sur les routes ? Le logiciel devrait-il être interdit ?
Comment appréciez-vous les progrès technologiques en matière de véhicules autonomes ? Quelles sont les entreprises qui se démarquent selon vous ?

Voir aussi :

Tesla demande le retrait en ligne d'une vidéo montrant ses véhicules qui heurtent des mannequins de la taille d'un enfant, et ravive le débat sur la fiabilité de son système de conduite dit autonome

Le mode Full Self-Driving de Tesla a tellement énervé cet homme qu'il se présente au Sénat, Dan O'Dowd est mécontent du fait que le logiciel bêta de Tesla soit testé sur la voie publique

L'Autopilot de Tesla fait pratiquement foncer un Model 3 sur un tramway venant en sens inverse, l'option « Full Self-Driving » était activée

Le PDG de Green Hills accuse Tesla de traiter les utilisateurs du Full Self-Driving comme des "mannequins de test de collision", et qualifie le FSD du pire logiciel commercial qu'il ait jamais vu