IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les nouveaux tests de sécurité du projet Dawn montrent que le logiciel de conduite autonome de Tesla heurte à plusieurs reprises un mannequin d'enfant
Dans une poussette

Le , par Nancy Rey

166PARTAGES

18  0 
The Dawn Project est une organisation qui se consacre à rendre les ordinateurs vraiment sûrs pour l'humanité. L'année dernière, elle a sensibilisé le public aux risques liés à l'utilisation du logiciel de conduite autonome de Tesla en réalisant divers tests de sécurité. Récemment, elle nous a présenté un nouveau test révélant que le système de la voiture heurtera à plusieurs reprises un mannequin d'enfant dans une poussette.


The Dawn Project a été fondé par Dan O'Dowd, un expert en création de logiciels. The Dawn Project reconnaît que la vie humaine dépend de systèmes contrôlés par ordinateur, qui sont exposés à toutes sortes de risques lorsqu'ils sont connectés à l'internet. Les mauvais acteurs qui possèdent les connaissances techniques appropriées peuvent avoir de graves répercussions sur l'infrastructure de l'humanité.

Mais le premier danger auquel l'entreprise s'attaque est le déploiement par Elon Musk de dangereuses voitures entièrement autonomes (FSD). The Dawn Project offre même un prix de 15 000 dollars à la première personne qui démontrera un produit commercial actuel et tout nouveau d'une entreprise du classement Fortune 500 qui présente un dysfonctionnement de sécurité critique toutes les huit minutes en moyenne, qui est sur le marché depuis au moins six mois, qui est actuellement en production et qui n'a jamais été rappelé. Le prix de 15 000 dollars est inspiré par le fait qu'Elon Musk a augmenté le prix du logiciel de conduite autonome 10.69.2 à ce prix précis.


Le dernier test de sécurité effectué par The Dawn Project a été réalisé dans un parking public de Santa Barbara, en Californie, en octobre 2022. L'entreprise a utilisé la dernière version du logiciel disponible à ce moment-là, Tesla Full Self-Driving Beta 10.69.2.2.

Un mannequin d'enfant dans une poussette a été placé sur la trajectoire de la Tesla. Le conducteur a programmé la Tesla avant chaque essai, et les images montrent clairement que la conduite autonome complète est engagée. Une lampe de poche a été placée au-dessus de la pédale d'accélérateur pour montrer qu'elle n'a pas été enfoncée pendant le test.

La voiture accélère jusqu'à 48 km/h et heurte la poussette de plein fouet, car le logiciel n'a identifié aucun obstacle. Le seul message d'erreur affiché sur l'écran de la Tesla était : "Supercharging Unavailable : ajoutez un mode de paiement à votre compte Tesla".


The Dawn Project a également testé récemment la fonction de conduite autonome complète dans d'autres scénarios réalistes. Les résultats ont indiqué que le logiciel contournait les bus scolaires à l'arrêt avec le bras du panneau d'arrêt déployé et leurs feux clignotants. De plus, ils ont montré que la Tesla n'identifiait pas les limites variables des zones scolaires, de sorte qu'elle ne ralentissait pas même en présence d'enfants.

Un autre test a donné des résultats encore plus horribles : il a révélé que la FSD de Tesla a écrasé à plusieurs reprises des mannequins de taille enfantine de différentes tailles sur son passage, surtout lorsqu'ils étaient en mouvement. Le projet Dawn demande l'interdiction du logiciel FSD sur les routes jusqu'à ce que le géant de la technologie prouve que la voiture peut réagir lorsqu'elle rencontre des enfants.

De plus, The Dawn Project a prouvé que le logiciel ignorait à plusieurs reprises les panneaux "Do Not Enter" et "Road Closed", même si le véhicule avait la possibilité de reconnaître ces panneaux et de s'arrêter pendant les tests.

Tous ces résultats sont certainement inquiétants - même si la fonction FSD de Tesla est indéniablement innovante, les clients de Tesla qui optent pour cette fonction doivent savoir qu'elle est actuellement en cours de développement et qu'il ne faut pas s'y fier uniquement. Jusqu'à présent, Tesla a menacé de poursuivre The Dawn Project pour sa campagne nationale, qui comprenait des publicités télévisées et des pages dans le New York Times. Dan O'Dowd a répliqué en proposant une démonstration publique des défauts de sécurité de la conduite autonome intégrale de Tesla, en septembre dernier. Il sera intéressant de voir si ces nouveaux tests inciteront Tesla à prendre des mesures, qu'il s'agisse de poursuivre l'action en justice ou de résoudre les problèmes.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des allégations du Dawn Project sur le FSD ?
Que pensez-vous du FSD ? Les utilisateurs devraient-ils être autorisés à tester les versions bêta du FSD sur les routes ? Le logiciel devrait-il être interdit ?
Comment appréciez-vous les progrès technologiques en matière de véhicules autonomes ? Quelles sont les entreprises qui se démarquent selon vous ?

Voir aussi :

Tesla demande le retrait en ligne d'une vidéo montrant ses véhicules qui heurtent des mannequins de la taille d'un enfant, et ravive le débat sur la fiabilité de son système de conduite dit autonome

Le mode Full Self-Driving de Tesla a tellement énervé cet homme qu'il se présente au Sénat, Dan O'Dowd est mécontent du fait que le logiciel bêta de Tesla soit testé sur la voie publique

L'Autopilot de Tesla fait pratiquement foncer un Model 3 sur un tramway venant en sens inverse, l'option « Full Self-Driving » était activée

Le PDG de Green Hills accuse Tesla de traiter les utilisateurs du Full Self-Driving comme des "mannequins de test de collision", et qualifie le FSD du pire logiciel commercial qu'il ait jamais vu

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Darkzinus
Expert éminent sénior https://www.developpez.com
Le 23/04/2024 à 11:37
C'est beau une inscription sur le site spécialement pour défendre Tesla. Chef de projet SSII pour le service communication de la marque ?
12  2 
Avatar de sergio_is_back
Expert éminent https://www.developpez.com
Le 17/05/2023 à 13:40
Dans la prochaine version, il est prévu une franche accélération lors de la détection du piéton !!!!
9  0 
Avatar de petitours
Membre chevronné https://www.developpez.com
Le 22/04/2024 à 12:23
Il ne fait pas de réduction sur son outil de conduite autonome, il ne fait que donner un prix plus raisonnable à un truc inutile et pas du tout autonome.
Il ne lui reste plus qu'à en changer le nom pour ne plus mentir.
11  2 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 23/04/2024 à 8:32
Citation Envoyé par DevCon1234 Voir le message
Je croyais que les développeurs réfléchissaient un peu plus, mais en fait, ils agissent exactement comme les médias grand public,
Chat perché je ne suis pas développeur.
Ne vous demandez-vous pas pourquoi le moindre pneu crevé d'une Tesla en Australie fait la une des journaux ? Pourquoi le moindre accident impliquant une Tesla fait la une de tous les journaux ?
Non, je ne me le demande pas parce que je suis le plus intelligent (même plus que Musk) et que (une partie de) la réponse est simple : Tesla communique plus que n'importe qui. Donc les médias sont rentrée dans la bulle médiatique que la marque a créé, quitte à parler de faits divers.
Pourquoi les utilisateurs deviennent-ils fans alors que ceux qui n'ont jamais conduit crachent dessus ?
J'ai un ami qui a une Tesla qui en faisait des éloges dithyrambique et beaucoup de collègues qui ont hâte que les 5 ans passent pour passer à une autre voiture.
Pourquoi les médias européens reprennent-ils comme des perroquets la moindre information américaine alors que l'on sait que Musk est politiquement visé ?
Parce qu'une partie de ce qui est remonté est factuellement vrai, indépendamment de l'alignement complotiste politique de Musk.
Pourquoi ne parle-t-on que des rappels de Tesla alors que Mercedes ou BMW en font davantage mais ne sont jamais mentionnés dans les médias ?
Parce que Tesla est en avance sur tout le monde en ignorant les risques qu'ils prennent pour les utilisateurs de la route (et pas que ceux qui les conduisent).
Par exemple Mercedes engage sa responsabilité quand son "autopilot" est activé, Tesla fait son max pour n'être responsable de rien.
Pourquoi parle-t-on toujours de piratage alors que ce sont les voitures les plus sûres à ce niveau ?
TOUJOURS? la dernière news ici date d'il y a un an et je n'en retrouve pas d'autre. Après un article en 2021 et un en 2020. vraiment TOUJOURS.
Pourquoi, pourquoi, pourquoi ?
Parce que, parce que, parce que! Musk et Tesla sont des machines à cliques (en prétendant être ce qu'ils ne sont pas et en surcommuniquant).
On appelle ça le revers de la médaille.

Tesla n'est pas parfaite, mais ce sont clairement les meilleures voitures au meilleur prix avec une technologie de pointe qui devrait être admirée par tout développeur digne de ce nom.
Ne pas avoir de bouton physique est l'exemple même d'un système mal conçu.
Vous avez le meilleur programme mais son utilisation est physiquement dangereuse.
Il en va de même pour le FSD, les médias racontent n'importe quoi. Il suffit qu'une jante soit rayée pour invalider la technologie
Un modèle de voiture autonome incapable d'éviter un trottoir c'est inquiétant, non?
Une voiture qui freine en plein milieu de l'autoroute sans obstacle c'est inquiétant, non?
Arrive-t-il a des chauffeurs de faire de même? Oui, mais ils ne crient pas partout qu'ils conduisent mieux que quiconque.
alors qu'elle a déjà parcouru plus d'1 milliard de kilomètres et évité de nombreux accidents (curieusement, on n'en entend jamais parler, pourquoi ?).
C'est quand même dingue que les médias ne soient pas plein de Tesla qui évite des accidents!!!
Combien de news racontent l'histoire de Gérard qui a sauvé un petit vieux de je ne sais quoi?
Combien de news racontent l'histoire de Géraldine qui donne une pièce à un SDF?
Combien de news racontent l'histoire de Marcel/Antoine/Melissa/Sophie qui ont bien géré leur freinage d'urgence et évité un accident?
Je sais bien que Tesla ne dépense pas un centime en publicité, ce qui explique en partie cette haine des médias, mais il y a aussi un aspect politique visant à dévaloriser ses entreprises.
Musk ne dépenses pas un sous en publicité?
Elon Musk était contre la pub, mais après avoir racheté Twitter, il a demandé à Tesla de dépenser 200 000 $ en publicité sur X, et de payer des comptes premium sur X
Je veux bien un salaire de ce genre de pas un centime.
Musk se surmédiatise, si les média s'acharnent sur lui c'est parce qu'il est nul à chier en ce moment. Pendant la période SpaceX les médias faisaient son éloge (et plutôt à raison), les médias ont fait la pub de son Starlink donc les médias n'ont pas du tout toujours été contre lui.
Il serait peut-être temps de prendre un peu de hauteur,
Je vous retourne le compliment.
Je n'ai aucun problème à attaquer Musk et ses entreprises, pourtant il m'arrive aussi de rappeler qu'ils sont suffisament mauvais pour qu'on évite de les attaquer sur des faits divers isolés.
Il y a un avantage à ce que vous faites, c'est de donner un bon moment pour acheter des actions Tesla. Lorsque vous devenez arrogants, que vous vous réjouissez d'une baisse des ventes et que le moindre fait divers vous permet de dénigrer la marque, c'est un bon signe pour acheter
Mais alors de quoi vous plaignez vous?
Vous ressortez gagnante de ça!
Vous êtes la plus intelligente, vous surnagez dans ce marasme.
Vous devriez nous encouragé plutôt que de nous critiquer. (Mais par pitié n'activez jamais le FSD en Belgique j'aimerais éviter de finir sur votre capot parce que votre voiture n'a pas identifié quel type d'obstacle je suis)
11  2 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 17/10/2023 à 23:40
Citation Envoyé par Ryu2000 Voir le message
Ben justement...

Pilote automatique

Autopilot ça ne veut pas dire que ça se conduit tout seul.
Tu mets la définition de "autopilot", mais pourquoi pas la définition de "Full Self-Driving"?
Non, parce qu'il parle de ça aussi. Littéralement "Conduite autonome complète/totale"...

Tesla aurait appelé ça "Self-driving", encore, on aurait pu chipoter, et faire comme tous les constructeurs et parler de niveau 1, 2, 3, 4, 5. Mais là, c'est du foutage de gueule.
Je ré-itère: cet ingénieur est soit un menteur, soit quelqu'un qui devrait ouvrir un dictionnaire.
8  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 18/10/2023 à 22:34
Citation Envoyé par Ryu2000 Voir le message
Ça ne parle pas que de Full Self-Driving ça parle aussi d'Autopilot !
Et autopilot ça ne veut pas dire que ça se conduit tout seul.
C'est un dialogue de sourds

Citation Envoyé par Ryu2000 Voir le message
Pour Full Self-Driving je ne sais pas.
Bon après Tesla aurait du choisir des expressions plus précise pour que les gens comprennent que la voiture ne se conduit pas toute seule.
Quand une entreprise te vend son accès bêta sous le nom de Full Self-Driving, je pense que c'est fait exprès.
7  0 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 22/04/2024 à 14:03
Tu peux jouer sur les mots mais dans les faits les études ont montré que l'autopilot de Tesla n'est pas du tout à la hauteur, et les réseaux sociaux regorgent de milliers de témoignages dans ce sens, et qu'il y a déjà eu des accidents mortels, principalement du à la bêtise des gens qui ont vraiment cru qu'ils peuvent dormir, regarder un film, faire des jeux vidéos, ou faire l'amour pendant que le FSD conduisait leur Tesla.

Dans les faits d'autres constructeurs ont un FSD qui est mieux coté que celui de Tesla, le problème de Tesla c'est qu'Elon Musk a fait le buzz, hors maintenant c'est le retour à la réalité : leur voitures sont pourries, elle ne sont pas fiables, certains composants ont étés montés avec du ruban adhésif, les réparations coutent une fortune, Tesla à menti sur l'autonomie réelle, et quand c'est l’hiver ces voitures ne marchent plus, les voitures et les stations de charges tombent en panne, et le FSD Tesla est totalement moisi et dangereux. Donc une fois la Hype passée c'est un désastre.
En Chine les Tesla ne se vendent plus du tout, car les chinois fabriquent des autos plus fiables et moins chères. Elon ne solde pas seulement le FSD mais aussi le prix de plusieurs modèles, qui ne se vendent plus à cause de la réputation horrible, et du fait que les chinois proposent bien mieux.
9  2 
Avatar de petitours
Membre chevronné https://www.developpez.com
Le 22/04/2024 à 17:39
Citation Envoyé par LeQueteur Voir le message
pour juste se faire une bonne idée, il me semble que durant le confinement, on était tous… confinés !! Pourquoi faire porter le blâme sur Tesla alors que c'est une décision du GOUVERNEMENT de confiner les espaces publics avec interdiction de sortir… que les employés aient été confines n'apparait donc plus comme un acte d'oppression sinon il va falloir demander des comptes aussi au gouvernement…
Si vous ne voyez pas de différence entre confiner les gens (pas ensembles) pour les protéger et Musk qui entasse ses ouvriers dans son usine pour bosser alors on ne peut plus rien pour vous.

Citation Envoyé par LeQueteur Voir le message
Bon, Tesla falsifie des vidéos et des statistiques de son système quel qu'il soit, vous le dites sans citer aucune source afin de vérifier ces dires… ou alors, c'est qu'un parti pris a déjà été pris a priori…

C'est fou ce qu'on peut être biaisé quand on porte des œillères ...
A qui le dites vous... pas besoin de moi pour donner les sources dont ce fil est rempli

Citation Envoyé par LeQueteur Voir le message
Quand on recherche la vérité, il me parait que le minimum est de mener une bonne investigation et d'écouter, d'abord, les déclarations des deux parties en conflit.
Oui, et il y a aussi les faits qui sont tenaces

Citation Envoyé par LeQueteur Voir le message
Là, on parle du cas de la femme citée dans l'article, les autres cas ne sont pas inclus dans la discussion, sauf si le but n'est pas de traiter l'information équitablement, mais plutôt inventer des excuses afin de ne pas traiter le cas avec objectivité.
Pas de bol, la discussion qui a maintenant pas mal de pages ne parle pas que du cas de cette dame. La question qui m'interpelle ici c'est quelle illusion Musk vous a fait pour voir en lui encore une possibilité de bienveillance face à toutes ces casseroles.

Citation Envoyé par LeQueteur Voir le message
Jouer sur l'émotionnel n'est surement pas la meilleure manière d'aborder une discussion ou il est demandé de faire preuve d'un minimum de bon sens et d'avoir un minimum de jugeote…
Oui, a commencer par lire la discussion et pas juste le dernier poste du rédacteur ainsi que pleins d'autres sources qui racontent la même chose et d'autres choses avec des preuves bien solides...

Quand à la jugeote vous pouvez en effet l'utiliser, lisez un peu sur la conduite autonome, ses problèmes et enjeux et jugeotez sur le choix de ne laisser que quelques cameras placées aux endroits qui permettent de préserver les choix esthétiques du véhicule ; vous trouverez d'un seul coup moins louche le fait que le FSD ne fait pas le job.
9  2 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 30/04/2024 à 20:17
Citation Envoyé par DevCon1234 Voir le message
Pour info, Tesla ne lâche pas ses versions aux utilisateurs comme ça.
Tout à fait, il faut d'abord qu'Elon Musk refasse la vidéo truquée qui montre que le FSD est utile alors qu'en vrai c'est un logiciel de suicide assisté

Citation Envoyé par DevCon1234 Voir le message
Pour info, Tesla ne lâche pas ses versions aux utilisateurs comme ça.
Puis ils diffusent la version aux employés de Tesla(quelques semaines si tout est ok)
C'est ça, et si un employé de Tesla trouve un bug il est viré dans l'heure directement par Elon Musk, même méthode que chez Boeing

Citation Envoyé par DevCon1234 Voir le message
Le problème de l'Europe c'est qu'on veut la perfection, on n'accepte plus aucun risque et par extension, on ne fait rien et on regarde les US et la Chine prendre le large. C'est un problème de mentalité, on le vois très bien dans ce forum.
C'est ça, par exemple en Suisse le système de suicide assisté marche parfaitement, à 100%, alors qu'en France le système de suicide assisté appelé FSD ne te permet de mourir que de façon aléatoire, c'est moins bien.

9  2 
Avatar de Fleur en plastique
Membre extrêmement actif https://www.developpez.com
Le 20/01/2023 à 10:26
Citation Envoyé par Stéphane le calme Voir le message
Bien que les conducteurs aient tendance à blâmer le FSD pour leurs erreurs lorsqu'un accident se produit, cette fois, le conducteur avait raison, comme le confirment les données publiées par le gouvernement fédéral mardi. Selon le rapport d'enquête cité par CNN, le logiciel controversé d'aide à la conduite a été activé environ 30 secondes avant l'accident. Les données montrent également que la voiture a brusquement ralenti à 11 km/h, un mouvement dangereux dans un trafic rapide.

On ne sait pas ce qui cause le freinage fantôme, que Tesla n'a pas encore compris et corrigé. Tesla a dépouillé ses voitures de tous les capteurs, à l'exception des caméras vidéo, qui pourraient en être la cause principale. Après tout, les humains éprouvent des illusions d'optique, bien que rares. Il se peut que certaines conditions, comme une ombre se déplaçant rapidement sur la caméra, puissent faire croire au système qu'il y a un objet devant la voiture et déclencher le freinage.
Tesla avait d'autres capteurs (comme des simples radars) qu'ils ont décidé de tout supprimer il y a quelques années pour remplacer par des simples caméras, alors qu'il est si facile de berner une caméra numérique, facilement éblouie ou pouvant souffrir d'un souci de balance des blancs suite à un changement d'éclairage, alors que cela peut être critique pour distinguer de la neige, un reflet sur une route humide, un véritable obstacle... Je me rappelle de l'argument de l'époque : ça coûte trop cher.

Ah, pourtant pour activer le FSD il faut quand même 15 000 $, soit le prix d'une voiture thermique neuve à elle toute seule. Donc j'ai envie de dire, y'a de quoi foutre quelques radars pour compenser les faiblesses structurelles de caméras vidéos avec cette somme. Ah, mais j'oubliais, ça sert en fait à financer l'achat de Twitter. Donc, Twitter est plus important que la vie humaine des gogos qui achètent le FSD sur leur Tesla. Point de vue intéressant, M. Musk.

Citation Envoyé par Stéphane le calme Voir le message
La NHTSA enquête déjà sur des centaines de plaintes de conducteurs de Tesla, certaines décrivant des quasi-accidents et des préoccupations pour leur sécurité. Néanmoins, l'agence n'a pas encore pris de mesures contre Tesla, et l'enquête traîne en longueur. Quoi qu'il en soit, les analystes s'attendent à ce que les récentes découvertes sur le carambolage de San Francisco incitent la NHTSA à exiger une solution.
Comme c'est étrange. L'agence américaine ne semble pas pressée de sanctionner un constructeur américain vu comme brillant. Cela me rappelle bizarrement la FAA avec le Boeing 737 MAX, et il a fallu plus de 350 morts pour qu'ils se décident à enfin agir, et uniquement après que le reste du monde l'ait fait. Combien de morts provoqués par le FSD, combien d'interdictions étrangères avant que la NHTSA se décide à agir ? Une nouvelle preuve comme quoi l'argent vaut largement plus que la vie humaine aux États-Unis.

Je recherche NHTSA sur Google et voici l'extrait afiché :
Our mission is to save lives, prevent injuries, and reduce economic costs due to road traffic crashes, through education, research, safety standards, and ...
Je me marre.
7  1