IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Quels sont les scénarios dans lesquels la nouvelle mise à jour FSD Beta 9 de Tesla échoue ?
Certains comportements du système seraient "carrément" dangereux

Le , par Bill Fassinou

229PARTAGES

8  0 
Tesla a commencé à déployer la dernière mise à jour de son logiciel d'aide à la conduite ce week-end. Appelée FSD Beta 9 (la version 2021.4.18.12), cette mise à jour est censée corriger de nombreux problèmes des versions précédentes de la version bêta du système FSD. Lundi, les premiers propriétaires de Tesla l'ayant essayé ont partagé leurs observations sur Twitter et dans de petites vidéos sur YouTube. Ils notent que, bien que le système soit impressionnant à bien des égards, il est clair qu'il reste encore beaucoup de chemin à parcourir et que certains comportements du FSD Beta 9 sont "carrément" dangereux.

Même si Tesla s'efforce d'améliorer le FSD (Full Self-Driving), qu'il a finalement qualifié de système d'aide à la conduite de niveau 2, une grande majorité de l'industrie dénonce une appellation trompeuse du produit. La mise à jour FSD Beta 9 qui a commencé à être déployée ce week-end est particulièrement importante parce qu'elle marque la première mise à jour du FSD conçue pour s'appuyer uniquement sur les données de la caméra de la voiture. En effet, Tesla a cessé d'installer des émetteurs-récepteurs radar sur les modèles 3 et Y et passe à Tesla Vision, le système semi-automatique entièrement basé sur la caméra.



Parmi les autres changements importants, il y a un nouveau système de visualisation beaucoup plus détaillé. Grâce à ce visualiseur, vous pouvez voir que le système est souvent capable de détecter des types de véhicules spécifiques, par exemple en distinguant les voitures, les SUV, les camionnettes, les personnes sur scooter, à vélo, etc. Dans ces visualisations, vous pouvez également voir que les feux de freinage sont maintenant reconnus, ce qui représente une amélioration importante par rapport aux versions précédentes du système. Toutefois, il semble qu'il n'est pas encore capable d'identifier les clignotants.

Il existe un certain nombre de vidéos montrant le système en train d'effectuer la tâche de conduite (il s'agit toujours d'un système de niveau 2, l'humain assis dans le siège du conducteur doit donc être prêt à prendre le relais à tout moment, ce qui arrive même dans les vidéos où il se comporte très bien) avec beaucoup d'habileté et de précision. Quant aux aspects moins positifs, ils sont sans doute plus importants que les démonstrations de bon fonctionnement, car, lorsqu'une chose ne va pas dans une voiture contrôlée par l'IA, il y a un réel danger, pouvant causer la mort de personnes à l'extérieur et à l'intérieur de la voiture.

Une des vidéos publiées sur la toile lundi montre, par exemple, une Tesla avec le FSD Beta 9 activé qui passe à travers un buisson envahissant sur un terre-plein central, au grand dam du propriétaire. Il s'agit d'une de ces situations que les humains n'auraient aucun mal à détecter et à éviter, mais la Tesla, suivant ses règles strictes de maintien de la voie, n'est absolument pas consciente des branches et les traverse. Cela pourrait être un bon exemple des différences entre le raisonnement ascendant de l'IA (suivre les capteurs et les règles) et le raisonnement descendant de l'homme (je sais ce que sont les branches et je veux les éviter).


Plus inquiétant, dans la même vidéo, le FSD a étrangement échoué à virer à gauche, avant de foncer vers des voitures garées aux abords de la route, car le système n'a pas réussi à redresser le volant. Ces erreurs sont particulièrement troublantes, car l'on ne sait pas vraiment pourquoi le véhicule n'a pas pu exécuter le virage correctement, alors qu'il n'y avait vraiment rien de très différent des autres virages à gauche qu'il a exécutés sans problème. Cala rappelle désagréablement à quel point ce genre de système peut être une boîte noire. Les retours devraient permettre à Tesla d'améliorer les choses.

Un autre fan très sérieux de Tesla a effectué un trajet de nuit en ville à Seattle et si la voiture s'est généralement bien comportée, l'on note toutefois quelques égarements du FSD. D'une manière ou d'une autre, Tesla Vision semble être aveugle aux énormes colonnes de béton qui soutiennent le Monorail de Seattle, une chose qui peut s'avérer très dangereuse dans certaines conditions. Un conducteur qui aurait fait suffisamment confiance à ce système pour ne pas faire attention à la route aurait pu se retrouver en plein dans ces colonnes. La nouvelle visualisation ne montrait pas du tout les colonnes.

Le conducteur s'est demandé si c'est à cause de l'absence du système radar que la voiture ne peut pas percevoir les pylônes du monorail ou une jardinière en bordure de route, mais ce n'est vraiment pas clair du tout. En outre, le FSD ne semble pas non plus comprendre les différences entre les feux de circulation rouges et jaunes clignotants. La voiture traite en effet un signal jaune clignotant comme un panneau d'arrêt. Ce dernier point pourrait certainement poser problème s'il y avait des véhicules derrière la Tesla. Un autre problème relevé par les bêta-testeurs concerne les virages à gauche non protégés.



Une autre vidéo montre une voiture Tesla en train de tenter de tourner à gauche sans protection sur une autoroute à six voies. Il s'agit en fait d'une manœuvre difficile pour un conducteur humain, et c'est donc un véritable défi pour le FSD Beta 9. Et il échoue "lamentablement". Ce n'est que la première fois que la Tesla tente le virage à gauche qu'elle atteint le terre-plein central, et le conducteur humain doit alors terminer le travail. Toutes les autres fois étaient un échec. Ces problèmes ont peut-être échappé à Tesla, car le PDG Elon Musk a déclaré la semaine dernière qu'il pouvait y avoir des problèmes inconnus.

« Soyez paranoïaques », a ajouté Musk, avant d'affirmer que la sécurité est la priorité absolue du constructeur automobile avec ces versions. Tesla ne dispose pas d'un service de relations publiques pour répondre aux demandes de commentaires. Les testeurs ont recensé au moins 11 problèmes en conduisant avec le FSD Beta 9 activé, notamment :

  • la voiture traverse la ville et ne reconnaît pas les jardinières dans la rue et manque de les heurter ;
  • la voiture ne reconnaît pas le monorail au milieu de la rue et se dirige vers lui ;
  • la voiture traverse une voie de bus au lieu de rester sur la voie de droite ;
  • la voiture ne reconnaît pas une rue à sens unique et le panneau de sens unique dans la rue, et elle roule en sens interdit ;
  • la voiture ne peut pas décider de la voie à utiliser pour tourner à droite dans la rue suivante. Il continue à changer de voie ;
  • la voiture décide trop tard de prendre la bonne voie ;
  • la voiture décide d'emprunter une voie, puis se rend compte qu'elle doit emprunter l'autre voie, mais c'est trop tard ;
  • la voiture doit tourner à gauche et décide de changer de voie avant ;
  • la voiture tourne à gauche, mais s'engage sur une voie sur laquelle elle n'est pas censée être ;
  • la voiture doit traverser plusieurs voies pour tourner à gauche et il semble qu'avant de pouvoir traverser toutes les voies, elle doive se rapprocher du carrefour ;
  • la voiture voit un double stop alors qu'il n'y en a qu'un seul.


En regardant ces vidéos, le consensus semble être que les gens aiment beaucoup les nouvelles visualisations, la détection des feux de freinage, et sont impressionnés par le fait qu'il s'agit uniquement d'une caméra, mais dans l'ensemble les améliorations du comportement de conduite ne semblent pas vraiment notables. « Encore une fois, ce qui a été réalisé est impressionnant, sans aucun doute ; c'est une merveille technologique », a écrit un critique. Il est également loin d'être un système complet de niveau 5, capable d'aller partout sans surveillance, ou même un système d'aide à la conduite de niveau 4.



La voiture a en effet absolument besoin d'un humain pour la surveiller, en permanence. Il n'y a aucun moyen sûr de se mettre à l'abri si le FSD se retrouve dans une situation qu'il ne peut pas gérer, et en tant que tel, il aura toujours besoin d'un humain vigilant prêt à prendre le contrôle à tout moment. « Je continue à penser qu'il s'agit d'un modèle intrinsèquement défectueux et potentiellement dangereux. Ensuite, il y a toujours le choix très discutable de tester un logiciel bêta contrôlant une voiture de 4 000 livres dans des rues publiques remplies de personnes qui n'ont jamais accepté de participer à un test bêta d'une voiture robot », a écrit un critique.

« Personne ne verra un robotaxis Tesla de niveau 5 d'ici la fin de l'année et, bien qu'il y ait certainement des progrès, les défaillances significatives que le système a déjà démontrées dans les mains de testeurs enthousiastes dans le peu de temps où il a été disponible devraient s'avérer être un appel à la réalité de l'état du FSD », a-t-il ajouté.

Source : Fil de discussion Twitter

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des problèmes du FSD Beta 9 détectés par les testeurs ?
Pensez-vous que ces problèmes sont dangereux ou qu'ils sont peu alarmants ?

Voir aussi

Tesla commence enfin à déployer la version bêta 9 du Full Self-Driving après un long retard, elle apporte la surveillance du conducteur et améliore la visualisation de la route

Tesla admet que le "Full Self-Driving Beta" actuel sera toujours le niveau 2, « Il y a des circonstances et des événements que le système n'est pas capable de reconnaître »

Tesla annonce aux régulateurs que les voitures entièrement autonomes ne seront peut-être pas disponibles d'ici la fin de l'année, en contradiction avec les indications d'Elon Musk

Tesla abandonne le radar et s'en remet aux caméras pour le système Autopilot de certaines voitures, les capteurs radar restent pour l'instant sur ses modèles les plus chers

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de kain_tn
Membre expert https://www.developpez.com
Le 13/07/2021 à 11:59
Citation Envoyé par Bill Fassinou Voir le message
Quel est votre avis sur le sujet ?
Je vais répondre sous la forme d'une question:

Si vous aviez fait les erreurs listées ci-dessous lors de votre examen de conduite, pensez-vous que vous auriez eu votre permis de conduire? Si non, pourquoi l'accorder à un robot qui les ferait alors qu'il est encore moins à même de pouvoir réagir à des situations imprévues?

Citation Envoyé par Bill Fassinou Voir le message
  • la voiture traverse la ville et ne reconnaît pas les jardinières dans la rue et manque de les heurter ;
  • la voiture ne reconnaît pas le monorail au milieu de la rue et se dirige vers lui ;
  • la voiture traverse une voie de bus au lieu de rester sur la voie de droite ;
  • la voiture ne reconnaît pas une rue à sens unique et le panneau de sens unique dans la rue, et elle roule en sens interdit ;
  • la voiture ne peut pas décider de la voie à utiliser pour tourner à droite dans la rue suivante. Il continue à changer de voie ;
  • la voiture décide trop tard de prendre la bonne voie ;
  • la voiture décide d'emprunter une voie, puis se rend compte qu'elle doit emprunter l'autre voie, mais c'est trop tard ;
  • la voiture doit tourner à gauche et décide de changer de voie avant ;
  • la voiture tourne à gauche, mais s'engage sur une voie sur laquelle elle n'est pas censée être ;
  • la voiture doit traverser plusieurs voies pour tourner à gauche et il semble qu'avant de pouvoir traverser toutes les voies, elle doive se rapprocher du carrefour ;
  • la voiture voit un double stop alors qu'il n'y en a qu'un seul.

4  0 
Avatar de scandinave
Membre éprouvé https://www.developpez.com
Le 19/07/2021 à 9:35
Ce jeu de dupe. Il n'y a aucun intérêt à acheter un "système autonome" où il faut rester autant vigilant et attentif que sur une voiture classique. Donc de deux choses l'une :

  • Soit les acheteurs ce sont laissés embobiné par le marketing tesla.
  • Soit les acheteurs en sont pleinement conscient et sont prêt à prendre le risque.


Dans les deux cas, cette technologie ne devrait même pas avoir le droit d'exister à l'heure actuel. Ce que fait tesla, ce n'est ni plus ni moins que des tests en grandeur nature, en prenant les gens pour des cobayes pour entrainer son IA. Si cela ne concernait que les utilisateurs de tesla, à la limite, je m'en ficherai. Mais lors d'un accident, c'est pas forcement la conducteur de la tesla qui va avoir le plus mal.
2  0 
Avatar de kain_tn
Membre expert https://www.developpez.com
Le 19/07/2021 à 9:51
Citation Envoyé par Stan Adkens Voir le message
Tesla a déclaré avoir informé ses clients que sa technologie d'aide à la conduite automatisée ne constituait pas un système de conduite entièrement autonome.
Mais ça ne les empêche pas d'appeler le pack Full Self-Driving ("Conduite Entièrement/Complètement Autonome")?? ??

Citation Envoyé par Stan Adkens Voir le message
Que pensez-vous de la décision de l’organisme allemand d’interdire les déclarations publicitaires trompeuses de Tesla dans le pays ?
C'est très bien. Ça devrait être la norme pour toutes les entreprises, sinon les services marketing peuvent raconter n'importe quoi.
1  0