IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Quels sont les scénarios dans lesquels la nouvelle mise à jour FSD Beta 9 de Tesla échoue ?
Certains comportements du système seraient "carrément" dangereux

Le , par Bill Fassinou

280PARTAGES

8  0 
Tesla a commencé à déployer la dernière mise à jour de son logiciel d'aide à la conduite ce week-end. Appelée FSD Beta 9 (la version 2021.4.18.12), cette mise à jour est censée corriger de nombreux problèmes des versions précédentes de la version bêta du système FSD. Lundi, les premiers propriétaires de Tesla l'ayant essayé ont partagé leurs observations sur Twitter et dans de petites vidéos sur YouTube. Ils notent que, bien que le système soit impressionnant à bien des égards, il est clair qu'il reste encore beaucoup de chemin à parcourir et que certains comportements du FSD Beta 9 sont "carrément" dangereux.

Même si Tesla s'efforce d'améliorer le FSD (Full Self-Driving), qu'il a finalement qualifié de système d'aide à la conduite de niveau 2, une grande majorité de l'industrie dénonce une appellation trompeuse du produit. La mise à jour FSD Beta 9 qui a commencé à être déployée ce week-end est particulièrement importante parce qu'elle marque la première mise à jour du FSD conçue pour s'appuyer uniquement sur les données de la caméra de la voiture. En effet, Tesla a cessé d'installer des émetteurs-récepteurs radar sur les modèles 3 et Y et passe à Tesla Vision, le système semi-automatique entièrement basé sur la caméra.



Parmi les autres changements importants, il y a un nouveau système de visualisation beaucoup plus détaillé. Grâce à ce visualiseur, vous pouvez voir que le système est souvent capable de détecter des types de véhicules spécifiques, par exemple en distinguant les voitures, les SUV, les camionnettes, les personnes sur scooter, à vélo, etc. Dans ces visualisations, vous pouvez également voir que les feux de freinage sont maintenant reconnus, ce qui représente une amélioration importante par rapport aux versions précédentes du système. Toutefois, il semble qu'il n'est pas encore capable d'identifier les clignotants.

Il existe un certain nombre de vidéos montrant le système en train d'effectuer la tâche de conduite (il s'agit toujours d'un système de niveau 2, l'humain assis dans le siège du conducteur doit donc être prêt à prendre le relais à tout moment, ce qui arrive même dans les vidéos où il se comporte très bien) avec beaucoup d'habileté et de précision. Quant aux aspects moins positifs, ils sont sans doute plus importants que les démonstrations de bon fonctionnement, car, lorsqu'une chose ne va pas dans une voiture contrôlée par l'IA, il y a un réel danger, pouvant causer la mort de personnes à l'extérieur et à l'intérieur de la voiture.

Une des vidéos publiées sur la toile lundi montre, par exemple, une Tesla avec le FSD Beta 9 activé qui passe à travers un buisson envahissant sur un terre-plein central, au grand dam du propriétaire. Il s'agit d'une de ces situations que les humains n'auraient aucun mal à détecter et à éviter, mais la Tesla, suivant ses règles strictes de maintien de la voie, n'est absolument pas consciente des branches et les traverse. Cela pourrait être un bon exemple des différences entre le raisonnement ascendant de l'IA (suivre les capteurs et les règles) et le raisonnement descendant de l'homme (je sais ce que sont les branches et je veux les éviter).


Plus inquiétant, dans la même vidéo, le FSD a étrangement échoué à virer à gauche, avant de foncer vers des voitures garées aux abords de la route, car le système n'a pas réussi à redresser le volant. Ces erreurs sont particulièrement troublantes, car l'on ne sait pas vraiment pourquoi le véhicule n'a pas pu exécuter le virage correctement, alors qu'il n'y avait vraiment rien de très différent des autres virages à gauche qu'il a exécutés sans problème. Cala rappelle désagréablement à quel point ce genre de système peut être une boîte noire. Les retours devraient permettre à Tesla d'améliorer les choses.

Un autre fan très sérieux de Tesla a effectué un trajet de nuit en ville à Seattle et si la voiture s'est généralement bien comportée, l'on note toutefois quelques égarements du FSD. D'une manière ou d'une autre, Tesla Vision semble être aveugle aux énormes colonnes de béton qui soutiennent le Monorail de Seattle, une chose qui peut s'avérer très dangereuse dans certaines conditions. Un conducteur qui aurait fait suffisamment confiance à ce système pour ne pas faire attention à la route aurait pu se retrouver en plein dans ces colonnes. La nouvelle visualisation ne montrait pas du tout les colonnes.

Le conducteur s'est demandé si c'est à cause de l'absence du système radar que la voiture ne peut pas percevoir les pylônes du monorail ou une jardinière en bordure de route, mais ce n'est vraiment pas clair du tout. En outre, le FSD ne semble pas non plus comprendre les différences entre les feux de circulation rouges et jaunes clignotants. La voiture traite en effet un signal jaune clignotant comme un panneau d'arrêt. Ce dernier point pourrait certainement poser problème s'il y avait des véhicules derrière la Tesla. Un autre problème relevé par les bêta-testeurs concerne les virages à gauche non protégés.



Une autre vidéo montre une voiture Tesla en train de tenter de tourner à gauche sans protection sur une autoroute à six voies. Il s'agit en fait d'une manœuvre difficile pour un conducteur humain, et c'est donc un véritable défi pour le FSD Beta 9. Et il échoue "lamentablement". Ce n'est que la première fois que la Tesla tente le virage à gauche qu'elle atteint le terre-plein central, et le conducteur humain doit alors terminer le travail. Toutes les autres fois étaient un échec. Ces problèmes ont peut-être échappé à Tesla, car le PDG Elon Musk a déclaré la semaine dernière qu'il pouvait y avoir des problèmes inconnus.

« Soyez paranoïaques », a ajouté Musk, avant d'affirmer que la sécurité est la priorité absolue du constructeur automobile avec ces versions. Tesla ne dispose pas d'un service de relations publiques pour répondre aux demandes de commentaires. Les testeurs ont recensé au moins 11 problèmes en conduisant avec le FSD Beta 9 activé, notamment :

  • la voiture traverse la ville et ne reconnaît pas les jardinières dans la rue et manque de les heurter ;
  • la voiture ne reconnaît pas le monorail au milieu de la rue et se dirige vers lui ;
  • la voiture traverse une voie de bus au lieu de rester sur la voie de droite ;
  • la voiture ne reconnaît pas une rue à sens unique et le panneau de sens unique dans la rue, et elle roule en sens interdit ;
  • la voiture ne peut pas décider de la voie à utiliser pour tourner à droite dans la rue suivante. Il continue à changer de voie ;
  • la voiture décide trop tard de prendre la bonne voie ;
  • la voiture décide d'emprunter une voie, puis se rend compte qu'elle doit emprunter l'autre voie, mais c'est trop tard ;
  • la voiture doit tourner à gauche et décide de changer de voie avant ;
  • la voiture tourne à gauche, mais s'engage sur une voie sur laquelle elle n'est pas censée être ;
  • la voiture doit traverser plusieurs voies pour tourner à gauche et il semble qu'avant de pouvoir traverser toutes les voies, elle doive se rapprocher du carrefour ;
  • la voiture voit un double stop alors qu'il n'y en a qu'un seul.


En regardant ces vidéos, le consensus semble être que les gens aiment beaucoup les nouvelles visualisations, la détection des feux de freinage, et sont impressionnés par le fait qu'il s'agit uniquement d'une caméra, mais dans l'ensemble les améliorations du comportement de conduite ne semblent pas vraiment notables. « Encore une fois, ce qui a été réalisé est impressionnant, sans aucun doute ; c'est une merveille technologique », a écrit un critique. Il est également loin d'être un système complet de niveau 5, capable d'aller partout sans surveillance, ou même un système d'aide à la conduite de niveau 4.



La voiture a en effet absolument besoin d'un humain pour la surveiller, en permanence. Il n'y a aucun moyen sûr de se mettre à l'abri si le FSD se retrouve dans une situation qu'il ne peut pas gérer, et en tant que tel, il aura toujours besoin d'un humain vigilant prêt à prendre le contrôle à tout moment. « Je continue à penser qu'il s'agit d'un modèle intrinsèquement défectueux et potentiellement dangereux. Ensuite, il y a toujours le choix très discutable de tester un logiciel bêta contrôlant une voiture de 4 000 livres dans des rues publiques remplies de personnes qui n'ont jamais accepté de participer à un test bêta d'une voiture robot », a écrit un critique.

« Personne ne verra un robotaxis Tesla de niveau 5 d'ici la fin de l'année et, bien qu'il y ait certainement des progrès, les défaillances significatives que le système a déjà démontrées dans les mains de testeurs enthousiastes dans le peu de temps où il a été disponible devraient s'avérer être un appel à la réalité de l'état du FSD », a-t-il ajouté.

Source : Fil de discussion Twitter

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des problèmes du FSD Beta 9 détectés par les testeurs ?
Pensez-vous que ces problèmes sont dangereux ou qu'ils sont peu alarmants ?

Voir aussi

Tesla commence enfin à déployer la version bêta 9 du Full Self-Driving après un long retard, elle apporte la surveillance du conducteur et améliore la visualisation de la route

Tesla admet que le "Full Self-Driving Beta" actuel sera toujours le niveau 2, « Il y a des circonstances et des événements que le système n'est pas capable de reconnaître »

Tesla annonce aux régulateurs que les voitures entièrement autonomes ne seront peut-être pas disponibles d'ici la fin de l'année, en contradiction avec les indications d'Elon Musk

Tesla abandonne le radar et s'en remet aux caméras pour le système Autopilot de certaines voitures, les capteurs radar restent pour l'instant sur ses modèles les plus chers

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de totozor
Membre habitué https://www.developpez.com
Le 26/11/2021 à 12:47
Citation Envoyé par rbolan Voir le message
La meilleure manière de démontrer l’efficacité ou la dangerosité du "Full-Self Driving" de Tesla, c'est de réaliser une étude indépendante pertinente à partir d'un échantillon représentatif qui produira des résultats analysable à partir desquels une discussion pourra être faite.
Pas besoin d'étude, FSD tente - parfois - de conduire du mauvais coté de la route, se dirige - parfois - vers un chantier alors qu'il ne semble pas y avoir de raison particulière.

Je fais du vélo en ville de façon pas toujours très sûre mais, à la surprise de mes amis, j'ai assez peu d'accidents.
Ils pensent que je devrais être pour les voitures intelligentes ou autonomes mais ce n'est clairement pas le cas.
Pourquoi?
Les chauffeurs ont un regard qui me montre une infinités d'informations qui définissent la façon dont je vais réagir:
Est ce qu'il m'a vu?
Va-t-il prendre l'initiative ou attend il que j'exprime mon intention?
Veut il changer de voie? Cherche-t-il une place pour se garer?
A-t-il l'intention de me laisser passer?
A-t-il l'intention de ne surtout pas me laisser passer?
Et je peux retourner les même information:
Je veux passer devant toi, laisses moi la priorité (qui m'est souvent dues)
Avance s'il te plait, je passerais derrière toi
Ne me double pas maintenant
Tu peux me doubler
etc

Avec une voiture autonome (Tesla ou autre) aucune de cette communication n'existe alors je lui prie au moins de respecter le code de la route.
5  0 
Avatar de kain_tn
Expert confirmé https://www.developpez.com
Le 13/07/2021 à 11:59
Citation Envoyé par Bill Fassinou Voir le message
Quel est votre avis sur le sujet ?
Je vais répondre sous la forme d'une question:

Si vous aviez fait les erreurs listées ci-dessous lors de votre examen de conduite, pensez-vous que vous auriez eu votre permis de conduire? Si non, pourquoi l'accorder à un robot qui les ferait alors qu'il est encore moins à même de pouvoir réagir à des situations imprévues?

Citation Envoyé par Bill Fassinou Voir le message
  • la voiture traverse la ville et ne reconnaît pas les jardinières dans la rue et manque de les heurter ;
  • la voiture ne reconnaît pas le monorail au milieu de la rue et se dirige vers lui ;
  • la voiture traverse une voie de bus au lieu de rester sur la voie de droite ;
  • la voiture ne reconnaît pas une rue à sens unique et le panneau de sens unique dans la rue, et elle roule en sens interdit ;
  • la voiture ne peut pas décider de la voie à utiliser pour tourner à droite dans la rue suivante. Il continue à changer de voie ;
  • la voiture décide trop tard de prendre la bonne voie ;
  • la voiture décide d'emprunter une voie, puis se rend compte qu'elle doit emprunter l'autre voie, mais c'est trop tard ;
  • la voiture doit tourner à gauche et décide de changer de voie avant ;
  • la voiture tourne à gauche, mais s'engage sur une voie sur laquelle elle n'est pas censée être ;
  • la voiture doit traverser plusieurs voies pour tourner à gauche et il semble qu'avant de pouvoir traverser toutes les voies, elle doive se rapprocher du carrefour ;
  • la voiture voit un double stop alors qu'il n'y en a qu'un seul.

4  0 
Avatar de 4sStylZ
Membre éprouvé https://www.developpez.com
Le 29/09/2021 à 17:56
J'ai du mal à comprendre l'attaque.

Tesla ne vend pas l'autopilot comme une voiture 100% autonome mais simplement une assistance qui est « statistiquetement » plus fiable qu'un humain lambda.

En émettant ce « disclaimer » alors c'est pas la faute de Tesla, mais celle du du mec qui devait garder les mains sur le volant. À quel moment Tesla pousse à « la fraude systématique » ?
3  0 
Avatar de kakashi99
Membre confirmé https://www.developpez.com
Le 28/10/2021 à 13:43
Mouais,

bref, rien de nouveau sous le soleil...
3  0 
Avatar de scandinave
Membre éprouvé https://www.developpez.com
Le 19/07/2021 à 9:35
Ce jeu de dupe. Il n'y a aucun intérêt à acheter un "système autonome" où il faut rester autant vigilant et attentif que sur une voiture classique. Donc de deux choses l'une :

  • Soit les acheteurs ce sont laissés embobiné par le marketing tesla.
  • Soit les acheteurs en sont pleinement conscient et sont prêt à prendre le risque.


Dans les deux cas, cette technologie ne devrait même pas avoir le droit d'exister à l'heure actuel. Ce que fait tesla, ce n'est ni plus ni moins que des tests en grandeur nature, en prenant les gens pour des cobayes pour entrainer son IA. Si cela ne concernait que les utilisateurs de tesla, à la limite, je m'en ficherai. Mais lors d'un accident, c'est pas forcement la conducteur de la tesla qui va avoir le plus mal.
2  0 
Avatar de kain_tn
Expert confirmé https://www.developpez.com
Le 19/07/2021 à 9:51
Citation Envoyé par Stan Adkens Voir le message
Tesla a déclaré avoir informé ses clients que sa technologie d'aide à la conduite automatisée ne constituait pas un système de conduite entièrement autonome.
Mais ça ne les empêche pas d'appeler le pack Full Self-Driving ("Conduite Entièrement/Complètement Autonome")?? ??

Citation Envoyé par Stan Adkens Voir le message
Que pensez-vous de la décision de l’organisme allemand d’interdire les déclarations publicitaires trompeuses de Tesla dans le pays ?
C'est très bien. Ça devrait être la norme pour toutes les entreprises, sinon les services marketing peuvent raconter n'importe quoi.
1  0 
Avatar de Fleur en plastique
Membre extrêmement actif https://www.developpez.com
Le 29/09/2021 à 20:06
Alors moi je suis peut-être Bac -10 comme disent mes amis, mais moi je comprends bien le problème.

D'une part, c'est pas parce que Tesla a écrit telle ou telle phrase magique dans son contrat de licence que cela le déresponsabilise totalement. Cela serait un peu trop facile, d'autant plus que Tesla et ce qui lui fait office de patron communique beaucoup sur Twitter, notamment sur la valeur supposée de l'option, évaluée par leur super génie à 100 000$.

Ensuite, faire un système de conduite automatiquement strictement basée sur des caméras en excluant tout autre type de système, et je pense notamment à de bêtes radars, c'est d'une absurdité totale. Une caméra peut être aveuglée par une lumière soudaine, le bruit électronique de nuit peut également jouer, et enfin, les algos d'I.A. ne peuvent pas garantir d'identifier tout et n'importe quoi. Alors qu'un radar, il détecte un obstacle, et on évite de rentrer dans un obstacle. Ici, pas besoin d'I.A., pas de risque d'éblouissement, pas de bruit électronique pour le faire fonctionner. Mais c'est trop simple pour l'égo de Musk.

Enfin, on ne peut pas prétendre qu'un système d'assistance à la conduite, nécessitant néanmoins une intervention humaine, est plus fiable qu'une conduite humaine seule. En effet, si le système d'assistance est "presque" autonome, l'humain derrière son volant n'a pas grand chose à faire. Son attention va donc se réduire, c'est automatique. Le temps qu'arrive à grande vitesse l'obstacle, l'humain, endormi par le système presque automatique, n'aura pas le temps de réaction nécessaire pour freiner si le système lui-même a décidé de ne pas freiner.

Soit on fait un système parfaitement autonome, soit on fait un système qui ne l'est pas, et qui nécessite donc d'être piloté. Peut-être d'une manière simple, genre on appuie sur un bouton pour doubler, pour changer de file, pour aller à gauche ou à droite, etc. Bref, un pilotage manuel, assisté par ordinateur. Et non pas un pilotage automatique assisté par humain, parce que c'est ce que c'est Tesla, et c'est juste aberrant.

Elon Musk, en taule, avant qu'il ne tue d'autres gens.
4  3 
Avatar de lsbkf
Membre actif https://www.developpez.com
Le 30/09/2021 à 11:45
C'est assez clair que l'IA a été entraînée pour rentrer dans les voitures de police, il aurait suffi qu'un humain se dise ACAB dans le simulateur et paf. Non ?
1  0 
Avatar de AoCannaille
Membre expert https://www.developpez.com
Le 30/09/2021 à 14:02
Citation Envoyé par 4sStylZ Voir le message
À quel moment Tesla pousse à « la fraude systématique » ?
Dans le nom. "AutoPilot". En anglais, c'est un mot courant qui veut vraiment dire pilote automatique, sans ambigüité ni limite. Et le nom étant systématiquement présenté dans la fiche du véhicule, et apparaissant sur le tableau de bord systématiquement, la fraude est systèmatique. C'est tout simplement de la publicité trompeuse, voire carrément mensongère.

Ils se font emmerder autant que si un labo pharmaceutique sortait un médicament "TraitementAntiCancer" avec un asterix rappelant "Oui, enfin, ça soigne surtout les rhumes et les maux de tête. N'oubliez pas de de ne pas fumer 10 clopes par jour pour éviter de choper un cancer".

Ensuite, faire un système de conduite automatiquement strictement basée sur des caméras en excluant tout autre type de système, et je pense notamment à de bêtes radars, c'est d'une absurdité totale. Une caméra peut être aveuglée par une lumière soudaine, le bruit électronique de nuit peut également jouer, et enfin, les algos d'I.A. ne peuvent pas garantir d'identifier tout et n'importe quoi. Alors qu'un radar, il détecte un obstacle, et on évite de rentrer dans un obstacle. Ici, pas besoin d'I.A., pas de risque d'éblouissement, pas de bruit électronique pour le faire fonctionner. Mais c'est trop simple pour l'égo de Musk.
C'est surtout l'équipement en lui même est trop cher, et l'équipement pour traiter les infos résultants sont trop cher. On espère que leur intégration dans les véhicules va faire baisser le coût mais pour l'instant ce n'est pas raisonnable.
Ceci dit, je suis d'accord qu'il faut absolument multiplier les capteurs différents, Camera Visible, Caméra Thermiques, LIDAR etc. Et que tant qu'on aura pas de norme spécifique et d'autorités de certifications comme on l'a dans l'univers aéronautique (FAA, EASA), Ces voitures ne seront pour moi que des PoC plus ou moins avancés.
1  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 26/11/2021 à 1:20
de la com a l'americaine chez tesla, mais rien d'aussi fiable qu'anoncé. tout le monde le sait depuis que les tesla sont sur route.
1  0