Des chercheurs ont réussi à inciter le pilote automatique de Tesla à s'engager dans le trafic opposé
En utilisant des autocollants

Le , par Bill Fassinou

108PARTAGES

4  0 
Les voitures de la marque Tesla semblent être l’intérêt de plusieurs études ou expérimentations ces derniers temps, que ce soit de la part des pirates ou des groupes de chercheurs professionnels. Pour sa part, Tencent Keen Security Lab, une équipe de chercheurs en sécurité, a publié la semaine dernière un rapport qui présente les résultats d’une série de tests qu’ils ont mené sur la fonctionnalité Autopilot de Tesla. Selon le rapport d’étude, ils ont réussi à prendre le contrôle d’une voiture Tesla à distance et à le tromper à plusieurs reprises où une fois grâce simplement à des autocollants. Tencent Keen Security Lab un est cabinet de recherche qui se concentre sur la recherche de pointe en matière de sécurité des systèmes d'exploitation PC/mobile grand public, des applications, des technologies de cloud computing, l’IoT (appareils et objets connectés), etc.

Les chercheurs du groupe expliquent dans le rapport avoir réussi plusieurs attaques sur le firmware de Tesla notamment une prise de contrôle à distance de la direction de la voiture lorsque cette dernière roule, des attaques contradictoires sur le pilote automatique qui confond des objets réels et des autocollants et quelques autres attaques. « Dans nos recherches, nous pensons avoir apporté trois contributions créatives : nous avons prouvé premièrement que nous pouvions obtenir à distance le privilège racine de Tesla APE (Tesla Autopilot ECU software version 18.6.1) et contrôler le système de pilotage, puis nous avons prouvé que nous pouvions perturber le fonctionnement des racleurs automatiques en utilisant des exemples contradictoires dans le monde physique et pour finir, nous avons prouvé que nous pouvions induire en erreur la voiture Tesla dans la voie du revers avec des modifications mineures sur la route », a écrit Tencent Kenn Security Lab comme conclusion aux différentes expériences qu’il a réalisées.

Ce rapport apparaît dans la même semaine qu’un autre publié par CNBC qui avait critiqué la façon dont les voitures Tesla conservaient les données des utilisateurs même quand ces dernières sont hors d’usage. Selon le rapport de CNBC, deux chercheurs en sécurité, qui se sont décrit comme étant des hackers white hat, ont découvert que les ordinateurs des véhicules Tesla conservent tout ce que les conducteurs ont volontairement stocké dans leur voiture, ainsi que des tonnes d’autres informations générées par les véhicules, notamment des données vidéo, de localisation et de navigation montrant exactement ce qui s’est passé avant un accident. Les données stockées sur un véhicule Tesla Model S, Model X ou Model 3 ne sont pas automatiquement effacées lorsque le véhicule est sorti du lieu de l'accident ou vendu aux enchères. Selon les recherches de GreenTheOnly, cela signifie que des informations personnelles restent sur la voiture et peuvent être apprises par les personnes qui entrent en possession de la voiture ou de certains de ses composants. Une chose jugée en violation à la vie privée.


Tencent Keen Security Lab a expliqué que lors de la conférence sur la sécurité de Black Hat USA 2018, il avait déjà présenté une démonstration visant à compromettre à distance le système de pilote automatique sur une Tesla Model S (la chaîne d'attaque a été corrigée immédiatement après le signalement à Tesla). Dans ses recherches ultérieures sur la sécurité des technologies ADAS, Keen Lab a indiqué s’être concentré sur les domaines tels que la sécurité du système de perception visuelle du modèle d'intelligence artificielle et la sécurité de l'architecture du système de pilote automatique. Tencent Keen Security a présenté successivement sur trois volets les résultats qu’il a obtenus avec les commentaires de Tesla à propos.

Dans un premier temps, lit-on dans le rapport, les résultats de l’étude ont révélé un défaut de reconnaissance visuelle des essuie-glaces. Tesla Autopilot peut identifier le temps pluvieux grâce à la technologie de reconnaissance d’image, puis activer les essuie-glaces si nécessaire. Sur la base de quelques manipulations et avec un exemple contradictoire astucieusement généré dans le monde physique, le système a été perturbé pour retourner un résultat « incorrect » et activer les essuie-glaces. « Notre objectif est de vérifier la robustesse de la fonction de vidage automatique. Nous avons essayé de créer des conditions propices à l'activation automatique des essuie-glaces lorsqu'il n'y avait pas d'eau sur le pare-brise. C'est une idée très simple de créer des exemples contradictoires pour attaquer le système, car tout le système est totalement basé sur le système, un réseau de deep learning », a déclaré Tencent Keen Security Lab.

Lorsque cette démonstration a été présentée à Tesla, la firme a répondu ce qui suit : « cette recherche a été démontrée en affichant une image sur un téléviseur placé directement devant le pare-brise d’une voiture. Ce n'est pas une situation réelle à laquelle les conducteurs seraient confrontés ni une question de sécurité ou de sûreté. De plus, comme nous l'indiquons dans notre manuel d’utilisation, le réglage automatique (pour nos essuie-glaces) est actuellement en version bêta. Un client peut également choisir d’utiliser le réglage manuel des essuie-glaces à tout moment ». Ensuite, les tests ont révélé un défaut dans le système de reconnaissance de voie utilisé par Tesla dans ses voitures. Le pilote automatique Tesla reconnaît les voies et facilite le contrôle en identifiant les marques de circulation. Sur la base de leurs tests, ils ont prouvé qu'en plaçant des autocollants d'interférence sur la route, le système de pilote automatique capture ces informations et émet un jugement anormal, ce qui amène le véhicule à se diriger vers la voie opposée.

Pour répondre à cela, Tesla a écrit ceci : « dans cette démonstration, les chercheurs ont ajusté l'environnement physique (par exemple en plaçant du ruban adhésif sur la route ou en modifiant les lignes d'une voie) autour du véhicule pour que la voiture se comporte différemment lorsque le pilote automatique est utilisé. Ce n’est pas une préoccupation du monde réel, étant donné qu’un pilote peut facilement passer outre le pilote automatique à tout moment en utilisant le volant ou les freins et qu’il doit être prêt à le faire à tout moment ». Enfin, ils ont aussi réussi à prendre le contrôle à distance du système de direction d’une voiture Tesla et à la manipuler avec une manette de jeu sans fil.

Après avoir compromis le système de pilote automatique sur une Tesla Model S (version 2018.6.1), Keen Lab a également montré qu’il était possible de contrôler le système de direction de la voiture via le système de pilote automatique avec une manette de jeu sans fil, même lorsque le système de pilote automatique n'était pas activé par le conducteur. Tesla s’est défendu devant cette expérience en disant que « la principale vulnérabilité abordée dans ce dernier test a été corrigée par Tesla au moyen d'une mise à jour de sécurité robuste en 2017, suivie d'une autre mise à jour de sécurité complète en 2018, que nous avons publiées avant que ce groupe nous rende compte de cette recherche. Au cours des nombreuses années où nous avons eu des voitures sur la route, nous n'avons jamais vu un seul client affecté par les recherches présentées dans ce rapport ».

La plupart des internautes sont plutôt septiques en ce qui concerne les voitures autonomes et surtout celles de Tesla. L'un d'entre eux dit qu'il avait travaillé chez Waymo pendant un an sur le module de perception de la voiture autonome. Et d'après son expérience, dit-il, les voitures actuelles de la marque Tesla ne seront jamais autonomes. Cela représente probablement un risque énorme pour les investisseurs de Tesla, car à l'heure actuelle, Tesla vend une option totalement autonome sur sa voiture, ce qui ne se produira jamais avec le matériel actuel, précise-t-il. « Nous avons besoin de plusieurs avancées dans la vision par ordinateur pour la détection d'objet basée sur des images sans faille. Vous aurez également besoin de caméras à résolution supérieure et d'une puissance de calcul bien supérieure pour pouvoir traiter toutes les images », explique-t-il.

Il continue en disant qu'il est difficile d'estimer le moment où nous atteindrons ce niveau d'avancement en vision par ordinateur, peut-être d'ici 10 à 20 ans, selon lui. Pour lui, Tesla devra mettre à niveau toutes ces caméras et installer un TPU dédié qui devrait être au moins 10 fois plus rapide ou probablement plus rapide que la puce nVidia installée sur leurs voitures. Et ils devront le faire pour un prix nul, car ils ont déjà vendu l'option. C'est un peu étonnant qu'Elon Musk vende des voitures basées sur de futures percées technologiques spéculatives, dit-il pour conclure.

Un autre donne un exemple basé sur son expérience de conduite. « Je conduisais l’autre jour et je me suis arrêté derrière un panneau-stop à une intersection à quatre voies. Une voiture de police était déjà arrêtée au même carrefour, à ma gauche. Comme il avait la priorité, j'attendais qu'il continue. Mais après quelques secondes sans bouger, il fit clignoter ses feux de croisement, ce qui, selon moi, signifiait qu'il attendait quelque chose et cédait à moi. Maintenant, ce n'est pas un signal standard pour céder dans le code de véhicule de Californie, mais la plupart des humains peuvent le comprendre. Ce sont le genre de petites situations étranges qui se produisent tout le temps dans la conduite réelle. Je ne comprends pas comment on pourrait s'attendre à ce que la conduite autonome de niveau 4+ fonctionne à grande échelle sans des avancées considérables », dit-il.

Source : Rapport de l’étude

Et vous ?

Que pensez-vous des conclusions de cette recherche ?
Croyez-vous que la voiture autonome puisse exister un jour ? Si oui, à quand estimez-vous son existence ?

Voir aussi

Les épaves de Tesla Model 3 gardent beaucoup plus d'informations que vous ne le pensez comme des données vidéo et de localisation avant un accident

Même si Elon Musk l'a promis, il n'y aura pas de voitures autonomes cette année, ni avant plusieurs années, selon Mark Stephens

Elon Musk a declaré que les voitures autonomes de Tesla rouleront probablement sans assistance humaine d'ici la fin de 2019

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot

L'Autopilote des Tesla plus sûr que la conduite manuelle d'après une enquête commandée par une société d'assurances

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Bill Fassinou
Chroniqueur Actualités https://www.developpez.com
Le 04/04/2019 à 13:04
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production
et fera ses preuves ce mois-ci

Elon Musk et les siens ont annoncé cette semaine que le logiciel Autopilot pourra offrir dès ce mois une capacité totale d'autoconduite. La firme a indiqué que les nombreux travaux de mise à niveau du pilote automatique des voitures Tesla avancent dans le bon sens et proposent déjà de nouvelles fonctionnalités. La prochaine version du pilote automatique va ainsi intégrer une nouvelle puce d’intelligence artificielle pouvant permettre une véritable conduite autonome. Tesla avait annoncé en 2017 qu’il travaillait à mettre au point des puces dédiées à l’intelligence artificielle. L’idée était de réduire la dépendance de la firme du fournisseur de semiconducteurs d’IA Nvidia et propulser les avancées sur la conduite autonome des voitures Tesla.

« Je tenais à clarifier la position de Tesla vis-à-vis de l’IA et à confirmer notre engagement dans ce domaine, tant sur le plan matériel que logiciel. Nous sommes en train de mettre au point des puces personnalisées dédiées à l’IA », avait déclaré Musk lors de la conférence NIPS en décembre 2017 à Long Beach, en Californie. Une étape importante dans la vision de l’entreprise de livrer dès cette année des voitures entièrement autonomes. Ces nouvelles puces d’IA développées par la structure Autopilot Hardware Engineering de Tesla dirigé par un ancien d’Apple, Pete Bannon, sont destinées à être utilisées dans les nouvelles mises à jour de l’ordinateur de bord des voitures Tesla. L’une de ces puces baptisée « Hardware 3 » devrait être intégrée dans les véhicules Tesla (sur les modèles S, X et 3 notamment) et gérer les calculs en rapport avec les capacités de pilotage autonome des voitures.

D’après Tesla, ce nouveau processeur Hardware 3 est jusqu’à dix fois plus performant que la puce NVIDIA Drive dédiée à l’IA qui équipait les produits Tesla. La puce de NVIDIA ne pourrait traiter que 200 images par seconde, contre 2000 pour la Hardware 3 de Tesla. En tant que responsable du projet Hardware 3 chez Tesla, Pete Bannon est confiant sur le potentiel du nouveau processeur. Le Hardware 3 était prévu pour faire son apparition officielle à la fin du premier trimestre de cette année. En août 2018, il parlait du fait que cette initiative de posséder des puces d’IA construites par Tesla lui-même permettait à la firme de plus contrôler son travail. « Nous avons l’avantage de savoir à quoi ressemblent nos réseaux neuronaux, et comment ils vont évoluer à l’avenir », avait-il déclaré. Ainsi, pour sa promesse, la firme semble avoir tenu parole en annonçant cette semaine que la mise à jour d’Autopilot Hardware 3 est maintenant en production et qu’une démonstration sur ses nouvelles fonctionnalités sera faite d’ici le 19 avril. Selon les indications de Tesla, cette nouvelle mise à jour qui intègre les dernières technologies en matière d’intelligence artificielle devrait permettre à la firme d’offrir à ses véhicules électriques une capacité d’autoconduite complète.


« Tesla fait des progrès significatifs dans le développement de son logiciel et de son matériel de conduite autonome, y compris notre ordinateur FSD, actuellement en production et qui permettra une conduite autonome grâce à de futures mises à jour logicielles en direct », a été la déclaration de la firme quelques jours après que le premier trimestre de l’année a pris fin. D’après les indications de Tesla, les propriétaires de Tesla qui ont acheté le progiciel Full Self-Driving (FSD) recevront gratuitement la nouvelle mise à jour lorsque la firme aura commencé à la déployer. Cependant, pourrait-on vraiment s’attendre à une autoconduite totale ?

En rappelle, le mode FSD de Tesla jusque-là très controversé a été remis sur le marché par la firme cette année. C’est à la fin du mois de février que Tesla a annoncé le retour son option Full Self-driving pour le système de pilotage automatique de ses véhicules autonomes connu aussi comme le logiciel Autopilot. Tesla avait scindé son offre Autopilot en deux et proposait désormais une option « standard » moins avancée du point de vue du nombre de fonctionnalités incluses ainsi qu’une version Full Self-Driving qui se veut plus complète. Ainsi, Tesla compte exposer les nouvelles fonctionnalités qu’il a apportées à son système de pilotage autonome le 19 avril et s’attirer plus d’investisseurs.

« Avec plusieurs développements très prometteurs dans les semaines et les mois à venir, Tesla accueillera les investisseurs le matin du 19 avril à notre siège à Palo Alto afin de plonger de manière approfondie dans notre technologie et notre feuille de route. Les investisseurs seront en mesure de faire des essais de test pour découvrir notre logiciel Autopilot, y compris les fonctions et fonctionnalités en cours de développement. Les investisseurs seront également en contact direct avec Elon Musk, ainsi qu'avec le vice-président de l'ingénierie, Stuart Bowers, le vice-président de l'ingénierie du matériel, Pete Bannon et le directeur principal de l'intelligence artificielle, Andrej Karpathy », a annoncé la firme cette semaine.

Cela dit, nombreux sont ceux qui estiment que les voitures autonomes comme Tesla les décrit ne sont pas près de voir le jour. Ils prennent comme argument la dernière mise à jour de juin de l’année passée du logiciel de pilote autonome qui obligeait toujours les utilisateurs à tenir leurs mains sur le volant et rester attentifs lors de la conduite. Selon eux, il ne s’agira encore et encore que d’une assistance à la conduite humaine. Les propriétaires de voitures Tesla avaient indiqué en juin 2018 que Tesla a considérablement augmenté le « harcèlement » les obligeant à garder les mains sur le volant.

En effet, si les capteurs ne détectent pas de pression sur le volant pendant une longue période en mode pilotage automatique, des alertes de plus en plus importantes s'affichent progressivement jusqu'à ce qu'il détecte les mains sur le volant. « Si Tesla et les autres constructeurs de voitures électriques n’arrêtent pas le marketing mensongère sur la conduite autonome, les gens vont continuer de mourir », ont-ils déclaré. À quoi doit-on s’attendre cette fois si de la part de Tesla lors de la démonstration du 19 avril prochain ?

Néanmoins, rappelons que certains continuent de croire que l'IA n'existe pas et que même la voiture autonome ne verra jamais le jour. C'est la cas de Luc Julia, un expert en IA, qui dit d’un côté que l’IA n’existe pas et d’un autre côté que la voiture autonome n’existera jamais. Luc Julia disait en janvier ce qui suit : « je suis un peu fatigué par toutes les bêtises que l’on entend depuis quelques années sur l’intelligence artificielle et j’ai voulu rétablir la vérité. On ne sait pas ce que c’est que l’intelligence donc on ne peut pas construire de l’intelligence artificielle. Ce que l’on appelle "intelligence artificielle" depuis 1956 ce sont des techniques mathématiques qui n’ont rien à voir avec l’intelligence. Il n’en reste pas moins que ces techniques (deep learning, machine learning, etc.) sont très intéressantes. Mais la machine ne crée pas, ne réfléchit pas, et les humains conservent pleinement la main sur ces techniques ».

Il pense que l’IA est devenue aujourd'hui un argument marketing. « Aujourd’hui, on promet beaucoup de choses. Mais, par exemple, la voiture autonome n’existera jamais. La charge cognitive de la conduite est, en effet, beaucoup trop importante pour la confier à une machine. Cela fonctionnera à 98 %, mais il restera toujours 2 % que seul l'humain pourra accomplir ». Pour finir, Cringely a cependant reconnu que la conduite autonome viendra, mais pas de sitôt.

Source : Electrek

Et vous ?

Qu'en pensez-vous ?
Selon vous, entre Tesla qui soutient l'idée de la voiture entièrement autonome et ceux qui pensent que cela n'existera jamais, qui a raison ? Pourquoi ?

Voir aussi

Tesla développe des puces dédiées à l'IA pour ses véhicules autonomes, Jim Keppler et d'autres anciens cadres d'AMD sont impliqués dans ce projet

Tesla devrait abandonner les puces d'IA de NVIDIA pour ses véhicules autonomes et basculer sur ses propres puces d'IA dès l'année prochaine

Retour du mode controversé full self-driving de l'Autopilot de Tesla et arrivée du Model 3 à 35 000 USD du constructeur attendu depuis 2016

Autopilot : la dernière mise à jour de Tesla oblige à garder les mains sur le volant par un renforcement du harcèlement des conducteurs

« L'intelligence artificielle n'existe pas et la voiture autonome n'existera jamais », selon un expert en IA
Avatar de sergio_is_back
Membre chevronné https://www.developpez.com
Le 04/04/2019 à 13:59
Citation Envoyé par Bill Fassinou Voir le message
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Comme le système MCAS de Boeing ?

Ainsi, Tesla compte exposer les nouvelles fonctionnalités qu’il a apportées à son système de pilotage autonome le 19 avril et s’attirer plus d’investisseurs.
Ouf, soulagé ! C'est pas pour mettre sur la route, c'est pour attirer les financiers...
Avatar de agodfrin
Membre régulier https://www.developpez.com
Le 15/04/2019 à 10:31
Personnellement je vois plutôt un marché très réel et un besoin qui va aller croissant: celui des automobiles assurant un fonctionnement fortement assisté avec certains automatismes, mais surtout avec des mécanisme d'avertissement et de réaction automatique aux imprévus.

Le marché est celui des personnes âgées en besoin d'autonomie. En dehors des grandes villes - celles qui offrent des services de transport en commun fiables et à haute fréquence - le déplacement ne peut se faire qu'en voiture. Avec l'âge vient une perte de vision, d'audition, d'attention, de réflexes ... J'ai pu le constater en vrai de la part d'un oncle qui était devenu un vrai danger en conduisant, mais qui sans voiture était totalement isolé, même pour des tâches simples comme faire des courses.

Je crois donc plutôt à une progressivité des automatismes: détection des mouvements des autres véhicules (mais aussi piétons, cyclistes ...), détection des signaux routiers, détection des feux rouges ... Aussi détection des bandes de circulation. Avec des alertes, mais aussi la prise en main automatique en cas de risque. Et tout ça en milieu urbain bien sur. Comme dit, automatiser la conduite sur autoroute est plutôt simple. L'automatiser en milieu urbain avec ses centaines de sollicitations et de situations imprévues est un autre challenge.

Il est bon pour la société en général que les personnes âgées puissent mener une vie la plus autonome possible. Quand on voit l'évolution de l'espérance de vie et le coût de la gestion de la dépendance, on ne peut qu'encourager le développement de la conduite assistée (et in fine des véhicules autonomes).

 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web