Sécurité : un dispositif Echo enregistre les conversations d'une famille et les transfère à un contact sans permission
Amazon confirme et s'excuse

Le , par Patrick Ruiz, Chroniqueur Actualités
Intégrer les dispositifs connectés (à Internet) à sa domotique … c’est désormais ce que proposent la plupart des géants de la Tech avec leurs Google Assistant, Cortana ou encore Siri. Une famille de Portland aux états-unis a, pour sa part, fait le choix des hauts-parleurs Echo armés à l’IA Alexa d’Amazon. Dans une publication parue il y a peu, Kiro-TV – une station de télévision américaine située à Seattle dans l’État de Washington – attire l’attention sur l’un des inconvénients majeurs d’un tel choix : le hub domotique peut mettre des moments d’intimité à la disposition de tiers.

C’est ce qui est arrivé à Danielle et à son époux. « Mon mari et moi avions l’habitude de blaguer en disant je parie que ces appareils écoutent nos conversations », rapporte la chaîne de télévision des propos de la dame. Il y a deux semaines, la famille est passée de la blague à la crue réalité avec un coup de fil qui, dit-elle, a mis un terme à son amour pour Alexa. « Débranchez immédiatement vos dispositifs Alexa. Vous êtes victimes d’un piratage », disait l’appelant – un collègue du mari. « Nous avons débranché les appareils et il a poursuivi en disant qu’il a reçu des enregistrements audio de notre intérieur », rapporte Kiro des propos de Danielle.

La chaîne de télévision rapporte que la famille a reçu copie des contenus audio et a pu confirmer que le collègue était bien sérieux. « Je me suis sentie envahie. Une intrusion totale dans notre vie privée. Je ne vais plus jamais me servir de ces dispositifs puisqu’on ne peut leur faire confiance  », a-t-elle lancé. Contactée par la dame, l’entreprise a confirmé que les fichiers de journalisation reflètent bien le transfert. « Nos ingénieurs ont passé vos logs en revue et affirment avoir vu ce dont vous vous plaignez », a répondu Amazon. « Il s’est excusé une quinzaine de fois sur les 30 minutes que notre conversation a duré et m’a remercié d’avoir porté cette situation à leur attention », a-t-elle ajouté.


Kiro-TV rapporte qu’Amazon n’a pas donné de détails sur le transfert du contenu audio sans permission alors que l’appareil est programmé pour le faire. D’après les explications sommaires de l’entreprise, tout partirait d’un dysfonctionnement du moteur de traitement du langage naturel (un cas de figure très rare d’après Amazon). « Il nous a dit que l’appareil a juste imaginé ce que nous étions en train de dire », rapporte la chaîne de télévision des propos de la dame.

L’explication la plus plausible serait que l’IA s’est mise en marche après avoir détecté le mot « Alexa ». Puis, la suite de la conversation a été interprétée comme une requête de transfert de l’échange. Dans ces conditions en principe le dispositif émet des alertes sonores pour demander des détails sur l’identité du contact à qui le contenu doit être transféré. Fait curieux, les membres de la famille signent mordicus qu’ils n’ont pas eu de signalement.

Amazon a offert de désactiver les communications d’Alexa sur les dispositifs de la famille afin que cette dernière fasse uniquement usage des fonctionnalités dédiées aux domiciles intelligents. Mais, la décision de cette dernière est prise et elle souhaite plutôt obtenir un remboursement, ce à quoi Amazon se refuse.

Quelles alternatives ?

Envie d’intégrer un assistant vocal à votre projet de domotique sans avoir à faire transiter vos informations sur le cloud où elles pourraient se retrouver entre les mains de tiers ? Alors, il faudrait peut-être jeter un œil du côté de Snips, une jeune pousse parisienne spécialisée en traitement automatique du langage.

La start-up propose un assistant vocal qu’on peut intégrer à des dispositifs aux antipodes des ordinateurs actuels en termes de ressources. « Avec un Raspberry Pi 3, un microphone et une heure de votre temps, vous pouvez commencer à contrôler votre maison par le biais de votre voix, ce, en gardant le contrôle sur vos données », écrivent les concepteurs du système. Les particuliers peuvent faire usage de l’assistant vocal dans un cadre non commercial. Le tutoriel « concevoir son propre assistant vocal pour la météo avec Snips et un Raspberry Pi en une heure » est un excellent point d’ancrage pour les hobbyistes désireux d’effectuer une prise en main initiale de la plateforme. En quelques étapes simples à suivre, l’assistant vocal peut être installé sur l’ordinateur monocarte qui devient alors capable de : détecter qu’on s’adresse à lui ; transformer l’entrée sonore en texte ; analyser le texte pour en sortir une intention ; agir en accord avec l’intention (provoquer l’extinction ou l’allumage d’une lampe, etc.).

Snips a publié le moteur de traitement du langage naturel (la section de l’assistant vocal qui analyse le texte pour en sortir une intention) sous licence Apache 2.0 au début du mois de mars. La manœuvre, comme l’expliquent ses concepteurs, est destinée à vulgariser « l’intelligence artificielle respectueuse de la vie privée ». Il est disponible sous la forme d’une bibliothèque développée en Python et en Rust et dédiée à l’entraînement des modèles qui serviront à effectuer des prédictions sur de nouvelles requêtes. En substance, il s’agit de créer un modèle et de l’entraîner à l’aide de données tirées d’un dictionnaire Json que la start-up fournit (que le développeur pourra également monter lui-même) ; après quoi le modèle sera capable de généraliser à l’analyse de requêtes qui ne font pas partie de son dictionnaire.

Sources : Kiro, Annonce Snips, GitHub

Et vous ?

Ce qui est arrivé à cette famille est-il surprenant quand on sait que :

  • ces dispositifs sont connectés à Internet ?

  • qu’ils sont capables de contacter d’autres hôtes/services ?

  • qu’ils sont dotés d’une simple interface conversationnelle basée sur des technologies de détection de commandes vocales qui ne sont pas parfaites ?


Que pensez-vous de l’alternative Snips ?

Quelle autre alternative avez-vous personnellement testé ? Qu’est-ce qui vous a plu avec cette dernière  ?

Voir aussi :

L'internet des objets pourrait rapidement devenir l'internet des menaces prévient le fondateur et PDG Kaspersky

Vint Cerf : « quelquefois je suis terrifié par l'internet des objets », le père de l'internet partage les préoccupations suscitées autour de l'IdO

Internet des Objets et respect de la vie privée peuvent-ils aller de pair ? Eve Maler livre son analyse de la question


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de transgohan transgohan - Expert éminent https://www.developpez.com
le 25/05/2018 à 8:25
Cela n'a malheureusement rien de surprenant, et de ce fait je pense que Snips est sur un marché gagnant sur le long terme.
Avatar de BufferBob BufferBob - Expert éminent https://www.developpez.com
le 25/05/2018 à 8:44
je comprends pas, j'achète mon iPhone super cher, je brade ma vie privée aux différents réseaux sociaux sans jamais gueuler, ma bagnole est connectée en wifi à ma maison sans que je sache pourquoi, j'ai même truffé ma baraque de micros
mais alors comment ça se fait que je vive si mal ? c'est pourtant pas faute de m'abstenir de réfléchir le plus possible, je suis scandalisme... tout ça c'est encore la faute à Macron, aux hommes CIS blancs, aux médias, aux carnistes, aux spécistes et autres (j'en oublie), révolte !

Avatar de Stéphane le calme Stéphane le calme - Chroniqueur Actualités https://www.developpez.com
le 27/05/2018 à 6:28
Amazon explique pourquoi son enceinte connectée Echo a enregistré une conversation,
puis l'a envoyée à un contact

Dans une publication parue il y a peu, Kiro-TV, une station de télévision américaine, a rapporté la mésaventure d’un couple avec leurs enceintes connectées Amazon. « Mon mari et moi avions l’habitude de blaguer en disant je parie que ces appareils écoutent nos conversations », indiquait Danielle à Kiro-TV.

Une blague qui l’a fait moins sourire lorsqu’un collègue du mari les a appelé et leur a dit « Débranchez immédiatement vos dispositifs Alexa. Vous êtes victimes d’un piratage ».

« Nous avons débranché les appareils et il a poursuivi en disant qu’il a reçu des enregistrements audio de notre intérieur », rapporte Kiro des propos de Danielle.

La chaîne de télévision rapporte que la famille a reçu copie des contenus audio et a pu confirmer que le collègue était bien sérieux. « Je me suis sentie envahie. Une intrusion totale dans notre vie privée. Je ne vais plus jamais me servir de ces dispositifs puisqu’on ne peut leur faire confiance », a-t-elle lancé. Contactée par la dame, l’entreprise a confirmé que les fichiers de journalisation reflètent bien le transfert. « Nos ingénieurs ont passé vos logs en revue et affirment avoir vu ce dont vous vous plaignez », a répondu Amazon. « L’entreprise s’est excusés une quinzaine de fois sur les 30 minutes que notre conversation a duré et m’a remercié d’avoir porté cette situation à son attention », a-t-elle ajouté.

La famille de Portland, dont Alexa a écouté la conversation, dispose d’une enceinte connectée Echo dans chaque pièce de la maison pour contrôler la température, l’éclairage et également le système de sécurité.

Après une panique compréhensible suite à la découverte que Amazon Echo a enregistré une conversation et a fait parvenir l’enregistrement à une personne sur la liste de contacts de la famille, la société a publié une explication.


La déclaration complète d'Amazon, que l’entreprise a fait parvenir envoyée aux médias, semble montrer qu'Alexa, l'assistant virtuel développé par l'entreprise, a mal interprété des mots :

« Echo s'est activé en raison d'un mot dans une conversation de fond ressemblant à "Alexa". Ensuite, durant la conversation a été entendue comme une demande de "d'envoi de message". À ce moment, Alexa a dit à haute voix « À qui ? ». Puis, la conversation de fond a été interprétée comme un nom dans la liste de contact des clients. Alexa a alors demandé à haute voix, "[nom du contact], n'est-ce pas?" Alexa a ensuite interprété la conversation comme "correcte". Aussi improbable que soit cette série d'événements, nous évaluons les options pour rendre cette affaire encore moins probable ».

Amazon a offert de désactiver les communications d’Alexa sur les dispositifs de la famille afin que cette dernière fasse uniquement usage des fonctionnalités dédiées aux domiciles intelligents. Mais, la décision de cette dernière est prise et elle souhaite plutôt obtenir un remboursement, ce à quoi Amazon se refuse.

Loin de l’incident isolé pour les enceintes connectées

D'autres enceintes connectées comportent des risques similaires. L'année dernière, par exemple, Google a dû sortir un correctif pour ses enceintes Home Mini après que certaines d'entre elles ont été prises à tout enregistrer.

Et plus tôt ce mois-ci, des chercheurs de UC Berkeley ont publié un article dans lequel ils montraient comment ils étaient capables d'intégrer des commandes dans de la musique ou du texte parlé, selon le New York Times. Les humains ne peuvent pas entendre les commandes, mais les haut-parleurs intelligents le peuvent.

Un marché en plein essor

Malgré tout, le marché progresse. Les ventes total d’enceintes connectées ont atteint les 9,2 millions au premier trimestre 2018, contre 2,4 millions au premier trimestre 2017, soit une progression annuelle totale de 278 %. Amazon est resté le roi avec 4 millions d’unités écoulées, le double de ce qu’elle avait fait en 2017. Google pour sa part est passé de 0,3 million d’unités écoulées à 2,4 millions, ce qui représente une progression de 709 %. Apple, nouvel entrant, a quand même réussi à s’insérer à la quatrième place avec 0,6 million de HomePod vendues. Rappelons que l’entreprise a lancé son HomePod en février 2018 et s’est cantonnée à des ventes aux États-Unis, en Australie et aux Royaume-Uni. Ses ventes restent donc mécaniquement limitées géographiquement. Apple a toutefois indiqué que son enceinte serait lancé en France et en Allemagne au printemps 2018.

Source : MN

Et vous ?

Êtes-vous satisfaits de l'explication d'Amazon ?
Ce genre de faute est-il susceptible d'altérer la confiance des utilisateurs ?

Voir aussi :

Marché des haut-parleurs intelligents : Amazon domine au premier trimestre 2018, Google connait une progression annuelle de 709 %
Palmarès des assistants vocaux : premier Google Assistant suivi de Cortana puis Alexa et en dernier Siri, selon les résultats d'un test
Trolldi : Alexa et Siri parmi les femmes les plus célèbres dans le domaine de la tech, aux yeux des consommateurs américains
Amazon embauche plus de personnel technique pour Alexa que Google pour toutes ses activités, son assistant numérique
Google Assistant SDK s'enrichit de nouvelles langues dont le français, à voir également, une nouvelle API d'extension des possibilités de contrôle
Avatar de Thorna Thorna - Membre éprouvé https://www.developpez.com
le 27/05/2018 à 17:39
Êtes-vous satisfaits de l'explication d'Amazon ?
Oui, absolument, puisqu'elle confirme ce dont tout le monde se doutait un peu, c'est-à-dire que ces dispositifs (inutiles...) peuvent absolument enregistrer tout ce qu'ils veulent, et que ces atteintes malveillantes à la vie privée sont explicables à chaque fois par une erreur, un bug, une incompréhension... dont, bien sûr, l'entreprise fabricante/vendeuse/etc. n'est pas responsable, m'enfin !
Et plus tôt ce mois-ci, des chercheurs de UC Berkeley ont publié un article dans lequel ils montraient comment ils étaient capables d'intégrer des commandes dans de la musique ou du texte parlé
Et en plus y'a pas besoin d'être soi-même coupable de ces erreurs ou de ces incompréhensions, il suffit d'écouter la radio, la télé, internet, etc. Bientôt, on nous expliquera que la tondeuse à gazon du voisin a malencontreusement démarré la séquence d'enregistrement, et que l'hélicoptère qui a survolé le quartier 3 jours plus tard a provoqué l'envoi de 3 jours d'espionnage à tout le carnet d'adresse.
Avatar de hotcryx hotcryx - Membre extrêmement actif https://www.developpez.com
le 28/05/2018 à 10:50
Ajoutons à cela le réseau de satellites de Bill Gates et ils pourront tout voir, tout entendre, même à l'intérieur des habitations, même dans les voitures...
Avatar de Mr-Jay Mr-Jay - Membre régulier https://www.developpez.com
le 28/05/2018 à 11:05
Et qu'en est-il du jour ou dans les films les personnages utiliseront ce type d’appareil?

Celui que les gens auront chez eux sera-t'il capable de différencier un vrai ordre à celui donner dans un film?
J'imagine déjà le gag que cela produirais^^.

Perso, pas pour moi ce type de dispositif.
Avatar de Sodium Sodium - Membre éprouvé https://www.developpez.com
le 28/05/2018 à 13:30
Je ne suis pas choqué que ce type de mésaventure puisse arriver.
Tout programme comporte des bugs et la compréhension de la voix humaine par les machines est loin d'être parfaite.

Non, la chose qui me choque c'est que les gens soient assez stupides pour intégrer à leur lieu de vie un robot qui écoute en permanence tout ce qui est dit.
Ce genre de machin n'entrera jamais chez moi, et ce même si la détection était 100% fiable.
Avatar de yoyo3d yoyo3d - Membre éclairé https://www.developpez.com
le 29/05/2018 à 8:42
Ce genre de machin n'entrera jamais chez moi, et ce même si la détection était 100% fiable.
100% d'accord avec toi, mais si tu as un portable (PC ou tel) il y à de fortes chances que le ver soit déjà dans la pomme ( sans jeu de mot hein... n'y voyez pas une attaque contre marque bien précise, elles se valent toutes aujourd'hui)

la web cam de mon portable à une fâcheuse tendance à s'activer à l'insu de mon plein grès et mon fiston à passé une salle période "Allo Google" et je vois aujourd'hui que les inquiétudes sont fondées...
Avatar de AoCannaille AoCannaille - Membre émérite https://www.developpez.com
le 29/05/2018 à 11:49
Citation Envoyé par Mr-Jay Voir le message
Et qu'en est-il du jour ou dans les films les personnages utiliseront ce type d’appareil?

Celui que les gens auront chez eux sera-t'il capable de différencier un vrai ordre à celui donner dans un film?
J'imagine déjà le gag que cela produirais^^.

Perso, pas pour moi ce type de dispositif.
déjà fait, à des fins publicitaires (!) c'est à dire que ça a été fait volontairement, pas par erreur.

http://www.lefigaro.fr/secteur/high-...-publicite.php
Avatar de Sodium Sodium - Membre éprouvé https://www.developpez.com
le 29/05/2018 à 14:43
100% d'accord avec toi, mais si tu as un portable (PC ou tel) il y à de fortes chances que le ver soit déjà dans la pomme ( sans jeu de mot hein... n'y voyez pas une attaque contre marque bien précise, elles se valent toutes aujourd'hui)
Je pose systématiquement un bout de scotch sur mes engins équipés de caméras.
Le risque zéro n'existe évidemment pas, mais il y a une différence entre s'exposer aux hacks potentiels des capteurs d'un ordinateur et faire entrer volontaire chez soi un objet dont la fonction première est d'espionner en permanence.
Contacter le responsable de la rubrique Accueil