Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Sécurité : un dispositif Echo enregistre les conversations d'une famille et les transfère à un contact sans permission
Amazon confirme et s'excuse

Le , par Patrick Ruiz

137PARTAGES

9  0 
Intégrer les dispositifs connectés (à Internet) à sa domotique … c’est désormais ce que proposent la plupart des géants de la Tech avec leurs Google Assistant, Cortana ou encore Siri. Une famille de Portland aux états-unis a, pour sa part, fait le choix des hauts-parleurs Echo armés à l’IA Alexa d’Amazon. Dans une publication parue il y a peu, Kiro-TV – une station de télévision américaine située à Seattle dans l’État de Washington – attire l’attention sur l’un des inconvénients majeurs d’un tel choix : le hub domotique peut mettre des moments d’intimité à la disposition de tiers.

C’est ce qui est arrivé à Danielle et à son époux. « Mon mari et moi avions l’habitude de blaguer en disant je parie que ces appareils écoutent nos conversations », rapporte la chaîne de télévision des propos de la dame. Il y a deux semaines, la famille est passée de la blague à la crue réalité avec un coup de fil qui, dit-elle, a mis un terme à son amour pour Alexa. « Débranchez immédiatement vos dispositifs Alexa. Vous êtes victimes d’un piratage », disait l’appelant – un collègue du mari. « Nous avons débranché les appareils et il a poursuivi en disant qu’il a reçu des enregistrements audio de notre intérieur », rapporte Kiro des propos de Danielle.

La chaîne de télévision rapporte que la famille a reçu copie des contenus audio et a pu confirmer que le collègue était bien sérieux. « Je me suis sentie envahie. Une intrusion totale dans notre vie privée. Je ne vais plus jamais me servir de ces dispositifs puisqu’on ne peut leur faire confiance  », a-t-elle lancé. Contactée par la dame, l’entreprise a confirmé que les fichiers de journalisation reflètent bien le transfert. « Nos ingénieurs ont passé vos logs en revue et affirment avoir vu ce dont vous vous plaignez », a répondu Amazon. « Il s’est excusé une quinzaine de fois sur les 30 minutes que notre conversation a duré et m’a remercié d’avoir porté cette situation à leur attention », a-t-elle ajouté.


Kiro-TV rapporte qu’Amazon n’a pas donné de détails sur le transfert du contenu audio sans permission alors que l’appareil est programmé pour le faire. D’après les explications sommaires de l’entreprise, tout partirait d’un dysfonctionnement du moteur de traitement du langage naturel (un cas de figure très rare d’après Amazon). « Il nous a dit que l’appareil a juste imaginé ce que nous étions en train de dire », rapporte la chaîne de télévision des propos de la dame.

L’explication la plus plausible serait que l’IA s’est mise en marche après avoir détecté le mot « Alexa ». Puis, la suite de la conversation a été interprétée comme une requête de transfert de l’échange. Dans ces conditions en principe le dispositif émet des alertes sonores pour demander des détails sur l’identité du contact à qui le contenu doit être transféré. Fait curieux, les membres de la famille signent mordicus qu’ils n’ont pas eu de signalement.

Amazon a offert de désactiver les communications d’Alexa sur les dispositifs de la famille afin que cette dernière fasse uniquement usage des fonctionnalités dédiées aux domiciles intelligents. Mais, la décision de cette dernière est prise et elle souhaite plutôt obtenir un remboursement, ce à quoi Amazon se refuse.

Quelles alternatives ?

Envie d’intégrer un assistant vocal à votre projet de domotique sans avoir à faire transiter vos informations sur le cloud où elles pourraient se retrouver entre les mains de tiers ? Alors, il faudrait peut-être jeter un œil du côté de Snips, une jeune pousse parisienne spécialisée en traitement automatique du langage.

La start-up propose un assistant vocal qu’on peut intégrer à des dispositifs aux antipodes des ordinateurs actuels en termes de ressources. « Avec un Raspberry Pi 3, un microphone et une heure de votre temps, vous pouvez commencer à contrôler votre maison par le biais de votre voix, ce, en gardant le contrôle sur vos données », écrivent les concepteurs du système. Les particuliers peuvent faire usage de l’assistant vocal dans un cadre non commercial. Le tutoriel « concevoir son propre assistant vocal pour la météo avec Snips et un Raspberry Pi en une heure » est un excellent point d’ancrage pour les hobbyistes désireux d’effectuer une prise en main initiale de la plateforme. En quelques étapes simples à suivre, l’assistant vocal peut être installé sur l’ordinateur monocarte qui devient alors capable de : détecter qu’on s’adresse à lui ; transformer l’entrée sonore en texte ; analyser le texte pour en sortir une intention ; agir en accord avec l’intention (provoquer l’extinction ou l’allumage d’une lampe, etc.).

Snips a publié le moteur de traitement du langage naturel (la section de l’assistant vocal qui analyse le texte pour en sortir une intention) sous licence Apache 2.0 au début du mois de mars. La manœuvre, comme l’expliquent ses concepteurs, est destinée à vulgariser « l’intelligence artificielle respectueuse de la vie privée ». Il est disponible sous la forme d’une bibliothèque développée en Python et en Rust et dédiée à l’entraînement des modèles qui serviront à effectuer des prédictions sur de nouvelles requêtes. En substance, il s’agit de créer un modèle et de l’entraîner à l’aide de données tirées d’un dictionnaire Json que la start-up fournit (que le développeur pourra également monter lui-même) ; après quoi le modèle sera capable de généraliser à l’analyse de requêtes qui ne font pas partie de son dictionnaire.

Sources : Kiro, Annonce Snips, GitHub

Et vous ?

Ce qui est arrivé à cette famille est-il surprenant quand on sait que :

  • ces dispositifs sont connectés à Internet ?

  • qu’ils sont capables de contacter d’autres hôtes/services ?

  • qu’ils sont dotés d’une simple interface conversationnelle basée sur des technologies de détection de commandes vocales qui ne sont pas parfaites ?


Que pensez-vous de l’alternative Snips ?

Quelle autre alternative avez-vous personnellement testé ? Qu’est-ce qui vous a plu avec cette dernière  ?

Voir aussi :

L'internet des objets pourrait rapidement devenir l'internet des menaces prévient le fondateur et PDG Kaspersky

Vint Cerf : « quelquefois je suis terrifié par l'internet des objets », le père de l'internet partage les préoccupations suscitées autour de l'IdO

Internet des Objets et respect de la vie privée peuvent-ils aller de pair ? Eve Maler livre son analyse de la question

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Thorna
Membre éprouvé https://www.developpez.com
Le 27/05/2018 à 17:39
Êtes-vous satisfaits de l'explication d'Amazon ?
Oui, absolument, puisqu'elle confirme ce dont tout le monde se doutait un peu, c'est-à-dire que ces dispositifs (inutiles...) peuvent absolument enregistrer tout ce qu'ils veulent, et que ces atteintes malveillantes à la vie privée sont explicables à chaque fois par une erreur, un bug, une incompréhension... dont, bien sûr, l'entreprise fabricante/vendeuse/etc. n'est pas responsable, m'enfin !
Et plus tôt ce mois-ci, des chercheurs de UC Berkeley ont publié un article dans lequel ils montraient comment ils étaient capables d'intégrer des commandes dans de la musique ou du texte parlé
Et en plus y'a pas besoin d'être soi-même coupable de ces erreurs ou de ces incompréhensions, il suffit d'écouter la radio, la télé, internet, etc. Bientôt, on nous expliquera que la tondeuse à gazon du voisin a malencontreusement démarré la séquence d'enregistrement, et que l'hélicoptère qui a survolé le quartier 3 jours plus tard a provoqué l'envoi de 3 jours d'espionnage à tout le carnet d'adresse.
9  0 
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 28/05/2018 à 13:30
Je ne suis pas choqué que ce type de mésaventure puisse arriver.
Tout programme comporte des bugs et la compréhension de la voix humaine par les machines est loin d'être parfaite.

Non, la chose qui me choque c'est que les gens soient assez stupides pour intégrer à leur lieu de vie un robot qui écoute en permanence tout ce qui est dit.
Ce genre de machin n'entrera jamais chez moi, et ce même si la détection était 100% fiable.
4  0 
Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 25/05/2018 à 8:44
je comprends pas, j'achète mon iPhone super cher, je brade ma vie privée aux différents réseaux sociaux sans jamais gueuler, ma bagnole est connectée en wifi à ma maison sans que je sache pourquoi, j'ai même truffé ma baraque de micros
mais alors comment ça se fait que je vive si mal ? c'est pourtant pas faute de m'abstenir de réfléchir le plus possible, je suis scandalisme... tout ça c'est encore la faute à Macron, aux hommes CIS blancs, aux médias, aux carnistes, aux spécistes et autres (j'en oublie), révolte !

2  0 
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 29/05/2018 à 14:43
100% d'accord avec toi, mais si tu as un portable (PC ou tel) il y à de fortes chances que le ver soit déjà dans la pomme ( sans jeu de mot hein... n'y voyez pas une attaque contre marque bien précise, elles se valent toutes aujourd'hui)
Je pose systématiquement un bout de scotch sur mes engins équipés de caméras.
Le risque zéro n'existe évidemment pas, mais il y a une différence entre s'exposer aux hacks potentiels des capteurs d'un ordinateur et faire entrer volontaire chez soi un objet dont la fonction première est d'espionner en permanence.
2  0 
Avatar de transgohan
Expert éminent https://www.developpez.com
Le 25/05/2018 à 8:25
Cela n'a malheureusement rien de surprenant, et de ce fait je pense que Snips est sur un marché gagnant sur le long terme.
1  0 
Avatar de yoyo3d
Membre éprouvé https://www.developpez.com
Le 29/05/2018 à 8:42
Ce genre de machin n'entrera jamais chez moi, et ce même si la détection était 100% fiable.
100% d'accord avec toi, mais si tu as un portable (PC ou tel) il y à de fortes chances que le ver soit déjà dans la pomme ( sans jeu de mot hein... n'y voyez pas une attaque contre marque bien précise, elles se valent toutes aujourd'hui)

la web cam de mon portable à une fâcheuse tendance à s'activer à l'insu de mon plein grès et mon fiston à passé une salle période "Allo Google" et je vois aujourd'hui que les inquiétudes sont fondées...
1  0 
Avatar de AoCannaille
Membre émérite https://www.developpez.com
Le 29/05/2018 à 11:49
Citation Envoyé par Mr-Jay Voir le message
Et qu'en est-il du jour ou dans les films les personnages utiliseront ce type d’appareil?

Celui que les gens auront chez eux sera-t'il capable de différencier un vrai ordre à celui donner dans un film?
J'imagine déjà le gag que cela produirais^^.

Perso, pas pour moi ce type de dispositif.
déjà fait, à des fins publicitaires (!) c'est à dire que ça a été fait volontairement, pas par erreur.

http://www.lefigaro.fr/secteur/high-...-publicite.php
1  0 
Avatar de cdubet
Membre actif https://www.developpez.com
Le 06/06/2018 à 18:59
au moins la Stasi ne faisait pas payer ses victimes...
Il faut vraiment etre tres con pour acheter un mouchard de ce type.
Il y a deja des cas aux USA ou la police a demande l enregistrement de l enciente au fabriquant. C etait pour eclaicir un meurtre mais a terme la requete va aller pour n importe quoi (par ex pour savoir si vous fumez autre chose que du tabac ou avez regardez un film piraté)
1  0 
Avatar de Ridi Luamba
Candidat au Club https://www.developpez.com
Le 24/06/2018 à 19:45
Mais pourquoi donc, Amazon refuse de rembourser le couple victime de l'incident de leur enceinte connectée ?
1  0 
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 28/05/2018 à 10:50
Ajoutons à cela le réseau de satellites de Bill Gates et ils pourront tout voir, tout entendre, même à l'intérieur des habitations, même dans les voitures...
0  0