Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent,
Et en parlent dans un forum de discussion interne

Le , par Jonathan

207PARTAGES

16  1 
Amazon Alexa, plus connu sous le nom Alexa, est un assistant virtuel développé par Amazon et utilisé pour la première fois dans les enceintes intelligentes Amazon Echo et Amazon Echo Dot. Il est capable d'interaction vocale, de jouer de la musique, de lister des tâches à effectuer, de régler des alarmes, de diffuser des podcasts, de lire des livres audio et de fournir des informations sur la météo, la circulation, les sports et d'autres informations en temps réel telles que les actualités.

Ce produit d'Amazon fait beaucoup parler de lui en raison du fait qu'il est très vendu (plus de 100 millions de ventes) et aussi parce qu'il compte plus de 1000 employés qui travaillent dessus au quotidien dans le but de le perfectionner. Seulement, on a appris récemment que ces employés d'Amazon qui travaillent à améliorer son assistant vocal écoutent les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés peuvent écouter jusqu'à 1000 enregistrements par jour.


En général, lorsque vous donnez un ordre à un périphérique Amazon Echo, seul le logiciel de reconnaissance vocale d'Amazon écoute. Mais, il a été découvert qu'une copie de l'audio est envoyée à un humain dans l'un des bureaux d'Amazon dans le monde. Cette personne écoute l'enregistrement audio, le transcrit et ajoute des annotations pour aider les algorithmes d'Amazon à s'améliorer. Les enregistrements incluent à la fois des commandes Alexa explicites et des conversations en arrière-plan.

D'ailleurs, 2 employés ont déclaré avoir entendu ce qu'ils pensaient être un cas d'agression sexuelle, mais se sont fait dire que ce n'était pas à Amazon de prendre des mesures. Il faut aussi préciser que ces travailleurs ont également un forum de discussion interne où ils peuvent obtenir de l'aide pour analyser un mot confus, mais aussi partager certains enregistrements qu'ils trouvent amusants.

Les utilisateurs ont la possibilité de désactiver l'utilisation de leurs enregistrements vocaux depuis les paramètres de confidentialité de leurs appareils. Mais il faut également reconnaître qu'Amazon n'a pas été très correct puisque la société, dans ses documents de marketing et de politique de confidentialité, ne dit pas explicitement que les humains écoutent des enregistrements de certaines conversations captées par Alexa.

Un porte-parole de l'entreprise a déclaré que ces employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail. D'après lui, toutes les informations seraient traitées avec une confidentialité élevée, mais quel que soit ce que peut affirmer la société Amazon, il est tout de même inquiétant de se savoir ainsi écouté.

Voici en intégralité la réponse officielle d'Amazon :

« Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients. Nous n'annotons qu'un nombre extrêmement faible d'interactions provenant d'un ensemble aléatoire de clients afin d'améliorer l’expérience de nos clients. Par exemple, ces informations nous aident à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu'Alexa puisse mieux comprendre vos demandes, ou nous assurer que le service fonctionne au mieux pour tout le monde. Nous mettons en œuvre des garanties techniques et opérationnelles strictes et avons une politique de tolérance zéro envers les abus sur notre système. Dans ce cadre, les employés n'ont pas d'accès direct à des informations qui leur permettraient d'identifier une personne ou un compte. Nous traitons toutes les informations avec la plus grande confidentialité, utilisons l'authentification multifactorielle pour restreindre l'accès, le cryptage du service et les audits de notre environnement de contrôle pour le protéger, et les clients peuvent également supprimer leurs interactions vocales avec Alexa à tout moment. »

Sources : Business Insider, Service de presse d'Amazon.

Et vous ?

Qu'en pensez-vous ?
Saviez-vous que ces enregistrements étaient écoutés à nouveau par des humains ?
Laisseriez-vous cette option d'écoute activée sur votre appareil ?

Voir aussi :

Amazon atteint 100 millions de vente d'appareils intégrant Alexa, son assistant vocal intelligent
Amazon révèle que plus de 10 000 employés travaillent sur Alexa ainsi que sur les appareils Echo qu'il alimente
Alexa, le système vocal intelligent d'Amazon compte environ 80 000 applications dans son Store, mais aucune de vraiment célèbre

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Aiekick
Membre chevronné https://www.developpez.com
Le 11/04/2019 à 10:03
en mème temps tout le monde le sait que les péripherique de maisons connecté qui ont une interactions vocales, envoi le message audio a un serveur pour traitement. donc le message est sauvé sur serveur. partant de la, pas de sécurité possible pour l'utilisateur.

yavais deja eu le souci avec les tv samsung.

dans le meme genre, pourquoi vous croyez que facebook a racheté occulus ? simple, ca met des camera dans chaque maison de gamer VR
(le sensor pour positionner casque et manette sont des camera infrarouge, donc il ont soigneusement caché l'identité, de sorte que l'os ne sait pas que c'est des camera, et nulle mention sur la boite.
si ils ont fait ca c'est bien parce qu'il l’exploite et pou inquieter personne)
et en plus les services occulus sont obligé de tourner meme si on utilise pas le casque.
Avatar de Drowan
Membre éprouvé https://www.developpez.com
Le 11/04/2019 à 10:39
Citation Envoyé par Jonathan Voir le message
mais quel que soit ce que peut affirmer la société Amazon, il est tout de même inquiétant de se savoir ainsi écouté.
En même temps, c'est le principe même du produit que de t'écouter. Donc si on est inquiet d'être sur écoute on l'achète pas...
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 11/04/2019 à 10:48
"Un porte-parole de l'entreprise a déclaré que ces employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail. "
Ca prouve que quand même que tout ce qui est dit est stockée, sans préciser si il y a un effacement pour tout ce qui sort du cadre de la commande... Après quelque part, ça se sentait venir de loin...
Avatar de Doksuri
Membre émérite https://www.developpez.com
Le 11/04/2019 à 10:52
ca etonne vraiment quelqu'un ?
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 11/04/2019 à 10:59
Citation Envoyé par Jonathan Voir le message
Saviez-vous que ces enregistrements étaient écoutés à nouveau par des humains ?
Les humains écoutent très peu. C'est quasiment négligeable.
Par contre tout ce qu'Alexa entend est retranscris de l'audio à l'écrit par des algorithmes et ces données sont analysées, peut-être qu'en douce un profil d'utilisateur est réalisé...
Avatar de Beowulf59
Membre actif https://www.developpez.com
Le 11/04/2019 à 11:17
Nouvelle qui n'en est pas vraiment une...
Alexa envoie les enregistrements audio sur les serveurs Amazon pour traitement, ça a toujours été clairement spécifié. D'ailleurs, si on n'a pas de connexion, pas d'interaction Alexa.
On peut consulter à tout moment ce qu'on a dit auparavant, donc forcément il y a une histoire de stockage, pas besoin d'une communication pour ça
Au niveau de la compréhension des audios, il y a eu une phase de bêta test où à chaque phrase, on pouvait spécifier dans l'application Alexa si l'enceinte avait bien compris notre phrase.
Mais il est évident qu'une fois cette bêta test terminée, il faudra quand même continuer à améliorer l' "intelligence", et cela passe par l'interprétation des fichiers audio...
Avatar de grunk
Modérateur https://www.developpez.com
Le 11/04/2019 à 11:50
Citation Envoyé par Aiekick Voir le message
en mème temps tout le monde le sait que les péripherique de maisons connecté qui ont une interactions vocales, envoi le message audio a un serveur pour traitement. donc le message est sauvé sur serveur. partant de la, pas de sécurité possible pour l'utilisateur.
Je doute que l'utilisateur lambda est quelconque notion de ce qui se passe quand il demande quelque chose à son assistant vocale.
Avatar de AoCannaille
Membre émérite https://www.developpez.com
Le 11/04/2019 à 12:15
Citation Envoyé par Aiekick Voir le message
en mème temps tout le monde le sait que les péripherique de maisons connecté qui ont une interactions vocales, envoi le message audio a un serveur pour traitement. donc le message est sauvé sur serveur. partant de la, pas de sécurité possible pour l'utilisateur.
Ce qui est vendu, en particulier avec le google Home, C'est que l'appareil écoute en permanence et repère, en local, par ses moyens propre "Ok Google", et que ce n'est que les commandes suivantes qui sont envoyées au serveur.
Donc pas besoin de surveiller ce qu'on dit en permanence en théorie.
Bien sûr, ce ne sont que des promesses d'ivrogne selon moi.

Il y a des solutions qui existent, comme cella là

C'est une solution à base de raspberry Pi, de projet open source et d'imprimante 3D.
EN gros c'est un truc que tu met sur ton assistant et qui emet du bruit blanc en permanence. Le logiciel open soruce permet de changer le nom de ton assistant et d'arrêter le bruit blanc qu'a ce moment.

évidement, ça ne protége pas du profilage systématique lors des vrais commandes. Mais bon, C'est déjà ça de prit.
Avatar de NBoulfroy
Membre actif https://www.developpez.com
Le 11/04/2019 à 12:47
Qu'ils écoutent, je pense qu'on s'en doutait.

Par contre, qu'ils n'agissent pas quand il y a des soupçons d'un acte criminel, cela devient problématique !
Avatar de MarieKisSlaJoue
Membre expert https://www.developpez.com
Le 11/04/2019 à 14:03
Citation Envoyé par NBoulfroy Voir le message
Qu'ils écoutent, je pense qu'on s'en doutait.

Par contre, qu'ils n'agissent pas quand il y a des soupçons d'un acte criminel, cela devient problématique !
C'est triste mais, ce n'est pas à eu de le faire et il ne peuvent de toute façon pas le faire. Il n'ont pas les info pour et n'écoute certainement pas en direct.
On est pas à l'abris de voir par contre des fonctionnalité qui détecte automatiquement des situations de danger (agressions, menace, cri) et envoie une alerte au service de secour.
Mais encore ça pose toujours la même question. Jusqu'où on va pour tenter de protéger les gens.

Sinon au passage, nos téléphone font sans doute la même chose. Ok Google et Dit Siri on aussi besoin de nous écoutéen permance. Même si en effet rien n'est sensé être envoyé directement à Google. Enfin peut être sous forme de log...
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web