Siri : Apple présente ses excuses pour avoir laissé des sous-traitants écouter des enregistrements

Certains s'étaient amusés à retrouver l'identité des utilisateurs

Siri : Apple présente ses excuses pour avoir laissé des sous-traitants écouter des enregistrements,
certains s'étaient amusés à retrouver l'identité des utilisateurs

Apple a officiellement présenté ses excuses pour ses pratiques en matière de protection de la vie privée, consistant à demander secrètement à des sous-traitants d'écouter des enregistrements de clients discutant avec son assistant numérique Siri pour améliorer le service. L'éditeur d'iOS affirme que « Notre objectif avec Siri, l’assistant intelligent pionnier, est de fournir la meilleure expérience à nos clients tout en protégeant avec vigilance leur vie privée. Nous savons que les clients ont été préoccupés par les récents rapports de personnes écoutant des enregistrements audio Siri dans le cadre de notre processus d'évaluation de la qualité Siri, que nous appelons le classement. Nous avons entendu leurs préoccupations, suspendu immédiatement le classement humain des demandes Siri et entamé un examen approfondi de nos pratiques et politiques. Nous avons donc décidé d’apporter des modifications à Siri ».

Le billet de blog est divisé en plusieurs parties. Dans l'une d'entre elles, Apple indique comment Siri protège la vie privée des utilisateurs, dans une autre, Apple explique en quoi les données des utilisateurs peuvent améliorer Siri et dans une dernière, Apple parle des changements qui seront appliqués.

Protection de la vie privée

Concernant la protection de la vie privée, Apple assure que :

« Siri a été conçu pour protéger la confidentialité des utilisateurs depuis le début. Nous nous concentrons sur le plus possible les appareils, en minimisant la quantité de données collectées avec Siri. Lorsque nous stockons des données Siri sur nos serveurs, nous ne les utilisons pas pour créer un profil marketing et nous ne les vendons jamais. Nous utilisons les données Siri uniquement pour améliorer Siri, et nous développons constamment des technologies pour rendre Siri encore plus respectueux de la vie privée.

« Siri utilise le moins de données possible pour fournir un résultat précis. Lorsque vous posez une question sur un événement sportif, par exemple, Siri utilise votre position générale pour fournir des résultats appropriés. Mais si vous demandez l’épicerie la plus proche, des données de localisation plus spécifiques sont utilisées.

« Si vous demandez à Siri de lire vos messages non lus, Siri demande simplement à votre appareil de lire vos messages non lus à voix haute. Le contenu de vos messages n’est pas transmis aux serveurs de Siri, car cela n’est pas nécessaire pour répondre à votre demande.

« Siri utilise un identifiant aléatoire (une longue chaîne de lettres et de chiffres associée à un seul appareil) pour garder une trace des données en cours de traitement, plutôt que de les associer à votre identité via votre identifiant Apple ou votre numéro de téléphone. Ce processus est selon nous unique parmi les assistants numériques utilisés de nos jours. Pour plus de protection, au bout de six mois, les données de l’appareil sont dissociées de l’identificateur aléatoire. »


Comment vos données améliorent Siri

Pour que Siri puisse effectuer des tâches personnalisées plus précisément, il collecte et stocke certaines informations sur votre appareil. Par exemple, lorsque Siri rencontre un nom peu commun, il peut utiliser les noms de vos contacts pour s’assurer qu’il le reconnaît correctement.

Siri s'appuie également sur les données de vos interactions avec elle. Cela inclut l'audio de votre demande et une transcription de celle-ci générée par ordinateur. Apple utilise parfois l'enregistrement audio d'une requête, ainsi que la transcription, dans un processus d'apprentissage automatique qui « entraîne » Siri et donc l'améliore.

« Avant de suspendre le classement, notre processus impliquait d'examiner un petit échantillon d'audio provenant de demandes Siri - moins de 0,2% - et leurs transcriptions générées par ordinateur, afin de mesurer la qualité de la réponse de Siri et d'améliorer sa fiabilité. Par exemple, l’utilisateur avait-il l’intention de réveiller Siri ? Siri a-t-il bien compris la demande ? Et Siri a-t-il répondu de manière appropriée à la demande ? »

Les changements appliqués

Apple a évoqué un certain nombre de changements après avoir présenté ses excuses.


30 français travaillant pour Apple ont écouté les enregistrements de Siri et se sont amusés à retrouver l’identité des utilisateurs

Apple était l’une des nombreuses grandes entreprises de technologie (y compris Google, Amazon et Facebook) qui s’est fait épinglée après avoir faire appel à des sous-traitants rémunérés pour écouter et classer les enregistrements de son assistant numérique, ce qui n’était pas clair pour les clients. Selon le rapport du Guardian, ces sous-traitants avaient accès à des enregistrements contenant de nombreuses informations confidentielles, souvent dues à des déclencheurs accidentels de Siri, et les travailleurs auraient écouté chacun jusqu’à 1 000 enregistrements par jour.

Conformément à l'annonce d'Apple, l’enregistrement non facultatif et les politiques de classement subséquentes sont désormais suspendus pour de bon. Apple dit qu'il ne conservera plus les enregistrements audio de Siri, sauf si un utilisateur y consent spécifiquement. Et dans les cas où les clients choisissent d'accorder leurs données à Apple, seuls les employés d'Apple auront accès (et non les contractants embauchés, semble-t-il). La société a également promis de travailler à la suppression des enregistrements suite à des déclenchements accidentels, qui, selon le rapport du Guardian, constituaient la principale source d’informations sensibles.

Selon la déclaration d’Apple, la société envisage de reprendre le classement des enregistrements Siri dans le cadre de ces nouvelles règles plus tard cet automne, à la suite d’une mise à jour logicielle qui ajoute la nouvelle option d’inscription à ses appareils.

En France, selon une édition du Canard Enchaîné de cette semaine, 30 Français travaillant pour Apple ont écouté les enregistrements de Siri en s’amusant à retrouver l’identité des utilisateurs pour « rompre la monotonie » : « Contrairement à ce qu'a raconté Apple, c'était relativement facile. Le nom de l'utilisateur de l'iPhone ou de l'Apple Watch nous était masqué, mais on se débrouillait avec le sujet de l'enregistrement ».

L’un d’entre eux raconte qu’il était embauché pour une durée de 6 mois, payé 10 dollars de l’heure. L’opération aurait été volontairement discrète : il évoque un nom de code et le fait qu’il ne fallait pas mentionner qu’ils travaillaient pour le compte d’Apple. Au-delà de l’anecdotique, il raconte qu’il aurait eu accès à des informations très sensibles, car les utilisateurs déclenchaient souvent Siri par erreur. Il aurait entendu des conversations chez le médecin ou avec un avocat. Ces enregistrements étaient anonymisés, mais ils auraient réussi trouver l’identité de plusieurs interlocuteurs. Selon lui, ce serait plus simple que ce qu’Apple ne laisse entendre.

Sources : Apple, Twitter

Et vous ?

Que pensez-vous de la décision d'Apple ?
Le fait que des sous-traitants aient abusé de leur position pour retrouver des utilisateurs vous semble-t-il surprenant ?
Êtes-vous disposé à autoriser explicitement un fournisseur d'assistant numérique (Apple ou autre) à utiliser vos données pour améliorer le service ? Pourquoi ?

Voir aussi :

Tim Cook affirme qu'Apple fera un don pour « restaurer l'indispensable forêt amazonienne en Amérique latine », après les incendies qui ont ravagé la région
Des entreprises américaines demandent à Apple et à Amazon de mettre les travailleurs et la planète avant les profits, une approche approuvée par certains investisseurs
Google, Apple et Mozilla bloquent l'espionnage par navigateur du gouvernement du Kazakhstan, après qu'ils aient utilisé un certificat racine pour intercepter et déchiffrer le trafic Internet
Des développeurs accusent Apple de se livrer à des pratiques anticoncurrentielles à cause des changements introduits dans la politique de confidentialité de iOS 13