Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

USA : un projet de loi imposerait à une entreprise une amende de 40 000 USD
Pour chaque enregistrement effectué par son dispositif domestique connecté sans la permission de l'utilisateur

Le , par Stéphane le calme

127PARTAGES

19  0 
Au cours du premier trimestre de cette année, le marché européen des maisons intelligentes a progressé de 23,9%, pour atteindre 21,3 millions d’unités livrées dans la région, selon les données du cabinet IDC. L’Europe occidentale représente 88,3 % de la part de la région, mais l’Europe centrale et orientale connaît la plus forte augmentation (31,2 % d’une année à l’autre). Les haut-parleurs intelligents ont augmenté de 58,1 % pour atteindre les 3,35 millions d’unités, représentant 15,8 % du marché, ce qui en fait la deuxième catégorie de produits en importance. Dans cet espace, les appareils Google Home se sont emparés de 45,1 % du marché des enceintes intelligentes livrées, contre 41,8 % pour les appareils Amazon Echo.

Si les appareils connectés qui sont activables par commande vocale ont gagné en popularité, des scandales liés à des écoutes sont venus entacher le paysage. C'est ainsi que, fin juillet, les autorités allemandes ont décidé que Google doit cesser d'écouter les enregistrements vocaux des utilisateurs de son logiciel Assistant dans l'Union européenne. Ceux-ci estiment que le recours à des assistants vocaux de fournisseurs tels que Google, Apple et Amazon présente un risque élevé pour la confidentialité et la protection de la vie privée des personnes concernées. Ceci s’applique non seulement aux personnes qui exploitent un assistant vocal, mais également à tous ceux qui entrent en contact avec celui-ci (par exemple lorsqu’ils vivent dans un ménage) où l’équipement est utilisé (par exemple un foyer où Google Assistant est installé).

Le service Assistant du géant de la recherche, similaire à Alexa et Amazon et à Siri d'Apple, permet aux utilisateurs d'utiliser leur voix pour allumer une lumière ou capter l'actualité de la matinée grâce à des dispositifs tels qu'un haut-parleur intelligent Google Home, un téléphone Android ou un iPhone.


Sur la base de multimédias diffusés par les lanceurs d'alerte, les médias ont récemment annoncé que Google utilisait son assistant vocal Google Home pour évaluer les enregistrements vocaux afin d'améliorer les capacités de reconnaissance vocale de Google Assistant. Dans ces évaluations, les employés de Google ou de sociétés mandatées entendent les enregistrements vocaux et les transcrivent pour analyser si les informations acoustiques enregistrées ont été traitées correctement par le système sous-jacent, une pratique que Google a reconnue dans un billet de blog.

En effet, en juillet, Google a confirmé que des travailleurs tiers analysant les données vocales d'Assistant avaient divulgué des conversations néerlandaises privées. Le radiodiffuseur public belge VRT NWS a déclaré que plus de 1 000 fichiers avaient été divulgués, y compris des enregistrements de cas où des utilisateurs avaient accidentellement déclenché le logiciel de Google.

Amazon a déclaré qu'un nombre « extrêmement faible » d'enregistrements Alexa étaient annotés afin d'améliorer ses systèmes de reconnaissance vocale. Les entrepreneurs Apple auraient également entendu des enregistrements privés, y compris des informations médicales, selon un rapport publié en juillet. Apple a confié qu'une « petite partie » des données est utilisée pour améliorer Siri et les commandes vocales.

Toutefois, dans un communiqué, Apple a expliqué « Pendant que nous effectuons un examen approfondi, nous suspendons l’analyse des conversations Siri au niveau mondial. De plus, dans le cadre d’une future mise à jour logicielle, les utilisateurs auront la possibilité de choisir de participer au programme ». L'entreprise va donc introduire bientôt une option de consentement qui n’existait pas jusqu’ici.

Vient alors la Automatic Listening Exploitation Act

La Automatic Listening Exploitation Act imposerait à une entreprise une amende pouvant aller jusqu’à 40 000 USD pour chaque enregistrement réalisé sans la permission de l’utilisateur. Cela permettrait également à un client d’exiger que l’enregistrement soit supprimé des archives de la société.

Des exceptions seraient prévues pour les améliorations de service, telles que « améliorer la reconnaissance vocale et la compréhension en langage naturel de l'interface utilisateur vocale » ou « aider l'interface utilisateur vocale à s'adapter aux modèles de parole, au vocabulaire et aux préférences personnelles ».

Considérant que presque tout ce qui est envisageable pourrait être revendiqué par une société comme Amazon ou Google en tant qu’amélioration de service, il n’est pas certain de l’efficacité de ce projet de loi. Il a été présenté à la Chambre le 25 juillet sous le numéro H-4048 par le représentant Seth Moulton (D-MA6).


Il faut dire qu'Apple par exemple avait expliqué en quoi les données des utilisateurs améliorent Siri :

Pour que Siri puisse effectuer des tâches personnalisées plus précisément, il collecte et stocke certaines informations sur votre appareil. Par exemple, lorsque Siri rencontre un nom peu commun, il peut utiliser les noms de vos contacts pour s’assurer qu’il le reconnaît correctement.

Siri s'appuie également sur les données de vos interactions avec elle. Cela inclut l'audio de votre demande et une transcription de celle-ci générée par ordinateur. Apple utilise parfois l'enregistrement audio d'une requête, ainsi que la transcription, dans un processus d'apprentissage automatique qui « entraîne » Siri et donc l'améliore.

« Avant de suspendre le classement, notre processus impliquait d'examiner un petit échantillon d'audio provenant de demandes Siri - moins de 0,2 % - et leurs transcriptions générées par ordinateur, afin de mesurer la qualité de la réponse de Siri et d'améliorer sa fiabilité. Par exemple, l’utilisateur avait-il l’intention de réveiller Siri ? Siri a-t-il bien compris la demande ? Et Siri a-t-il répondu de manière appropriée à la demande ? »

Qu'en disent ses partisans ?

Les partisans soutiennent que cette innovation technologique très récente nécessite une mise à jour correspondante de la loi fédérale pour lutter contre son utilisation abusive potentielle.

« Les haut-parleurs intelligents sont excellents, mais les consommateurs devraient avoir un moyen de se défendre lorsque les entreprises de technologie collectent plus de données que les Américains n’ont accepté de céder », a déclaré le représentant Moulton dans un communiqué. « Plus généralement, le Congrès devrait donner plus de poids aux Américains dans les données collectées par les entreprises. C’est le moment d’adopter une nouvelle génération de lois sur la protection des données numériques, qui peut commencer par obliger les sociétés à respecter leurs propres engagements en matière de protection des données ».

Certaines entreprises ont déjà pris des mesures pour améliorer la confidentialité des utilisateurs

Pour le cas d'Apple, après avoir présenté ses excuses, l'éditeur d'iOS a annoncé un certain nombre de changements :
  • Premièrement, par défaut, nous ne conservons plus les enregistrements audio des interactions Siri. Nous continuerons d’utiliser des transcriptions générées par ordinateur pour aider Siri à s’améliorer.
  • Deuxièmement, les utilisateurs pourront choisir d'aider Siri à s'améliorer en tirant parti des échantillons audio de leurs demandes. Nous espérons que de nombreuses personnes choisiront d'aider Siri à s'améliorer, sachant qu'Apple respecte leurs données et dispose de contrôles de confidentialité puissants. Ceux qui choisissent de participer pourront se retirer à tout moment.
  • Troisièmement, lorsque les clients le souhaitent, seuls les employés d’Apple seront autorisés à écouter des échantillons audio des interactions Siri. Notre équipe travaillera à la suppression de tout enregistrement considéré comme un déclencheur par inadvertance de Siri.

Google pour sa part a décidé de renoncer de manière temporaire à écouter les conversations avec Google Assistant, le temps de travailler avec les régulateurs allemands pour trouver une meilleure approche : « Nous sommes en contact avec l'autorité de protection des données de Hambourg. Nous évaluons actuellement la manière dont nous conduisons les analyses audio et aidons nos utilisateurs à comprendre comment les données sont utilisées », a déclaré une porte-parole dans un communiqué. « Ces analyses contribuent à rendre les systèmes de reconnaissance vocale plus inclusifs des différents accents et de dialectes dans différentes langues. Nous n'associons pas de clips audio à des comptes d'utilisateur pendant le processus de révision, nous n'effectuons des révisions que pour environ 0,2% de tous les clips »

Source : projet de loi

Et vous ?

Que pensez-vous de ce projet de loi ?
Que vous inspirent les différentes initiatives prises par les GAFA en matière de protection des données des utilisateurs ?

Voir aussi :

Facebook pourrait être condamné à une amende de plusieurs milliards de dollars, après avoir perdu un appel sur son système de reconnaissance faciale
La FTC inflige une amende de 5 milliards de dollars à Facebook et apporte des clauses qui "réduisent considérablement le pouvoir de Mark Zuckerberg"
Equifax pourrait s'en tirer avec une amende de 700 M$, après la violation de données de 2017, et payer seulement 4 $ à chaque victime

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de vanquish
Membre éprouvé https://www.developpez.com
Le 11/09/2019 à 10:45
Citation Envoyé par Aurelien Plazzotta Voir le message
Soyez de bonne foi et les commentaires sur ce site resteront de qualité.
Me connaissez-vous si bien qu'en quelques lignes vous puissiez juger de ma bonne ou mauvaise foi ?
Peut-être ne suis-je qu'un sombre idiot.

L'Argumentum ad personam est une méthode rhétorique bien connue et elle n'est pas connue pour créer un débat de qualités.
La suffisance non plus.

Notez que ce n'est pas moi qui ai rouge-poussé votre commentaire. Je ne l'utilise que très rarement car justement, je trouve que cela manque d'arguments.

Je note que vous ne répondez pas au problème principal qui est tout simplement étique : peut-on tolérer que qui que ce soit vous enregistre à votre insu et que ces enregistrement soient écouté par des humains ?

Ce que vous décrivez est un fait : certains géants se permettent des choses interdites, parce que payer l'amende est plus rentable pour eux.
Je suis prêt à reconnaitre - et même tout à fait d'accord - que les réglementations à outrance mettent les petites structures dans une instabilité juridique permanente.

Pour autant, doit-on tolérer les dégazage en pleine mer parce que les super-tanker peuvent payer l'amende et pas le petit pécheur du coin ?
Je suis désolé, mais je trouve que l’argument n'a aucun sens. Parce qu'alors, ce n'est plus la peine d'interdire ou de réglementer quoique ce soit et c'est l'anarchie.
Vous avez le droit d'être d'un avis contraire et de l’ argumenter, mais pas de dire que je suis de mauvaise foi.

Citation Envoyé par Aurelien Plazzotta Voir le message
Primo, un prototype ne requiert un bassin que de quelques dizaines à quelques milliers d'utilisateurs; ce qui engendre une amende suffisante pour couler une petite ou moyenne entreprise et insuffisante pour empêcher un conglomérat de renforcer sa position dominante. Il leur suffit de payer pour être au-dessus des lois qui neutralisent les entreprises qui ne peuvent le faire.
Un prototype de quoi ? D'un logiciel de paie peut-être, mais quelque milliers d'échantillons n'ont jamais suffit pour l'apprentissage d'un réseau neuronal d'une IA devant non seulement reconnaitre les mots de voix et d'accents différents, mais aussi comprendre le sens de la demande. Or c'est de cela dont-il s'agit dans l'article.
Google enregistre TOUT ce que TOUS ses utilisateurs dictent à ses outils. On est est donc plutôt dans le milliard.

Il n'y a donc aucune mauvaise foi quand je dit que même à Google, ça ferait mal.
Chacun peut le vérifier cet aspect dans les paramètres de confidentialités de son propre compte Google et dans ces fameuses clauses que personne ne lit.

Citation Envoyé par Aurelien Plazzotta Voir le message
Secundo, il existe des centaines de milliers d'entreprises de petite taille rien qu'en France, toutes plus anonymes les unes que les autres par manque de budget pour innover en raison d'amendes toujours plus nombreuses pour des considérations d'ordre technique, environnemental ou "éthique".
L'article fait référence au scandale des enregistrements fait par les assistant vocaux des GAFAM.
On parle donc d'entreprises IT travaillant dans le domaines de l'IA.
Des centaines de milliers petites entreprises française, vous êtes certains ?

Je ne vous en demandais rien qu'une seule, mais vous n'en citez aucune.
Ah ben oui, suis-je bête : "elles sont anonymes".

Citation Envoyé par Aurelien Plazzotta Voir le message
Tertio, l'histoire du garage est une légende urbaine visant à faire rêver les entrepreneurs du monde entier et les attirer vers la Silicon Valley. Steve Wozniak et Steve Jobs ont eu tous deux des parents fortunés et des cercles d'amis tout aussi argentés injectant des capitaux dans leur entreprise naissante. Même chose pour Microsoft et Facebook: les créateurs ont bénéficié d'études à Harvard dont le coût d'inscription d'une année (hors frais de vie) s'élèvent à plus de 300 000$.
Effectivement ce n'est pas Apple qui a commencé dans un garage, mais la Cream Soda Computer fondé par Bill Fernandez, son voisin Steve Wozniak et Steve Jobs. Rien à voir avec Apple, vous avez tout à fait raison.

Visiblement vous n'avez pas compris que c'était une hyperbole (promis, je ne le ferais plus) pour dire qu'à la fin des années 70, on pouvait démarrer une entreprise d'IT sur ses fonds propres, en empruntant ou - effectivement - en ayant des parents riches. Quand Micro-soft (ça s'écrivait comme ça au début) développe un basic pour l'Altaïr, ils sont 2 - ce qui leur vaudra d'être contacté par IBM.

Aujourd'hui ce n'est plus possible. Premièrement parce que les système sont beaucoup plus complexes et exigent donc plus de moyens. Deuxièmement parce qu'aujourd'hui tu as en face des GAFAM et tu ne peut pas aller les concurrencer en créant une SARL avec un capital de 5000 €. (mince encore une hyperbole, j'ai recommencé).

Rien qu'en 2019, Doctolib à levé 150 millions d'euro. Ils avait déjà levé 65 millions d'euro en 2017. Juste pour un carnet de rendez-vous !
Ce n'est plus une petite entreprise locale. Car dans ce cas aussi, on est devant une société qui à coup de millions est devenue incontournable, ce qui fini, là aussi, par poser quelques questions étiques (un rdv chez un cancérologue, n'est pas une info anodine).

Donc oui, "la petite entreprise locale", dans ces domaines, il ne faut pas avoir peur du ridicule.
4  0 
Avatar de Aurelien Plazzotta
Membre extrêmement actif https://www.developpez.com
Le 10/09/2019 à 11:06
Cette loi ne sert que les géants, qui d'autre à part les GAFAM et IBM peut payer 40 000$ par client espionné? La petite ou moyenne entreprise locale ne pourra pas développer de prototype ou alors c'est la liquidation judiciaire suivie irrémédialement de la faillite. Bravo pour l'arsenal législatif pour parasiter l'innovation et renforcer l'oligopole déjà écrasant.
2  0 
Avatar de vanquish
Membre éprouvé https://www.developpez.com
Le 10/09/2019 à 15:03
Citation Envoyé par Aurelien Plazzotta Voir le message
Cette loi ne sert que les géants, qui d'autre à part les GAFAM et IBM peut payer 40 000$ par client espionné? La petite ou moyenne entreprise locale ne pourra pas développer de prototype ou alors c'est la liquidation judiciaire suivie irrémédialement de la faillite. Bravo pour l'arsenal législatif pour parasiter l'innovation et renforcer l'oligopole déjà écrasant.
Ca fait 4 Milliards de dollars pour 100.000 utilisateurs. Même pour Google ça commence à faire mal - surtout qu'ils ont un peu plus de 100.000 utilisateurs.
Du coup, pour la mise au point des IA, cela ne pourra se faire qu'avec des cobayes volontaires (comme les médoc) et pas en enregistrant la vie privé des gens à leur insu.

D'ailleurs on note que pris la main dans le pot de confiture, ils ont tous réussi à mettre en place des systèmes plus respectueux.

Quand à "la petite entreprise locale" - elle m'a fait beaucoup rire. Vous en connaissez beaucoup ?
L'Apple développé dans le garage, par 2 passionnés, cela n'existe plus depuis longtemps.

Dans les domaines concernés ce sont des stat-up qui lèvent des dizaines de millions de dollars. Sinon ce n'est pas la peine de commencer.
Avec ces millions, on peut soit verser des salaires astronomiques à des patrons qui mettrons la clé sous la porte une fois tous les pigeons investisseurs lassés, soit rémunérer des volontaires pour mener un terme un projet réellement sérieux.

De toute façon petit ou gros, je refuse d'être enregistré à mon insu.
2  0 
Avatar de Volgaan
Membre confirmé https://www.developpez.com
Le 12/09/2019 à 13:41
Citation Envoyé par Aurelien Plazzotta Voir le message
Cette loi ne sert que les géants, qui d'autre à part les GAFAM et IBM peut payer 40 000$ par client espionné? La petite ou moyenne entreprise locale ne pourra pas développer de prototype ou alors c'est la liquidation judiciaire suivie irrémédialement de la faillite. Bravo pour l'arsenal législatif pour parasiter l'innovation et renforcer l'oligopole déjà écrasant.
Je rappelle que le but serait d'amender les entreprises qui effectuent des enregistrements via un dispositif domestique connecté sans la permission de l'utilisateur. C'est tout de même très spécifique et loin de ratisser large !

Ah et sans la permission de l'utilisateur. Donc même si une PME voulait se lancer sur ce marché, elle pourrait le faire en demandant la permission de l'utilisateur... ce que le bon sens exigerait de toute façon
1  0 
Avatar de Aurelien Plazzotta
Membre extrêmement actif https://www.developpez.com
Le 10/09/2019 à 17:49
Primo, un prototype ne requiert un bassin que de quelques dizaines à quelques milliers d'utilisateurs; ce qui engendre une amende suffisante pour couler une petite ou moyenne entreprise et insuffisante pour empêcher un conglomérat de renforcer sa position dominante. Il leur suffit de payer pour être au-dessus des lois qui neutralisent les entreprises qui ne peuvent le faire.

Secundo, il existe des centaines de milliers d'entreprises de petite taille rien qu'en France, toutes plus anonymes les unes que les autres par manque de budget pour innover en raison d'amendes toujours plus nombreuses pour des considérations d'ordre technique, environnemental ou "éthique".

Tertio, l'histoire du garage est une légende urbaine visant à faire rêver les entrepreneurs du monde entier et les attirer vers la Silicon Valley. Steve Wozniak et Steve Jobs ont eu tous deux des parents fortunés et des cercles d'amis tout aussi argentés injectant des capitaux dans leur entreprise naissante. Même chose pour Microsoft et Facebook: les créateurs ont bénéficié d'études à Harvard dont le coût d'inscription d'une année (hors frais de vie) s'élèvent à plus de 300 000$.

Soyez de bonne foi et les commentaires sur ce site resteront de qualité.
0  3 

 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web