Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Amazon : un employé demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police
évoquant des dérives

Le , par Stéphane le calme

142PARTAGES

15  0 
Fin novembre 2016, Amazon a présenté Amazon Rekognition, un service de reconnaissance d’images. « Propulsé par l'apprentissage en profondeur et construit par notre équipe de Vision informatique durant de nombreuses années, ce service entièrement géré analyse déjà des milliards d'images par jour. Il a été formé sur des milliers d'objets et de scènes et vous pouvez désormais l'utiliser dans vos propres applications », avait alors expliqué Jeff Barr, évangéliste en chef d’AWS.

Peu de temps après, l’entreprise a mis sa technologie à la disposition des forces de l’ordre, affirmant qu’elle permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Elle a été utilisé dans un premier temps par quelques services comme le département de police d'Orlando en Floride et le bureau du shérif du comté de Washington dans l'Oregon, ces premiers utilisateurs auraient servi de jauge afin d’encourager d'autres fonctionnaires à y faire appel.

Mais certaines entités, comme des associations de défense des droits numériques parmi lesquelles l'American Civil Liberties Union (ACLU) ont récemment fait part de leur opposition à ce « mariage », estimant que cela pourrait entraîner des dérives (par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes).

Une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos en date du 15 juin 2018, ont demandé à l’entreprise de mettre fin à cette collaboration. « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », ont-ils écrit.


Les employés ne sont pas d’accord

Cette fois-ci, c’est un employé d'Amazon qui souhaite faire pression sur son employeur pour mettre fin à cet échange. Il s’est exprimé sous couvert de l’anonymat dans un billet sur Medium et la plateforme affirme avoir pu vérifier l’authenticité de son emploi. Il a critiqué le travail de l’entreprise dans le domaine et l’a invitée à répondre à une lettre ouverte envoyée par un groupe d'employés.

Il a fait valoir que le gouvernement américain avait utilisé ces outils d'une manière qui nuisait de manière disproportionnée aux « communautés de couleur, aux immigrés et aux personnes exerçant leurs droits de premier amendement ».

« Ignorer ces préoccupations urgentes lors du déploiement de technologies puissantes auprès du gouvernement et des forces de l'ordre est dangereux et irresponsable », a-t-il déclaré. « C’est pourquoi nous avons été déçus lorsque Teresa Carlson, vice-présidente du secteur public mondial d’Amazon Web Services, a récemment déclaré qu’Amazon “soutenait fermement” ses clients des forces de l’ordre, de la défense et du renseignement, même si nous ne “savons pas la façon dont ils utilisent réellement l’outil” ».


Un billet qui a été publié le lendemain du jour où le PDG d’Amazon, Jeff Bezos, a défendu la cause des entreprises de technologie qui travaillent avec le gouvernement fédéral sur des questions de défense lors d’un sommet à San Francisco. « Si les grandes entreprises de technologie doivent tourner le dos au département américain de la Défense, notre pays va avoir des problèmes », a déclaré Bezos lundi.

Bezos a estimé que si toutefois une technologie était utilisée à mauvais escient, les sociétés seraient en mesure de régler le problème avant que les choses n’aillent trop loin. L’employé d'Amazon a déclaré dans sa lettre qu’il n’est pas exclu de se mordre les doigts avec ce genre de mantra.

« Sur scène, il a reconnu que les produits de la grande technologie pourraient être mal utilisés, voire exploitées, par des autocrates », a noté l’employé. « Mais plutôt que d'expliquer de manière significative comment Amazon agira pour prévenir les mauvaises utilisations de sa propre technologie, monsieur Bezos a suggéré d'attendre la "réponse immunitaire« de la société ».

« Si Amazon attend, nous pensons que le mal sera difficile à réparer ».

Un groupe de plus de 400 employés a signé une lettre en juin invitant Amazon à cesser de vendre son logiciel de reconnaissance faciale aux forces de l'ordre et à collaborer avec Palantir, qui fournit des services numériques à l'Immigration et aux douanes.

Amazon à l'époque défendait ses produits en affirmant qu'il existait toujours un risque pour les nouvelles technologies et que tout usage abusif potentiel ne devait pas entraver le développement des produits.

L’employé d’Amazon a fait référence à cette lettre, invitant Amazon à prendre des mesures « dès maintenant ». Faisant allusion aux dérives, il a estimé « Qu’il ne s’agit pas là d’une situation hypothétique ».

Une situation qui devient presque courante dans la Sillicon Valley

Amazon n’est pas la seule entreprise technologique à avoir subi la pression de ses employés au sujet de contrats avec des services de renseignement et d’application de la loi américains. D’autres entreprises, y compris Salesforce et Microsoft, sont également passées par là.


Google a d’ailleurs cédé à deux reprises cette année. L’entreprise a accepté de mettre fin à son contrat avec le Pentagone pour le projet Maven (qui consiste à développer une IA qui prend en charge l'utilisation de drones militaires) et a mis un terme à sa recherche d'une proposition dans le but d’obtenir le contrat de « JEDI » même si, officiellement, Google a affirmé que ce ne sont pas les employés qui lui ont mis la pression pour JEDI, mais c’était à cause de ses valeurs.

Vendredi, les employés de Microsoft ont eux aussi posté une lettre publique demandant à la société de retirer son offre de contrat JEDI. Mais l’entreprise ne semble pas disposée à céder.

Source : billet de l'employé Amazon, lettre ouverte des employés Amazon

Voir aussi :

La police chinoise s'équipe de lunettes dotées d'une technologie de reconnaissance faciale, pour scanner les foules à la recherche de suspects
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Big data : la Chine a commencé à tester son système national de crédit social et menace de priver les citoyens mal notés de certains services de base
Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme
Mozilla publie une solution d'apprentissage profond pour la reconnaissance vocale, une implémentation TensorFlow de l'architecture Deep Speech

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 26/05/2019 à 8:11
"Chez Amazon Inc., les actionnaires semblent être divisés sur la question de la vente de la technologie de reconnaissance faciale"
2% c'est pas ce que j'appelle divisé.

Et que fait amazon avec un système de reconnaissance facial surtout. Entre ça et les enregistrements des conversations avec son assistant vocale, c'est plus amazon qu'il faut l'appelé mais octobre rouge ou nsaland.
0  0 

 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web