USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon

Craignant une surveillance de masse par la police

USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon,
craignant une surveillance de masse par les forces de l'ordre

Fin novembre 2016, Amazon a présenté Amazon Rekognition, un service de reconnaissance d’images. « Propulsé par l'apprentissage en profondeur et construit par notre équipe de Vision informatique durant de nombreuses années, ce service entièrement géré analyse déjà des milliards d'images par jour. Il a été formé sur des milliers d'objets et de scènes et vous pouvez désormais l'utiliser dans vos propres applications », avait alors expliqué Jeff Barr, évangéliste en chef d’AWS.


Peu de temps après, l’entreprise a mis sa technologie à la disposition des forces de l’ordre, affirmant qu’elle permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Elle a été utilisé dans un premier temps par quelques services comme le département de police d'Orlando en Floride et le bureau du shérif du comté de Washington dans l'Oregon, ces premiers utilisateurs auraient servi de jauge afin d’encourager d'autres fonctionnaires à y faire appel.

Mardi, l'American Civil Liberties Union (ACLU), une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour le lobby, cette technologie pourrait entraîner des dérives ; par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes.

« Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements », a déclaré le lobby dans une lettre adressée à Jeff Bezos, le directeur général d'Amazon. « Ce produit constitue une grave menace pour les communautés, y compris les personnes de couleur et les immigrants, et pour la confiance et le respect qu'Amazon a travaillé à construire ».

En pièce jointe, l’ACLU a publié une série de courriels internes et d'autres documents des forces de l’ordre dans le comté de Washington et Orlando relatifs aux correspondances avec Amazon qu'elle a obtenu en ayant recours au Freedom of Information Act, une loi américaine équivalente aux requêtes CADA françaises et qui permet à des citoyens et associations de demander l’accès aux documents administratifs.

Les documents obtenus auprès du département de police d'Orlando montrent que les responsables de la ville ont utilisé des outils d'analyse vidéo d'Amazon avec des images provenant de caméras de surveillance, d'appareils photo mais également de drones.

« L'idée qu'une entreprise aussi importante qu'Amazon ait résolument investi cet espace pourrait marquer un changement radical pour cette technologie », a déclaré Alvaro Bedoya, directeur exécutif du Center on Privacy & Technology du Georgetown University Law Center.

Dans un communiqué, une porte-parole d'Amazon Web Services a souligné que l'entreprise proposait une technologie générale de reconnaissance d'images qui pourrait automatiser le processus d'identification des personnes, des objets et des activités. Elle a dit que les parcs d'attractions l'avaient utilisé pour trouver des enfants perdus, et Sky News, le diffuseur britannique, l'a utilisé le week-end dernier pour identifier automatiquement les invités qui assistaient au mariage royal.

La porte-parole a déclaré que, comme tous les A.W.S. services, l'entreprise demande aux clients de se conformer à la loi.


Il faut dire que les personnes qui peuvent être identifiées grâce à des systèmes de reconnaissance faciale ne sont pas seulement celles qui ont un casier judiciaire. Selon les estimations du Center on Privacy & Technology à la Georgetown Law, plus de 130 millions d'adultes américains sont dans des bases de données de reconnaissance faciale qui peuvent être fouillées durant des enquêtes criminelles.

La reconnaissance faciale fait son apparition dans de nouveaux domaines de la vie publique, souvent suivie de contestations de la part des critiques quant à son efficacité en tant qu'outil de sécurité et son impact sur la vie privée. Arenas l'utilise pour dépister les fauteurs de troubles connus lors d'événements, tandis que le Department of Homeland Security l'utilise pour identifier les visiteurs étrangers dans les aéroports dont le visa est expiré.

En Chine, si la reconnaissance faciale est utilisée pour chasser les voleurs de papier toilette, ou surveiller les étudiants dilettantes, la reconnaissance faciale fait son entrée dans la police et vient renforcer l’arsenal de surveillance des autorités chinoises. Une technologie qui a permis à la police chinoise d’arrêter un fugitif dans le sud-est du pays après l'avoir repéré dans une foule de cinquante à soixante mille (60 000) personnes assistant à un concert de musique pop. L'homme de 31 ans, qui a été arrêté la semaine dernière, était recherché pour des crimes économiques non spécifiés.

Identifié par son nom de famille Ao, il a déclaré qu’il se sentait en sécurité au milieu de cette foule, son arrestation aurait donc été un choc.

Source : ACLU (lettre, pièces jointes - au format PDF -), Amazon, recherches du Center on Privacy & Technology

Et vous ?

Que pensez-vous de l'utilisation des technologies de reconnaissance faciale par les forces de l'ordre ?
La perspective d'une surveillance de masse devrait-elle en limiter l'usage ? Pourquoi ?

Voir aussi :

La police chinoise s'équipe de lunettes dotées d'une technologie de reconnaissance faciale, pour scanner les foules à la recherche de suspects
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Big data : la Chine a commencé à tester son système national de crédit social et menace de priver les citoyens mal notés de certains services de base
Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme
Mozilla publie une solution d'apprentissage profond pour la reconnaissance vocale, une implémentation TensorFlow de l'architecture Deep Speech