USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon
Craignant une surveillance de masse par la police

169PARTAGES

11  0 
Fin novembre 2016, Amazon a présenté Amazon Rekognition, un service de reconnaissance d’images. « Propulsé par l'apprentissage en profondeur et construit par notre équipe de Vision informatique durant de nombreuses années, ce service entièrement géré analyse déjà des milliards d'images par jour. Il a été formé sur des milliers d'objets et de scènes et vous pouvez désormais l'utiliser dans vos propres applications », avait alors expliqué Jeff Barr, évangéliste en chef d’AWS.


Peu de temps après, l’entreprise a mis sa technologie à la disposition des forces de l’ordre, affirmant qu’elle permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Elle a été utilisé dans un premier temps par quelques services comme le département de police d'Orlando en Floride et le bureau du shérif du comté de Washington dans l'Oregon, ces premiers utilisateurs auraient servi de jauge afin d’encourager d'autres fonctionnaires à y faire appel.

Mardi, l'American Civil Liberties Union (ACLU), une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour le lobby, cette technologie pourrait entraîner des dérives ; par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes.

« Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements », a déclaré le lobby dans une lettre adressée à Jeff Bezos, le directeur général d'Amazon. « Ce produit constitue une grave menace pour les communautés, y compris les personnes de couleur et les immigrants, et pour la confiance et le respect qu'Amazon a travaillé à construire ».

En pièce jointe, l’ACLU a publié une série de courriels internes et d'autres documents des forces de l’ordre dans le comté de Washington et Orlando relatifs aux correspondances avec Amazon qu'elle a obtenu en ayant recours au Freedom of Information Act, une loi américaine équivalente aux requêtes CADA françaises et qui permet à des citoyens et associations de demander l’accès aux documents administratifs.

Les documents obtenus auprès du département de police d'Orlando montrent que les responsables de la ville ont utilisé des outils d'analyse vidéo d'Amazon avec des images provenant de caméras de surveillance, d'appareils photo mais également de drones.

« L'idée qu'une entreprise aussi importante qu'Amazon ait résolument investi cet espace pourrait marquer un changement radical pour cette technologie », a déclaré Alvaro Bedoya, directeur exécutif du Center on Privacy & Technology du Georgetown University Law Center.

Dans un communiqué, une porte-parole d'Amazon Web Services a souligné que l'entreprise proposait une technologie générale de reconnaissance d'images qui pourrait automatiser le processus d'identification des personnes, des objets et des activités. Elle a dit que les parcs d'attractions l'avaient utilisé pour trouver des enfants perdus, et Sky News, le diffuseur britannique, l'a utilisé le week-end dernier pour identifier automatiquement les invités qui assistaient au mariage royal.

La porte-parole a déclaré que, comme tous les A.W.S. services, l'entreprise demande aux clients de se conformer à la loi.


Il faut dire que les personnes qui peuvent être identifiées grâce à des systèmes de reconnaissance faciale ne sont pas seulement celles qui ont un casier judiciaire. Selon les estimations du Center on Privacy & Technology à la Georgetown Law, plus de 130 millions d'adultes américains sont dans des bases de données de reconnaissance faciale qui peuvent être fouillées durant des enquêtes criminelles.

La reconnaissance faciale fait son apparition dans de nouveaux domaines de la vie publique, souvent suivie de contestations de la part des critiques quant à son efficacité en tant qu'outil de sécurité et son impact sur la vie privée. Arenas l'utilise pour dépister les fauteurs de troubles connus lors d'événements, tandis que le Department of Homeland Security l'utilise pour identifier les visiteurs étrangers dans les aéroports dont le visa est expiré.

En Chine, si la reconnaissance faciale est utilisée pour chasser les voleurs de papier toilette, ou surveiller les étudiants dilettantes, la reconnaissance faciale fait son entrée dans la police et vient renforcer l’arsenal de surveillance des autorités chinoises. Une technologie qui a permis à la police chinoise d’arrêter un fugitif dans le sud-est du pays après l'avoir repéré dans une foule de cinquante à soixante mille (60 000) personnes assistant à un concert de musique pop. L'homme de 31 ans, qui a été arrêté la semaine dernière, était recherché pour des crimes économiques non spécifiés.

Identifié par son nom de famille Ao, il a déclaré qu’il se sentait en sécurité au milieu de cette foule, son arrestation aurait donc été un choc.

Source : ACLU (lettre, pièces jointes - au format PDF -), Amazon, recherches du Center on Privacy & Technology

Et vous ?

Que pensez-vous de l'utilisation des technologies de reconnaissance faciale par les forces de l'ordre ?
La perspective d'une surveillance de masse devrait-elle en limiter l'usage ? Pourquoi ?

Voir aussi :

La police chinoise s'équipe de lunettes dotées d'une technologie de reconnaissance faciale, pour scanner les foules à la recherche de suspects
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Big data : la Chine a commencé à tester son système national de crédit social et menace de priver les citoyens mal notés de certains services de base
Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme
Mozilla publie une solution d'apprentissage profond pour la reconnaissance vocale, une implémentation TensorFlow de l'architecture Deep Speech

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Membre expert https://www.developpez.com
Le 28/07/2018 à 14:40
J'aurai dit plus aussi. N'importe quel politicien aux Etats-Unis peut être considéré comme un criminel en puissance à cause du lobbying et de la corruption.

Plus sérieusement, tous ces faux positifs devraient faire comprendre, s'ils arrivent à sortir du lobbying ambiant, le risque de romans kafkaïens. Etre un innocent poursuivi et persécuté pour un crime qu'il n'a pas commis et même dont il ignore totalement l'existence.
10  0 
Avatar de Saverok
Expert éminent https://www.developpez.com
Le 30/07/2018 à 15:02
Citation Envoyé par redcurve Voir le message
ça ne change pas de la france donc rien de spéciale pour nous les pas blancs
En France, on a quand même les minima sociaux (RSA et sécurité sociale, pour ne citer qu'eux) et ça change quand même beaucoup de chose
La France est loin d'être parfaite et on a aussi nos banlieues avec les tours "cage à lapin" héritées des années 60 / 70 mais que que dise Fox News avec les "no go zone", ça n'a rien à voir avec les USA, et c'est peu dire !!
6  0 
Avatar de slowsaz
Membre confirmé https://www.developpez.com
Le 30/07/2018 à 15:51
Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.

Par contre il faudrait vraiment arrêter votre communautarisme, "pour nous les pas blanc" comme si vous aviez besoin de le dire et de montrer votre "différence" et reprocher après aux gens de vous catégoriser alors que vous le faites vous-même.
5  0 
Avatar de kmedghaith
Membre averti https://www.developpez.com
Le 28/07/2018 à 13:30
Seulement 28 ?
J'aurais dit plus.
4  0 
Avatar de LuCiFeR-III
Membre à l'essai https://www.developpez.com
Le 02/08/2018 à 11:55
Citation Envoyé par Matthieu76 Voir le message
C'est peu.
Pourquoi ?

D'après les stats officielles, il y a 13% d'afro-américains aux USA. Pourquoi 20% de noirs au congrès serait peu ?
2  1 
Avatar de koyosama
Membre éprouvé https://www.developpez.com
Le 28/07/2018 à 16:27
Meme si je les connais et je ne devrais pas les juger. J'ai enfin l'impression qu'une AI marche ou alors c'est le turk mecanique d'amazon . Bon allez je vais l'utiliser .
1  0 
Avatar de mm_71
Membre chevronné https://www.developpez.com
Le 28/07/2018 à 22:56
identifie à tort 28 membres du Congrès US
Disons plutôt qu'a ce jour on ne peut rien prouver...
1  0 
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 30/07/2018 à 10:23
Qu'en est t'ils de ceux-ci ??

1  1 
Avatar de Saverok
Expert éminent https://www.developpez.com
Le 30/07/2018 à 16:27
Citation Envoyé par slowsaz Voir le message
Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.
C'est juste une recherche dans la BDD des casiers judiciaires et personnes recherchées et suspectées d'un crime.
Autrement dit, les sénateurs identifiés comme "criminels" par le soft Rekognition doivent uniquement avoir un visage aux caractéristiques proches de celles d'un criminel reconnu ou supposé / recherché.

Bref, on cherche à nous vendre un truc révolutionnaire doté d'une "intelligence" alors que ce n'est qu'une machine learning de reconnaissance faciale comme il en existe beaucoup d'autres désormais.

J'ajouterai que l’American Civil Liberties Union peut facilement fausser son étude par du biais de données comme cela se fait souvent avec cette techno.
Pour leur démonstration, ils n'ont entraîné leur prog qu'avec 25 000 casiers judiciaires ce qui est assez faible à l'échelle des USA et en fonction de la représentativité / diversité des casiers de l'échantillon utilisé, on peut faire varier les résultats de l'étude comme on le souhaite.
Je ne serai pas surpris d'apprendre que l'asso ait fait plusieurs tests avec des échantillons de données différents et ont conservé celui qui leur permettait d'avoir les résultats les plus médiatiques pour leur démonstration...
1  0 
Avatar de Matthieu76
Membre éclairé https://www.developpez.com
Le 30/07/2018 à 10:44
Citation Envoyé par Bill Fassinou Voir le message
les personnes de couleur ne représentent que 20 % du Congrès.
C'est peu.
0  2 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web