La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels
Quels dangers pour les Américains ?

Le , par Bill Fassinou

180PARTAGES

20  0 
Amazon, le géant IT américain a, depuis quelques années, consacré de grandes ressources à la reconnaissance faciale. Rekognition, la technologie de reconnaissance faciale d'Amazon est née de ces efforts. L’entreprise avait, à l’époque, entamé un partenariat avec les forces de l’ordre pour que celles-ci puissent se servir de la technologie de reconnaissance faciale dans l’exercice quotidien de leurs fonctions. Amazon avait alors expliqué que sa technologie permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos.

Certaines associations ne l’entendaient pas de cette oreille. L’American Civil Liberties Union, une association à but non lucratif de défense des droits numériques, et une kyrielle d’autres organisations du même type ont expressément demandé à Amazon d’arrêter de vendre sa technologie aux forces de l’ordre. Ces associations craignaient que Rekognition, entre les mains du pouvoir en place, ne soit utilisée à des desseins autres que l’identification de vrais criminels.

Cette même technologie qui est en instance d’intégration aux outils des forces de maintien de l’ordre et de la paix, vient de prouver qu’elle n’était peut-être pas aussi fiable qu’on pouvait le penser. En effet, l'ACLU a récemment conduit des tests sur le système de reconnaissance faciale d'Amazon et il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels. Au nombre de ces 28 congressistes identifiés à tort comme des criminels, il y avait des hommes, des femmes, des Républicains, des Démocrates de différents âges.


L’association a, pour son test, construit une base de données de 25 000 photos de personnes arrêtées. Elle a ensuite lancé une recherche de correspondance entre cette base de données et l’ensemble des membres en exercice du Congrès. Et elle précise que toute la procédure a été exécutée avec les réglages de correspondance qu’Amazon définit par défaut pour Rekognition. A partir du moment où l’identification peut être biaisée, il est aisé d’anticiper les effets de ces éventuelles fausses identifications.

Un policier pourrait, sur la base d’une identification erronée, catégoriser un individu comme armé et dangereux avant même de l’interpeller. Une identification, précise ou non, peut coûter a une personne sa liberté, et même sa vie. Amazon dit de sa technologie qu’elle peut identifier jusqu’à 100 visages sur une seule photo, suivre des gens en temps réel à travers les caméras de surveillance et analyser les enregistrements de cameras. La stratégie de marketing est tellement agressive qu’elle a même convaincu le bureau d’un shérif de l’Oregon de se servir de Rekognition, sans qu’il y ait eu aucun débat public autour de la question.

Dans une lettre à Jeff Bezos, Black Caucus du Congrès a lui-même exprimé son inquiétude à propos des « graves conséquences néfastes inattendues » que Rekognition pourrait avoir pour les Noirs, les immigrants sans papiers et les manifestants. Cette inquiétude se justifie par le fait que 40 % des correspondances erronées lors du test de l’ACLU étaient des personnes de couleur, alors que les personnes de couleur ne représentent que 20 % du Congrès. Les crispations interraciales dues aux maltraitances disproportionnées des personnes de couleur par les pratiques policières sont déjà extrêmement graves. Et, il ne faut pas chercher longtemps pour se rendre compte de comment et combien Rekognition peut encore aggraver la situation. Entre les mains des autorités, cette technologie pourrait mettre en péril des activités protégées par le premier amendement de la Constitution américaine telles que manifester ou pratiquer une religion.

C’est pour toutes ces raisons que des employés et des actionnaires d’Amazon, une coalition de presque 70 associations de défense des libertés civiles, plus de 400 membres de la communauté universitaire et plus de 150 000 citoyens ont élevé leurs voix pour exiger d’Amazon qu’elle arrête de fournir sa technologie de reconnaissance faciale au gouvernement. Ils demandent également au Congrès de prendre les dangers découlant de la reconnaissance faciale au sérieux et d’empêcher cette technologie d’être utilisée jusqu’à ce que les éventuelles conséquences néfastes soient examinées de fond en comble de manière à ne pas pouvoir fragiliser des communautés déjà vulnérables.

Source : ACLU

Et vous ?

Qu’en pensez-vous ?
Quelle est votre position par rapport à l'utilisation d'une IA de reconnaissance faciale par les forces de l’ordre ?

Voir aussi

Une IA aurait permis de commencer à percer les mystères entourant le manuscrit de Voynich considéré comme le plus important cryptogramme non résolu

Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans selon une étude menée par les deux universités Harvard et Yale

IA : des chercheurs de Google développent un algorithme capable de créer des scènes 3D à partir d'images bidimensionnelles

Intelligence artificielle : Facebook publie en open source ELF OpenGo, son IA qui a battu d'autres IA au jeu de Go, ainsi que des professionnels

IA : des agents intelligents de DeepMind battent le record des humains au Quake III un jeu de tir en vue subjective

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Membre expert https://www.developpez.com
Le 28/07/2018 à 14:40
J'aurai dit plus aussi. N'importe quel politicien aux Etats-Unis peut être considéré comme un criminel en puissance à cause du lobbying et de la corruption.

Plus sérieusement, tous ces faux positifs devraient faire comprendre, s'ils arrivent à sortir du lobbying ambiant, le risque de romans kafkaïens. Etre un innocent poursuivi et persécuté pour un crime qu'il n'a pas commis et même dont il ignore totalement l'existence.
10  0 
Avatar de Saverok
Expert éminent https://www.developpez.com
Le 30/07/2018 à 15:02
Citation Envoyé par redcurve Voir le message
ça ne change pas de la france donc rien de spéciale pour nous les pas blancs
En France, on a quand même les minima sociaux (RSA et sécurité sociale, pour ne citer qu'eux) et ça change quand même beaucoup de chose
La France est loin d'être parfaite et on a aussi nos banlieues avec les tours "cage à lapin" héritées des années 60 / 70 mais que que dise Fox News avec les "no go zone", ça n'a rien à voir avec les USA, et c'est peu dire !!
6  0 
Avatar de slowsaz
Membre confirmé https://www.developpez.com
Le 30/07/2018 à 15:51
Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.

Par contre il faudrait vraiment arrêter votre communautarisme, "pour nous les pas blanc" comme si vous aviez besoin de le dire et de montrer votre "différence" et reprocher après aux gens de vous catégoriser alors que vous le faites vous-même.
5  0 
Avatar de kmedghaith
Membre averti https://www.developpez.com
Le 28/07/2018 à 13:30
Seulement 28 ?
J'aurais dit plus.
4  0 
Avatar de LuCiFeR-III
Membre à l'essai https://www.developpez.com
Le 02/08/2018 à 11:55
Citation Envoyé par Matthieu76 Voir le message
C'est peu.
Pourquoi ?

D'après les stats officielles, il y a 13% d'afro-américains aux USA. Pourquoi 20% de noirs au congrès serait peu ?
2  1 
Avatar de koyosama
Membre éprouvé https://www.developpez.com
Le 28/07/2018 à 16:27
Meme si je les connais et je ne devrais pas les juger. J'ai enfin l'impression qu'une AI marche ou alors c'est le turk mecanique d'amazon . Bon allez je vais l'utiliser .
1  0 
Avatar de mm_71
Membre chevronné https://www.developpez.com
Le 28/07/2018 à 22:56
identifie à tort 28 membres du Congrès US
Disons plutôt qu'a ce jour on ne peut rien prouver...
1  0 
Avatar de hotcryx
Membre extrêmement actif https://www.developpez.com
Le 30/07/2018 à 10:23
Qu'en est t'ils de ceux-ci ??

1  1 
Avatar de Saverok
Expert éminent https://www.developpez.com
Le 30/07/2018 à 16:27
Citation Envoyé par slowsaz Voir le message
Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.
C'est juste une recherche dans la BDD des casiers judiciaires et personnes recherchées et suspectées d'un crime.
Autrement dit, les sénateurs identifiés comme "criminels" par le soft Rekognition doivent uniquement avoir un visage aux caractéristiques proches de celles d'un criminel reconnu ou supposé / recherché.

Bref, on cherche à nous vendre un truc révolutionnaire doté d'une "intelligence" alors que ce n'est qu'une machine learning de reconnaissance faciale comme il en existe beaucoup d'autres désormais.

J'ajouterai que l’American Civil Liberties Union peut facilement fausser son étude par du biais de données comme cela se fait souvent avec cette techno.
Pour leur démonstration, ils n'ont entraîné leur prog qu'avec 25 000 casiers judiciaires ce qui est assez faible à l'échelle des USA et en fonction de la représentativité / diversité des casiers de l'échantillon utilisé, on peut faire varier les résultats de l'étude comme on le souhaite.
Je ne serai pas surpris d'apprendre que l'asso ait fait plusieurs tests avec des échantillons de données différents et ont conservé celui qui leur permettait d'avoir les résultats les plus médiatiques pour leur démonstration...
1  0 
Avatar de Matthieu76
Membre éclairé https://www.developpez.com
Le 30/07/2018 à 10:44
Citation Envoyé par Bill Fassinou Voir le message
les personnes de couleur ne représentent que 20 % du Congrès.
C'est peu.
0  2 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web