Robert Julian-Borchak Williams, un Afro-Américain, se retrouve à gérer des démêlés avec la justice parce qu’un algorithme de reconnaissance faciale a, par « erreur », fait correspondre sa photo avec une vidéo d’une caméra de sécurité. La police a laissé filtrer que « l’ordinateur a dû se tromper. » Pourtant, le présumé voleur sort d’une audience de mise en accusation qui pourrait donner suite à d’autres. L’Union américaine pour les libertés civiles (ACLU) est sur le dossier et demande un arrêt total des poursuites judiciaires.
Ce ne sera pas la première fois qu’un tiers se fasse arrêter pour un crime qu’il n’a pas commis. Néanmoins, pour ce qui est de la reconnaissance faciale, ce pourrait bien être le premier cas qui remonte jusqu’aux médias.
La technologie de reconnaissance faciale, lorsqu’on lui concède de pouvoir donner de bons résultats, est déjà problématique en ceci qu’elle peut être vue comme une intrusion à la vie privée. Dans la pratique, elle est surtout connue pour l’une des plus grosses tares qu’elle continue d’exhiber : les nombreux faux positifs. Des études tour à tour mises en ligne par l’ACLU et l’institut américain des normes et de la technologie (NIST) mettent en exergue le fait que les systèmes de reconnaissance faciale sont nettement plus susceptibles de générer des erreurs lorsqu'ils tentent de faire correspondre des images représentant des personnes dites de couleur. Dans les chiffres, ceux-ci sont plus précis pour ce qui est des opérations d’identification d’individus blancs, mais sont 10 à 100 fois plus susceptibles de générer des faux positifs pour ce qui est des visages de Noirs et d’Asiatiques. Le NIST a également mis en avant le fait que les systèmes développés aux États-Unis sont très peu performants face aux visages des Amérindiens. C’est en tout cas ce qui ressort de l’étude de l’institut américain des normes et de la technologie qui a porté sur les performances de 189 algorithmes mis sur pied par 99 développeurs. L’évaluation des logiciels s’est faite sur plus de 18 millions d’images appartenant à plus de 8 millions d’individus.
C’est de la non-prise en compte de ces éléments dont Robert Julian-Borchak Williams se retrouve victime. En effet, les données sont faussées à la base quand on sait que le logiciel de DataWorks Plus – le fournisseur de solution IA – intègre des algorithmes (d’entreprises en sous-traitance comme le Japonais Nec et l’Américain Rank One Computing) qui sont déjà tombés sous le coup de critiques du NIST en raison de biais raciaux évidents. De plus, DataWorks Plus reconnaît que les tests effectués sur les algorithmes pour attester de leur efficacité sont légers. « DataWorks ne mesure pas de façon formelle la précision ou le biais des systèmes. Nous sommes devenus des pseudo-experts de cette technologie », lance un responsable.
L’ACLU s’est saisie du cas et a porté plainte de la part de Robert Williams. « À chaque étape, la police de Detroit s’est comportée de façon inadéquate. Elle s'est appuyée sans réfléchir sur une technologie de reconnaissance faciale défectueuse et raciste sans prendre de mesures raisonnables pour vérifier les informations fournies ; ceci, dans le cadre d’une enquête bâclée et incomplète », allègue l’organisation de défense des libertés.
L'enquête a débuté lorsque cinq montres, d'une valeur d'environ 3800 dollars, ont été volées dans un magasin de luxe Shinola à Detroit en octobre 2018. Les enquêteurs ont examiné les images de sécurité et ont identifié un suspect : un homme apparemment noir portant une casquette de baseball et une veste sombre. En mars 2019, selon ce qui ressort de la plainte, la police de Detroit a procédé à une recherche par reconnaissance faciale en utilisant une image tirée des vidéos de surveillance. Cette recherche a permis de faire correspondre l'image à la photo du permis de conduire de M. Williams.
Le vol dont Williams est accusé a eu lieu en octobre 2018, et en mars 2019, une photo de vidéo de surveillance du magasin a été téléchargée sur la base de données de reconnaissance faciale de l'État du Michigan. Le téléchargement aurait débouché sur une série de correspondances photographiques fournies par la suite au sein d'un document qui soulignait pourtant qu'elles ne constituaient pas un motif d'arrestation. Néanmoins, elles ont conduit à l'inclusion de la photo de M. Williams dans une série d'autres qui ont été montrées à l'agent de sécurité du magasin. Ce dernier, qui selon l'ACLU n'a pas été témoin du vol, a identifié Williams comme étant le responsable de l'acte.
L'identification a conduit à l'arrestation de Williams devant son domicile en janvier. Il a ensuite été placé en garde à vue pendant 30 heures au total. Il rapporte de son échange avec les agents de police que l’un d’eux a déclaré que « l’ordinateur a dû se tromper » devant l’impossibilité d’établir sa culpabilité.
Bien que l’affaire Williams ait fait l’objet de rejet deux semaines après son arrestation, elle pourrait donner lieu à de futures audiences. Ce dernier pourrait à nouveau être accusé sur la base d’éléments de son dossier. En effet, souligne l’ACLU, l'échantillon d'ADN, la photo d'identité et les empreintes digitales de Williams y figurent et son arrestation est enregistrée. L’Union américaine pour les libertés civiles (ACLU) pour sa part demande un arrêt total des poursuites judiciaires.
Dans un souci d’encadrement, les fournisseurs de technologies de reconnaissance faciale en lien avec l’affaire entendent, pour ce qui les concerne, intégrer des moyens légaux supplémentaires au processus d’utilisation des outils qu’ils mettent à la disposition des forces de l’ordre. La police de Detroit restreint désormais l’usage de la technologie de reconnaissance faciale aux cas de crimes violents et d’invasions de domiciles.
Sources : NYT, Reuters, ACLU
Et vous ?
Que pensez-vous de l’utilisation de la reconnaissance faciale de façon générale ? Est-ce une méthode qui a une quelconque utilité en matière de sécurité ? Comment alignez-vous le cas Williams avec l'actuel contexte US fait de violences policières ?Voir aussi :
Google obtient le rejet d'un procès concernant la reconnaissance faciale, le juge citant le manque de « préjudices concrets » infligés aux plaignants Facebook rend open source le système de reconnaissance vocale Wav2letter++ et publie Flashlight, une bibliothèque d'apprentissage machine Google ne vendra pas la technologie de reconnaissance faciale pour l'instant, avant d'aborder d'importantes questions de technologie et de politique Une tête imprimée en 3D a pu tromper le système de reconnaissance faciale de plusieurs smartphones Android populaires lors d'un test Reconnaissance faciale : Microsoft appelle à une régulation mondiale, avant que cette technologie ne devienne problématique au sein de la société 
Envoyé par Anselme45
