Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation
En raison du nombre élevé de faux positifs

Le , par Patrick Ruiz

101PARTAGES

16  0 
C’est l’heure d’un nouveau bilan après l'annonce du déploiement d’une technologie de reconnaissance faciale à Stratford – un quartier à l’est de Londres – par Scotland Yard. Sur les lieux, les journalistes du quotidien britannique The Independent sont nos yeux et nos oreilles …

Dans une de ses publications parues au mois de mai, The Independent fait état de ce que l’intelligence artificielle utilisée par les forces de police anglaises a rapporté des faux positifs dans 98 % des cas. Un taux alarmant qui laisse penser que la technologie déployée n’est pas mature, mais les responsables de la police se sont défendus en arguant que l’IA est assistée par les officiers de police. Concrètement, chaque fois que le logiciel signale une correspondance entre une image capturée en temps réel et une autre au sein de la base de données des individus recherchés pour actes de violence, un officier doit trancher avant que toute action soit enclenchée sur le terrain. Ça, c’est dans le principe, mais la réalité ne colle pas exactement.

« L’alerte a jailli de l’écran d’ordinateur et il semblait clair pour ma collègue et moi qu’il n’ y avait pas de similarités entre l’image en temps réel et celle enregistrée dans la base de données », rapporte The Independent des propos des observateurs.

« Scotland Yard nous a assuré qu’une intervention humaine doit faire suite à une alerte pour que les vérifications nécessaires soient effectuées avant toute intervention », ajoutent les journalistes du quotidien britannique.

Au finish, pas d’arrestations au cours des tests à Stratford, mais des frustrations. En deux heures, le logiciel a permis de « repérer » un suspect – un jeune homme de couleur. The Independent rapporte que faisant suite à l’alerte ce dernier s’est vu conduire dans un coin et fouiller. Ce n’est qu’avec le retour des officiers installés en salle qu’il a retrouvé sa liberté et s’est vu remettre une brochure d’information. « Je n’ai pas vraiment compris ce qui venait de m’arriver et l’ai trouvé assez frustrant », a-t-il lancé à une observatrice.


Les tentatives d’introduction de ces technologies au quotidien des masses mettent défenseurs de la sécurité et de la vie privée à couteaux tirés. Un cobaye (malgré lui) a adopté un positionnement médian en soulignant que cette technologie est susceptible d’aider à en finir avec les meurtres et agressions au couteau dans la ville de Londres, mais insiste sur le fait que les populations soit prévenues d’avance.

Les responsables de la police britannique sont très certainement au fait de ce que sécurité et vie privée sont des problématiques qu’il est très difficile de réunir sur la table du consensus. C’est entre autres pour cela que les tests de cette technologie se poursuivront jusqu’en fin d’année pour trouver la meilleure formule à adopter au contexte brit.



Source : The Independent

Et vous ?

Que pensez-vous de l’adoption croissante de ces technologies de reconnaissance faciale ? Sont-elles suffisamment matures pour être intégrées au quotidien des masses ?

Quels sont les aspects qui vous chiffonnent le plus dans l’introduction de ces technologies au quotidien des populations ?

Voir aussi :

Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet

Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?

Un lycée chinois se sert de la reconnaissance faciale pour déterminer l'attention des élèves pendant les cours afin d'améliorer l'enseignement

Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre

Google aide le Pentagone à développer une IA pour analyser les vidéos capturées par drone et certains de ses employés sont furieux

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Itachiaurion
Membre actif https://www.developpez.com
Le 08/07/2018 à 23:50
Citation Envoyé par Ryu2000 Voir le message

Peut être qu'une majorité de chinois pense comme toi.
Mais ce genre de chose ne pourrait pas être accepté par des français.
Pour un Français, avoir un système de point appliqué à chaque citoyen est une pratique dictatoriale.
En plus critiquer son gouvernement c'est la base de la démocratie.
Complètement d'accord avec toi contrairement a la dernière fois.

Il faut être aveugle ou peu critique pour envisager toutes les possibilité qu'offre a un régimes semi totalitaires un système de caméra généraliser coupler avec une IA de reconnaissance facial. Répressions des contestataires, flicage généralisé, espionnage de masses, analyses des comportements "déviant" tout cela couplé a un flicage renforcé sur internet et on a la timbale du parfais kit pour répressions généraliser et systématique. La peur étouffera les populations ou incitera d'autre a "collaboré" pour avoir son bon point comme à l'école.

Malgrès tout ses efforts il sera impossible cependant d’empêcher tout forme de délits ou de crime. Un homicide volontaire ou non sous le coup d'une forte émotions ne sera pas empêcher par quelconque caméra ou système de surveillance. Un assassinat planifié ne souffrira des mêmes impaires, c'est là le plus grand crimes de certaines personnes, défendre cela sous couvert d'une sécurité absolue, d'un risque zéro ou avoisinant.
Comme ces politiques opportunistes qui pour brosser son électorat s'attaque au pouvoirs en reprochant de ne pas avoir empêcher l'inévitable sous prétexte que le risque zéros soit atteignable ou du moins une limite vers lequel tendre. Que ce pouvoirs en question, succombe a la facilité et prends des mesures qui sont des attaques en règles contre la démocratie pour sinon réglé le problème du moins apaisé une opinion désinformée, quand ce n'est pas pour accentuer son emprise sur le pouvoir. Cela ne veut pas dire qu'il ne faut rien faire non plus, mais c'est en sacrifiant ce qui fait de l’état une démocratie libre que l'on se perds vers le tortueux chemin de la sécurité maximal.

Ce dont Staline rêvais l'autorité chinoise l'a mis en place.
Avatar de
https://www.developpez.com
Le 09/07/2018 à 9:03
1 pour

sans parler des __risques__

si l'IA ne fait que mapper des visages
si l'IA ne fait pas de rétention d'image 'hormis le visage' et sa localisation/temps
si l'IA ne fait pas de partage d'image

ben pourquoi pas, si ca peut aider à tracker qq1 en temps réel...

2 contre

- La dissuasion par la répression est-elle une nécessité...
- La fuite de données
- L'inutilité: les fichés s sont fichés...mais on peut suivre de terrain qu'une partie d'entre eux. C'est pas dans la tour de contrôle -avec les moyens actuels- qu'on va empêcher l'attentat.
- La boite noire: quand je vois une caméra j'associe rétention de données, puis fuite de données. Même si le gouvernement m'assure que l'image est éphémère, truster le gouvernement à 100% bof bof...

3 déjà dit
- masque, moustache, lunettes, maquillage, vieillissement
- si jtracke et "capture" mon ptit rom, il sera de toute façon relaché

------

J'aimerais insister sur le pb de la dissuasion.
Si tous les jours je te dis: tu es un voleur
ben inconsciemment on pas, tu finis par croire (plus ou moins..) que tu es un voleur
"si on me prend pour un voleur, à quoi bon bien me comporter puisqu'aux yeux des gens je suis un voleur"

Pourquoi voit-on en russie ou en chine les gens qui payent defacto leur trajet de bus et en france (du moins lyon paris) le contraire.
est-ce à cause de la répression ou à cause de l'émulation publique/éducation??

Je pense qu'en inculquant des valeurs on réduit bcp plus l'incivisme (incluant le vol/dégats matériels).
Après c'est ptet pas facile avec les inscolarisés, l'absence de parents, de travail etc...
Si je suis fliqué, je trouve/trouverAI des alternatives...
Avatar de marsupial
Membre expert https://www.developpez.com
Le 09/07/2018 à 10:22
Le système coûte trop cher en liberté pour son rendement. Le seul point positif reste la dissuasion. Mais présente un risque bien trop élevé face au tout sécuritaire. La série Persons of interest présente la dérive du croisement de tous les systèmes d'information. D'autant que le risque de méprise devient trop important.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 09/07/2018 à 10:40
Citation Envoyé par marsupial Voir le message
Le système coûte trop cher en liberté pour son rendement.
Comme les peuples ne semblent pas exprimer de désaccord peut être que la surveillance de masse lié à l'IA deviendra la norme...
La réalité deviendra pire que la science fiction dystopique...

Nos systèmes politique sont des dictatures déguisées.
On nous fait croire que nous sommes libre et on ne fait que de nous imposer de nouvelles règles et de nous surveiller.
Sous prétexte de sécurité on est supposé accepter ça.
Il a bon dos le terrorisme...
Avatar de Christian Olivier
Chroniqueur Actualités https://www.developpez.com
Le 30/08/2018 à 8:56
UK : la technologie de reconnaissance faciale de la police aurait permis d'arrêter un suspect
Grâce à l’amélioration du logiciel et de son algorithme

Le média britannique WalesOnline indique que la technologie de reconnaissance faciale en temps réel de la police de South Wales (Pays de Galles), connu aussi sous le nom de système AFR Locate, aurait été améliorée, grâce à un nouvel algorithme fourni par l’entreprise technologique japonaise NEC.

Sur les 44 ;468 visages scannés par les forces de l’ordre puis analysés par le logiciel de reconnaissance faciale en marge du « ;Biggest Weekend ;» qui s’est déroulé dans la ville de Swansea en mai dernier, il n’y aurait eu que dix faux positifs, d’après l’enquête menée par WalesOnline. Le système AFR Locate aurait même permis à la police locale d’appréhender un suspect contre qui avait été lancé un mandat d’arrêt.


Une version moins récente de ce logiciel avait été utilisée l’an dernier à Cardiff, lors de la finale de la Ligue des Champions disputée par le Real de Madrid et la Juventus de Turin. À cette occasion, près de 170 ;000 personnes avaient afflué aux abords du stade de la ville et le système AFR avait identifié 2470 suspects potentiels, dont 2297 faux positifs : il se trompait dans 92 % des cas.

Dans un communiqué, la police de South Wales, la première force de sécurité à tester la technologie dans un projet pilote, a déclaré : « ;Notre partenaire NEC nous a fourni un nouvel algorithme et une nouvelle application bénéficiant de 12 mois de recherche et de développement supplémentaires depuis le lancement du projet. À chaque déploiement de la technologie, nous avons acquis la confiance dans la technologie, ce qui a permis aux développeurs de NEC d’intégrer nos découvertes dans leurs mises à jour ;».

Selon la police de South Wales, la technologie de reconnaissance faciale vise à identifier des individus ou à les authentifier en comparant leurs visages à une base de données de visages connus puis en recherchant une correspondance. Le système recherche un visage dans l’image qu’il traite, puis crée une représentation numérique du visage en fonction de la position, de la taille et de la forme des traits du visage. Ce visage numérique est ensuite comparé à une base de données d’images de faces identifiées.

La police de South Wales a indiqué que trois listes de surveillance prédéfinies avaient été créées pour l’occasion. La première fournissait des renseignements sur les groupes de crime organisé sévissant lors des festivals de musique. La seconde se focalisait sur les personnes recherchées et sous le coup d’un mandat d’arrestation dans la juridiction des forces de l’ordre locale. La troisième liste concernait les suspects recherchés pour des infractions en suspens, en particulier dans la région. Il s’agissait de personnes qui avaient été identifiées comme responsables d’un crime dans la région et qui étaient activement recherchées par la justice britannique.

D’après les forces de l’ordre de South Wales, le système AFR Locate aurait déjà permis l’arrestation de 16 entre le 31 mai et le 22 décembre 2017 et de 13 autres personnes entre le 3 et le 24 juin 2018. Au total, cette technologie de reconnaissance faciale en temps réel aurait déjà conduit à l’arrestation de plus de 450 personnes depuis juillet 2017.

Ed Bridges, un ancien conseiller du parti des Libéraux-démocrates à Cardiff, a pour sa part appelé les forces de l’ordre à stopper l’utilisation du système AFR Locate. D’après Bridges, l’usage de ce système « ;viole le droit à la vie privée de toutes personnes se trouvant dans le champ des caméras, a un effet dissuasif sur les manifestations pacifiques, discrimine les femmes et les BAME (Noirs, Asiatiques et Minorités ethniques) et bafoue les lois sur la protection des données ;».

Source : Wales Online, South Wales Police

Et vous ?

Qu’en pensez-vous ? Pourrait-on dire que cette technologie a enfin fait ses preuves ?
Estimez-vous qu'elle soir assez mature pour un déploiement à grande échelle ?
Quel est votre avis sur cette technologie en général ?

Voir aussi

À Londres, la police teste une technologie de reconnaissance faciale pour retrouver des suspects : les populations entre approbation et condamnation

Un lycée chinois se sert de la reconnaissance faciale pour déterminer l'attention des élèves pendant les cours afin d'améliorer l'enseignement

Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?

Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web