Reconnaissance faciale : un système classe un célèbre CEO comme un piéton qui a grillé le feu rouge
à cause de sa photo sur un bus

Le , par Patrick Ruiz, Chroniqueur Actualités
De la finance à l’art en passant par la médecine, le droit, la logistique et les transports, etc., les usages de l’intelligence artificielle ne cessent de s’étendre, mais les systèmes basés sur cet ensemble de techniques sont-ils suffisamment huilés pour faire partie de notre quotidien ?

En théorie, grâce à une intelligence artificielle, on peut prédire le risque pour un patient de mourir bientôt, d’être réadmis à l’hôpital ou sa durée d’hospitalisation entre autres ; dans le cadre de ses recherches appliquées au domaine de la santé, Google, l’une des firmes les plus avancées de la filière, a publié sur un tel système il y a quelques mois. Pour les nostalgiques, une IA peut permettre de réimplémenter le comportement d’un personne décédée dans un être artificiel. Là on fait un peu dans le manga, mais James Vlahos, un journaliste passioné d’IA, s’est prêté au jeu pour tenter de conférer une immortalité à son défunt père. À la réalité, les exemples qui permettent de justifier le bien fondé des systèmes à la sauce « intelligence artificielle » sont légion. Toutefois, avec les résultats obtenus dans des domaines précis, il semble qu’une pause s’impose.

Tenez par exemple, ce cas recensé à Ningbo – une ville de la province de Zhejiang en Chine : un bus circule sur une rue avec une photographie de Dong Minzhu (présidente de Gree Electric Appliances – le plus grand fabricant chinois de climatiseurs) plaquée sur son côté, un système de surveillance routière musclé à l’intelligence artificielle capture la scène et classe la dirigeante comme un piéton qui a grillé le feu rouge. La suite est de faire honte à l’intéressé en affichant sa photo sur un écran géant et c’est ce qui s’est passé avec celle de Dong Minzhu.


Le fait est que les faux positifs de ce type de systèmes demeurent trop importants. La police de Ningbo n’a pas publié de chiffres, mais le parallèle avec Londres permet de se faire une idée. Après l’annonce de l’introduction d’une technologie de reconnaissance faciale à Stratford au mois de juillet, des journalistes du quotidien The Independent ont rapporté que le taux s’élève à 98 %. Les associations n’ont pas manqué de souligner le manque de maturité de la technologie, mais les responsables de la police de Londres se sont défendus en arguant que l’IA est assistée par les officiers de police.

Avec l’intelligence artificielle, des questions sur la responsabilité jaillissent en cas d’erreur. Les autorités de l’empire du Milieu ont conscience de la matérialisation de la fiction orwélienne de 1984 sur leurs terres et assument. L’incident s’est produit en milieu de semaine et la police de Ningbo a retiré la photographie de la dirigeante de l’écran géant après avoir formulé des excuses pour sa bavure. Les populations aussi ont conscience du contexte et semblent s’y être accommodées. La preuve, Gree Electric Appliances a fait une sortie sur Sina Weibo pour féliciter la police pour son dur labeur et appeler les populations à se plier aux règles du trafic routier.

La Chine a fait vœu de se positionner comme leader mondial en intelligence artificielle et le pays s’en donne les moyens. Sur le terrain, le gouvernement travaille à combiner les opérations de plus de 170 millions de caméras de sécurité publique afin de renforcer la capacité de son réseau de surveillance pour son milliard et demi de citoyens. D’après la firme IHS Markit, le nombre de caméras de surveillance en Chine pourrait atteindre 450 millions d'ici 2020.

Source : South China Morning Post

Et vous ?

Qu’en pensez-vous ?

Partagez-vous l’avis selon lequel les systèmes d’intelligence artificielle manquent encore de maturité pour des applications comme la reconnaissance faciale ?

Si oui, quels sont les autres domaines concernés ?

L’introduction massive de systèmes de reconnaissance faciale est-elle un exemple à suivre en Europe ? En France ?

Voir aussi :

La société est-elle prête pour des systèmes avancés de reconnaissance faciale ? La police Russe devrait bientôt s'en servir

Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet

Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans, selon une étude menée par les deux universités Harvard et Yale

Intelligence artificielle : les humains meilleurs que les robots sur le jeu StarCraft ? Un professionnel bat quatre robots en moins de 27 minutes

Une intelligence artificielle bat des experts de l'armée de l'air américaine dans des simulations de combats aériens


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de SofEvans SofEvans - Membre expérimenté https://www.developpez.com
le 27/11/2018 à 11:42
Appliquer une "sanction" automatiquement à partir d'un système qui commettra un nombre important d'erreur est quelque chose qui me semble assez malsain quand même, surtout quand la sanction est à but d'humiliation public.

Le "pire" serait que ce système d'IA (et plein d'autre, j'imagine) soit mise en relation avec le "crédit social" qui se déploie en chine.
Imagine une seule seconde : à tout instant de ta vie, des caméras/micro/drone/toutcequetuveux te surveille et une IA se charge de te baisser/monter ton crédit.
Hier, tu pouvais prendre le bus, mais comme tu as traversé ce matin en dehors des clous, tu ne peux plus. Et comme tu arrives en retard à tout travail, tu risques de te faire expulser de chez toi, etc etc ...

Youpi ...
Avatar de Chal92 Chal92 - Membre du Club https://www.developpez.com
le 27/11/2018 à 12:33
Quand on sait que l'armée américaine a fait un appel d'offre pour la classification des "target" des drones à partir de ses images satellites... dommage pour faux positif...
Avatar de MiaowZedong MiaowZedong - Membre extrêmement actif https://www.developpez.com
le 27/11/2018 à 12:38
C'est bizarre de considérer comme un faux positif le fait que le système a reconnu le visage de la personne....certes, c'était une photo, mais c'était quand même elle. Il faudrait sans doute que la prochaine génération de systèmes puisse filtrer les images 2D, mais en attendant, c'est un cas rarissime que des photos géantes d'une personne circulent dans la rue.

Quand à la Metropolitan Police de Londres, ce sont des bouffons de la pire espèce, même pas fichus de gérer leur propre politique de contrôles et fouilles, alors un système d'IA
Avatar de Jipété Jipété - Expert éminent sénior https://www.developpez.com
le 27/11/2018 à 12:47
Citation Envoyé par MiaowZedong Voir le message
C'est bizarre de considérer comme un faux positif le fait que le système a reconnu le visage de la personne....certes, c'était une photo, mais c'était quand même elle. Il faudrait sans doute que la prochaine génération de systèmes puisse filtrer les images 2D, mais en attendant, c'est un cas rarissime que des photos géantes d'une personne circulent dans la rue.
Le faux positif c'est l'analyse après la photo, qui considère bien à tort que la personne a commis une infraction au code de la route :nawak !
Avatar de Ecthelion2 Ecthelion2 - Membre extrêmement actif https://www.developpez.com
le 27/11/2018 à 13:27
Ah bah, j'en parlais justement hier dans un autre fil :

Citation Envoyé par Ecthelion2 Voir le message
Ce n'est pas tout à fait lié au système de point mais un peu quand même.

En Chine, la CEO d'une grosse entreprise vient d'être poursuivie en justice pour avoir traversé en dehors des clous, car elle a été identifiée par une caméra de sécurité.

MAIS la partie cocasse, c'est que ce n'était pas elle, mais une pub sur un bus !

Alors, elle va probablement très bien s'en sortir, car elle est riche et connue, mais le petit chinois de base qui a déjà perdu un peu de points, qui est donc déjà limite considéré comme un élément perturbateur avec moins de droits et qui n'a pas forcément les moyens de se payer un avocat (déjà si il n'a pas tous ses points, aura-t-il droit à un avocat à terme ?), est-ce qu'il aura le même résultat ?

J'en mettrais pas ma main à couper.
Contacter le responsable de la rubrique Accueil