UK : la police veut utiliser l'IA pour empêcher les crimes violents avant qu'ils ne se produisent,
Comme dans le film Minority Report

Le , par Stan Adkens, Chroniqueur Actualités
La complexification de la nature des crimes au cours de ces dernières décennies rendent moins opérationnelles les méthodes traditionnelles utilisées par la police pour interpeller les acteurs malveillants. Pour adapter ses moyens au changement, la police, dans le monde entier, a de plus en plus recours à l’intelligence artificielle et aux données pour prévenir des actes criminels ou arrêter des personnes susceptibles de commettre un crime.

En Chine, la police s’est servie de la technologie de reconnaissance faciale pour arrêter un fugitif, recherché pour des crimes économiques non spécifiés, dans une foule de cinquante à soixante mille personnes qui assistaient à un concert de musique pop. La Chine utilise également le big data pour procéder à des arrestations préventives dans la région du Xinjiang. Cette application de l’IA a, par ailleurs, été décriée par l'association Human Rights Watch. En Espagne, selon une déclaration de l’université Cardiff, grâce à une combinaison d'analyse automatique de texte et de techniques d'apprentissage automatique avancées dans un outil mis au point par les experts de Madrid et de Cardiff, la police a été en mesure d'identifier avec succès les fausses déclarations de vol avec un taux de précision de plus de 80 %.

Selon un article de The Independent publié en juin dernier, la police de Londres était en train de tester une technologie de reconnaissance faciale pour appréhender des suspects. Selon une nouvelle révélation de New Scientist, la police britannique veut dorénavant procéder à des interventions préventives au lieu de procéder à l’identification des suspects après que les crimes aient déjà eu lieu, en utilisant l’Intelligence. Alors qu’il n’y a pas encore l’unanimité sur l’utilisation éthique de l’IA, les applications se multiplient dans les entreprises comme dans les administrations publiques.


La police britannique veut empêcher les graves crimes violents avant qu’ils ne se produisent en utilisant un système basé sur l’intelligence artificielle. Le système baptisé solution nationale d’analyse de données (NDAS) est basé sur une combinaison d'IA et de statistiques afin d’évaluer le risque qu’une personne commette ou soit victime d’un crime commis avec une arme à feu ou un couteau. Il permet également de détecter si une personne est victime de l’esclavage moderne.

Le système fonctionnera à l’image du film américain de science fiction Minority Report réalisé en 2002 et qui se déroule principalement à Washington DC et dans le nord de la Virginie en 2054 où un service de police spécialisé nommé PreCrime, appréhende des criminels en se fondant sur la connaissance anticipée fournie par trois voyants appelés « précogs ». Plusieurs meurtriers ont été arrêtés réduisant le taux de meurtres à zéro, en 2054.

Selon New Scientist, les forces armées rechercheraient un système capable de pendre en charge les personnes ayant déjà un antécédent avec les forces de l’ordre, face à une réduction considérable du financement de la police. Cependant, les personnes signalées par la NDAS ne seront pas préventivement arrêter, mais devront plutôt bénéficier de l’assistance des travailleurs de santé et sociaux qui pourront donner des conseils à des celles ayant des antécédents de problèmes de santé mentale identifiées par la NDAS comme susceptibles de commettre un crime violent. Les potentielles victimes pourront également être contactées par les services sociaux.

L’apprentissage automatique de la NDAS

Selon New Scientist qui est informé du système, l’équipe en charge du projet piloté par la police de West Midlands a amassé plus d’un tétraoctet de données d’environ 5 millions d’individus identifiés dans les bases de données de la police nationale, spécifiquement des enregistrements des personnes interpellées et des registres des crimes commis.

Pour construire son modèle d’IA, le système a analysé l’ensemble des données recueillies et a détecter que près de 1 400 indicateurs pouvaient aider à prévoir la criminalité qui permettront à la NDAS de prédire quelles personnes connues de la police et ne présentant pas encore de signes intenses d’activité malveillantes peuvent suivre une trajectoire de violence similaire à celle observée dans les affaires précédentes.

Les critiques à l’encontre du projet NDAS

Selon Iain Donnelly, responsable de la police et conductrice du projet, c’est un projet majeur, premier de son genre au monde qui réuni plusieurs ensembles de données provenant d'un certain nombre de forces de police pour la prévision de la criminalité. Cependant, certains aspects du projet ne font pas l’unanimité. New Scientist a pu voir le rapport d’une équipe de l’Institut Alan Turing de Londres qui a examiné une version rédigée de la proposition NDAS l’an dernier. Selon le rapport qui sera publié cette semaine, l’équipe de l’Institut Alan Turing aurait relevé « de graves problèmes éthiques » avec le projet NDAS et se demanderait s'il ne serait pas mieux de prévenir un crime avant qu’il ne soit commis que de surveiller des personnes ayant déjà un antécédent de crime de commettre à nouveau d’autres crimes à l’avenir.

Selon les chercheurs, la proposition de la NDAS, bien que globalement bien intentionnée sur le plan éthique, ne prend pas en compte tous les problèmes et risque, par ailleurs, de souffrir des prédictions inexactes. Selon un autre chercheur de l’Université du District de Columbia, les modèles d’apprentissage automatique étant formés sur les données des arrestations antérieures, le système pourrait limiter les enquêtes de la police aux lieux fréquentés tout en renforçant les préjugés. Par ailleurs, Martin Innes, directeur du Crime and Security Research à l’Institute de l’Université de Cardiff, au Royaume-Uni, pense que le projet NDAS serait mieux adapté à la localisation des communautés à risque au lieu d’être un outil fiable de détection des infractions au niveau individuel.

A cause de toutes ces préoccupations, l’équipe projet, sous recommandations de la police de West Midlands, sera emmenée évaluer de façon indépendante l’efficacité du système.

Selon New Scientist, l’IA a un avenir prometteur dans la police, notamment dans les systèmes de prédiction de la criminalité. Un exemple est le système PredPol, application développée à l'Université de Santa Clara en Californie et qui tente de déterminer les points chauds de la criminalité. PredPol a été utilisé aux États-Unis et au Royaume-Uni, a rapporté New Scientist.

Source : New Scientist, Minority Report

Et vous ?

Qu’en pensez-vous ?
Pensez-vous que l’IA est déjà prête pour des utilisations efficaces dans la prédiction des crimes ?

Voir aussi

Chine : le système de crédit social, comme une science-fiction dystopique, est en marche, et fait déjà des victimes
La police chinoise utilise le big data pour des arrestations préventives dans la région du Xinjiang, d'après l'association Human Rights Watch
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
À Londres, la police teste une technologie de reconnaissance faciale pour retrouver des suspects : les populations entre approbation et condamnation
Espagne : la police s'appuie sur l'IA pour débusquer les fausses déclarations de vol, VeriPol dispose d'un taux de précision de 83 %


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de Ecthelion2 Ecthelion2 - Membre extrêmement actif https://www.developpez.com
le 28/11/2018 à 13:41
Citation Envoyé par Sacré Robin des bois de Mel Brooks
Mirrette serviteur aveugle de Robin de Locelait, attrape une flèche juste devant le visage de Robin:

- Mais comment t'as fait ?
- Je l'ai entendue arriver avant qu'elle ne parte !

Mirrette repart à tâtons...

Les policiers britanniques ont regardé Minority Report jusqu'au bout et ont-ils compris la fin ainsi que la morale de celui-ci ?

Plus sérieusement, aussi juste que pourrait être ces "prédictions", même si on arrivait à 100% de justesse, tant que le crime n'a pas été commis, au final, la personne n'a rien fait de mal. Du coup on va l'inculper de "bientôt commettre un crime" ? Ca va être marrant de se prendre 20 ans pour meurtre alors que la victime sera toujours en vie...

Et puis qu'est-ce qui empêche le "criminel" de changer d'avis au tout dernier moment, à cause d'un paramètre non prévu (par lui, ou par l'IA) ?

Entre ça et ce qui se passe en Chine, on est en train de mettre en place toutes les dérives dénoncées dans les oeuvres de fiction, cela ne les a pas fait réfléchir, cela leur a donné des idées...
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 28/11/2018 à 13:44
Citation Envoyé par Stan Adkens Voir le message
Selon New Scientist qui est informé du système, l’équipe en charge du projet piloté par la police de West Midlands a amassé plus d’un tétraoctet de données d’environ 5 millions d’individus identifiés dans les bases de données de la police nationale, spécifiquement des enregistrements des personnes interpellées et des registres des crimes commis.
Ne serait-ce pas téraoctet à la place de tétraoctet ?

Citation Envoyé par Stan Adkens Voir le message
Pensez-vous que l’IA est déjà prête pour des utilisations efficaces dans la prédiction des crimes ?
Si tous les citoyens sont en permanence sur écoute, peut-être que ça peut fonctionner ^^

Citation Envoyé par Stan Adkens Voir le message
Selon New Scientist, les forces armées rechercheraient un système capable de pendre en charge les personnes ayant déjà un antécédent avec les forces de l’ordre, face à une réduction considérable du financement de la police. Cependant, les personnes signalées par la NDAS ne seront pas préventivement arrêter, mais devront plutôt bénéficier de l’assistance des travailleurs de santé et sociaux qui pourront donner des conseils à des celles ayant des antécédents de problèmes de santé mentale identifiées par la NDAS comme susceptibles de commettre un crime violent. Les potentielles victimes pourront également être contactées par les services sociaux.
Ouais mais si il n'y a pas préméditation ?
Par exemple si quelqu'un boit de l'alcool et agresse quelqu'un.
On va lui dire "Faite bien gaffe, l'IA a anticipé que vous risquez de faire de la merde dans les jours à venir".

Avatar de Grogro Grogro - Membre extrêmement actif https://www.developpez.com
le 28/11/2018 à 14:02
On vit vraiment de plus en plus dans un monde cyberpunk.
Avatar de Coeur De Roses Coeur De Roses - Nouveau membre du Club https://www.developpez.com
le 28/11/2018 à 14:39
Citation Envoyé par Grogro Voir le message
On vit vraiment de plus en plus dans un monde cyberpunk.
On peut aussi rajouter WatchDogs.
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 28/11/2018 à 14:59
Citation Envoyé par Coeur De Roses Voir le message
WatchDogs.
À mon avis c'est cyberpunk dans ce sens là :
Cyberpunk
Le cyberpunk (association des mots cybernétique et punk) est un genre de la science-fiction très apparenté à la dystopie et à la hard science-fiction. Il met souvent en scène un futur proche, avec une société technologiquement avancée (notamment pour les technologies de l'information et la cybernétique).

Selon Bruce Sterling, « le courant cyberpunk provient d'un univers où le dingue d'informatique et le rocker se rejoignent, d'un bouillon de culture où les tortillements des chaînes génétiques s'imbriquent. »

Les mondes cyberpunks sont empreints de violence et de pessimisme ; ils sont souvent lugubres, parfois ironiquement grinçants ; les personnages sont des antihéros désabusés, cyniques et cupides. C'est en ce sens que l'on qualifie les univers cyberpunk de dystopies. Il a depuis essaimé ses thématiques dans de nombreux médias, notamment dans la bande dessinée, le cinéma, la musique, les jeux vidéo et les jeux de rôle.
Le jeu s'appelle "Cyberpunk 2077" en plus, donc ça colle vraiment pas.

====
En gros l'avenir c'est d'être surveillé en permanence.
Il y a aura des caméras partout dans la rue.
Les gens vont installer eux même des caméras pour se faire surveiller (webcam dans les pc portables, dans les tv, dans les smartphones), ils vont aussi installer eux même des micros (Alexa et toutes ces conneries).
Un smartphone c'est quand même une balise GPS + un micro + une caméra, connecté à internet, que les gens trimbalent partout avec eux.
C'est comme la surveillance US qui enregistre tout ce que vous dites sur internet ou par SMS.

C'est une pratique dictatoriale.
Avatar de Cassoulatine Cassoulatine - Membre régulier https://www.developpez.com
le 28/11/2018 à 17:22
Les flics ont rien fait pendant plus d'un an pour les gangs de violeurs pakis à Rotterham (et ailleurs), et ils veulent nous faire croire qu'ils vont faire du minority report ...
Avatar de Grogro Grogro - Membre extrêmement actif https://www.developpez.com
le 28/11/2018 à 18:02
Citation Envoyé par Cassoulatine Voir le message
Les flics ont rien fait pendant plus d'un an pour les gangs de violeurs pakis à Rotterham (et ailleurs), et ils veulent nous faire croire qu'ils vont faire du minority report ...
Ils n'ont rien fait parce qu'on leur a ordonné politiquement de ne rien faire. On ne parle pas des mêmes services.

Les services de renseignement britannique font partie des meilleurs au monde (avec les services américains, israéliens, russes et... français).
Avatar de Cassoulatine Cassoulatine - Membre régulier https://www.developpez.com
le 28/11/2018 à 18:15
Citation Envoyé par Grogro Voir le message
Ils n'ont rien fait parce qu'on leur a ordonné politiquement de ne rien faire. On ne parle pas des mêmes services.

Les services de renseignement britannique font partie des meilleurs au monde (avec les services américains, israéliens, russes et... français).
La politique chapeaute tout ... Leur super IA sera très vite programmée pour suivre l'agenda politique, donc "ne pas être raciste", donc diminuer le risque criminel des pakis/musulmans/minorité qui va bien comparativement à celui des occidentaux/blonds (/gilets jaunes ). Il n'y a qu'à voir les dernières pubs FR étatiques sur la violence. Le profil des victimes et agresseurs n'est pas au hasard, il suit parfaitement l'agenda "anti-raciste".
Avatar de Ryu2000 Ryu2000 - Membre extrêmement actif https://www.developpez.com
le 29/11/2018 à 8:34
Si un criminel n'a pas de téléphone ni d'accès à internet, est-ce que l'IA aura accès à des informations à propos de lui ?
Avatar de ddoumeche ddoumeche - Membre chevronné https://www.developpez.com
le 29/11/2018 à 14:40
Citation Envoyé par Cassoulatine Voir le message
Les flics ont rien fait pendant plus d'un an pour les gangs de violeurs pakis à Rotterham (et ailleurs), et ils veulent nous faire croire qu'ils vont faire du minority report ...
En Angleterre, on ne report pas les minorities.
Contacter le responsable de la rubrique Accueil