La technologie a fait des progrès gigantesques ces dernières années et tout porte à croire que ce n'est pas près de s'arrêter de sitôt. Ces avancées technologiques permettent de réaliser des choses qui relevaient jusqu'ici de la science-fiction comme lorsqu'on apprenait en octobre dernier que la police anglaise veut utiliser l'IA pour empêcher les crimes violents avant qu'ils ne se produisent. Tout cela montre bien à quel point la technologie s'insinue de plus en plus dans notre quotidien.D'après Liberty Human Rights, un groupe de défense des droits de l'homme, au moins 14 postes de police britanniques ont eu recours à l'utilisation d'un logiciel de prédiction de la criminalité ou envisagent de le faire. IBM, Microsoft, Predpol et Palantir font partie des entreprises qui développent de tels logiciels et il semblerait même qu'elles travaillent actuellement pour créer des solutions sur mesure. Pour donner ces chiffres, le groupe de défense s'est basé sur des données qu'il a pu recueillir après avoir envoyé au total 90 demandes d’accès à l’information l’an dernier pour déterminer quelles postes de police utilisaient cette technologie.
Liste des postes de police ayant adopté un logiciel de prédiction de la criminalité par Liberty Human Rights
De plus, le rapport de Liberty Human Rights est concentré sur 2 types de logiciels fréquemment utilisés ensemble, il s'agit d'un logiciel de cartographie prédictive et d'un logiciel d'évaluation du risque individuel. Dans le premier, les secteurs considérés comme dangereux sont cartographiés, ce qui conduit à davantage de patrouilles dans cette zone. Le second tente de prédire la probabilité qu'une personne commette une infraction ou soit victime d'un crime. Liberty Human Rights a fait savoir qu'il n'avait aucune confiance en ces logiciels et estime qu'ils peuvent conduire à des stratégies policières biaisées qui se focalisent injustement sur les minorités ethniques et les communautés à faible revenu.
La réaction de certains des postes de police cités dans le rapport du groupe de défense ne s'est pas fait attendre. Par l'intermédiaire de l'un de leurs porte-paroles, ils ont déclaré que les données qu'utilisent leurs logiciels n'incluent pas l'appartenance ethnique, le sexe, l'adresse ou les données démographiques. Ce qui est à l'opposé de ce que révèle le rapport de Liberty Human Rights dans lequel il est indiqué que ces logiciels utilisent des algorithmes pour analyser des hordes de données policières biaisées, identifier des modèles et intégrer une approche de la police reposant sur le profilage discriminatoire.
S'il est possible de garantir que les données traitées par ces logiciels ne puissent pas être biaisées, ce genre de logiciel serait d'une très grande utilité et il sera difficile d'empêcher son utilisation par les forces de l'ordre. Seulement, si l'on s'en tient au rapport du groupe de défense, il devient inquiétant pour les libertés des individus qu'un tel outil puisse continuer d'être utilisé.
Source : Rapport de Liberty
Et vous ?
Que pensez-vous des logiciels de prédiction de la criminalité ? Êtes-vous d'accord avec le rapport de Liberty ?Voir aussi :
UK : la police veut utiliser l'IA pour empêcher les crimes violents avant qu'ils ne se produisent, comme dans le film Minority Report Espagne : la police s'appuie sur l'IA pour débusquer les fausses déclarations de vol veriPol dispose d'un taux de précision de 83% La police chinoise utilise le big data pour des arrestations préventives dans la région du Xinjiang d'après l'association Human Rights Watch 
Envoyé par pcouas
