Dans le domaine du marketing, le scoring est une technique qui permet d'affecter un score à un client ou prospect. Le score obtenu traduit généralement la probabilité qu'un individu réponde à une sollicitation marketing ou appartienne à la cible recherchée. Mais le scoring dont il est question ici est une toute autre chose. L’idée ici est de collecter des centaines de données sur les individus et les entreprises à partir des réseaux sociaux et via les caméras de surveillance intelligentes. Seront donc passées au crible la légalité et la moralité dans les domaines économiques, sociaux et politiques, avec pour but un score dont découleront des récompenses ou des sanctions.Ce système, qui est actuellement expérimenté par le gouvernement chinois, soulève quelques inquiétudes chez certaines personnes du côté de l'Europe. D'ailleurs un groupe d'experts de haut niveau sur l'IA, réunis par l'Union européenne, a recommandé l'interdiction d'utiliser l'IA pour le scoring des citoyens et la surveillance de masse. Le groupe a été créé en juin 2018, et est composé d'un mélange d'experts de l'industrie de l'IA, de représentants de la société civile, de conseillers politiques, d'universitaires et d'experts juridiques. Leurs recommandations font partie des efforts en cours de l'UE pour se positionner en tant que chef de file de la soi-disant IA éthique.
En fait, ces experts craignent que les gouvernements, dans leur désir de d'accroître la sécurité, poussent cette surveillance à des niveaux qu'ils qualifient de dangereux : « Les gouvernements pourraient être tentés de sécuriser la société en construisant un système de surveillance généralisé basé sur des systèmes d'IA, mais cela serait extrêmement dangereux si on le poussait à des niveaux extrêmes. Les gouvernements devraient s’engager à ne pas participer à une surveillance massive des individus et à déployer et acquérir uniquement des systèmes d’IA fiables, conçus pour respecter la loi et les droits fondamentaux, alignés sur des principes éthiques et solides du point de vue socio-technique ». C'est ce qu'a écrit ce groupe d'experts dans son nouveau rapport. Ces experts recommandent donc à l'UE d'interdire l'utilisation de l'IA pour le scoring des citoyens et la surveillance de masse.
Ce rapport contient des recommandations spécifiques parmi lesquelles : l'identification des domaines de recherche sur l'IA nécessitant un financement, encourager l'UE à intégrer la formation à l'IA dans les écoles et les universités, et en suggérant de nouvelles méthodes pour surveiller l'impact de l'IA. Il semblerait que ce soit ce qui se passe avec le système de crédit social naissant en Chine, qui alimente les craintes de ces experts. Ils ont également mentionné le fait qu’il existait déjà des systèmes similaires de surveillance et de répression en Occident, mais qu’au lieu d’être supervisés par des gouvernements, ils étaient gérés par des sociétés privées. Ce qui complique donc un peu les choses, car si l'UE venait à appliquer les recommandations d'interdiction du scoring des citoyens, il restera à savoir si cette interdiction couvrira également les activités des sociétés privées.
Entre autres choses, les experts appellent également à soutenir le développement de mécanismes de protection des données personnelles et à permettre aux individus de contrôler leurs données. Ils suggèrent aussi que les États membres et la Commission devraient également concevoir des moyens pour analyser, mesurer et évaluer en continu l'impact de l'IA sur la société. Le rapport produit par ces experts s'est heurté à plusieurs comme celle de Fanny Hidvegi, responsable des politiques européennes du groupe de défense des droits numériques Access Now, qui a déclaré que le document était trop vague et manquait de clarté sur les garanties, les lignes rouges et les mécanismes d'application.
Bien qu’elles ne soient pas contraignantes, les recommandations faites par ces experts auront probablement une influence sur les décisions politiques prises par la prochaine Commission européenne, qui devrait entrer en fonction en novembre.
Source : Rapport
Et vous ?
Quelle est votre position concernant la surveillance de masse ? Que pensez-vous de ces recommandations ? Pensez-vous qu'elles influenceront les décisions de la Commission européenne ?Voir aussi :
Pour Elon Musk l'IA est bien plus dangereuse que l'arme nucléaire alors que Bill Gates estime que l'IA est à la fois porteuse d'espoir et dangereuse L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique selon ses créateurs L'IA pourrait supplanter 40% des emplois du monde dans 15 ans l'humanité arrivera-t-elle à surmonter ce bouleversement technologique ? 
Envoyé par tanaka59
Toi , Moi , Vous ... Les cotisations prélevées par les URSSAF chaque moi .
