Un nouveau projet de loi interdisant l’utilisation de la technologie de reconnaissance faciale dans toute la ville de San Francisco qui doit être proposé par le superviseur Aaron Peskin et qui a déjà obtenu l'appui des groupes de défense des droits civils, dont l'ACLU (The American Civil Liberties Union) de la Californie du Nord, attend d’être entendu en comité le mois prochain, a rapporté San Francisco Examiner (Sfexaminer). Selon un article publié par Sfexaminer le mardi dernier, le nouveau projet obligerait les services de la ville à demander l'approbation du conseil des superviseurs avant d'utiliser ou d'acheter une technologie de surveillance. Le projet de loi créerait également des vérifications annuelles de la technologie de surveillance pour s'assurer que les outils sont utilisés correctement.Les villes comme Berkeley, Oakland et Boston ont adopté une ordonnance similaire qui fait obligation aux agences municipales ou aux forces de l'ordre d’obtenir l’approbation du Conseil des superviseurs avant d’adopter de nouvelles technologies de surveillance ainsi que des nouvelles politiques d'utilisation des technologies existantes. Toutefois, la nouvelle proposition va plus loin en interdisant totalement la technologie de reconnaissance faciale. Si le projet de San Francisco est approuvé, il empêcherait les services de la ville d'acheter ou d'utiliser la technologie de reconnaissance faciale. Le projet de loi, qui s'appliquerait également à l'application de la loi, représenterait une nouvelle étape dans la lutte contre les utilisations abusives de cet outil puissant et créerait un précédent aux Etats-Unis.
Cette proposition intervient dans un conteste où les groupes de défense des droits civils aux Etats-Unis ont soulevé des préoccupations au sujet de la menace à la vie privée et à la sécurité que pose la reconnaissance faciale, ainsi que des nombreux problèmes de faux positifs.
En mai 2018, ACLU, une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour ces associations, « Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements » ont-elles déclaré dans une lettre adressée à Jeff Bezos, le directeur général d'Amazon. « Ce produit constitue une grave menace pour les communautés, y compris les personnes de couleur et les immigrants, et pour la confiance et le respect qu'Amazon a travaillé à construire ».
Amazon avait alors expliqué, lorsqu’il mettait Rekognition, sa technologie de reconnaissance faciale, à la disposition des forces de l’ordre, que sa technologie permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Mais l’ACLU, qui n’était pas de cet avis, a conduit des tests, en juillet 2018, sur le système de reconnaissance faciale d'Amazon et il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels.
Ailleurs dans d’autres pays, les populations et les groupes de défense mènent la même lutte. Dans une de ses publications parues au mois de mai, The Independent a fait état de ce que l’intelligence artificielle utilisée par les forces de police anglaises a rapporté des faux positifs dans 98 % des cas, bien que les responsables de la police se soient défendus en soutenant que l’IA est assistée par les officiers de police. En Chine dans la province de Zhejiang, un système de surveillance routière d’intelligence artificielle a classé un célèbre CEO comme un piéton qui a grillé le feu rouge.
Les responsables du BART (un système de transport en commun desservant la région de la baie de San Francisco) ont fait l’objet de critiques au cours de l'été dernier lorsqu'ils ont commencé à explorer la mise en œuvre d'un système de surveillance, d’après Sfexaminer. En fin de compte, le conseil d'administration du BART a plutôt approuvé en septembre une ordonnance exigeant l'avis du public et l'approbation du conseil pour l'équipement et l’acquisition de technologie de surveillance impliquant l'utilisation de renseignements personnels identifiables.
« Nous savons que la technologie de reconnaissance faciale, qui a les préjugés des personnes qui l'ont mise au point, identifie de façon disproportionnée les personnes de couleur et les femmes », a déclaré M. Peskin mardi. « C'est un fait. »
« Notre intention est d'attirer l'attention des gens et d'avoir une conversation plus large sur le précipice moral de la technologie, après quoi vous êtes allé trop loin », a déclaré Lee Hepner, un adjoint législatif du superviseur Aaron Peskin. « C'est une atteinte à notre mode de vie, à notre démocratie et aux communautés marginalisées. Il y a aussi un intérêt marqué pour la reconnaissance faciale : ça fait peur aux gens. »
Selon le projet de loi de Peskin, les risques associés à l'utilisation de la technologie de reconnaissance faciale « l'emportent largement sur les avantages escomptés, et que la technologie exacerbera l'injustice raciale et menacera notre capacité de vivre sans surveillance gouvernementale continue ». Il a présenté son projet de loi, mardi dernier, en tant qu’une extension de la politique « Privacy First Policy », approuvée par les électeurs en novembre, qui fixe de nouvelles limites et exigences de transparence sur la collecte et l'utilisation des données personnelles par les agences municipales et par les entreprises faisant affaire avec la ville.
La prise de conscience sur les abus et erreurs de la technologie de reconnaissance faciale est en train de gagner le milieu des entreprises depuis un certains temps. En fin d’année dernière, Microsoft a appelé à une régulation mondiale de la reconnaissance faciale avant que la technologie ne devienne problématique au sein de la société, en faisant des suggestions sur la façon dont les problèmes posés actuellement par la technologie pourraient être résolus. En décembre dernier, Google a également renoncé temporairement à la vente de sa technologie de reconnaissance faciale afin de résoudre d'importantes questions de technologie et de politique avant.
Source : San Francisco Examiner, L’ordonnance
Et vous ?
Que pensez-vous de ce nouveau projet de loi ? Pensez-vous que le projet a assez de chance d’aboutir à une loi afin d’empêcher le gouvernement d’utiliser la reconnaissance faciale dans la ville de San Francisco ? Lire aussi
Google ne vendra pas la technologie de reconnaissance faciale pour l'instant, avant d'aborder d'importantes questions de technologie et de politique Reconnaissance faciale : Microsoft appelle à une régulation mondiale, avant que cette technologie ne devienne problématique au sein de la société La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels, quels dangers pour les Américains ? USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon, craignant une surveillance de masse par la police Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation, en raison du nombre élevé de faux positifs