La reconnaissance faciale, un sujet dont les applications sont souvent revenues cette année dans les médias. Cette technologie a été souvent employée au nom de la sécurité nationale. Par exemple, en avril dernier, la police chinoise s’est targuée d’avoir appréhendé un homme de 31 ans recherché pour des crimes économiques. Bien que cela pourrait paraître comme un fait divers, la police chinoise a souligné que cette interpellation a été possible grâce à une technologie de reconnaissance faciale, tandis que le suspect assistait à un concert de musique pop rassemblant une foule de cinquante à soixante mille personnes. Un mois avant cette arrestation, la police chinoise a commencé à tester un nouveau moyen de surveillance : les lunettes connectées. Avec ces lunettes, les policiers scannent le visage des personnes et des plaques d’immatriculation des véhicules en quête de la moindre anomalie. Les informations récoltées sont comparées en temps réel à de grosses bases de données qui retournent des alertes en cas d’anomalie. Avec ce nouvel outil de surveillance, le gouvernement chinois serait parvenu à réduire les délits dans certains cas.
.
La Russie a commencé à utiliser un système de reconnaissance faciale alimenté par un système d’intelligence artificielle pour traiter les données récoltées à travers les 170 ;000 caméras de surveillance installées dans la ville de Moscou. Selon Artem Ermolaev, responsable du département des technologies de l’information à Moscou, un essai du système de surveillance sur deux mois aurait permis l’arrestation de six criminels qui étaient sur la liste fédérale des personnes recherchées.
Aux États-Unis, c’est le FBI qui depuis des années consolide sa base de données avec des outils de reconnaissance faciale, et cela sans le consentement des Américains. Pour les défenseurs de la vie privée, cette technologie qui est encore sujette à des imperfections devrait être mieux encadrée afin d’éviter des dérives. Toutefois, en dépit des craintes soulevées par ces personnes vis-à-vis de la reconnaissance faciale, le gouvernement américain a annoncé qu’en août prochain, un nouveau système de reconnaissance faciale nommé Vehicle Face System (VSF) sera déployé aux frontières terrestres américaines afin de vérifier l’identité du voyageur alors qu’il se trouve dans son véhicule.
À Londres, la police a commencé à tester son système de reconnaissance faciale, mais dans 98 % des cas lorsque le système d’intelligence artificielle lançait des alertes d’identification de suspects, il s’agissait de faux positifs. De quoi susciter des craintes au sein de la population. Toutefois, la police rassure en affirmant qu’un agent effectue toujours la vérification avant qu’une procédure soit déclenchée.
En France, les autorités du pays souhaitent également tirer profit des avantages qu’offrent ces nouvelles technologies et ont annoncé qu’une technologie de reconnaissance faciale sera prochainement implémentée au sein des aéroports de Roissy Charles-de-Gaulle et Orly.
Un appel des sociétés technologiques à la régulation
Vendredi dernier, Microsoft s’est joint à un appel à la réglementation pour limiter l'utilisation de la technologie de reconnaissance faciale.
Dans un billet de blog riche en illustrations de dérives potentielles, Bradford L. Smith de Microsoft a comparé la technologie à des produits comme les médicaments et les voitures hautement réglementés, et il a exhorté le Congrès à l'étudier et à superviser son utilisation.
« Tous les outils peuvent être utilisés pour le bien ou le mal. Même un balai peut être utilisé pour balayer le sol ou frapper quelqu'un sur la tête. Plus l'outil est puissant, plus les avantages ou les dommages peuvent être importants. Les derniers mois ont mis en évidence la reconnaissance faciale assistée par ordinateur - la capacité d'un ordinateur à reconnaître les visages des gens à partir d'une photo ou d'un appareil photo. Cette technologie peut cataloguer vos photos, aider à réunir des familles ou potentiellement être mal utilisée et abusée par des entreprises privées et des autorités publiques.
« La technologie de reconnaissance faciale soulève des questions qui vont au cœur des protections fondamentales des droits de l'homme comme la vie privée et la liberté d'expression. Ces problèmes augmentent la responsabilité des entreprises technologiques qui créent ces produits. À notre avis, ils appellent également à une réglementation réfléchie du gouvernement et à l'élaboration de normes concernant les utilisations acceptables. Dans une république démocratique, rien ne remplace la prise de décision par nos représentants élus concernant les questions qui exigent l'équilibre entre la sécurité publique et l'essence de nos libertés démocratiques. La reconnaissance faciale exigera que les secteurs public et privé intensifient - et agissent », a-t-il déclaré.
Les grandes enseignes de la technologie préconisent rarement la réglementation de leurs innovations, et la demande inhabituelle de Smith illustre comment les technologies puissantes impliquant l'intelligence artificielle - y compris la reconnaissance faciale - ont déclenché une bataille litigieuse parmi les cadres de la Silicon Valley. Ces technologies ont le potentiel de refaire des industries. Elles pourraient également réduire les perspectives d'emploi des travailleurs ou entraîner des opportunités inégales pour les consommateurs, ce qui a poussé certains à affirmer que certains produits sont trop risqués pour que les entreprises de technologie puissent les déployer sans la surveillance du gouvernement.
Quelles questions devraient être traitées par la réglementation gouvernementale ?
Maintenant que l’utilisation de la reconnaissance faciale est au centre des polémiques, Microsoft prend l'initiative d'appeler à une certaine restriction réglementaire.
La technologie peut être utilisée pour identifier des personnes dans des photos ou des flux vidéo sans leur connaissance ou permission. Les partisans y voient un outil potentiellement important pour identifier les criminels, mais les experts en libertés civiles ont averti que cette technologie pourrait permettre une surveillance de masse, entravant la capacité des gens à participer librement à des manifestations politiques ou à vivre leur vie quotidienne dans l'anonymat.
C'est pourquoi Microsoft a proposé des axes de réflexion pour les élus. Comme point de départ, Microsoft croit que les gouvernements devraient examiner les questions suivantes, entre autres :
- L'application de la reconnaissance faciale par les forces de l'ordre devrait-elle faire l'objet d'une surveillance et de contrôles humains, y compris des restrictions sur l'utilisation de la technologie de reconnaissance faciale sans preuve de culpabilité ou d'innocence ?
- De même, devrions-nous veiller à ce qu'il y ait une surveillance et une responsabilisation civiles pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques gouvernementales en matière de technologie de sécurité nationale ?
- Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie?
- L'utilisation de la reconnaissance faciale par les autorités publiques ou d'autres personnes devrait-elle être soumise à des niveaux de performance minimum en matière de précision?
- La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics?
- La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de recueillir des images d'individus pour la reconnaissance faciale? Si oui, dans quelles situations et quels lieux cela devrait-il s'appliquer? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement?
- Devrions-nous nous assurer que les personnes ont le droit de savoir quelles photos ont été recueillies et stockées avec leurs noms et visages?
- Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale?
Source : Microsoft
Et vous ?
Que pensez-vous des axes de réflexion proposés par Microsoft ? Pensez-vous également que la reconnaissance faciale devrait être réglementée ? Si oui, pourquoi et par qui ?Voir aussi :
Des chercheurs Australiens créent un nouveau modèle de reconnaissance faciale 3D capable de reconnaitre des sujets portant des lunettes ou grimaçant Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ? Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation en raison du nombre élevé de faux positifs Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet 
Envoyé par pierre.E
