La reconnaissance faciale est de plus en plus utilisée dans l'informatique en général et dans le monde entier. Les smartphones et les ordinateurs peuvent être déverrouillés avec votre visage, mais la technologie est également utilisée à des fins de sécurité et de maintien de l'ordre.Bien qu’il y a de nombreuses applications légitimes, parfois même utiles, la technologie n’est pas à l’abris d’abus en tout genre. Aussi, Microsoft pense qu'il est temps que la réglementation aide à éviter cela.
Dans un billet de blog, Brad Smith, le responsable juridique de Microsoft, a déclaré :
Envoyé par Brad Smith
Nous pensons qu’il est important que les gouvernements commencent à adopter des lois en 2019 pour réglementer cette technologie. Le génie de la reconnaissance faciale, pour ainsi dire, émerge de la bouteille. Si nous n'agissons pas, nous risquons de nous réveiller dans cinq ans pour constater que les services de reconnaissance faciale se sont étendus de manière à exacerber les problèmes de société. À ce moment-là, il sera beaucoup plus difficile de relever ces défis.
En particulier, nous ne pensons pas que le monde sera mieux servi par une course commerciale jusqu’au niveau le plus bas, les entreprises technologiques étant obligées de choisir entre responsabilité sociale et succès sur le marché. Nous pensons que le seul moyen de se protéger de cette course vers le bas est de créer un fond de responsabilité qui favorise une concurrence saine sur le marché. Et un plancher solide exige que nous nous assurions que cette technologie, ainsi que les organisations qui la développent et l’utilisent, sont régies par la règle de droit.
Bien que nous n’ayons pas de réponses à toutes les questions potentielles, nous estimons qu’il existe suffisamment de réponses pour que la législation initiale dans ce domaine permette à la technologie de continuer à progresser tout en protégeant l’intérêt général. Il est essentiel que les gouvernements suivent le rythme de cette technologie, et cette approche progressive permettra un apprentissage plus rapide et de meilleure qualité dans l’ensemble du secteur public. Nous avons résumé nos idées ci-dessous et nous donnerons la priorité à ce sujet lors de nos discussions de politique publique dans des États et pays sélectionnés.
Nous pensons également qu’il vaut mieux aborder ces questions au sens large, mais qu’il ne faut pas attendre que les gouvernements agissent. Nous, ainsi que d’autres sociétés de technologie, devons commencer à mettre en place des mécanismes de protection pour traiter la technologie de reconnaissance faciale. Nous pensons que cette technologie peut servir nos clients de manière importante et large, et nous sommes de plus en plus encouragés, mais également inspirés par de nombreuses applications de reconnaissance faciale déployées par nos clients. Mais plus que de nombreuses autres technologies, cette technologie doit être développée et utilisée avec précaution. Après discussion et examen approfondis, nous avons décidé d'adopter six principes pour gérer ces problèmes chez Microsoft. Nous partageons maintenant ces principes, avec un engagement et des plans pour les mettre en œuvre d'ici la fin du premier trimestre de 2019.
En particulier, nous ne pensons pas que le monde sera mieux servi par une course commerciale jusqu’au niveau le plus bas, les entreprises technologiques étant obligées de choisir entre responsabilité sociale et succès sur le marché. Nous pensons que le seul moyen de se protéger de cette course vers le bas est de créer un fond de responsabilité qui favorise une concurrence saine sur le marché. Et un plancher solide exige que nous nous assurions que cette technologie, ainsi que les organisations qui la développent et l’utilisent, sont régies par la règle de droit.
Bien que nous n’ayons pas de réponses à toutes les questions potentielles, nous estimons qu’il existe suffisamment de réponses pour que la législation initiale dans ce domaine permette à la technologie de continuer à progresser tout en protégeant l’intérêt général. Il est essentiel que les gouvernements suivent le rythme de cette technologie, et cette approche progressive permettra un apprentissage plus rapide et de meilleure qualité dans l’ensemble du secteur public. Nous avons résumé nos idées ci-dessous et nous donnerons la priorité à ce sujet lors de nos discussions de politique publique dans des États et pays sélectionnés.
Nous pensons également qu’il vaut mieux aborder ces questions au sens large, mais qu’il ne faut pas attendre que les gouvernements agissent. Nous, ainsi que d’autres sociétés de technologie, devons commencer à mettre en place des mécanismes de protection pour traiter la technologie de reconnaissance faciale. Nous pensons que cette technologie peut servir nos clients de manière importante et large, et nous sommes de plus en plus encouragés, mais également inspirés par de nombreuses applications de reconnaissance faciale déployées par nos clients. Mais plus que de nombreuses autres technologies, cette technologie doit être développée et utilisée avec précaution. Après discussion et examen approfondis, nous avons décidé d'adopter six principes pour gérer ces problèmes chez Microsoft. Nous partageons maintenant ces principes, avec un engagement et des plans pour les mettre en œuvre d'ici la fin du premier trimestre de 2019.
Les propositions de Microsoft
Le billet de blog est plus qu'un simple appel à faire quelque chose; Microsoft a quelques suggestions sur la façon dont les problèmes pourraient être résolus, bien que l’entreprise admette ne pas avoir de réponses à toutes les questions potentielles.
Smith identifie trois domaines de préoccupation particuliers:
- Premièrement, en particulier dans son état de développement actuel, certaines utilisations de la technologie de reconnaissance faciale augmentent le risque de décisions et, plus généralement, de résultats biaisés et, dans certains cas, contraires aux lois interdisant la discrimination.
- Deuxièmement, l'utilisation généralisée de cette technologie peut entraîner de nouvelles intrusions dans la vie privée des personnes.
- Et troisièmement, l’utilisation de la technologie de reconnaissance faciale par un gouvernement pour la surveillance de masse peut porter atteinte aux libertés démocratiques.
S'attaquer aux préjugés et à la discrimination est la première priorité de Microsoft. L’entreprise collabore déjà avec d’autres sociétés pour les aider à surmonter ces problèmes, mais estime qu’une législation est toujours nécessaire. Plus précisément, Microsoft demande plus de transparence à ceux qui utilisent la reconnaissance faciale, ainsi que des systèmes de reconnaissance faciale pouvant être soumis à des tests de tiers visant à déterminer leur partialité et leur précision.
La protection de la vie privée est une autre préoccupation majeure et Smith suggère une « approche simple » :
- Avertir : la loi devrait exiger que les entités qui utilisent la reconnaissance faciale pour identifier les consommateurs émettent un avertissement visible qui indique clairement que ces services sont utilisés.
- Clarifier le consentement : la loi devrait spécifier que les consommateurs consentent à l'utilisation de services de reconnaissance faciale lorsqu'ils pénètrent dans des locaux ou utilisent des services en ligne dotés de ce type d'avis clair.
Enfin, Smith souhaite que des mesures soient prises pour que les choses ne se transforment pas en une version réelle de 1984. Il parle de limiter la surveillance gouvernementale actuelle de certaines personnes. Afin d'éviter le recours à la reconnaissance faciale pour empiéter sur les libertés démocratiques, la législation devrait permettre aux organismes chargés de l'application des lois d'utiliser la reconnaissance faciale pour surveiller en permanence des personnes spécifiées lorsqu’elles sont dans des espaces publics uniquement :
- si une ordonnance du tribunal a été obtenue pour permettre l'utilisation de services de reconnaissance faciale pour cette surveillance; ou
- en cas d'urgence comportant un danger imminent ou le risque de mort ou de blessures graves pour une personne.
Smith souligne que les entreprises technologiques ont la responsabilité de faire ce qui est juste et encourage le travail en collaboration. Il termine en définissant six principes que Microsoft adoptera et encourage les gouvernements à faire de même:
- Justice. Nous travaillerons au développement et au déploiement de la technologie de reconnaissance faciale de manière à traiter tout le monde de manière équitable.
- Transparence. Nous documenterons et communiquerons clairement les capacités et les limites de la technologie de reconnaissance faciale.
- Responsabilité. Nous encouragerons et aiderons nos clients à déployer la technologie de reconnaissance faciale de manière à garantir un niveau de contrôle humain approprié pour les utilisations pouvant affecter les personnes de manière conséquente.
- Non-discrimination. Dans nos conditions d'utilisation, nous interdirons l'utilisation de la technologie de reconnaissance faciale afin de nous livrer à une discrimination illégale.
- Avis et consentement. Nous encouragerons les clients du secteur privé à donner un préavis et à obtenir leur consentement pour le déploiement de technologies de reconnaissance faciale.
- Surveillance légale. Nous plaiderons pour des garanties pour les libertés démocratiques des personnes dans les scénarios de surveillance de l'application de la loi et ne déploierons pas la technologie de reconnaissance faciale dans des scénarios qui, à notre avis, mettront ces libertés en péril.
Source : Microsoft
Et vous ?
Partagez-vous les craintes de Microsoft ? Que pensez-vous de ses propositions ?Voir aussi :
Reconnaissance faciale : un système classe un célèbre CEO comme un piéton qui a grillé le feu rouge à cause de sa photo sur un bus Amazon annonce qu'il continuera de vendre sa technologie de reconnaissance faciale aux forces de l'ordre malgré les protestations Le président de Microsoft a déclaré que sans la réglementation de la technologie de reconnaissance faciale, 2024 pourrait ressembler au roman « 1984 » Amazon : un employé demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police, évoquant des dérives 
