Microsoft appelle à la réglementation de la reconnaissance faciale afin d'éviter des dérives potentielles
Et propose des axes de réflexion

Le , par Stéphane le calme

75PARTAGES

16  0 
La reconnaissance faciale, un sujet dont les applications sont souvent revenues cette année dans les médias. Cette technologie a été souvent employée au nom de la sécurité nationale.

Par exemple, en avril dernier, la police chinoise s’est targuée d’avoir appréhendé un homme de 31 ans recherché pour des crimes économiques. Bien que cela pourrait paraître comme un fait divers, la police chinoise a souligné que cette interpellation a été possible grâce à une technologie de reconnaissance faciale, tandis que le suspect assistait à un concert de musique pop rassemblant une foule de cinquante à soixante mille personnes. Un mois avant cette arrestation, la police chinoise a commencé à tester un nouveau moyen de surveillance : les lunettes connectées. Avec ces lunettes, les policiers scannent le visage des personnes et des plaques d’immatriculation des véhicules en quête de la moindre anomalie. Les informations récoltées sont comparées en temps réel à de grosses bases de données qui retournent des alertes en cas d’anomalie. Avec ce nouvel outil de surveillance, le gouvernement chinois serait parvenu à réduire les délits dans certains cas.
.
La Russie a commencé à utiliser un système de reconnaissance faciale alimenté par un système d’intelligence artificielle pour traiter les données récoltées à travers les 170 ;000 caméras de surveillance installées dans la ville de Moscou. Selon Artem Ermolaev, responsable du département des technologies de l’information à Moscou, un essai du système de surveillance sur deux mois aurait permis l’arrestation de six criminels qui étaient sur la liste fédérale des personnes recherchées.


Aux États-Unis, c’est le FBI qui depuis des années consolide sa base de données avec des outils de reconnaissance faciale, et cela sans le consentement des Américains. Pour les défenseurs de la vie privée, cette technologie qui est encore sujette à des imperfections devrait être mieux encadrée afin d’éviter des dérives. Toutefois, en dépit des craintes soulevées par ces personnes vis-à-vis de la reconnaissance faciale, le gouvernement américain a annoncé qu’en août prochain, un nouveau système de reconnaissance faciale nommé Vehicle Face System (VSF) sera déployé aux frontières terrestres américaines afin de vérifier l’identité du voyageur alors qu’il se trouve dans son véhicule.

À Londres, la police a commencé à tester son système de reconnaissance faciale, mais dans 98 % des cas lorsque le système d’intelligence artificielle lançait des alertes d’identification de suspects, il s’agissait de faux positifs. De quoi susciter des craintes au sein de la population. Toutefois, la police rassure en affirmant qu’un agent effectue toujours la vérification avant qu’une procédure soit déclenchée.

En France, les autorités du pays souhaitent également tirer profit des avantages qu’offrent ces nouvelles technologies et ont annoncé qu’une technologie de reconnaissance faciale sera prochainement implémentée au sein des aéroports de Roissy Charles-de-Gaulle et Orly.

Un appel des sociétés technologiques à la régulation

Vendredi dernier, Microsoft s’est joint à un appel à la réglementation pour limiter l'utilisation de la technologie de reconnaissance faciale.

Dans un billet de blog riche en illustrations de dérives potentielles, Bradford L. Smith de Microsoft a comparé la technologie à des produits comme les médicaments et les voitures hautement réglementés, et il a exhorté le Congrès à l'étudier et à superviser son utilisation.

« Tous les outils peuvent être utilisés pour le bien ou le mal. Même un balai peut être utilisé pour balayer le sol ou frapper quelqu'un sur la tête. Plus l'outil est puissant, plus les avantages ou les dommages peuvent être importants. Les derniers mois ont mis en évidence la reconnaissance faciale assistée par ordinateur - la capacité d'un ordinateur à reconnaître les visages des gens à partir d'une photo ou d'un appareil photo. Cette technologie peut cataloguer vos photos, aider à réunir des familles ou potentiellement être mal utilisée et abusée par des entreprises privées et des autorités publiques.

« La technologie de reconnaissance faciale soulève des questions qui vont au cœur des protections fondamentales des droits de l'homme comme la vie privée et la liberté d'expression. Ces problèmes augmentent la responsabilité des entreprises technologiques qui créent ces produits. À notre avis, ils appellent également à une réglementation réfléchie du gouvernement et à l'élaboration de normes concernant les utilisations acceptables. Dans une république démocratique, rien ne remplace la prise de décision par nos représentants élus concernant les questions qui exigent l'équilibre entre la sécurité publique et l'essence de nos libertés démocratiques. La reconnaissance faciale exigera que les secteurs public et privé intensifient - et agissent », a-t-il déclaré.


Les grandes enseignes de la technologie préconisent rarement la réglementation de leurs innovations, et la demande inhabituelle de Smith illustre comment les technologies puissantes impliquant l'intelligence artificielle - y compris la reconnaissance faciale - ont déclenché une bataille litigieuse parmi les cadres de la Silicon Valley. Ces technologies ont le potentiel de refaire des industries. Elles pourraient également réduire les perspectives d'emploi des travailleurs ou entraîner des opportunités inégales pour les consommateurs, ce qui a poussé certains à affirmer que certains produits sont trop risqués pour que les entreprises de technologie puissent les déployer sans la surveillance du gouvernement.

Quelles questions devraient être traitées par la réglementation gouvernementale ?

Maintenant que l’utilisation de la reconnaissance faciale est au centre des polémiques, Microsoft prend l'initiative d'appeler à une certaine restriction réglementaire.

La technologie peut être utilisée pour identifier des personnes dans des photos ou des flux vidéo sans leur connaissance ou permission. Les partisans y voient un outil potentiellement important pour identifier les criminels, mais les experts en libertés civiles ont averti que cette technologie pourrait permettre une surveillance de masse, entravant la capacité des gens à participer librement à des manifestations politiques ou à vivre leur vie quotidienne dans l'anonymat.


C'est pourquoi Microsoft a proposé des axes de réflexion pour les élus. Comme point de départ, Microsoft croit que les gouvernements devraient examiner les questions suivantes, entre autres :
  • L'application de la reconnaissance faciale par les forces de l'ordre devrait-elle faire l'objet d'une surveillance et de contrôles humains, y compris des restrictions sur l'utilisation de la technologie de reconnaissance faciale sans preuve de culpabilité ou d'innocence ?
  • De même, devrions-nous veiller à ce qu'il y ait une surveillance et une responsabilisation civiles pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques gouvernementales en matière de technologie de sécurité nationale ?
  • Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie?
  • L'utilisation de la reconnaissance faciale par les autorités publiques ou d'autres personnes devrait-elle être soumise à des niveaux de performance minimum en matière de précision?
  • La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics?
  • La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de recueillir des images d'individus pour la reconnaissance faciale? Si oui, dans quelles situations et quels lieux cela devrait-il s'appliquer? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement?
  • Devrions-nous nous assurer que les personnes ont le droit de savoir quelles photos ont été recueillies et stockées avec leurs noms et visages?
  • Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale?

Source : Microsoft

Et vous ?

Que pensez-vous des axes de réflexion proposés par Microsoft ?
Pensez-vous également que la reconnaissance faciale devrait être réglementée ? Si oui, pourquoi et par qui ?

Voir aussi :

Des chercheurs Australiens créent un nouveau modèle de reconnaissance faciale 3D capable de reconnaitre des sujets portant des lunettes ou grimaçant
Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation en raison du nombre élevé de faux positifs
Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Membre expert https://www.developpez.com
Le 14/07/2018 à 19:35
Deux points à souligner :

* Le renouvellement de carte d'identité en France requiert dorénavant une photo à expression neutre sans lunette et à un format bien spécifique,

* Si mes souvenirs sont bons, le FBI dispose de plus de 400 millions de clichés numériques uniques dans sa base; la population américaine représente 325 millions d'habitants.

Il est grand temps de tirer la sonnette d'alarme comme le fait Microsoft.
Avatar de Sipige
Membre régulier https://www.developpez.com
Le 15/07/2018 à 10:49
Pauvres chinois...
Les opposants sont vraiment dans le pétrin.
Avatar de Stan Adkens
Chroniqueur Actualités https://www.developpez.com
Le 09/11/2018 à 8:07
Le président de Microsoft a déclaré que sans la réglementation de la technologie de reconnaissance faciale
2024 pourrait ressembler au roman « 1984 »

Les prédictions du roman Nineteen Eighty-Four (1984) de l'écrivain anglais Georges Orwell sont-elles à la porte de notre monde avec la bénédiction de la transformation numérique de ces dernières années ? En tout cas, c’est le sujet sur lequel le président de Microsoft, Brad Smith, interpelle les responsables de l’industrie de l’Internet. En effet, M. Smith a pris la parole, lors de la conférence technique Web Summit au Portugal, et a présenté un fait d’actualité selon lequel l'année 2024 pourrait ressembler à la fiction présentée par l’ouvrage 1984 où chaque citoyen est sous la surveillance constante des autorités d’un Etat totalitaire, si la technologie de reconnaissance faciale n’est pas réglementée bien avant.

L’utilisation courante de la technologie de reconnaissance faciale n’est plus un secret pour personne. Si vous avez déjà dérouillé votre iPhone avec votre identifiant de visage ou si vous avez utilisé les filtres de visage Snapchat ou Instagram, c’est que vous avez déjà fait usage de la technologie de reconnaissance faciale. Cependant, selon M. Smith, les années à venir pourrait voir d’autres utilisations plus contraignantes, voire oppressives, par des gouvernements au détriment des populations, si rien n’est fait.

Au moment où les questions sur l'utilisation acceptable ou éthique de l'intelligence artificielle ne sont pas encore tranchées, son utilisation dans les services de reconnaissance faciale au nom de la sécurité se diversifie.

Aux Etats-Unis, les salariés d’Amazon ainsi que les associations de protection des libertés se sont érigés contre la technologie de reconnaissance faciale d'Amazon, craignant une surveillance de masse par la police. Cependant, cela n’a pas fait reculer la société. Par ailleurs, Amazon Rekognition a été mis à la disposition des forces de l’ordre. Au Royaume-Uni, la technologie de reconnaissance faciale utilisée par la police de South Wales aurait été améliorée et aurait permis d'arrêter un suspect.

La Chine, reconnue comme le record de l’utilisation de cette technologie, n’hésite plus sur les moyens pour la mettre en œuvre afin de contrôler la population. La police utilise des lunettes dotées de reconnaissance faciale pour scanner les foules à la recherche de suspects. Le système chinois de crédit social, qui vise à mettre en place d'ici 2020 un système national de réputation des citoyens, exploite l’infrastructure de reconnaissance faciale chinoise pour récompenser ou punir les habitants de la Chine selon leur note sociale. Et bien d’autres utilisations encore à travers le monde.


Ce n’est pas la première fois que M. Smith intervient sur la nécessité de régulation du secteur afin de mettre en œuvre des balises permettant de limiter l’utilisation de la reconnaissance faciale par les entreprises et les gouvernements. En juillet dernier, Brad Smith a qualifié la technologie de reconnaissance faciale comme soulevant des questions qui vont au cœur des protections fondamentales des droits de l'homme telles que la vie privée et la liberté d'expression. Il a rappelé également que ces problèmes devraient renforcer la responsabilité des entreprises de haute technologie qui créent ces produits, sans manquer de donner les mesures et recommandations de sa société en matière de réglementation gouvernementale. Selon lui la reconnaissance faciale peut être réglementée tout comme les secteurs pharmaceutiques et les automobiles.

A la dernière conférence technique Web Summit le mercredi dernier, M. Smith a déclaré que la technologie de reconnaissance faciale pourrait totalement changer notre façon de vivre, si elle n'était pas contrôlée. « Cela signifie potentiellement que chaque fois que vous entrez dans un magasin, un détaillant sait à quel moment vous y étiez pour la dernière fois, quels produits vous avez choisi, quels produits vous avez acheté », a-t-il déclaré le mercredi dernier. « Je pense que même cela est franchement dérisoire par rapport à ce que cela pourrait faire pour les relations entre les individus et l'État », a rapporté Biométric Update.

Le président de Microsoft est allé plus loin en s’inquiétant de l’utilisation que les gouvernements pourraient faire de la technologie au détriment des libertés humaines. « Pour la première fois, le monde est au seuil de la technologie qui donnerait à un gouvernement la possibilité de suivre n'importe qui, n'importe où et tout le monde partout. Il pourrait savoir exactement où vous allez, où vous êtes allé et où vous étiez hier. Et cela a de profondes ramifications potentielles même pour les libertés civiles fondamentales sur lesquelles reposent les sociétés démocratiques. ».

C’est pour ces raisons que M. Smith interpelle les acteurs de l’industrie des nouvelles technologies à réagir et à réglementer le secteur. « Avant de nous réveiller et de constater que l'année 2024 ressemble à l'ouvrage « 1984 », déterminons le genre de monde que nous voulons créer, quelles en sont les sauvegardes et quelles sont les limitations à la fois des entreprises et des gouvernements pour l’utilisation de cette technologie. »

Selon Biometric Update, Brad Smith a été rejoint sur scène par Tony Blair, l'ancien Premier ministre britannique qui a abordé le sujet dans le même sens que lui en le soutenant dans sa logique réglementation technique. « Je ne pense pas que les gouvernements soient encore équipés pour comprendre ces problèmes, mais je pense qu'ils doivent l'être », a déclaré Blair. « Il est vraiment nécessaire pour ceux du monde de la technologie… d'éduquer les décideurs politiques sur ce que cela signifie. », a-t-il ajouté.

Selon l’ex-Premier ministre britannique, les politiciens devraient profiter de l’occasion maintenant qu’il existe des inquiétudes réelles au sujet des nouvelles technologies pour rectifier l’élan d’utilisation pris par les entreprises et des gouvernements et présenter une utilisation bénéfique de la technologie pour l’avenir.

Source : Biometric Update, Futurism

Et vous ?

Que pensez-vous des inquiétudes de M. Smith ?
Quelle est votre opinion sur l’utilisation de la reconnaissance faciale par les gouvernements ?
Faut-il encadrer l’utilisation de cette technologie ?

Voir aussi

USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon, craignant une surveillance de masse par la police
La police chinoise s'équipe de lunettes dotées d'une technologie de reconnaissance faciale, pour scanner les foules à la recherche de suspects
Chine : le système de crédit social, comme une science-fiction dystopique, est en marche, et fait déjà des victimes
UK : la technologie de reconnaissance faciale de la police aurait permis d'arrêter un suspect, grâce à l'amélioration du logiciel et de son algorithme
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Avatar de cedric57
Membre averti https://www.developpez.com
Le 09/11/2018 à 13:30
Je trouve cette idée sympa.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 09/11/2018 à 13:43
Citation Envoyé par Stan Adkens Voir le message
Le président de Microsoft est allé plus loin en s’inquiétant de l’utilisation que les gouvernements pourraient faire de la technologie au détriment des libertés humaines. « Pour la première fois, le monde est au seuil de la technologie qui donnerait à un gouvernement la possibilité de suivre n'importe qui, n'importe où et tout le monde partout. Il pourrait savoir exactement où vous allez, où vous êtes allé et où vous étiez hier. Et cela a de profondes ramifications potentielles même pour les libertés civiles fondamentales sur lesquelles reposent les sociétés démocratiques. ».
Celui qui a un smartphone peut déjà être suivi en permanence...
Des données peuvent être envoyer à son insu, même en désactivant les données mobile et le GPS.

La NSA a accès à nos emails, nos SMS et messages privées.
Votre téléphone peut être utilisé comme un micro. (vous êtes potentiellement sur écoute, même si ce n'est que pour du Big Data et des publicités ciblées)
Maintenant des gens achètent des trucs comme Google Home / Apple HomePod / Sonos One...

Citation Envoyé par Stan Adkens Voir le message
En juillet dernier, Brad Smith a qualifié la technologie de reconnaissance faciale comme soulevant des questions qui vont au cœur des protections fondamentales des droits de l'homme telles que la vie privée et la liberté d'expression. Il a rappelé également que ces problèmes devraient renforcer la responsabilité des entreprises de haute technologie qui créent ces produits, sans manquer de donner les mesures et recommandations de sa société en matière de réglementation gouvernementale. Selon lui la reconnaissance faciale peut être réglementée tout comme les secteurs pharmaceutiques et les automobiles.
C'est marrant que ça vienne d'un gars de Microsoft.
WINDOWS 10 : COMMENT MICROSOFT VOUS ESPIONNE ET LES SOLUTIONS POUR S'EN PROTÉGER

Le futur risque d'être effrayant.
Si les gouvernements commencent à vouloir mettre ses opposants dans des camps, ça va devenir vraiment effrayant avec les caméras partout et l'IA de reconnaissance faciale.
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 09/11/2018 à 14:08
Citation Envoyé par Stéphane le calme Voir le message
Aux États-Unis, c’est le FBI qui depuis des années consolide sa base de données avec des outils de reconnaissance faciale, et cela sans le consentement des Américains.
Cela laisse à supposer que les russes et les chinois ont été consultés sur la question et qu'ils ont donné leur consentement...
Y a t-il une trace de ce questionnement ? Un référendum ? Une consultation publique ?
Avatar de marsupial
Membre expert https://www.developpez.com
Le 09/11/2018 à 19:36
Citation Envoyé par Ryu2000 Voir le message

Le futur risque d'être effrayant.
Si les gouvernements commencent à vouloir mettre ses opposants dans des camps, ça va devenir vraiment effrayant avec les caméras partout et l'IA de reconnaissance faciale.
Et que crois-tu que fait Poutine ? Les exemples sont multiples et les assassinats politiques également.
La Chine n'est pas en reste pour des lavages de cerveau tel que subit le président démissionnaire d'Interpol. L'actrice chinoise aussi. Et ils n'ont pas encore utilisé d'IA dans ces cas là...
Avatar de i5evangelist
Membre actif https://www.developpez.com
Le 10/11/2018 à 8:14
Maintenant des gens achètent des trucs comme Google Home / Apple HomePod / Sonos One...
Sans vouloir être méprisant, faut bien avouer qu'il faut quand même avoir une case de vide pour acheter ces appareils, surtout pour savoir quel temps il fera demain ou écouter un titre de Michel Sardou.

mais je m'égare ...

La Chine met en place massivement les caméras à reconnaissance faciale, le parti communiste joue sont avenir, la seule solution pour rester au pouvoir, c'est de devenir une dictature totale, le grand timonier à vie l'a bien compris.
Pour nos sociétés occidentales, c'est clair que l'IA en général ne nous annonce pas spécialement un avenir radieux, enfin c'est mon sentiment.
Avatar de Jonathan
Chroniqueur Actualités https://www.developpez.com
Le 18/04/2019 à 5:41
Microsoft a refusé des ventes de sa technologie de reconnaissance faciale
pour des raisons liées aux droits de l'homme

La reconnaissance faciale est de plus en plus utilisée dans l'informatique en général et dans le monde entier. Les smartphones et les ordinateurs peuvent être déverrouillés avec votre visage, mais la technologie est également utilisée à des fins de sécurité et de maintien de l'ordre. L'utilisation de cette technologie prend tellement d'ampleur que Microsoft s'en inquiète et a appelé il y a quelques mois à une régulation mondiale avant que cette technologie ne devienne problématique au sein de la société.

On a d'ailleurs appris que Microsoft aurait récemment refusé de vendre sa technologie de reconnaissance faciale à une agence de police californienne. L'agence en question, dont l'identité n'a pas été divulguée, voulait faire installer cette technologie dans les voitures et les caméras corporelles de ses officiers. Brad Smith, le président de Microsoft, a déclaré cette semaine lors d'une conférence sur l'IA à l'université de Stanford, que la principale raison qui aurait motivé le refus de Microsoft était l'impact potentiel sur les droits de l'homme. En effet, la société craint le fait que si cette technologie avait été installée dans les voitures et caméras corporelles des officiers de cette agence de police, cela aurait certainement conduit à l'interrogatoire disproportionné des femmes et des minorités innocentes.


Des recherches antérieures ont montré que, du fait que la technologie de reconnaissance faciale soit principalement formée sur les visages blancs et masculins, elle présente des taux d'erreurs plus élevés pour les autres individus. Smith a également fait savoir que Microsoft avait aussi refusé un accord visant à installer sa technologie de reconnaissance faciale sur des caméras recouvrant la capitale d'un pays dont il s'est gardé de révéler le nom et en disant que si cela avait été fait, ça aurait certainement supprimé la liberté de réunion dans ce pays. Mais il est tout de même important de savoir que Microsoft a accepté de fournir cette technologie à une prison américaine après avoir décidé que son utilisation serait suffisamment limitée et améliorerait la sécurité.

Au cours de cette conférence, Smith a tenté de faire comprendre qu'à l'allure avec laquelle les avancées technologiques sont réalisées, il est plus que jamais temps de se pencher plus sérieusement sur la réglementation de cette technologie au risque de se retrouver dans des situations aux conséquences irréversibles. Il appelle également à une utilisation responsable de l'IA en mettant en garde sur le fait que sans cela, les entreprises qui accumulent le plus de données pourraient développer la meilleure IA et on ne peut imaginer ce qui pourrait arriver si celle-ci était utilisée à de mauvaises fins.

Source : Reuters

Et vous ?

Que pensez-vous de la stratégie de Microsoft concernant cette technologie ?

Voir aussi :

La reconnaissance faciale comme méthode de sécurité est inutile pour 4 smartphones sur 10, d'après une étude
Reconnaissance faciale : Microsoft appelle à une régulation mondiale avant que cette technologie ne devienne problématique au sein de la société
Le président de Microsoft a déclaré que sans la réglementation de la technologie de reconnaissance faciale, 2024 pourrait ressembler au roman « 1984 »
Avatar de pierre.E
Membre actif https://www.developpez.com
Le 18/04/2019 à 13:50
microsoft qui se préoccupe de la vie privée lol
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web