Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Microsoft appelle à la réglementation de la reconnaissance faciale afin d'éviter des dérives potentielles
Et propose des axes de réflexion

Le , par Stéphane le calme

225PARTAGES

16  0 
La reconnaissance faciale, un sujet dont les applications sont souvent revenues cette année dans les médias. Cette technologie a été souvent employée au nom de la sécurité nationale.

Par exemple, en avril dernier, la police chinoise s’est targuée d’avoir appréhendé un homme de 31 ans recherché pour des crimes économiques. Bien que cela pourrait paraître comme un fait divers, la police chinoise a souligné que cette interpellation a été possible grâce à une technologie de reconnaissance faciale, tandis que le suspect assistait à un concert de musique pop rassemblant une foule de cinquante à soixante mille personnes. Un mois avant cette arrestation, la police chinoise a commencé à tester un nouveau moyen de surveillance : les lunettes connectées. Avec ces lunettes, les policiers scannent le visage des personnes et des plaques d’immatriculation des véhicules en quête de la moindre anomalie. Les informations récoltées sont comparées en temps réel à de grosses bases de données qui retournent des alertes en cas d’anomalie. Avec ce nouvel outil de surveillance, le gouvernement chinois serait parvenu à réduire les délits dans certains cas.
.
La Russie a commencé à utiliser un système de reconnaissance faciale alimenté par un système d’intelligence artificielle pour traiter les données récoltées à travers les 170 ;000 caméras de surveillance installées dans la ville de Moscou. Selon Artem Ermolaev, responsable du département des technologies de l’information à Moscou, un essai du système de surveillance sur deux mois aurait permis l’arrestation de six criminels qui étaient sur la liste fédérale des personnes recherchées.


Aux États-Unis, c’est le FBI qui depuis des années consolide sa base de données avec des outils de reconnaissance faciale, et cela sans le consentement des Américains. Pour les défenseurs de la vie privée, cette technologie qui est encore sujette à des imperfections devrait être mieux encadrée afin d’éviter des dérives. Toutefois, en dépit des craintes soulevées par ces personnes vis-à-vis de la reconnaissance faciale, le gouvernement américain a annoncé qu’en août prochain, un nouveau système de reconnaissance faciale nommé Vehicle Face System (VSF) sera déployé aux frontières terrestres américaines afin de vérifier l’identité du voyageur alors qu’il se trouve dans son véhicule.

À Londres, la police a commencé à tester son système de reconnaissance faciale, mais dans 98 % des cas lorsque le système d’intelligence artificielle lançait des alertes d’identification de suspects, il s’agissait de faux positifs. De quoi susciter des craintes au sein de la population. Toutefois, la police rassure en affirmant qu’un agent effectue toujours la vérification avant qu’une procédure soit déclenchée.

En France, les autorités du pays souhaitent également tirer profit des avantages qu’offrent ces nouvelles technologies et ont annoncé qu’une technologie de reconnaissance faciale sera prochainement implémentée au sein des aéroports de Roissy Charles-de-Gaulle et Orly.

Un appel des sociétés technologiques à la régulation

Vendredi dernier, Microsoft s’est joint à un appel à la réglementation pour limiter l'utilisation de la technologie de reconnaissance faciale.

Dans un billet de blog riche en illustrations de dérives potentielles, Bradford L. Smith de Microsoft a comparé la technologie à des produits comme les médicaments et les voitures hautement réglementés, et il a exhorté le Congrès à l'étudier et à superviser son utilisation.

« Tous les outils peuvent être utilisés pour le bien ou le mal. Même un balai peut être utilisé pour balayer le sol ou frapper quelqu'un sur la tête. Plus l'outil est puissant, plus les avantages ou les dommages peuvent être importants. Les derniers mois ont mis en évidence la reconnaissance faciale assistée par ordinateur - la capacité d'un ordinateur à reconnaître les visages des gens à partir d'une photo ou d'un appareil photo. Cette technologie peut cataloguer vos photos, aider à réunir des familles ou potentiellement être mal utilisée et abusée par des entreprises privées et des autorités publiques.

« La technologie de reconnaissance faciale soulève des questions qui vont au cœur des protections fondamentales des droits de l'homme comme la vie privée et la liberté d'expression. Ces problèmes augmentent la responsabilité des entreprises technologiques qui créent ces produits. À notre avis, ils appellent également à une réglementation réfléchie du gouvernement et à l'élaboration de normes concernant les utilisations acceptables. Dans une république démocratique, rien ne remplace la prise de décision par nos représentants élus concernant les questions qui exigent l'équilibre entre la sécurité publique et l'essence de nos libertés démocratiques. La reconnaissance faciale exigera que les secteurs public et privé intensifient - et agissent », a-t-il déclaré.


Les grandes enseignes de la technologie préconisent rarement la réglementation de leurs innovations, et la demande inhabituelle de Smith illustre comment les technologies puissantes impliquant l'intelligence artificielle - y compris la reconnaissance faciale - ont déclenché une bataille litigieuse parmi les cadres de la Silicon Valley. Ces technologies ont le potentiel de refaire des industries. Elles pourraient également réduire les perspectives d'emploi des travailleurs ou entraîner des opportunités inégales pour les consommateurs, ce qui a poussé certains à affirmer que certains produits sont trop risqués pour que les entreprises de technologie puissent les déployer sans la surveillance du gouvernement.

Quelles questions devraient être traitées par la réglementation gouvernementale ?

Maintenant que l’utilisation de la reconnaissance faciale est au centre des polémiques, Microsoft prend l'initiative d'appeler à une certaine restriction réglementaire.

La technologie peut être utilisée pour identifier des personnes dans des photos ou des flux vidéo sans leur connaissance ou permission. Les partisans y voient un outil potentiellement important pour identifier les criminels, mais les experts en libertés civiles ont averti que cette technologie pourrait permettre une surveillance de masse, entravant la capacité des gens à participer librement à des manifestations politiques ou à vivre leur vie quotidienne dans l'anonymat.


C'est pourquoi Microsoft a proposé des axes de réflexion pour les élus. Comme point de départ, Microsoft croit que les gouvernements devraient examiner les questions suivantes, entre autres :
  • L'application de la reconnaissance faciale par les forces de l'ordre devrait-elle faire l'objet d'une surveillance et de contrôles humains, y compris des restrictions sur l'utilisation de la technologie de reconnaissance faciale sans preuve de culpabilité ou d'innocence ?
  • De même, devrions-nous veiller à ce qu'il y ait une surveillance et une responsabilisation civiles pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques gouvernementales en matière de technologie de sécurité nationale ?
  • Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie?
  • L'utilisation de la reconnaissance faciale par les autorités publiques ou d'autres personnes devrait-elle être soumise à des niveaux de performance minimum en matière de précision?
  • La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics?
  • La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de recueillir des images d'individus pour la reconnaissance faciale? Si oui, dans quelles situations et quels lieux cela devrait-il s'appliquer? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement?
  • Devrions-nous nous assurer que les personnes ont le droit de savoir quelles photos ont été recueillies et stockées avec leurs noms et visages?
  • Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale?

Source : Microsoft

Et vous ?

Que pensez-vous des axes de réflexion proposés par Microsoft ?
Pensez-vous également que la reconnaissance faciale devrait être réglementée ? Si oui, pourquoi et par qui ?

Voir aussi :

Des chercheurs Australiens créent un nouveau modèle de reconnaissance faciale 3D capable de reconnaitre des sujets portant des lunettes ou grimaçant
Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation en raison du nombre élevé de faux positifs
Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de fredinkan
Membre éprouvé https://www.developpez.com
Le 18/04/2019 à 15:58
Citation Envoyé par pierre.E Voir le message
microsoft qui se préoccupe de la vie privée lol
Tu serais très étonné. Je t'invite à aller lire les dernières versions des CGU et infos relatives aux données stockées et utilisées par MS en europe...

Ils se tienne à carreau car point de vue de leurs clients (pro) c'est quelque chose de très important, qui est un net avantage lors du choix du presta de solutions cloud.
Mais après, reste dans le microsft bashing des années 90, c'est pas grave
4  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 14/07/2018 à 19:35
Deux points à souligner :

* Le renouvellement de carte d'identité en France requiert dorénavant une photo à expression neutre sans lunette et à un format bien spécifique,

* Si mes souvenirs sont bons, le FBI dispose de plus de 400 millions de clichés numériques uniques dans sa base; la population américaine représente 325 millions d'habitants.

Il est grand temps de tirer la sonnette d'alarme comme le fait Microsoft.
3  0 
Avatar de i5evangelist
Membre averti https://www.developpez.com
Le 10/11/2018 à 8:14
Maintenant des gens achètent des trucs comme Google Home / Apple HomePod / Sonos One...
Sans vouloir être méprisant, faut bien avouer qu'il faut quand même avoir une case de vide pour acheter ces appareils, surtout pour savoir quel temps il fera demain ou écouter un titre de Michel Sardou.

mais je m'égare ...

La Chine met en place massivement les caméras à reconnaissance faciale, le parti communiste joue sont avenir, la seule solution pour rester au pouvoir, c'est de devenir une dictature totale, le grand timonier à vie l'a bien compris.
Pour nos sociétés occidentales, c'est clair que l'IA en général ne nous annonce pas spécialement un avenir radieux, enfin c'est mon sentiment.
3  0 
Avatar de Madmac
Membre éprouvé https://www.developpez.com
Le 19/04/2019 à 4:47
Citation Envoyé par Ryu2000 Voir le message
Celui qui a un smartphone peut déjà être suivi en permanence...
Des données peuvent être envoyer à son insu, même en désactivant les données mobile et le GPS.

La NSA a accès à nos emails, nos SMS et messages privées.
Votre téléphone peut être utilisé comme un micro. (vous êtes potentiellement sur écoute, même si ce n'est que pour du Big Data et des publicités ciblées)
Maintenant des gens achètent des trucs comme Google Home / Apple HomePod / Sonos One...

C'est marrant que ça vienne d'un gars de Microsoft.
WINDOWS 10 : COMMENT MICROSOFT VOUS ESPIONNE ET LES SOLUTIONS POUR S'EN PROTÉGER

Le futur risque d'être effrayant.
Si les gouvernements commencent à vouloir mettre ses opposants dans des camps, ça va devenir vraiment effrayant avec les caméras partout et l'IA de reconnaissance faciale.
Et les employés d'Amazon espionnent les clients d'Alex. Adieux vie privé avec ces saloperies. Et quand on parle de ces choses aux communs des mortels, ils nous regardent comme si nous portions des casque en aluminium .
3  0 
Avatar de pierre.E
Membre actif https://www.developpez.com
Le 18/04/2019 à 13:50
microsoft qui se préoccupe de la vie privée lol
4  2 
Avatar de Madmac
Membre éprouvé https://www.developpez.com
Le 19/04/2019 à 4:43
Citation Envoyé par Mingolito Voir le message
C'est dommage, moi je suis pour la reconnaissance faciale, comme c'est utilisé en Chine : genre verbalisation automatique de ceux qui traversent pas dans les clous, qui crachent par terre, etc
Le système de crédit social en Chine est juste génial !
Le système de crédit social chinois est la première chose qui m'est venu à l'esprit. Le meilleur des monde et 1984 mis ensemble. Quelle horreur !
2  0 
Avatar de Sipige
Membre régulier https://www.developpez.com
Le 15/07/2018 à 10:49
Pauvres chinois...
Les opposants sont vraiment dans le pétrin.
1  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 09/11/2018 à 14:08
Citation Envoyé par Stéphane le calme Voir le message
Aux États-Unis, c’est le FBI qui depuis des années consolide sa base de données avec des outils de reconnaissance faciale, et cela sans le consentement des Américains.
Cela laisse à supposer que les russes et les chinois ont été consultés sur la question et qu'ils ont donné leur consentement...
Y a t-il une trace de ce questionnement ? Un référendum ? Une consultation publique ?
1  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 09/11/2018 à 19:36
Citation Envoyé par Ryu2000 Voir le message

Le futur risque d'être effrayant.
Si les gouvernements commencent à vouloir mettre ses opposants dans des camps, ça va devenir vraiment effrayant avec les caméras partout et l'IA de reconnaissance faciale.
Et que crois-tu que fait Poutine ? Les exemples sont multiples et les assassinats politiques également.
La Chine n'est pas en reste pour des lavages de cerveau tel que subit le président démissionnaire d'Interpol. L'actrice chinoise aussi. Et ils n'ont pas encore utilisé d'IA dans ces cas là...
1  0 
Avatar de Madmac
Membre éprouvé https://www.developpez.com
Le 19/04/2019 à 4:39
Citation Envoyé par pierre.E Voir le message
microsoft qui se préoccupe de la vie privée lol
Ce n'est pas désintéressé. S'il le faisait tout les utilisateurs de Windows aurait eu de sérieuse raison de croire que Microsoft était devenu une extension de la NSA. Pour une fois, ils ne se pas conduit comme de parfait imbécile. La réticence vis-à-vis Cortana leur a donnée leçon.
1  0