Des chercheurs développent une IA capable de déterminer si un sujet est gay ou hétéro
à partir de photos de son visage

Le , par Patrick Ruiz, Chroniqueur Actualités
Des chercheurs de l’université de Standford ont utilisé des algorithmes d’apprentissage profond pour montrer que l’intelligence artificielle est meilleure que les humains pour déterminer l’orientation sexuelle d’un sujet à partir d’une photo. Au-delà du caractère scientifique de ses travaux, l’équipe de recherche voit l’IA qu’elle a mise sur pied comme un moyen de prévenir la communauté des lesbiennes, gays, bisexuels et transgenres des dangers qu’elle coure au quotidien.

VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu. Ces pourcentages surpassent ceux obtenus par des juges humains avec 61 % de prédictions correctes pour des sujets de sexe masculin contre 54 % pour ce qui est des sujets de sexe féminin.


Structure faciale et orientation sexuelle seraient liées

L’intelligence artificielle développée par les chercheurs ne ferait qu’extraire et analyser des caractéristiques faciales déterminées depuis le fœtus pour tirer son verdict. Le degré d’exposition à différents types d’hormones dont la testostérone en particulier, aurait un impact important sur la structure faciale d’un individu, l’une des conséquences étant qu’un homme gay présente une structure faciale plus féminine qu’un homme hétéro, la tendance inverse étant observée avec le genre féminin. La taille du menton, de la mâchoire, des sourcils, la longueur du nez ou la largeur du front sont autant de traits utilisés ici pour aboutir à ces conclusions. Un « petit » menton, une « petite » mâchoire, des sourcils fins, un long nez et un large front détectés sur la photo d’un homme permettent de le classer comme gay en comparaison à un autre homme hétéro.

Au-delà du caractère relativement discutable des critères évoqués, il faudrait noter que l’étude ne concerne que des personnes de race blanche. De plus, pas de prise en compte des cas d'individus bisexuels.

De sérieuses implications pour la vie privée

« Nos travaux montrent que les visages sont porteurs de beaucoup plus d’informations à propos de l’orientation sexuelle qu’un cerveau humain ne peut percevoir et interpréter », écrivent les chercheurs. Un véritable problème pour la vie privée quand on voit le degré de pénétration du numérique dans le quotidien des individus. Avec des milliards d’images faciales stockées en ligne sur des réseaux sociaux ou dans des bases de données gouvernementales, il n’est pas exclu qu’une telle IA soit reproduite pour détecter l’orientation sexuelle des individus.

Les chercheurs mettent d’ailleurs de l’emphase sur le fait que la technologie est déjà utilisée par certains gouvernements à ces fins. Leur recherche a donc pour but de prévenir le public des dangers auquel il s’expose et dans la mesure du possible en appeler à une forme de régulation.

Sources : Publication (PDF), commentaire des auteurs

Et vous ?

Qu’en pensez-vous ?
Quel commentaire faites-vous particulièrement du lien entre structure faciale et orientation sexuelle ?

Voir aussi :


Qui devra être tenu pour responsable si une intelligence artificielle fait un mauvais diagnostic induisant un médecin en erreur ?
Google utilise l'intelligence artificielle pour détecter la rétinopathie diabétique qui expose près de 415 millions de diabétiques à la cécité


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de Old Geek Old Geek - Membre averti https://www.developpez.com
le 10/09/2017 à 13:36
Qu’en pensez-vous ?

Que ces chercheurs sont des autistes, que publier ça à l'heure actuel est criminels. Dommage que ces chercheurs ne soient pas capable de comprendre que la majorité des humains de cette planète sont plus proche du macaque que de l'homme avec tout ce que ça implique. Ne pas oublier que 85% de cette planète est encore convaincu de l'existence d'un dieu (voir plusieurs).
Avatar de SuperLow SuperLow - Nouveau Candidat au Club https://www.developpez.com
le 10/09/2017 à 14:36
Ce n'est pas une IA mais un programme qui se base sur les données de centaines de personne pour établir une statistiques.
On n'a jamais appelé IA un programme capable de reconnaitre des caractères alpha numérique ...

Un IA a conscience d'elle même, un programme ou une pantoufle non.

Et encore une fois, les auteurs de ce programme de reconnaissance faciale ne parle pas d'IA, seulement les rédacteurs de developpez.net parle d'IA.
Avatar de pokap pokap - Nouveau membre du Club https://www.developpez.com
le 10/09/2017 à 14:48
Citation Envoyé par SuperLow  Voir le message
Un IA a conscience d'elle même

Il n'y a pas de rapport entre la conscience et l'intelligence.

Sinon je cherche l'intérêt de vouloir développer un système qui reconnait l'orientation sexuelle en fonction du visage.
Pourquoi pas savoir s'il est susceptible d'être dangereux ou naif aussi ?
Avatar de Excellion Excellion - Membre actif https://www.developpez.com
le 10/09/2017 à 15:04
Ri-di-cule. Et encore, c'est un euphémisme.
Tout ce qu'on peut apprendre en regardant une photo est ... que c'est une photo.

Donc un instantané d'une personne dans un point précis de l'espace et du temps. Et si on vous juge sur votre photo d'identité, tout ce qu'on peut émettre comme hypothèse est que vous devez sortit de prison...

Cela n'est pas sans rappeler le nazisme et leurs méthodes pseudo-scientifiques pour discriminer une personne sur des traits raciaux supposés.
Avatar de kopbuc kopbuc - Membre régulier https://www.developpez.com
le 10/09/2017 à 15:12
Citation Envoyé par SuperLow  Voir le message
Ce n'est pas une IA mais un programme qui se base sur les données de centaines de personne pour établir une statistiques.
On n'a jamais appelé IA un programme capable de reconnaitre des caractères alpha numérique ...

Un IA a conscience d'elle même, un programme ou une pantoufle non.

Et encore une fois, les auteurs de ce programme de reconnaissance faciale ne parle pas d'IA, seulement les rédacteurs de developpez.net parle d'IA.

Tu vas nous sortir ce commentaire sur chaque article parlant d'IA ?

https://www.developpez.net/forums/d1...s/#post9583376
Avatar de Matthieu Vergne Matthieu Vergne - Expert confirmé https://www.developpez.com
le 10/09/2017 à 15:39
Citation Envoyé par Patrick Ruiz  Voir le message
VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Corrections :
- les images ne sont tirées que d'un seul site de rencontre
- l'algo (épargnez-moi "l'IA" svp) ne reconnaît pas l'orientation sexuelle d'une personne, mais établit un ordre entre 2 personnes dont on sait à l'avance que l'une est homo et l'autre non

Ajouts :
- les images ne concernent que des profils de 18 à 40 ans (mais distribution et impact des âges peu détaillés)
- un profil homo/hétéro est identifié en fonction de ce qu'il annonce (si recherche du même genre, alors homo, sinon hétéro)
- les datasets homo/hétéro sont de même tailles (7388 individus chacun), très important pour évaluer les biais d'un algo de classification
- les datasets homme/femme sont de tailles similaires (7894 vs. 6882)
- les images ne sont pas exclusivement des images faciales style carte d'identité, ça vient d'une BDD bien plus large (~300K images) réduite à des photos où la reconnaissance faciale ne détecte qu'un seul visage, complet, pas trop petit, avec une inclinaison pas trop grande (critères exactes dans l'article). Il semble notamment que porter une casquette de base-ball ait son importance...

Citation Envoyé par Patrick Ruiz  Voir le message
Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu.

Là par contre, 5 images ce n'est possible que pour 1260 individus (710 homos + 550 hétéros), soit 8.5% de la population. Mais vu à quel point ils ciblent un profil particulier (caucasien, vivant aux US, etc.) c'est plus une preuve de concept qu'une vrai expérimentation scientifique, où on cherche à répondre à une question de manière un minimum fiable. En l'occurrence, ce ne sont pas des images de type "caméra de surveillance", et les profils limités ne permettent pas de tirer de conclusion généralisable. Je ne remettrai pas par contre en cause les conclusions quant à la vie privée et la capacité supérieure de l'algo sur l'humain.

En mettant de côté le côté très limité de la BDD, ce qui me turlupine le plus est le choix de la méthode d'évaluation, qui se base non pas sur déterminer l'orientation sexuelle d'une personne (booléen homo/hétéro) mais sur ordonner une paire de personnes (booléen gauche/droite), ce qui est beaucoup plus facile. En effet, dès lors qu'on a 50.0001/49.9999, le premier est considéré homo, alors que l'interprétation la plus plausible est que l'algo n'en a pas la moindre idée. Ce qui rend la donne facile est qu'on retire tous les cas où ces nombres proches se justifient, c'est à dire les cas où les deux personnes ont la même orientation, cas où l'algorithme est censé retourner exactement 50/50 mais où il retourne probablement quelque chose de différent mais proche. On se garde donc de réduire la performance de l'algo sur les évaluations les plus difficiles. Si on prend donc 2 personnes dans la rue au hasard, sans savoir a priori leur orientation sexuelle, il y a fort à parier que l'algo fera énormément d'erreur, parce qu'il devait de toute façon en choisir une pour être homo et l'autre hétéro (et même si toutes les études sont encore à faire, je part du principe qu'on a bien moins que 50% d'homo dans le monde, pour des raisons purement darwiniennes). Et comme choisir un ordre sur 2 personnes plutôt qu'un simple booléen homo/hétéro, je ne pense pas que ça tombe par hasard, je penche pour un choix permettant de meilleures chances de publication. Choisir d'évaluer séparément hommes et femmes joue d'ailleurs probablement aussi en leur faveur, vu que justement les homos semblent avoir des caractères physiques plus proches du genre opposé (voir de l'androgynie), ce qui rendrait dès lors difficile de dire si une personne est homo d'un genre ou hétéro du genre opposé.

Il est à noter que l'article fait part d'un certain nombre de réserves à la fin, ce que je salue (ça n'aurait pas été accepté pour publication sinon), mais je ne trouve rien au sujet du choix d'utiliser des paires ordonnées plutôt que des booléens homo/hétéro, ce que je déplore.
Avatar de RyzenOC RyzenOC - Membre expert https://www.developpez.com
le 10/09/2017 à 17:03
la meme chose mais pour savoir si la personne est juive ou pas SVP

j'ai lu l'article original, comme l'a dit Matthieu Vergne, c'est loins d’être un algo fiable.
Maintenant avec une BDD de 2 milliards d’individus avec au moins 10photos/individus on peut peut-etre en tirer de grande tendances ? qui a dit Facebook

Sinon, l'analyse du visage existe déjà cela s’appelle la Morphopsychologie, avec la fiabilité que l'on connait sinon vous avez la graphologie aussi, une autre fumisterie...
bientôt une "IA" capable de savoir si vous êtes gay en fonction de votre écriture ? la bdd de l'éducation national piraté

ce qui m’inquiète c'est qu'a terme certains recruteur utilise ce genre de procédé, des algos d'analyse du visage, de l'écriture, de ta façon de respirer.... je sais déjà que la graphologie est utilisé par certains recruteurs en secret évidement, le procédé n'étant pas très légale. Mon ancienne école d'ingénieur, l’utilisait il y'a plus de 8ans, elle payait un graphologue pour analyser les lettres de motivation.
Avatar de dourouc05 dourouc05 - Responsable Qt https://www.developpez.com
le 10/09/2017 à 17:15
Citation Envoyé par Matthieu Vergne  Voir le message
l'algo (épargnez-moi "l'IA" svp)

Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…
Avatar de captaindidou captaindidou - Membre confirmé https://www.developpez.com
le 10/09/2017 à 17:30
Le gouvernement tchétchène et iranien ont manifesté un vif intérêt pour cette invention.
Avatar de Matthieu Vergne Matthieu Vergne - Expert confirmé https://www.developpez.com
le 10/09/2017 à 18:26
Citation Envoyé par dourouc05  Voir le message
Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…

Si je prends Larousse pour référence, un algorithme est un :
Ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur.

Un système neuronal reste un algorithme, suivant des règles opératoires (sur la mise en place et l'évolution du réseau) dont l'application permet de résoudre un problème d'apprentissage machine au moyen d'un nombre fini d'opérations (le critère "fini" étant nécessairement satisfait pour des raisons pratiques). Je ne nierai donc pas qu'on se trouve à un niveau assez haut, mais il n'en reste pas moins qu'on parle là d'une procédure entièrement programmée, qui peut donc s'écrire sous forme d'algorithme et être implémentée sous forme de programme.
Contacter le responsable de la rubrique Accueil