Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des chercheurs développent une IA capable de déterminer si un sujet est gay ou hétéro
à partir de photos de son visage

Le , par Patrick Ruiz

26PARTAGES

11  1 
Des chercheurs de l’université de Standford ont utilisé des algorithmes d’apprentissage profond pour montrer que l’intelligence artificielle est meilleure que les humains pour déterminer l’orientation sexuelle d’un sujet à partir d’une photo. Au-delà du caractère scientifique de ses travaux, l’équipe de recherche voit l’IA qu’elle a mise sur pied comme un moyen de prévenir la communauté des lesbiennes, gays, bisexuels et transgenres des dangers qu’elle coure au quotidien.

VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu. Ces pourcentages surpassent ceux obtenus par des juges humains avec 61 % de prédictions correctes pour des sujets de sexe masculin contre 54 % pour ce qui est des sujets de sexe féminin.


Structure faciale et orientation sexuelle seraient liées

L’intelligence artificielle développée par les chercheurs ne ferait qu’extraire et analyser des caractéristiques faciales déterminées depuis le fœtus pour tirer son verdict. Le degré d’exposition à différents types d’hormones dont la testostérone en particulier, aurait un impact important sur la structure faciale d’un individu, l’une des conséquences étant qu’un homme gay présente une structure faciale plus féminine qu’un homme hétéro, la tendance inverse étant observée avec le genre féminin. La taille du menton, de la mâchoire, des sourcils, la longueur du nez ou la largeur du front sont autant de traits utilisés ici pour aboutir à ces conclusions. Un « petit » menton, une « petite » mâchoire, des sourcils fins, un long nez et un large front détectés sur la photo d’un homme permettent de le classer comme gay en comparaison à un autre homme hétéro.

Au-delà du caractère relativement discutable des critères évoqués, il faudrait noter que l’étude ne concerne que des personnes de race blanche. De plus, pas de prise en compte des cas d'individus bisexuels.

De sérieuses implications pour la vie privée

« Nos travaux montrent que les visages sont porteurs de beaucoup plus d’informations à propos de l’orientation sexuelle qu’un cerveau humain ne peut percevoir et interpréter », écrivent les chercheurs. Un véritable problème pour la vie privée quand on voit le degré de pénétration du numérique dans le quotidien des individus. Avec des milliards d’images faciales stockées en ligne sur des réseaux sociaux ou dans des bases de données gouvernementales, il n’est pas exclu qu’une telle IA soit reproduite pour détecter l’orientation sexuelle des individus.

Les chercheurs mettent d’ailleurs de l’emphase sur le fait que la technologie est déjà utilisée par certains gouvernements à ces fins. Leur recherche a donc pour but de prévenir le public des dangers auquel il s’expose et dans la mesure du possible en appeler à une forme de régulation.

Sources : Publication (PDF), commentaire des auteurs

Et vous ?

Qu’en pensez-vous ?
Quel commentaire faites-vous particulièrement du lien entre structure faciale et orientation sexuelle ?

Voir aussi :


Qui devra être tenu pour responsable si une intelligence artificielle fait un mauvais diagnostic induisant un médecin en erreur ?
Google utilise l'intelligence artificielle pour détecter la rétinopathie diabétique qui expose près de 415 millions de diabétiques à la cécité

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 10/09/2017 à 15:39
Citation Envoyé par Patrick Ruiz Voir le message
VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).
Corrections :
- les images ne sont tirées que d'un seul site de rencontre
- l'algo (épargnez-moi "l'IA" svp) ne reconnaît pas l'orientation sexuelle d'une personne, mais établit un ordre entre 2 personnes dont on sait à l'avance que l'une est homo et l'autre non

Ajouts :
- les images ne concernent que des profils de 18 à 40 ans (mais distribution et impact des âges peu détaillés)
- un profil homo/hétéro est identifié en fonction de ce qu'il annonce (si recherche du même genre, alors homo, sinon hétéro)
- les datasets homo/hétéro sont de même tailles (7388 individus chacun), très important pour évaluer les biais d'un algo de classification
- les datasets homme/femme sont de tailles similaires (7894 vs. 6882)
- les images ne sont pas exclusivement des images faciales style carte d'identité, ça vient d'une BDD bien plus large (~300K images) réduite à des photos où la reconnaissance faciale ne détecte qu'un seul visage, complet, pas trop petit, avec une inclinaison pas trop grande (critères exactes dans l'article). Il semble notamment que porter une casquette de base-ball ait son importance...

Citation Envoyé par Patrick Ruiz Voir le message
Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu.
Là par contre, 5 images ce n'est possible que pour 1260 individus (710 homos + 550 hétéros), soit 8.5% de la population. Mais vu à quel point ils ciblent un profil particulier (caucasien, vivant aux US, etc.) c'est plus une preuve de concept qu'une vrai expérimentation scientifique, où on cherche à répondre à une question de manière un minimum fiable. En l'occurrence, ce ne sont pas des images de type "caméra de surveillance", et les profils limités ne permettent pas de tirer de conclusion généralisable. Je ne remettrai pas par contre en cause les conclusions quant à la vie privée et la capacité supérieure de l'algo sur l'humain.

En mettant de côté le côté très limité de la BDD, ce qui me turlupine le plus est le choix de la méthode d'évaluation, qui se base non pas sur déterminer l'orientation sexuelle d'une personne (booléen homo/hétéro) mais sur ordonner une paire de personnes (booléen gauche/droite), ce qui est beaucoup plus facile. En effet, dès lors qu'on a 50.0001/49.9999, le premier est considéré homo, alors que l'interprétation la plus plausible est que l'algo n'en a pas la moindre idée. Ce qui rend la donne facile est qu'on retire tous les cas où ces nombres proches se justifient, c'est à dire les cas où les deux personnes ont la même orientation, cas où l'algorithme est censé retourner exactement 50/50 mais où il retourne probablement quelque chose de différent mais proche. On se garde donc de réduire la performance de l'algo sur les évaluations les plus difficiles. Si on prend donc 2 personnes dans la rue au hasard, sans savoir a priori leur orientation sexuelle, il y a fort à parier que l'algo fera énormément d'erreur, parce qu'il devait de toute façon en choisir une pour être homo et l'autre hétéro (et même si toutes les études sont encore à faire, je part du principe qu'on a bien moins que 50% d'homo dans le monde, pour des raisons purement darwiniennes). Et comme choisir un ordre sur 2 personnes plutôt qu'un simple booléen homo/hétéro, je ne pense pas que ça tombe par hasard, je penche pour un choix permettant de meilleures chances de publication. Choisir d'évaluer séparément hommes et femmes joue d'ailleurs probablement aussi en leur faveur, vu que justement les homos semblent avoir des caractères physiques plus proches du genre opposé (voir de l'androgynie), ce qui rendrait dès lors difficile de dire si une personne est homo d'un genre ou hétéro du genre opposé.

Il est à noter que l'article fait part d'un certain nombre de réserves à la fin, ce que je salue (ça n'aurait pas été accepté pour publication sinon), mais je ne trouve rien au sujet du choix d'utiliser des paires ordonnées plutôt que des booléens homo/hétéro, ce que je déplore.
16  0 
Avatar de pokap
Membre du Club https://www.developpez.com
Le 10/09/2017 à 14:48
Citation Envoyé par SuperLow Voir le message
Un IA a conscience d'elle même
Il n'y a pas de rapport entre la conscience et l'intelligence.

Sinon je cherche l'intérêt de vouloir développer un système qui reconnait l'orientation sexuelle en fonction du visage.
Pourquoi pas savoir s'il est susceptible d'être dangereux ou naif aussi ?
7  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 10/09/2017 à 18:26
Citation Envoyé par dourouc05 Voir le message
Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…
Si je prends Larousse pour référence, un algorithme est un :
Ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur.
Un système neuronal reste un algorithme, suivant des règles opératoires (sur la mise en place et l'évolution du réseau) dont l'application permet de résoudre un problème d'apprentissage machine au moyen d'un nombre fini d'opérations (le critère "fini" étant nécessairement satisfait pour des raisons pratiques). Je ne nierai donc pas qu'on se trouve à un niveau assez haut, mais il n'en reste pas moins qu'on parle là d'une procédure entièrement programmée, qui peut donc s'écrire sous forme d'algorithme et être implémentée sous forme de programme.
5  0 
Avatar de tmcuh
Membre habitué https://www.developpez.com
Le 11/09/2017 à 10:11
Je pense plutôt que l'étude scientifique ici est de déterminé qu'il est possible de le faire, un peu comme les chercheurs en sécurités qui trouvent des failles.
Ça permet aux gens de se rendre compte ce que les gouvernements radicaux peuvent engendrer contre sa population.
Et quand le grand généticien Jacquard disait dans les années 90, qu'on est en train de sélectionner les gens les plus dangereux, il avait pas tord. On cours vers une forme d'eugénisme , de catégoriser la population pour créer cette forme parfaite d'homme toujours plus méchant.

C'est marrant car je me voyais gosse avec des lunettes qui me permettrait de voir les sentiments des gens, c'est ce vers quoi on va 20 plus-tard...
5  0 
Avatar de fig77
Membre à l'essai https://www.developpez.com
Le 18/03/2018 à 13:41
Citation Envoyé par Chauve souris Voir le message
Oui, ça s'appelle le déisme et c'est la prédisposition psychopathologique pour accéder aux religions qui, elles, sont du domaine sociologique. Donc il y a ceux qui ont besoin d'un dieu et ceux qui n'en ont pas besoin. C'est comme les névroses ça ne met pas en cause l'intelligence de la personne. Moi je suis comme Laplace : "je n'ai pas eu besoin de cette hypothèse".
Tu te trompe, il voulait dire que nous avons besoin de croire en quelque chose, pas seulement en Dieu.
La preuve, tu crois que Dieu n'existe pas, par exemple, ce qui est, en absence de preuve, tout aussi irrationnel que de croire qu'il existe.

Mais dans un autre ordre, quand tu prends un médicament, tu crois que cela va te guérir, alors même que tu ne sais pas réellement ce qui est dedans.
Bref, on a tous besoin de croire pour vivre, parce qu'on ne peut pas TOUT vérifier par soi même. Pour notre équilibre psychologique, on ne peut pas remettre en cause tout ce qu'on nous dit. (un homme en blouse blanche, un autre en salopette pleine de cambouis... )

Toutes choses étant égales, un déiste vit sans doute plus sereinement qu'un athée et ça ne dépend pas du fait qu'il ait à tord ou raison. Croire que sa vie à un but plus grand que soi même ou/et se croire protégé de manière surnaturelle, ça aide à traverser les douleurs de l’existence.

Ce hors sujet étant fait et pour en revenir au fil, l'homosexualité n'est pas seulement lié aux hormones donc à d'éventuelles structures du visage. Elle peut aussi être d'ordre psychiatrique (et oui, un viol peut entraîner cela) et culturel (et oui en grèce antique les hommes étaient bisexuels et ne se posaient pas de question à ce sujet)
4  0 
Avatar de RyzenOC
Inactif https://www.developpez.com
Le 10/09/2017 à 17:03
la meme chose mais pour savoir si la personne est juive ou pas SVP

j'ai lu l'article original, comme l'a dit Matthieu Vergne, c'est loins d’être un algo fiable.
Maintenant avec une BDD de 2 milliards d’individus avec au moins 10photos/individus on peut peut-etre en tirer de grande tendances ? qui a dit Facebook

Sinon, l'analyse du visage existe déjà cela s’appelle la Morphopsychologie, avec la fiabilité que l'on connait sinon vous avez la graphologie aussi, une autre fumisterie...
bientôt une "IA" capable de savoir si vous êtes gay en fonction de votre écriture ? la bdd de l'éducation national piraté

ce qui m’inquiète c'est qu'a terme certains recruteur utilise ce genre de procédé, des algos d'analyse du visage, de l'écriture, de ta façon de respirer.... je sais déjà que la graphologie est utilisé par certains recruteurs en secret évidement, le procédé n'étant pas très légale. Mon ancienne école d'ingénieur, l’utilisait il y'a plus de 8ans, elle payait un graphologue pour analyser les lettres de motivation.
4  1 
Avatar de captaindidou
Inactif https://www.developpez.com
Le 10/09/2017 à 17:30
Le gouvernement tchétchène et iranien ont manifesté un vif intérêt pour cette invention.
5  2 
Avatar de koyosama
Membre éprouvé https://www.developpez.com
Le 11/09/2017 à 9:14
Je n'aime du tout ou la recherche va. Ou plutot, a quoi il va servir.
4  1 
Avatar de sergio_is_back
Membre expert https://www.developpez.com
Le 11/09/2017 à 9:42
Beaucoup nous vendent de l'IA en ce moment (c'est la mode) mais aucun n'a d'échantillon en stock....
4  1 
Avatar de dourouc05
Responsable Qt & Livres https://www.developpez.com
Le 10/09/2017 à 17:15
Citation Envoyé par Matthieu Vergne Voir le message
l'algo (épargnez-moi "l'IA" svp)
Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…
2  0