IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Facebook segmente les publicités par race et âge en fonction des photos, que les annonceurs le veuillent ou non,
Selon une étude

Le , par Stéphane le calme

110PARTAGES

17  1 
Les services en ligne tels que Facebook et Google sont aujourd'hui un moyen populaire par lequel les utilisateurs sont exposés à des produits, des services, des points de vue et des opportunités. Ces services mettent en œuvre des plateformes publicitaires qui permettent un ciblage précis des utilisateurs de la plateforme, et ils optimisent la diffusion des publicités au sous-ensemble d'utilisateurs ciblés censés être les plus réceptifs.

Malheureusement, des travaux récents ont montré qu'une telle diffusion peut, souvent à l'insu des annonceurs, diffuser des annonces à des groupes d'utilisateurs biaisés uniquement en fonction du contenu de l'annonce.

Ces préoccupations sont particulièrement prononcées pour les publicités qui contiennent des images de personnes (par exemple, les offres d'emploi montrant des travailleurs), car les annonceurs sélectionnent souvent des images pour transmettre avec soin leurs objectifs et leurs valeurs (par exemple, pour promouvoir la diversité dans l'embauche).

Cependant, il n'est toujours pas clair comment les algorithmes de diffusion des publicités réagissent et prennent des décisions de diffusion en fonction des caractéristiques démographiques des personnes représentées dans ces images publicitaires.

Dans une étude, des chercheurs ont examiné comment une plateforme publicitaire majeure (Facebook) diffuse des publicités qui incluent des photos de personnes d'âges, de sexes et de races différents.


La promesse de Facebook aux annonceurs est que son système est intelligent, efficace et facile à utiliser. Vous téléchargez vos annonces, remplissez quelques détails et l'algorithme de Facebook fait sa magie, parcourant des millions de personnes pour trouver l'audience idéale.

Le fonctionnement interne de cet algorithme est opaque, même pour les personnes qui travaillent chez Meta, la société mère de Facebook. Mais des recherches extérieures offrent parfois un aperçu de ce qui s'y passe. Une étude publiée mardi dans le journal de la bibliothèque numérique de l'Association for Computer Machinery révèle que Facebook utilise un logiciel de reconnaissance d'images pour classer la race, le sexe et l'âge des personnes photographiées dans les publicités, et que cette détermination joue un rôle énorme dans qui voit les publicités. Les chercheurs ont constaté que davantage d'annonces mettant en scène de jeunes femmes étaient diffusées auprès d'hommes de plus de 55 ans ; que les femmes voient plus de publicités avec des enfants ; et que les Noirs voient plus de publicités avec des Noirs.

Dans l'étude, les chercheurs ont créé des annonces pour des offres d'emploi avec des photos de personnes. Dans certaines publicités, ils ont utilisé des photos d'archives, mais dans d'autres, ils ont utilisé l'IA pour générer des images synthétiques identiques, à l'exception des données démographiques des personnes sur les images. Ensuite, les chercheurs ont dépensé des dizaines de milliers de dollars pour diffuser les publicités sur Facebook, en gardant une trace des publicités diffusées à quels utilisateurs.

Les résultats ont été spectaculaires. En moyenne, le public qui a vu les photos synthétiques de personnes noires était à 81 % noir. Mais lorsqu'il s'agissait d'une photo d'une personne blanche, l'audience moyenne n'était que de 50 % de Noirs. Le public qui a vu des photos d'adolescentes était composé à 57 % d'hommes. Des photos de femmes plus âgées ont été présentées à un public composé à 58 % de femmes.

L'étude a également révélé que les images d'archives fonctionnaient de manière identique aux images de visages artificiels, ce qui laisse penser que ce sont uniquement les données démographiques, et non d'autres facteurs, qui déterminent le résultat.


Meta assure être en train de développer « une technologie pour aider à résoudre ces problèmes »

En supposant que le ciblage Facebook est efficace, cela peut ne pas être problématique lorsque vous envisagez des publicités pour des produits. Mais « lorsque nous parlons de publicité pour des opportunités telles que l'emploi, le logement, le crédit, voire l'éducation, nous pouvons voir que les choses qui auraient pu très bien fonctionner pour vendre des produits peuvent conduire à des résultats sociétalement problématiques », a déclaré Piotr Sapiezynski, chercheur à la Northeastern University, coauteur de l'étude.

En réponse à une demande de commentaires, Meta a déclaré que la recherche met en évidence une préoccupation à l'échelle de l'industrie. « Nous développons une technologie conçue pour aider à résoudre ces problèmes », a déclaré Ashley Settle, porte-parole de Meta. « Nous avons fait des efforts considérables pour prévenir la discrimination sur notre plateforme publicitaire et continuerons à engager des groupes clés de défense des droits civiques, des universitaires et des régulateurs dans ce travail ».

Le ciblage publicitaire de Facebook par race et par âge n'est peut-être pas non plus dans l'intérêt des annonceurs. Les entreprises choisissent souvent les personnes dans leurs publicités pour démontrer qu'elles valorisent la diversité. Elles ne veulent pas que moins de Blancs voient leurs publicités simplement parce qu'elles ont choisi une photo d'une personne noire. Même si Facebook sait que les hommes plus âgés sont plus susceptibles de regarder des publicités représentant des jeunes femmes, cela ne signifie pas qu'ils sont plus intéressés par les produits. Mais il y a des conséquences bien plus importantes en jeu.

« Apprentissage automatique, apprentissage en profondeur, toutes ces technologies sont conservatrices en principe », estime Sapiezynski. Il a ajouté que des systèmes comme ceux de Facebook optimisent les systèmes en examinant ce qui a fonctionné dans le passé et supposent que c'est ainsi que les choses devraient se présenter à l'avenir. Si les algorithmes utilisent des hypothèses démographiques brutes pour décider qui voit les annonces de logement, d'emploi ou d'autres opportunités, cela peut renforcer les stéréotypes et consacrer la discrimination.


L'annonce de gauche a été diffusée auprès de 56% d'utilisateurs blancs. L'annonce de droite n'a été diffusée qu'à 29% d'utilisateurs blancs. Les deux ont été exécutés en même temps, avec le même budget et les mêmes paramètres de ciblage

Ce n'est pas la première fois qu'une étude relève le ciblage publicitaire discriminatoire de l'algorithme de Facebook

L'enquête de ProPublica

Une enquête ProPublica de 2016 a révélé que Facebook laissait les spécialistes du marketing cacher les annonces de logement aux Noirs et à d'autres groupes protégés en violation de la loi sur le logement équitable. Après l'intervention du ministère de la Justice, Facebook a cessé de laisser les annonceurs cibler les publicités en fonction de la race, de la religion et de certains autres facteurs.

D'autres plateformes publicitaires, comme Google, ont annoncé des restrictions similaires. La question de savoir si ces restrictions sont suffisantes pour empêcher la discrimination d'un annonceur mal intentionné reste ouverte, car des études ont montré que les fonctionnalités avancées des plateformes publicitaires, telles que les audiences personnalisées et les audiences « sosies », peuvent être utilisées par les annonceurs.

L'enquête d'une équipe de l'Université de Californie du Sud

L’équipe de chercheurs s'est appuyée sur des travaux antérieurs pour mesurer la distorsion dans la diffusion des publicités, ils ont développé une nouvelle méthodologie pour l’étude des algorithmes discriminatoires dans la diffusion des annonces d'emploi. En appliquant la méthodologie aux plateformes Facebook et LinkedIn, les chercheurs ont confirmé l'existence d'un biais lié au sexe dans la diffusion des annonces sur Facebook, ils ont démontré qu'il ne peut être justifié par des différences de qualifications. Les chercheurs ont également indiqué qu’ils n’ont pas pu trouver de biais dans la diffusion des annonces sur LinkedIn.

Une étude réalisée en 2019 par un membre de l'équipe a fourni des preuves solides que l'algorithme publicitaire de Facebook est plus que capable d'être biaisé. En réponse à cette étude, et dans le sillage des critiques généralisées sur les outils qui pourraient être utilisés pour mener des campagnes publicitaires discriminatoires, Facebook avait déclaré à l'époque : « nous nous opposons à la discrimination sous toutes ses formes. Nous avons apporté des changements importants à nos outils de ciblage publicitaire et nous savons que ce n'est qu'une première étape. Nous avons examiné notre système de diffusion des annonces et avons engagé des leaders de l'industrie, des universitaires et des experts en droits civils sur ce même sujet ».

Selon l'étude, ce déséquilibre s'applique également aux offres d'emploi hautement qualifiées. Les algorithmes de Facebook étaient plus susceptibles de montrer aux femmes une annonce pour un emploi technique chez Netflix Inc, qui a un niveau d'emploi féminin relativement élevé pour le secteur technologique, qu'une annonce pour un emploi chez Nvidia Corp. un fabricant de puces graphiques dont la proportion d'employés masculins est plus élevée, selon les données des rapports d'emploi fédéraux.

Les résultats suggèrent « une plateforme dont l'algorithme apprend et perpétue la différence existante dans la démographie des employés », indique le document, notant que les algorithmes de Facebook semblaient produire des résultats biaisés même si un employeur avait l'intention d'atteindre un public démographiquement équilibré.

La loi fédérale interdit la discrimination fondée sur le sexe, la race, l'âge et d'autres caractéristiques dans la publicité pour le logement, l'emploi et les produits de crédit. Bien que l'application de cette loi à la publicité comportementale reste controversée, le gouvernement fédéral a fait valoir que les publicités doivent être distribuées de manière à ne pas désavantager les classes protégées sur le plan de leur capacité à les voir.

Même sans outil explicite donné aux annonceurs, il est possible de faire de la discrimination

Et même si les annonceurs ne peuvent pas explicitement dire à Facebook de faire de la discrimination, l'étude a révélé que l'algorithme de Facebook pourrait le faire en fonction des images qu'ils mettent de toute façon dans leurs publicités. C'est un problème si les régulateurs veulent forcer un changement.

Settle, le porte-parole de Meta, a déclaré que Meta avait investi dans de nouvelles technologies pour résoudre son problème de discrimination en matière de logement et que l'entreprise étendrait ces solutions aux publicités liées au crédit et à l'emploi. La société aura plus à partager dans les mois à venir, a-t-elle ajouté.

Vous pourriez regarder ces résultats et penser : « Facebook ne publie pas les données, mais peut-être que les publicités avec des photos de Noirs fonctionnent moins bien avec un public blanc ». Sapiezynski a estimé que même si c'était vrai, ce n'était pas une justification raisonnable.

Quoi qu'il en soit, nous ne disposons pas d'assez de données pour prouver que les méthodes de Facebook sont efficaces. La recherche peut démontrer que le système publicitaire des plateformes n'est pas aussi sophistiqué que Facebook veut que vous le pensiez. « Il n'y a pas vraiment de compréhension plus approfondie de ce à quoi sert réellement l'annonce. Ils regardent l'image et créent un stéréotype de la façon dont les gens se comportaient auparavant », a déclaré Sapiezynski. « Cela n'a aucun sens, juste des associations grossières. Ce sont donc des exemples, je pense, qui montrent que le système ne fait pas réellement ce que veut l'annonceur. »

Source : rapport de l'étude

Et vous ?

Êtes-vous surpris par les conclusions de cette étude qui a mis (encore une fois) en lumière la discrimination dans l'algorithme de ciblage publicitaire de Facebook ?
Quelles implications potentielles y voyez-vous ? En quoi la publicité discriminatoire de Facebook est-elle préjudiciable ?
Quelles solutions envisager pour mettre fin à la situation ?

Voir aussi :

L'intelligence artificielle de Facebook censure une publicité pour des graines d'oignon au motif de ce qu'elle l'a jugée "ouvertement sexuelle"

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de virginieh
Membre éprouvé https://www.developpez.com
Le 28/10/2022 à 8:02
Citation Envoyé par cdubet Voir le message
les deserts medicaux ca vous parle ?
Quel rapport entre le fait qu'il y ai des déserts médicaux et le fait qu'il y ait 75% de femmes en médecine ? (là aussi il faut de l'égalité, mais je vois pas comment tu fais un lien entre le 2 faits).

Par contre une anecdote : Quand j'étais en 1ere S j'avais environ 15 en maths, 12 en physique, 11 en biologie. Quand j'ai demandé à passer en Tale C (maths), ma conseillère d'orientation, et certains proches des gens de mon entourage se sont étonnés que je veuille m'orienter vers du technique au lieu de chercher à faire médecine justement parce que pour eux femme+bons résultats en science=médecine. Et 2 garçons de ma classe eux étaient poussés dans l'autre sens (ils avaient à peine la moyenne en maths, mais rattrapaient largement avec les autres moyennes) mais on leur mettait la pression pour qu'ils aillent en terminale C parce que c'était "la voie royale".
Tout ça pour dire que d'après moi en grand partie les inégalités vis à vis du genre aussi bien dans les STEM et en médecine ont la même cause justement : si on n'essaye plus de partir du principe que le genre doit déterminer tes gouts (que ce soit en matière de métier, de loisirs jusqu'aux couleurs qui doivent te plaire ou non), on aura fait un grand pas.

Citation Envoyé par cdubet Voir le message
On a meme un probleme plus general, le gros des personnes en echec scolaire sont des garcons, mais ca c est pas grave
Le système éducatif nécessiterais une vraie reprise en main et pas un abandon en laissant glisser les choses vers le pire.
Pourquoi les garçons sont ils plus en échec scolaire ?
- Parce qu'on les aide moins et/ou qu'eux de leur coté sont plus considère que demander/accepter de l'aide c'est faire preuve de faiblesse ?
- Parce que le système éducatif demande beaucoup d'acceptation de l'autorité et qu'eux sont plus encouragés à la défier ?
- Parce qu'une majorité des enseignants surtout en maternelle/primaire sont des femmes et qu'ils sont mal à l'aise ?
- Une autre raison ?

Reste que les pour 3 raisons qui me sont venues en tête, moins de sexisme aiderait considérablement les choses.

Mais je suis d'accord avec toi, le sexisme fais des dégâts dans les 2 sens et il faut se pencher sur tous les problèmes qu'ils génèrent.
Par exemple les hommes ont moins de droits en ce qui concerne la parentalité. Même s'il y a eu des progrès.

PS : sur le titre dans le forum : . Attention il ne faut pas pas lire pubis :p
2  0