IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Facebook encourage les discours de haine pour gagner de l'argent, selon une lanceuse d'alerte
Qui a publié des informations qu'elle a pu glaner durant son passage au sein de l'entreprise

Le , par Stéphane le calme

238PARTAGES

6  0 
La dénonciatrice derrière la fuite d'un énorme cache de documents Facebook qui a servi de socle pour une série de révélations sur le numéro un des réseaux sociaux s'est dévoilée dimanche durant l'émission 60 Minutes sur CBS News. Répondant au nom Frances Haugen, la dénonciatrice en a révélé davantage sur le fonctionnement interne de la plateforme de médias sociaux la plus puissante au monde. Haugen a décrit une entreprise si engagée dans l'optimisation des produits qu'elle a adopté des algorithmes qui amplifient les discours de haine.

Frances Haugen. C'est un nom que Facebook a tenu à obtenir depuis le mois dernier lorsqu'un ancien employé anonyme a déposé des plaintes auprès des forces de l'ordre fédérales. L'une de ces plaintes indique que les propres recherches de Facebook montrent que le réseau social amplifie la haine, la désinformation et les troubles politiques, mais l'entreprise cache ce qu'elle sait. Une autre allègue qu'Instagram de Facebook nuit aux adolescentes.

Ce qui rend les plaintes de Haugen sans précédent, c'est la mine de recherches privées sur Facebook qu'elle a pu fournir lorsqu'elle a démissionné en mai. Les documents sont apparus pour la première fois, le mois dernier. Frances Haugen a décidé de révéler son identité pour expliquer pourquoi elle est devenue la dénonciatrice de Facebook.

Frances Haugen, 37 ans, est une data scientist originaire de l'Iowa, diplômée en ingénierie informatique et titulaire d'une maîtrise en commerce de Harvard. Selon un profil LinkedIn désormais supprimé, Haugen était un chef de produit chez Facebook affecté au groupe Civic Integrity. Elle a choisi de quitter l'entreprise après la dissolution du groupe. Elle a dit qu'elle n'avait « pas confiance dans le fait qu'ils étaient prêts à investir pour empêcher Facebook d'être dangereux ».

Par conséquent, elle a divulgué un cache de recherches internes à la Securities and Exchange Commission dans l'espoir d'améliorer la réglementation de l'entreprise. Elle a noté qu'elle avait travaillé dans un certain nombre d'entreprises, dont Google et Pinterest, mais que « c'était nettement pire chez Facebook » en raison de la volonté de l'entreprise de faire passer ses bénéfices avant le bien-être de ses utilisateurs.

« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley.


« Imaginez que vous savez ce qui se passe à l'intérieur de Facebook et que personne ne le sait à l'extérieur. Je savais à quoi ressemblerait mon avenir si je continuais à rester à l'intérieur de Facebook », a-t-elle continué.

Et Pelley de lui demandé : « Quand et comment vous est-il venu à l'esprit de retirer tous ces documents de l'entreprise ? »

Ce à quoi elle a répondu : « À un moment donné en 2021, je me suis dit : "D'accord, je vais devoir le faire de manière systémique, et je dois en sortir suffisamment pour que personne ne puisse remettre en question le fait que c'est réel" ».

Elle a secrètement copié des dizaines de milliers de pages de recherches internes sur Facebook. Elle dit que les preuves montrent que l'entreprise ment au public sur ses progrès significatifs contre la haine, la violence et la désinformation.

Scott Pelley : Pour citer un autre des documents que vous avez publiés : « Nous avons des preuves provenant de diverses sources que les discours de haine, les discours politiques qui divisent et la désinformation sur Facebook et la famille d'applications affectent les sociétés du monde entier. »

Frances Haugen : Lorsque nous vivons dans un environnement d'information rempli de contenus colériques, haineux et polarisants, cela érode notre confiance civique, cela érode notre confiance mutuelle, cela érode notre capacité à vouloir prendre soin les uns des autres, la version de Facebook qui existe aujourd'hui déchire nos sociétés et provoque des violences ethniques dans le monde.

Frances Haugen a déclaré qu'elle avait été recrutée par Facebook en 2019. Elle dit n'avoir accepté le poste qu'à la condition de pouvoir lutter contre la désinformation parce qu'elle avait perdu un ami à cause des théories du complot en ligne.

Frances Haugen : Je n'ai jamais voulu que quelqu'un ressente la douleur que j'avais ressentie. Et j'avais vu à quel point les enjeux étaient importants pour s'assurer qu'il y avait des informations de haute qualité sur Facebook.

Au siège, elle a été affectée à l'intégrité civique qui a travaillé sur les risques pour les élections, y compris la désinformation. Mais après cette dernière élection, il y a eu un tournant.

Frances Haugen : Ils nous ont dit : « Nous sommes en train de dissoudre l'intégrité civique. En gros, c'était « bah, nous avons survécu aux élections. Il n'y a pas eu d'émeutes. Nous pouvons nous débarrasser de l'intégrité civique maintenant ». Avance rapide de quelques mois, nous avons eu l'insurrection. Et quand ils se sont débarrassés de l'intégrité civique, c'est à ce moment-là que je me suis dit : « Je ne crois pas qu'ils soient prêts à investir ce qui doit être investi pour empêcher Facebook d'être dangereux ».

Facebook affirme que le travail de Civic Integrity a été distribué à d'autres unités. Mais Haugen a une autre perspective : selon elle, la racine du problème de Facebook réside dans un changement qu'il a apporté en 2018 à ses algorithmes - la programmation qui décide de ce que vous voyez sur votre fil d'actualité Facebook.

Frances Haugen : Alors, vous savez, vous avez votre téléphone. Vous pourriez ne voir que 100 éléments de contenu si vous vous asseyez et faites défiler pendant, disons, cinq minutes. Mais Facebook a des milliers d'options qu'il pourrait vous montrer.


L'algorithme choisit parmi ces options en fonction du type de contenu avec lequel vous vous êtes le plus engagé dans le passé.

Frances Haugen : Et l'une des conséquences de la façon dont Facebook sélectionne ce contenu aujourd'hui, c'est qu'il s'agit d'optimiser le contenu qui suscite l'engagement ou la réaction. Mais ses propres recherches montrent qu'un contenu haineux, qui divise, qui polarise, inspire plus facilement aux gens de la colère que d'autres émotions.

Scott Pelley : La désinformation, du contenu plein de colère est attrayant pour les gens et continue de les garder sur la plateforme.

Françoise Haugen : Oui. Facebook s'est rendu compte que s'ils changent l'algorithme pour qu'il devienne plus sûr, les gens passeront moins de temps sur le site, ils cliqueront sur moins de publicités, ils gagneront moins d'argent.

Haugen note que Facebook a compris le danger pour les élections de 2020. Facebook a donc activé les systèmes de sécurité pour réduire la désinformation, mais bon nombre de ces changements, dit-elle, étaient temporaires.

Frances Haugen : Et dès que les élections étaient terminées, ils les ont désactivés ou ils ont ramené les paramètres à ce qu'ils étaient avant, pour donner la priorité à la croissance plutôt qu'à la sécurité. Et cela ressemble vraiment à une trahison de la démocratie pour moi.

Scott Pelley : Facebook amplifie essentiellement le pire de la nature humaine.

Frances Haugen : C'est l'une de ces conséquences malheureuses, n'est-ce pas ? Personne chez Facebook n'est malveillant, mais les incitations sont mal alignées, n'est-ce pas ? Néanmoins, Facebook gagne plus d'argent lorsque vous consommez plus de contenu. Les gens aiment s'engager dans des choses qui suscitent une réaction émotionnelle. Et plus ils sont exposés à la colère, plus ils interagissent et plus ils consomment.

Cette dynamique a conduit à une plainte auprès de Facebook par les principaux partis politiques à travers l'Europe. Ce rapport interne de 2019 obtenu par Haugen indique que les parties, « … ont le sentiment profond que le changement de l'algorithme les a forcées à biaiser négativement leurs communications sur Facebook… les conduisant à adopter des positions politiques plus extrêmes ».

Scott Pelley : Les partis politiques européens disaient essentiellement à Facebook que la façon dont vous avez écrit votre algorithme change la façon dont nous dirigeons nos pays.


Françoise Haugen : Oui. Vous nous forcez à prendre des positions que nous n'aimons pas, que nous savons être mauvaises pour la société. Nous savons que si nous ne prenons pas ces positions, nous ne gagnerons pas sur le marché des médias sociaux. La preuve du préjudice, dit-elle, s'étend à l'application Instagram de Facebook.

Scott Pelley : L'une des études internes de Facebook que vous avez trouvées parle de la façon dont Instagram nuit aux adolescentes. Une étude indique que 13,5 % des adolescentes disent qu'Instagram aggrave les pensées suicidaires ; 17 % des adolescentes disent qu'Instagram aggrave les troubles de l'alimentation.

Frances Haugen : Et ce qui est super tragique, c'est que la propre recherche de Facebook dit, alors que ces jeunes femmes commencent à consommer ce contenu de trouble de l'alimentation, elles deviennent de plus en plus déprimées. Et cela les incite en fait à utiliser davantage l'application. Et ainsi, elles se retrouvent dans ce cycle de rétroaction où elles détestent de plus en plus leur corps. Les propres recherches de Facebook indiquent que ce n'est pas seulement Instagram qui est dangereux pour les adolescents, qu'il nuit aux adolescents, c'est qu'il est nettement pire que les autres formes de médias sociaux.

Facebook a déclaré, il y a quelques jours, qu'il reporterait les projets de création d'un compte Instagram pour les plus jeunes.

Le mois dernier, les avocats de Haugen ont déposé au moins 8 plaintes auprès de la Securities and Exchange Commission, qui applique la loi sur les marchés financiers. Les plaintes comparent la recherche interne avec le visage public de l'entreprise, souvent celui du PDG Mark Zuckerberg, qui a témoigné à distance devant le Congrès en mars dernier. Durant cet exercice qui a eu lieu le 25 mars, Mark Zuckerberg a déclaré : « Nous avons supprimé le contenu qui pourrait entraîner des dommages imminents dans le monde réel. Nous avons mis en place un programme de vérification des faits par des tiers sans précédent. Le système n'est pas parfait. Mais c'est la meilleure approche que nous ayons trouvée pour lutter contre la désinformation conformément aux valeurs de notre pays ».

La réaction de Facebook

Facebook a publié une déclaration contestant les points soulevés par Haugen après l'interview télévisée.

« Nous continuons d'apporter des améliorations significatives pour lutter contre la propagation de la désinformation et du contenu préjudiciable », a déclaré la porte-parole de Facebook, Lena Pietsch. « Suggérer que nous encourageons le mauvais contenu et que nous ne faisons rien n'est tout simplement pas vrai ».

Avant l'interview de 60 minutes, le vice-président des affaires mondiales de Facebook, Nick Clegg, a déclaré sur CNN qu'il était « ridicule » d'affirmer que l'émeute du 6 janvier s'est produite à cause des médias sociaux.

Pourparlers internationaux

Dimanche, l'avocat de Haugen, John Tye, fondateur de l'organisation à but non lucratif Whistleblower Aid whistlebloweraid.org, a confirmé un rapport du New York Times selon lequel certains des documents internes ont été partagés avec les procureurs généraux de plusieurs États, dont la Californie, le Vermont et le Tennessee.

Tye a déclaré que les plaintes avaient été déposées auprès de la SEC sur la base qu'en tant que société cotée en bourse, Facebook est tenu de ne pas mentir à ses investisseurs, ni même de retenir des informations importantes.

Les plaintes comparent les recherches internes de Facebook avec ses déclarations publiques sur les problèmes qu'il a étudiés, selon l'interview de 60 Minutes.

Tye a déclaré que Haugen s'était également entretenu avec des législateurs en Europe et devait comparaître devant le Parlement britannique plus tard ce mois-ci, dans l'espoir de stimuler une action réglementaire.

Lui et Haugen sont également intéressés à parler avec des législateurs de pays d'Asie, car bon nombre des problèmes qui ont motivé Haugen proviennent de la région, y compris la violence ethnique au Myanmar, a-t-il ajouté.

Whistleblower Aid, qui représente Haugen pro bono, a également lancé un GoFundMe pour collecter 50 000 $ pour ses frais juridiques.

Et vous ?

Quelle lecture en faites-vous ?

Voir aussi :

Les recherches de Facebook montrent qu'Instagram est nocif pour les adolescents, mais l'entreprise relativise et défend que cela dépend de leur état d'esprit et la manière dont ils l'utilisent
Facebook suspend son projet de lancer Instagram Kids, cette décision fait suite aux préoccupations concernant les effets sur la santé mentale des moins de 13 ans

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de vanquish
Membre expérimenté https://www.developpez.com
Le 16/11/2021 à 15:21
Citation Envoyé par redcurve Voir le message
Facebook n'est pas devenu Meta
Quand même un peu ...

Soit ! Le produit/site/réseau social s'appelait et continue de s'appeler "Facebook".
Mais la société "Facebook Inc." a bien changé de nom en (et est donc devenu) "Meta Platforms, Inc."

Alors ne pas spécifier le "Inc." est peut-être un raccourci de langage, mais on dit "Microsoft", jamais "Microsoft Corp."
On ne peut pas considérer la phrase comme fausse.
7  0 
Avatar de tanaka59
Membre extrêmement actif https://www.developpez.com
Le 19/10/2021 à 14:11
Bonjour,

Facebook estime que l'IA va assainir sa plateforme, mais ses propres ingénieurs ont des doutes notant que l'IA est loin de pouvoir appliquer avec succès les règles de la plateforme contre les contenus problématiques

Quelle lecture en faites-vous ?
Une ia comme son nom l'indique = intelligence artificielle .

Artificiel = Produit par le travail de l'homme et non par la nature.

Cela est donc soumis à des règles de gestion et de fonctionnement. Ce n'est pas l'intelligence naturelle d'un cerveau humain .

Donc l'ia en question peut avoir des résultats complétement con .

Caricature de Macron en hitler :



Photo historique d'un véhicule allemand nazi :



> pour l'ia Facebook = la caricature de macron passe
> la photo historique = photo raciste

----

En tenant compte de la notion de "contexte" et "subtilité" pour un humain , chose à la quelle l'ia a bien du mal ou alors n'est pas programmée pour :

> la caricature de macron est raciste
> l photo historique acceptable

Le jour ou l'ia arrivera a tenir compte des notions de "contexte" et "subtilité" , peut être, je dis bien peut être qu'on arrivera a avancer ...

Peut être doit on garder une main mise, sur une modération manuelle ?

Tout ce qui n'est pas régi par des règles binaires est peut être tout simplement impossible à régir informatiquement ?

Les émotions, les sentiments, les jugements, les envies , les goûts , les valeurs ...
5  0 
Avatar de Fagus
Membre éprouvé https://www.developpez.com
Le 07/10/2021 à 14:53
Citation Envoyé par Charrette Voir le message
Il y a tellement d'utilisateurs sur Facebook, qu'il me parait difficile de tout contrôler,
Ce n'est pas tant cela le problème. Ils pourraient très bien mettre en place un système antique de permis à points géré par des modérateurs. Au bout d'un certain nombre d'avertissements c'est la fermeture du compte, comme sur les forums.

Le problème c'est plutôt que leurs algorithmes ont bénéficié des recherches en psychologie et sont capable de manipuler l'état émotionnel des gens (car une personne révoltée est plus attentive à la publicité, reste plus en, ligne, etc.) , sont capable d'induire des abstentions de vote etc., polarisent les opinions, et dégradent l'état mental des gens. C'est documenté et ils ne s'en privent pas du tout.

Cette société est malveillante. La structuration même du fil d'actualité infini crée le scroll of death. En réaction à ça, les gens de Framasoft ont crée Mobilizon .
3  0 
Avatar de kain_tn
Expert confirmé https://www.developpez.com
Le 01/11/2021 à 12:31
Citation Envoyé par Nancy Rey Voir le message
Quel est votre avis sur le sujet ?
Facebook est une boîte qui collecte autant d'information et qui ne les protège pas (cf. les fuites de données massives de ces dernières années). Je dirais même qu'ils s'en moque, si l'on en crois le mail interne qui avait lui aussi fuité et qui disait qu'il fallait habituer les utilisateurs au fuites de données en normalisant ces évènements...

Si l'on tient à la sécurité de ses enfants, il faut essayer de les tenir le plus éloignés possible de cette cochonnerie.

Citation Envoyé par Nancy Rey Voir le message
Pensez-vous que Facebook et ses filiales sont investis dans la protection des enfants en ligne ?
La seule protection dans laquelle Facebook investit c'est la protection de ses revenus.
3  0 
Avatar de archqt
Membre expérimenté https://www.developpez.com
Le 16/11/2021 à 9:16
On s'en doutait que les réseaux sociaux n'étaient pas bons pour la santé. Mais c'est valable aussi pour les téléphones. Les jeunes passent leur temps dessus.
Et encore mes gamins n'ont pas de comptes sur les réseaux sociaux, ils regardent plein de vidéos (tik-tok, youtube, des séries) moins pire. Par contre il est clair que les influenceurs physiques ne peuvent que donner des complexes. Ils prennent des produits, ne mangent pas pour rester "sec", font 4H de muscu par jour, sans compter la chirurgie pour se faire gonfler les seins, blanchir les dents...
Une personne normale ne peut pas lutter.

De toute façon quand c'est gratuit c'est toi le produit.
6  3 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 16/11/2021 à 15:42
Citation Envoyé par archqt Voir le message
Par contre il est clair que les influenceurs physiques ne peuvent que donner des complexes. Ils prennent des produits, ne mangent pas pour rester "sec", font 4H de muscu par jour, sans compter la chirurgie pour se faire gonfler les seins, blanchir les dents...
Une personne normale ne peut pas lutter.
J'aimerai voir la tronche de l'influenceur des frères Bogdanov
3  0 
Avatar de TotoParis
Membre éclairé https://www.developpez.com
Le 04/10/2021 à 20:46
Citation Envoyé par youpimatos Voir le message
Fais ce que je dis pas ce que je fais
Non, c'est bien pire, le comportement de FB est tout simplement criminel.
Que les américains prient pour qu'aucune guerre civile n'éclate dans ce pays.
FB aurait une grande responsabilité.
ENCORE BRAVO A CETTE LANCEUSE D'ALERTE.
2  0 
Avatar de Planetary
Nouveau membre du Club https://www.developpez.com
Le 08/10/2021 à 7:50
Plus ça va, plus j’ai l’impression que c'est une vaste conspiration par les censeurs alliés au gouvernement américain pour mettre en place et en pratique la censure généralisé des réseaux sociaux en censurant toute opinion déviant de la ligne tracé par la pensée dominante.

Cette lanceuse d'alerte tombe vraiment à pique.
2  0 
Avatar de smobydick
Membre habitué https://www.developpez.com
Le 20/10/2021 à 9:04
À partir du moment où les fondateurs de ses réseaux sociaux ne veulent pas que leurs propres gosses y aient accès (alors qu'ils proposent des versions soit disant édulcorées et protégées pour les ados), faut commencer à chercher la porte de sortie.
2  0 
Avatar de rbolan
Membre régulier https://www.developpez.com
Le 20/10/2021 à 10:37
Il y a 2 points bien distincts sur cet article :

- La capacité de Facebook a retirer du contenus de sa plateforme jugé préjudiciable et illégal
- La capacité de Facebook a sélectionner à priori du contenu pour qu'il soit présent ou non dans le fil d'actualité des utilisateurs par des algorithmes.

C'est le deuxième point qui est critiqué, à raison, par Frances Haugen, car elle considère que Fb est pleinement responsable des conséquences d'une filtration active du contenu à priori. C'est ce qui constitue son business model et qui enrichit l'entreprise. D'ailleurs elle sépare bien les deux points dans son argumentaire.

Le principe de censure du contenu par la plateforme est un débat complètement différent à mon sens. Notamment, qui décide de ce qui est préjudiciable, limites d'un système centralisé, etc...
2  0