La dénonciatrice derrière la fuite d'un énorme cache de documents Facebook qui a servi de socle pour une série de révélations sur le numéro un des réseaux sociaux s'est dévoilée dimanche durant l'émission 60 Minutes sur CBS News. Répondant au nom Frances Haugen, la dénonciatrice en a révélé davantage sur le fonctionnement interne de la plateforme de médias sociaux la plus puissante au monde. Haugen a décrit une entreprise si engagée dans l'optimisation des produits qu'elle a adopté des algorithmes qui amplifient les discours de haine.Frances Haugen. C'est un nom que Facebook a tenu à obtenir depuis le mois dernier lorsqu'un ancien employé anonyme a déposé des plaintes auprès des forces de l'ordre fédérales. L'une de ces plaintes indique que les propres recherches de Facebook montrent que le réseau social amplifie la haine, la désinformation et les troubles politiques, mais l'entreprise cache ce qu'elle sait. Une autre allègue qu'Instagram de Facebook nuit aux adolescentes.
Ce qui rend les plaintes de Haugen sans précédent, c'est la mine de recherches privées sur Facebook qu'elle a pu fournir lorsqu'elle a démissionné en mai. Les documents sont apparus pour la première fois, le mois dernier. Frances Haugen a décidé de révéler son identité pour expliquer pourquoi elle est devenue la dénonciatrice de Facebook.
Frances Haugen, 37 ans, est une data scientist originaire de l'Iowa, diplômée en ingénierie informatique et titulaire d'une maîtrise en commerce de Harvard. Selon un profil LinkedIn désormais supprimé, Haugen était un chef de produit chez Facebook affecté au groupe Civic Integrity. Elle a choisi de quitter l'entreprise après la dissolution du groupe. Elle a dit qu'elle n'avait « pas confiance dans le fait qu'ils étaient prêts à investir pour empêcher Facebook d'être dangereux ».
Par conséquent, elle a divulgué un cache de recherches internes à la Securities and Exchange Commission dans l'espoir d'améliorer la réglementation de l'entreprise. Elle a noté qu'elle avait travaillé dans un certain nombre d'entreprises, dont Google et Pinterest, mais que « c'était nettement pire chez Facebook » en raison de la volonté de l'entreprise de faire passer ses bénéfices avant le bien-être de ses utilisateurs.
« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley.
« Imaginez que vous savez ce qui se passe à l'intérieur de Facebook et que personne ne le sait à l'extérieur. Je savais à quoi ressemblerait mon avenir si je continuais à rester à l'intérieur de Facebook », a-t-elle continué.
Et Pelley de lui demandé : « Quand et comment vous est-il venu à l'esprit de retirer tous ces documents de l'entreprise ? »
Ce à quoi elle a répondu : « À un moment donné en 2021, je me suis dit : "D'accord, je vais devoir le faire de manière systémique, et je dois en sortir suffisamment pour que personne ne puisse remettre en question le fait que c'est réel" ».
Elle a secrètement copié des dizaines de milliers de pages de recherches internes sur Facebook. Elle dit que les preuves montrent que l'entreprise ment au public sur ses progrès significatifs contre la haine, la violence et la désinformation.
Scott Pelley : Pour citer un autre des documents que vous avez publiés : « Nous avons des preuves provenant de diverses sources que les discours de haine, les discours politiques qui divisent et la désinformation sur Facebook et la famille d'applications affectent les sociétés du monde entier. »
Frances Haugen : Lorsque nous vivons dans un environnement d'information rempli de contenus colériques, haineux et polarisants, cela érode notre confiance civique, cela érode notre confiance mutuelle, cela érode notre capacité à vouloir prendre soin les uns des autres, la version de Facebook qui existe aujourd'hui déchire nos sociétés et provoque des violences ethniques dans le monde.
Frances Haugen a déclaré qu'elle avait été recrutée par Facebook en 2019. Elle dit n'avoir accepté le poste qu'à la condition de pouvoir lutter contre la désinformation parce qu'elle avait perdu un ami à cause des théories du complot en ligne.
Frances Haugen : Je n'ai jamais voulu que quelqu'un ressente la douleur que j'avais ressentie. Et j'avais vu à quel point les enjeux étaient importants pour s'assurer qu'il y avait des informations de haute qualité sur Facebook.
Au siège, elle a été affectée à l'intégrité civique qui a travaillé sur les risques pour les élections, y compris la désinformation. Mais après cette dernière élection, il y a eu un tournant.
Frances Haugen : Ils nous ont dit : « Nous sommes en train de dissoudre l'intégrité civique. En gros, c'était « bah, nous avons survécu aux élections. Il n'y a pas eu d'émeutes. Nous pouvons nous débarrasser de l'intégrité civique maintenant ». Avance rapide de quelques mois, nous avons eu l'insurrection. Et quand ils se sont débarrassés de l'intégrité civique, c'est à ce moment-là que je me suis dit : « Je ne crois pas qu'ils soient prêts à investir ce qui doit être investi pour empêcher Facebook d'être dangereux ».
Facebook affirme que le travail de Civic Integrity a été distribué à d'autres unités. Mais Haugen a une autre perspective : selon elle, la racine du problème de Facebook réside dans un changement qu'il a apporté en 2018 à ses algorithmes - la programmation qui décide de ce que vous voyez sur votre fil d'actualité Facebook.
Frances Haugen : Alors, vous savez, vous avez votre téléphone. Vous pourriez ne voir que 100 éléments de contenu si vous vous asseyez et faites défiler pendant, disons, cinq minutes. Mais Facebook a des milliers d'options qu'il pourrait vous montrer.
L'algorithme choisit parmi ces options en fonction du type de contenu avec lequel vous vous êtes le plus engagé dans le passé.
Frances Haugen : Et l'une des conséquences de la façon dont Facebook sélectionne ce contenu aujourd'hui, c'est qu'il s'agit d'optimiser le contenu qui suscite l'engagement ou la réaction. Mais ses propres recherches montrent qu'un contenu haineux, qui divise, qui polarise, inspire plus facilement aux gens de la colère que d'autres émotions.
Scott Pelley : La désinformation, du contenu plein de colère est attrayant pour les gens et continue de les garder sur la plateforme.
Françoise Haugen : Oui. Facebook s'est rendu compte que s'ils changent l'algorithme pour qu'il devienne plus sûr, les gens passeront moins de temps sur le site, ils cliqueront sur moins de publicités, ils gagneront moins d'argent.
Haugen note que Facebook a compris le danger pour les élections de 2020. Facebook a donc activé les systèmes de sécurité pour réduire la désinformation, mais bon nombre de ces changements, dit-elle, étaient temporaires.
Frances Haugen : Et dès que les élections étaient terminées, ils les ont désactivés ou ils ont ramené les paramètres à ce qu'ils étaient avant, pour donner la priorité à la croissance plutôt qu'à la sécurité. Et cela ressemble vraiment à une trahison de la démocratie pour moi.
Scott Pelley : Facebook amplifie essentiellement le pire de la nature humaine.
Frances Haugen : C'est l'une de ces conséquences malheureuses, n'est-ce pas ? Personne chez Facebook n'est malveillant, mais les incitations sont mal alignées, n'est-ce pas ? Néanmoins, Facebook gagne plus d'argent lorsque vous consommez plus de contenu. Les gens aiment s'engager dans des choses qui suscitent une réaction émotionnelle. Et plus ils sont exposés à la colère, plus ils interagissent et plus ils consomment.
Cette dynamique a conduit à une plainte auprès de Facebook par les principaux partis politiques à travers l'Europe. Ce rapport interne de 2019 obtenu par Haugen indique que les parties, « … ont le sentiment profond que le changement de l'algorithme les a forcées à biaiser négativement leurs communications sur Facebook… les conduisant à adopter des positions politiques plus extrêmes ».
Scott Pelley : Les partis politiques européens disaient essentiellement à Facebook que la façon dont vous avez écrit votre algorithme change la façon dont nous dirigeons nos pays.
Françoise Haugen : Oui. Vous nous forcez à prendre des positions que nous n'aimons pas, que nous savons être mauvaises pour la société. Nous savons que si nous ne prenons pas ces positions, nous ne gagnerons pas sur le marché des médias sociaux. La preuve du préjudice, dit-elle, s'étend à l'application Instagram de Facebook.
Scott Pelley : L'une des études internes de Facebook que vous avez trouvées parle de la façon dont Instagram nuit aux adolescentes. Une étude indique que 13,5 % des adolescentes disent qu'Instagram aggrave les pensées suicidaires ; 17 % des adolescentes disent qu'Instagram aggrave les troubles de l'alimentation.
Frances Haugen : Et ce qui est super tragique, c'est que la propre recherche de Facebook dit, alors que ces jeunes femmes commencent à consommer ce contenu de trouble de l'alimentation, elles deviennent de plus en plus déprimées. Et cela les incite en fait à utiliser davantage l'application. Et ainsi, elles se retrouvent dans ce cycle de rétroaction où elles détestent de plus en plus leur corps. Les propres recherches de Facebook indiquent que ce n'est pas seulement Instagram qui est dangereux pour les adolescents, qu'il nuit aux adolescents, c'est qu'il est nettement pire que les autres formes de médias sociaux.
Facebook a déclaré, il y a quelques jours, qu'il reporterait les projets de création d'un compte Instagram pour les plus jeunes.
Le mois dernier, les avocats de Haugen ont déposé au moins 8 plaintes auprès de la Securities and Exchange Commission, qui applique la loi sur les marchés financiers. Les plaintes comparent la recherche interne avec le visage public de l'entreprise, souvent celui du PDG Mark Zuckerberg, qui a témoigné à distance devant le Congrès en mars dernier. Durant cet exercice qui a eu lieu le 25 mars, Mark Zuckerberg a déclaré : « Nous avons supprimé le contenu qui pourrait entraîner des dommages imminents dans le monde réel. Nous avons mis en place un programme de vérification des faits par des tiers sans précédent. Le système n'est pas parfait. Mais c'est la meilleure approche que nous ayons trouvée pour lutter contre la désinformation conformément aux valeurs de notre pays ».
La réaction de Facebook
Facebook a publié une déclaration contestant les points soulevés par Haugen après l'interview télévisée.
« Nous continuons d'apporter des améliorations significatives pour lutter contre la propagation de la désinformation et du contenu préjudiciable », a déclaré la porte-parole de Facebook, Lena Pietsch. « Suggérer que nous encourageons le mauvais contenu et que nous ne faisons rien n'est tout simplement pas vrai ».
Avant l'interview de 60 minutes, le vice-président des affaires mondiales de Facebook, Nick Clegg, a déclaré sur CNN qu'il était « ridicule » d'affirmer que l'émeute du 6 janvier s'est produite à cause des médias sociaux.
Pourparlers internationaux
Dimanche, l'avocat de Haugen, John Tye, fondateur de l'organisation à but non lucratif Whistleblower Aid whistlebloweraid.org, a confirmé un rapport du New York Times selon lequel certains des documents internes ont été partagés avec les procureurs généraux de plusieurs États, dont la Californie, le Vermont et le Tennessee.
Tye a déclaré que les plaintes avaient été déposées auprès de la SEC sur la base qu'en tant que société cotée en bourse, Facebook est tenu de ne pas mentir à ses investisseurs, ni même de retenir des informations importantes.
Les plaintes comparent les recherches internes de Facebook avec ses déclarations publiques sur les problèmes qu'il a étudiés, selon l'interview de 60 Minutes.
Tye a déclaré que Haugen s'était également entretenu avec des législateurs en Europe et devait comparaître devant le Parlement britannique plus tard ce mois-ci, dans l'espoir de stimuler une action réglementaire.
Lui et Haugen sont également intéressés à parler avec des législateurs de pays d'Asie, car bon nombre des problèmes qui ont motivé Haugen proviennent de la région, y compris la violence ethnique au Myanmar, a-t-il ajouté.
Whistleblower Aid, qui représente Haugen pro bono, a également lancé un GoFundMe pour collecter 50 000 $ pour ses frais juridiques.
Et vous ?
Quelle lecture en faites-vous ?Voir aussi :
Les recherches de Facebook montrent qu'Instagram est nocif pour les adolescents, mais l'entreprise relativise et défend que cela dépend de leur état d'esprit et la manière dont ils l'utilisent Facebook suspend son projet de lancer Instagram Kids, cette décision fait suite aux préoccupations concernant les effets sur la santé mentale des moins de 13 ans 
Envoyé par redcurve
