Facebook encourage les discours de haine pour gagner de l'argent, selon une lanceuse d'alerte

Qui a publié des informations qu'elle a pu glaner durant son passage au sein de l'entreprise

La dénonciatrice derrière la fuite d'un énorme cache de documents Facebook qui a servi de socle pour une série de révélations sur le numéro un des réseaux sociaux s'est dévoilée dimanche durant l'émission 60 Minutes sur CBS News. Répondant au nom Frances Haugen, la dénonciatrice en a révélé davantage sur le fonctionnement interne de la plateforme de médias sociaux la plus puissante au monde. Haugen a décrit une entreprise si engagée dans l'optimisation des produits qu'elle a adopté des algorithmes qui amplifient les discours de haine.

Frances Haugen. C'est un nom que Facebook a tenu à obtenir depuis le mois dernier lorsqu'un ancien employé anonyme a déposé des plaintes auprès des forces de l'ordre fédérales. L'une de ces plaintes indique que les propres recherches de Facebook montrent que le réseau social amplifie la haine, la désinformation et les troubles politiques, mais l'entreprise cache ce qu'elle sait. Une autre allègue qu'Instagram de Facebook nuit aux adolescentes.

Ce qui rend les plaintes de Haugen sans précédent, c'est la mine de recherches privées sur Facebook qu'elle a pu fournir lorsqu'elle a démissionné en mai. Les documents sont apparus pour la première fois, le mois dernier. Frances Haugen a décidé de révéler son identité pour expliquer pourquoi elle est devenue la dénonciatrice de Facebook.

Frances Haugen, 37 ans, est une data scientist originaire de l'Iowa, diplômée en ingénierie informatique et titulaire d'une maîtrise en commerce de Harvard. Selon un profil LinkedIn désormais supprimé, Haugen était un chef de produit chez Facebook affecté au groupe Civic Integrity. Elle a choisi de quitter l'entreprise après la dissolution du groupe. Elle a dit qu'elle n'avait « pas confiance dans le fait qu'ils étaient prêts à investir pour empêcher Facebook d'être dangereux ».

Par conséquent, elle a divulgué un cache de recherches internes à la Securities and Exchange Commission dans l'espoir d'améliorer la réglementation de l'entreprise. Elle a noté qu'elle avait travaillé dans un certain nombre d'entreprises, dont Google et Pinterest, mais que « c'était nettement pire chez Facebook » en raison de la volonté de l'entreprise de faire passer ses bénéfices avant le bien-être de ses utilisateurs.

« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley.


« Imaginez que vous savez ce qui se passe à l'intérieur de Facebook et que personne ne le sait à l'extérieur. Je savais à quoi ressemblerait mon avenir si je continuais à rester à l'intérieur de Facebook », a-t-elle continué.

Et Pelley de lui demandé : « Quand et comment vous est-il venu à l'esprit de retirer tous ces documents de l'entreprise ? »

Ce à quoi elle a répondu : « À un moment donné en 2021, je me suis dit : "D'accord, je vais devoir le faire de manière systémique, et je dois en sortir suffisamment pour que personne ne puisse remettre en question le fait que c'est réel" ».

Elle a secrètement copié des dizaines de milliers de pages de recherches internes sur Facebook. Elle dit que les preuves montrent que l'entreprise ment au public sur ses progrès significatifs contre la haine, la violence et la désinformation.

Scott Pelley : Pour citer un autre des documents que vous avez publiés : « Nous avons des preuves provenant de diverses sources que les discours de haine, les discours politiques qui divisent et la désinformation sur Facebook et la famille d'applications affectent les sociétés du monde entier. »

Frances Haugen : Lorsque nous vivons dans un environnement d'information rempli de contenus colériques, haineux et polarisants, cela érode notre confiance civique, cela érode notre confiance mutuelle, cela érode notre capacité à vouloir prendre soin les uns des autres, la version de Facebook qui existe aujourd'hui déchire nos sociétés et provoque des violences ethniques dans le monde.

Frances Haugen a déclaré qu'elle avait été recrutée par Facebook en 2019. Elle dit n'avoir accepté le poste qu'à la condition de pouvoir lutter contre la désinformation parce qu'elle avait perdu un ami à cause des théories du complot en ligne.

Frances Haugen : Je n'ai jamais voulu que quelqu'un ressente la douleur que j'avais ressentie. Et j'avais vu à quel point les enjeux étaient importants pour s'assurer qu'il y avait des informations de haute qualité sur Facebook.

Au siège, elle a été affectée à l'intégrité civique qui a travaillé sur les risques pour les élections, y compris la désinformation. Mais après cette dernière élection, il y a eu un tournant.

Frances Haugen : Ils nous ont dit : « Nous sommes en train de dissoudre l'intégrité civique. En gros, c'était « bah, nous avons survécu aux élections. Il n'y a pas eu d'émeutes. Nous pouvons nous débarrasser de l'intégrité civique maintenant ». Avance rapide de quelques mois, nous avons eu l'insurrection. Et quand ils se sont débarrassés de l'intégrité civique, c'est à ce moment-là que je me suis dit : « Je ne crois pas qu'ils soient prêts à investir ce qui doit être investi pour empêcher Facebook d'être dangereux ».

Facebook affirme que le travail de Civic Integrity a été distribué à d'autres unités. Mais Haugen a une autre perspective : selon elle, la racine du problème de Facebook réside dans un changement qu'il a apporté en 2018 à ses algorithmes - la programmation qui décide de ce que vous voyez sur votre fil d'actualité Facebook.

Frances Haugen : Alors, vous savez, vous avez votre téléphone. Vous pourriez ne voir que 100 éléments de contenu si vous vous asseyez et faites défiler pendant, disons, cinq minutes. Mais Facebook a des milliers d'options qu'il pourrait vous montrer.


L'algorithme choisit parmi ces options en fonction du type de contenu avec lequel vous vous êtes le plus engagé dans le passé.

Frances Haugen : Et l'une des conséquences de la façon dont Facebook sélectionne ce contenu aujourd'hui, c'est qu'il s'agit d'optimiser le contenu qui suscite l'engagement ou la réaction. Mais ses propres recherches montrent qu'un contenu haineux, qui divise, qui polarise, inspire plus facilement aux gens de la colère que d'autres émotions.

Scott Pelley : La désinformation, du contenu plein de colère est attrayant pour les gens et continue de les garder sur la plateforme.

Françoise Haugen : Oui. Facebook s'est rendu compte que s'ils changent l'algorithme pour qu'il devienne plus sûr, les gens passeront moins de temps sur le site, ils cliqueront sur moins de publicités, ils gagneront moins d'argent.

Haugen note que Facebook a compris le danger pour les élections de 2020. Facebook a donc activé les systèmes de sécurité pour réduire la désinformation, mais bon nombre de ces changements, dit-elle, étaient temporaires.

Frances Haugen : Et dès que les élections étaient terminées, ils les ont désactivés ou ils ont ramené les paramètres à ce qu'ils étaient avant, pour donner la priorité à la croissance plutôt qu'à la sécurité. Et cela ressemble vraiment à une trahison de la démocratie pour moi.

Scott Pelley : Facebook amplifie essentiellement le pire de la nature humaine.

Frances Haugen : C'est l'une de ces conséquences malheureuses, n'est-ce pas ? Personne chez Facebook n'est malveillant, mais les incitations sont mal alignées, n'est-ce pas ? Néanmoins, Facebook gagne plus d'argent lorsque vous consommez plus de contenu. Les gens aiment s'engager dans des choses qui suscitent une réaction émotionnelle. Et plus ils sont exposés à la colère, plus ils interagissent et plus ils consomment.

Cette dynamique a conduit à une plainte auprès de Facebook par les principaux partis politiques à travers l'Europe. Ce rapport interne de 2019 obtenu par Haugen indique que les parties, « … ont le sentiment profond que le changement de l'algorithme les a forcées à biaiser négativement leurs communications sur Facebook… les conduisant à adopter des positions politiques plus extrêmes ».

Scott Pelley : Les partis politiques européens disaient essentiellement à Facebook que la façon dont vous avez écrit votre algorithme change la façon dont nous dirigeons nos pays.


Françoise Haugen : Oui. Vous nous forcez à prendre des positions que nous n'aimons pas, que nous savons être mauvaises pour la société. Nous savons que si nous ne prenons pas ces positions, nous ne gagnerons pas sur le marché des médias sociaux. La preuve du préjudice, dit-elle, s'étend à l'application Instagram de Facebook.

Scott Pelley : L'une des études internes de Facebook que vous avez trouvées parle de la façon dont Instagram nuit aux adolescentes. Une étude indique que 13,5 % des adolescentes disent qu'Instagram aggrave les pensées suicidaires ; 17 % des adolescentes disent qu'Instagram aggrave les troubles de l'alimentation.

Frances Haugen : Et ce qui est super tragique, c'est que la propre recherche...