Frances Haugen, a divulgué un cache de recherches internes de Facebook aux médias, mais aussi à la Securities and Exchange Commission « dans l'espoir d'améliorer la réglementation de l'entreprise ». Dans l'une de ces plaintes s'appuyant sur ces documents, elle a indiqué que les propres recherches de Facebook montrent que le réseau social amplifie la haine, la désinformation et les troubles politiques, mais aussi que l'entreprise cache ce qu'elle sait.« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley, l'animateur de l'émission 60 Minutes.
Frances Haugen : Alors, vous savez, vous avez votre téléphone. Vous pourriez ne voir que 100 éléments de contenu si vous vous asseyez et faites défiler pendant, disons, cinq minutes. Mais Facebook a des milliers d'options qu'il pourrait vous montrer.
L'algorithme choisit parmi ces options en fonction du type de contenu avec lequel vous vous êtes le plus engagé dans le passé.
Frances Haugen : Et l'une des conséquences de la façon dont Facebook sélectionne ce contenu aujourd'hui, c'est qu'il s'agit d'optimiser le contenu qui suscite l'engagement ou la réaction. Mais ses propres recherches montrent qu'un contenu haineux, qui divise, qui polarise, inspire plus facilement aux gens de la colère que d'autres émotions.
Scott Pelley : La désinformation, du contenu plein de colère est attrayant pour les gens et continue de les garder sur la plateforme.
Françoise Haugen : Oui. Facebook s'est rendu compte que s'ils changent l'algorithme pour qu'il devienne plus sûr, les gens passeront moins de temps sur le site, ils cliqueront sur moins de publicités, ils gagneront moins d'argent.
Haugen note que Facebook a compris le danger pour les élections de 2020. Facebook a donc activé les systèmes de sécurité pour réduire la désinformation, mais bon nombre de ces changements, dit-elle, étaient temporaires.
Frances Haugen : Et dès que les élections étaient terminées, ils les ont désactivés ou ils ont ramené les paramètres à ce qu'ils étaient avant, pour donner la priorité à la croissance plutôt qu'à la sécurité. Et cela ressemble vraiment à une trahison de la démocratie pour moi.
Facebook a publié une déclaration contestant les points soulevés par Haugen après l'interview télévisée.
« Nous continuons d'apporter des améliorations significatives pour lutter contre la propagation de la désinformation et du contenu préjudiciable », a déclaré la porte-parole de Facebook, Lena Pietsch. « Suggérer que nous encourageons le mauvais contenu et que nous ne faisons rien n'est tout simplement pas vrai ».
Mais Facebook a encaissé l'argent sans broncher
Quand Mark Zuckerberg de Meta a été appelé à témoigner devant le Congrès en 2018, le sénateur Orin Hatch lui a demandé comment Facebook gagnait de l'argent. La réponse de Zuckerberg est depuis devenue une sorte de mème : « Sénateur, nous diffusons des publicités ».
Entre juillet 2018 et avril 2022, Meta a réalisé au moins 30,3 millions de dollars de revenus publicitaires à partir de réseaux qu'il a supprimés de ses propres plateformes pour s'être engagé dans un comportement inauthentique coordonné (CIB), selon des données compilées. Margarita Franklin, responsable des communications de sécurité chez Meta, a confirmé que la société ne rembourse pas l'argent publicitaire si un réseau est supprimé. Franklin a précisé qu'une partie de l'argent provenait de publicités qui n'enfreignaient pas les règles de l'entreprise, mais qui ont été publiées par les mêmes organisations de relations publiques ou de marketing, plus tard interdites pour avoir participé aux opérations CIB.
Un rapport du Wall Street Journal estime qu'à la fin de 2021, Meta a absorbé 17% de l'argent du marché mondial de la publicité et a gagné 114 milliards de dollars grâce à la publicité. Au moins une partie de l'argent provenait de publicités achetées par des réseaux qui enfreignaient les politiques de Meta et que l'entreprise elle-même a signalées et supprimées.
« Le secteur de la publicité dans le monde est estimé entre 400 et 700 milliards de dollars », a déclaré Claire Atkin, cofondatrice de l'organisme de surveillance indépendant Check My Ads Institute. « C'est une estimation grossière, mais personne ne sait quelle est la taille de l'industrie. Personne ne sait ce qui se passe à l'intérieur ».
Mais Atkin dit qu'une partie de ce qui rend les informations, y compris les publicités, légitimes sur les réseaux sociaux est le contexte dans lequel elles apparaissent : « Facebook, Instagram, WhatsApp, tout ce réseau au sein de notre expérience Internet, est l'endroit où nous nous connectons avec nos amis les plus proches et notre famille. C'est un endroit sur Internet où nous partageons nos émotions les plus intimes sur ce qui se passe dans nos vies », explique Atkin. « C'est notre lieu de confiance pour la connexion ».
Pendant près de quatre ans, Meta a publié des rapports périodiques identifiant les réseaux CIB de faux comptes et de pages qui visent à tromper les utilisateurs et, dans de nombreux cas, à pousser la propagande ou la désinformation de manière à avoir l'air organique et à changer l'opinion publique. Ces réseaux peuvent être gérés par des gouvernements, des groupes indépendants ou des sociétés de relations publiques et de marketing.
L'année dernière, l'entreprise a également commencé à s'attaquer à ce qu'elle a appelé le « préjudice social coordonné », où les réseaux utilisaient de vrais comptes dans le cadre de leurs opérations d'information. Nathaniel Gleicher, responsable de la politique de sécurité chez Meta, a annoncé les changements dans un billet de blog, notant que « les acteurs de la menace brouillent délibérément les frontières entre les activités authentiques et non authentiques, ce qui rend l'application plus difficile dans notre secteur ».
Ce changement, cependant, montre à quel point les critères de l'entreprise pour le CIB sont spécifiques, ce qui signifie que Meta n'a peut-être pas du tout documenté certains réseaux qui ont utilisé d'autres tactiques. Les opérations d'information peuvent parfois utiliser de vrais comptes ou être menées au nom d'un comité d'action politique ou d'une LLC, ce qui rend plus difficile la catégorisation de leur comportement comme « inauthentique ».
« Une tactique qui a été utilisée plus fréquemment, au moins depuis 2016, n'a pas été les bots, mais de vraies personnes qui sortent et publient des choses », explique Sarah Kay Wiley, chercheuse au Tow Center for Digital Journalism de l'Université de Columbia. « Le rapport de Facebook sur les CIB montrent qu'ils arrivent en quelque sorte à les identifier, mais qu'ils sont vraiment difficiles à repérer ».
La Russie représentait le plus grand pays en matière de nombre d'annonces sur les réseaux que Meta a identifiées comme CIB et supprimées par la suite. Les États-Unis, l'Ukraine et le Mexique ont été ciblés le plus souvent, même si presque toutes les campagnes ciblant le Mexique étaient liées à des acteurs nationaux (Les documents publics sur les revenus de Meta ne ventilent pas les revenus de l'entreprise par pays, mais uniquement par région).
Plus de 22 millions de dollars sur les 30,3 millions de dollars ont été dépensés par seulement sept réseaux, dont le plus important était une campagne mondiale de 9,5 millions de dollars liée au groupe de médias de droite anti-chinois derrière Epoch Times.
Sur les 134 campagnes qui impliquaient des publicités payantes que Meta a identifiées et supprimées, 56 % étaient axées sur des publics nationaux. Seuls 31 % étaient uniquement axés sur le public étranger, c'est-à-dire sur les utilisateurs situés en dehors du pays d'origine du réseau (Les 12 % restants se sont concentrés sur un mélange d'audiences nationales et internationales).
Bon nombre des plus grands réseaux supprimés par Meta étaient gérés par des sociétés de relations publiques ou de marketing, comme le groupe Archimedes en Israël et Pragmatico en Ukraine. Lorsque cela se produit, Meta supprimera et bannira tous les comptes et pages associés à cette entreprise, qu'elle soit ou non impliquée dans une campagne CIB particulière, dans le but de décourager les entreprises de vendre des services de « désinformation contre rémunération ».
Les campagnes et la désinformation de CIB ne se limitent pas à Facebook et Instagram. Twitter, qui qualifie ces activités « d'opérations d'information », a identifié et supprimé des milliers de comptes sur sa propre plateforme. Bien que les chercheurs aient identifié des campagnes de désinformation sur TikTok, les rapports d'application des directives communautaires de l'entreprise n'indiquent pas si ou comment la plateforme traite le contenu artificiellement boosté.
Wiley dit que les rapports de Meta masquent à quel point les chercheurs et le public en savent peu sur ce qui se passe au sein de l'entreprise et sur ses plateformes. Dans un rapport de janvier, Meta a déclaré qu'en raison de l'évolution des menaces contre ses équipes, il « donnerait la priorité au renforcement et à la sécurité de nos équipes plutôt qu'à la publication de nos conclusions », ce qui pourrait avoir un impact sur la transparence de l'entreprise.
« Est-ce la pointe de l'iceberg ? Malheureusement, je pense que oui », déclare Wiley.
« Au cours des cinq dernières années, nous avons partagé des informations sur plus de 150 opérations d'influence secrètes que nous avons supprimées pour avoir enfreint notre politique coordonnée de comportement inauthentique (CIB). La transparence est un outil important pour contrer ce comportement, et nous continuerons à prendre des mesures et à rendre compte publiquement », a déclaré Gleicher de Meta.
Sources : Meta (1, 2), TikTok, Twitter, Wall Street Journal
Et vous ?
Quelle lecture en faites-vous ?Voir aussi :
Facebook encourage les discours de haine pour gagner de l'argent, selon une lanceuse d'alerte qui a publié des informations qu'elle a pu glaner durant son passage au sein de l'entreprise La dénonciatrice de Facebook accuse Meta de ne pas avoir géré correctement la désinformation sur COVID-19 et les changements climatiques, ses avocats déposent deux nouvelles plaintes auprès de la SEC 
Envoyé par Sandra Coret
