Un rapport publié par trois organisations spécialisées dans la lutte contre la désinformation en ligne, Check First (Finlande), Reset.Tech (Londres) et AI Forensics (Paris), illustre de manière frappante l’incapacité persistante de Facebook, et plus largement de Meta, à contenir l’exploitation de sa plateforme par des acteurs malveillants. En dépit des sanctions européennes et américaines visant à freiner les activités de l’Agence russe Social Design, cette dernière a pu diffuser des milliers de publicités politiques visant à manipuler l’opinion publique, notamment en lien avec la guerre en Ukraine et d'autres crises internationales. Ce cas met en lumière l'application laxiste des réglementations par Meta et son rôle involontaire dans la propagation de propagande ciblée, amplifiant des narratifs géopolitiques et exacerbant des tensions mondiales. Cette situation souligne non seulement des failles structurelles dans la modération des contenus, mais aussi la manière dont des outils numériques conçus pour connecter les individus peuvent être instrumentalisés pour semer la discorde à l'échelle mondiale.L'agence Social Design fait l'objet de sanctions punitives dans l'Union européenne depuis 2023 et aux États-Unis depuis avril pour avoir diffusé de la propagande et de la désinformation à des utilisateurs peu méfiants sur les médias sociaux. Les campagnes publicitaires sur Facebook soulèvent « des questions cruciales quant à la conformité de la plateforme » avec les lois américaines et européennes, selon le rapport. L'agence Social Design est une société de relations publiques située à Moscou qui, selon des responsables américains et européens, mène une opération d'influence sophistiquée connue sous le nom de Doppelganger. Depuis 2022, Doppelganger a créé des mèmes de dessins animés et des clones en ligne de vrais sites d'information, comme Le Monde et The Washington Post, pour diffuser de la propagande et de la désinformation, souvent à propos de la guerre en Ukraine.
Les organisations qui ont documenté la campagne - Check First, une société de recherche finlandaise, ainsi que Reset.Tech à Londres et AI Forensics à Paris - se sont concentrées sur les efforts visant à influencer les utilisateurs de Facebook en France, en Allemagne, en Pologne et en Italie. Doppelganger a également été associé à des opérations d'influence aux États-Unis, en Israël et dans d'autres pays, mais ces opérations ne sont pas incluses dans les conclusions du rapport. Les chercheurs estiment que les publicités ont donné lieu à plus de 123 000 clics de la part des utilisateurs et ont rapporté à Meta au moins 338 000 dollars rien que dans l'Union européenne.
Les chercheurs reconnaissent que ces chiffres ne constituent qu'un exemple incomplet des efforts de l'agence russe. En plus de propager le point de vue de la Russie sur l'Ukraine, l'agence a publié des annonces en réponse à des événements d'actualité majeurs, notamment l'attaque du Hamas contre Israël le 7 octobre 2023 et un attentat terroriste dans la banlieue de Moscou en mars dernier, qui a fait 145 morts. Les annonces paraissaient souvent dans les 48 heures, afin d'essayer d'influencer la perception des événements par le public. Après les attentats du 7 octobre, les publicités ont diffusé de fausses affirmations selon lesquelles l'Ukraine aurait vendu des armes au Hamas. Les annonces ont atteint plus de 237 000 comptes en l'espace de deux ou trois jours, « soulignant la capacité de l'opération à instrumentaliser les événements actuels pour soutenir des récits géopolitiques », selon le rapport du chercheur.
Les ajustements controversés de Meta face à la loi européenne sur les services numériques
Meta, la société mère de Facebook, a récemment modifié ses règles sur les contenus autorisés sur ses plateformes, notamment en supprimant les vérifications de faits qui signalaient ou supprimaient des publications. Ces ajustements, qui assouplissent les restrictions sur des contenus liés à la race et au sexe, risquent d'intensifier les tensions entre Meta et les régulateurs européens, en particulier en ce qui concerne la conformité avec la loi sur les services numériques de l'Union européenne. Cette loi exige des plateformes qu'elles limitent les activités illégales et la propagation de la désinformation.
Ces changements interviennent alors que Meta fait déjà l'objet d'une enquête européenne sur la surveillance inadéquate des publicités trompeuses. Par ailleurs, l'Agence russe Social Design, impliquée dans des campagnes d'influence sophistiquées sous le nom de Doppelgänger, continue d'exploiter les failles des plateformes numériques pour diffuser de la désinformation, notamment sur la guerre en Ukraine et d'autres crises géopolitiques. Bien que Meta ait identifié et tenté de bloquer ces campagnes depuis 2022, les efforts de l'agence russe se sont diversifiés, touchant d'autres plateformes comme Reddit, Pinterest, et Medium.
Selon un rapport basé sur des documents internes de la l'agence Social Designy, ces campagnes ont généré plus de 123 000 clics et rapporté à Meta au moins 338 000 dollars dans l'Union européenne. Les annonces ont été diffusées rapidement après des événements majeurs, comme l'attaque du Hamas contre Israël en octobre 2023, pour manipuler l'opinion publique en diffusant de fausses informations.
Les fuites révèlent une cyberguerre sophistiquée et des manipulations d'informations en ligne
Des documents confidentiels récemment divulgués aux États-Unis révèlent que la machine de cyberguerre du Kremlin est bien plus avancée que ce que l’on imaginait. Ces rapports indiquent que les entreprises de médias sociaux détectent à peine 1 % des faux comptes utilisés par la Russie pour diffuser sa propagande et sa désinformation en ligne. Ces constats, remontant à l’année dernière, suggèrent que les efforts russes dans ce domaine se sont encore intensifiés, rendant probablement la détection encore plus difficile ces derniers mois.
Aujourd’hui, les médias sociaux représentent la principale source d’information pour une large partie de la population mondiale. Cependant, ils sont également devenus un champ de bataille où la désinformation prospère. Dans le contexte de la guerre en Ukraine, des rapports montrent que la Russie et l’Ukraine exploitent ces plateformes pour influencer l’opinion publique et se discréditer mutuellement.
Des fuites provenant de l’application Discord mettent en lumière les tactiques sophistiquées de la Russie pour manipuler les discours en ligne, surpassant largement les capacités des plateformes pour contrer ces pratiques. Les documents révèlent que le Kremlin a réussi à amplifier des narratifs mensongers sur l’armée ukrainienne et les vaccins en utilisant des centaines de milliers de faux comptes, faussant ainsi les classements des moteurs de recherche et les flux d’information.
Par ailleurs, un rapport publié par The Intercept révèle l’existence d’un portail spécial, hébergé par Facebook, permettant aux responsables gouvernementaux américains de signaler et de censurer des contenus jugés comme de la désinformation. Ce système a été utilisé pour cibler des publications sur des sujets tels que les origines de la pandémie de Covid-19, la justice raciale ou encore le soutien des États-Unis à l’Ukraine. Bien que le Département de la Sécurité intérieure (DHS) ait officiellement mis fin à son conseil de gouvernance de la désinformation, des documents montrent que ces efforts de censure se poursuivent en secret, souvent en collaboration avec des entreprises de médias sociaux.
De son côté, Meta, la maison mère de Facebook, a déclaré avoir récemment détecté et supprimé deux campagnes de désinformation menées par des groupes liés à la Russie et à l’Ukraine. L’une de ces campagnes consistait à publier de fausses informations sur l’invasion russe, tandis que l’autre cherchait à présenter l’Ukraine comme un "État défaillant". Ces campagnes s’appuyaient sur un réseau de faux comptes, bien que de taille relativement modeste, selon Meta.
En parallèle, des hackers affiliés à la Russie, connus sous le nom de Ghostwriter, auraient piraté les comptes de personnalités publiques et militaires ukrainiennes pour diffuser de fausses informations, notamment des vidéos truquées montrant une prétendue capitulation de l’armée ukrainienne. Meta affirme avoir bloqué ces tentatives et désactivé les domaines utilisés pour ces attaques d’hameçonnage.
Ces révélations soulignent l’ampleur et la sophistication des campagnes de désinformation menées sur les plateformes numériques, transformant les réseaux sociaux en outils de guerre informationnelle à une échelle mondiale.
L'urgence de protéger la souveraineté numérique face aux manipulations en ligne
La révélation des campagnes d'influence menées par la Social Design Agency met en lumière des failles préoccupantes dans la régulation des plateformes numériques comme Facebook. Bien que cette agence ait été sanctionnée par les États-Unis et l'Union européenne pour ses activités de désinformation, elle a néanmoins réussi à contourner les restrictions et à diffuser des publicités politiques touchant des centaines de milliers d'utilisateurs en Europe. Cette situation illustre l'insuffisance des mécanismes de surveillance de Meta et la lenteur de son adaptation face aux tactiques sophistiquées de manipulation de l'information.
L'utilisation de clones de sites d'information légitimes et de mèmes graphiques témoigne d'une stratégie d'influence élaborée, conçue pour brouiller les frontières entre les faits et la propagande. En exploitant des événements majeurs, comme la guerre en Ukraine ou les attaques terroristes, pour amplifier des récits biaisés, l'agence démontre une capacité inquiétante à influencer l'opinion publique rapidement et à grande échelle.
Ces campagnes posent également la question de la responsabilité des entreprises comme Meta. Malgré les bénéfices financiers qu'elle a tirés de ces publicités, la plateforme aurait dû redoubler d'efforts pour identifier et bloquer de telles opérations, conformément aux lois et sanctions en vigueur. Cette inaction relative pourrait aggraver les tensions entre Meta et les régulateurs européens, notamment dans le cadre de la loi sur les services numériques.
Enfin, cette affaire souligne l'importance d'une vigilance accrue de la part des gouvernements et des plateformes numériques pour contrer la désinformation et protéger la souveraineté numérique. Il est impératif de renforcer les systèmes de détection, d'améliorer la transparence sur les contenus sponsorisés et de responsabiliser les acteurs privés face à leur rôle dans la propagation de récits manipulatoires.
Ce rapport souligne l'urgence pour Meta d’intensifier ses efforts contre la désinformation et pour les régulateurs européens de s'assurer que leurs lois sont respectées, afin de protéger la souveraineté numérique de l'Union.
Source : Check First
Et vous ?
Quel est votre avis sur le sujet ? La lenteur ou l’inefficacité de Meta dans la gestion de ces contenus est-elle due à des lacunes technologiques ou à un manque de volonté commerciale ? Les lois européennes et américaines sont-elles suffisamment strictes pour contraindre des plateformes comme Meta à mieux modérer les contenus ?Voir aussi :
Facebook dispose d'un portail spécial permettant aux autorités gouvernementales de demander que le contenu des utilisateurs soit limité ou supprimé, en cas de désinformation vaguement définie Des documents divulgués montrent que les Russes se vantent du fait que seulement 1 % de leurs faux profils sociaux sont détectés, les efforts des plateformes de médias sociaux sont jugés insuffisants Un groupe de pirates informatiques lié à la Russie se serait introduit dans des comptes Facebook et aurait publié de fausses vidéos de soldats ukrainiens se rendant, selon Meta 
