Microsoft a publié cette semaine un nouveau rapport sur les menaces numériques provenant de l'Asie de l'Est. Le rapport indique que les campagnes d'influence menées par des groupes affiliés au Parti communiste chinois sont en hausse et sont plus efficaces que jamais. Il ajoute que certaines campagnes d'influence et de désinformation utilisent désormais des outils d'IA générative pour créer des contenus visuels qui suscitent des niveaux d'engagement plus élevés de la part d'utilisateurs authentiques. Ces campagnes auraient pour but d'améliorer l'image de la Chine, de provoquer des divisions à l'approche de l'élection présidentielle de 2024 et d'influencer le vote des Américains.Bien que le titre du rapport de Microsoft (Digital threats from East Asia increase in breadth and effectiveness) indique qu'il couvre toute l'Asie orientale, il se concentre particulièrement sur les menaces numériques provenant de la Chine. Le rapport révèle notamment que les campagnes d'influence secrètes affiliées au PCC ont commencé à s'engager avec succès auprès des publics cibles sur les médias sociaux, dans une plus large mesure que ce qui avait été observé précédemment. Les campagnes d'influence des groupes chinois ont auparavant eu du mal à atteindre les personnes visées, en l'occurrence les électeurs et les résidents des États-Unis.
Cependant, selon Microsoft, depuis les élections de mi-mandat de 2022, ces efforts sont devenus plus efficaces. Les décideurs politiques et les experts du secteur ont exprimé leur inquiétude quant aux campagnes d'influence étrangères sur les plateformes de médias sociaux, en particulier sur X (anciennement Twitter). En décembre, trois membres démocrates de la Chambre des représentants auraient demandé à Elon Musk, propriétaire de X, de fournir des informations sur les campagnes d'influence menées sur la plateforme. (Une vague de chaos s'était installée sur le réseau social immédiatement après son rachat par Musk vers la fin de l'année dernière.)
Plus précisément, les campagnes d'influenceurs chinois usurpent l'identité d'électeurs américains en ligne et ciblent des candidats politiques sur les médias sociaux. Le problème devient de plus en plus critique. « Les campagnes chinoises d'influence ont longtemps compté sur le volume pour atteindre les utilisateurs par le biais de réseaux de comptes de médias sociaux inauthentiques. Mais depuis 2022, elles se sont engagées directement avec des utilisateurs authentiques sur les médias sociaux, ont ciblé des candidats spécifiques dans des contenus sur les élections américaines et se sont fait passer pour des électeurs américains », indique le rapport.
Microsoft a trouvé du contenu provenant de campagnes d'influence chinoises sur de nombreuses applications de médias sociaux, y compris Facebook et Instagram. En août, Meta, la société mère de Facebook, a annoncé avoir interrompu la plus grande campagne de désinformation jamais identifiée et l'avoir reliée à des acteurs affiliés à l'État chinois. Facebook a annoncé avoir supprimé plus de 7 700 comptes et 930 pages qui généraient principalement du contenu positif sur la province chinoise du Xinjiang. Le gouvernement chinois a fait l'objet de sanctions internationales pour sa façon de traiter le groupe ethnique des Ouïghours vivant dans cette région.
Selon la société, la campagne a également généré du contenu négatif sur les États-Unis, en diffusant des infox en plusieurs langues sur la Covid-19. Les chercheurs de Meta ont relié le réseau de désinformation à une précédente campagne d'influence en 2019, dont le nom de code était "Spamouflage". « Pris ensemble, nous évaluons Spamouflage comme étant la plus grande opération d'influence secrète multiplateforme connue à ce jour. Bien que les personnes à l'origine de cette activité aient tenté de dissimuler leur identité et leur coordination, notre enquête a révélé des liens avec des individus associés aux forces de l'ordre chinoises », a écrit Meta.
Microsoft indique que ces opérations d'influence utilisent également l'IA générative pour accroître l'engagement avec des personnes réelles, ce que l'entreprise appelle des utilisateurs authentiques. « Depuis environ mars 2023, certains actifs des campagnes chinoises d'influence sur les plateformes de médias sociaux occidentaux ont commencé à tirer parti de l'IA générative pour créer du contenu visuel. Ce contenu visuel de qualité relativement élevée a déjà suscité des niveaux d'engagement plus élevés de la part des utilisateurs authentiques des médias sociaux », indique le rapport. Ces visuels générés par l'IA peuvent tromper la vigilance des internautes.
En effet, les images générées par l'IA utilisées dans ces campagnes sont beaucoup plus convaincantes que les images de stock ou les dessins numériques utilisés dans le passé. Le rapport de Microsoft comprenait des captures d'écran de deux posts différents sur X en avril qui ont été identifiés comme de la désinformation affiliée au PCC. Ces deux messages portaient sur le mouvement Black Lives Matter et comportaient le même graphique. Le premier message provenait d'un compte automatisé affilié à PCC. Le second, selon Microsoft, a été téléchargé par un compte usurpant l'identité d'un électeur américain conservateur sept heures plus tard.
Microsoft ajoute que les images sont également utilisées pour dénigrer des personnalités politiques. « Nous rendons compte des menaces numériques que nous détectons - y compris l'utilisation de l'IA - afin d'informer les décideurs politiques, les praticiens de la sécurité et le public de toute menace, actuelle ou émergente, que les nouvelles technologies peuvent représenter pour l'intégrité de l'information et la démocratie », ont écrit les analystes de Microsoft. Les opérations identifiées par Microsoft partageraient des caractéristiques avec une opération qui serait dirigée par un groupe d'élite au sein de l'appareil de sécurité nationale de la Chine.
Cette organisation, le "912 Special Working Group", a été identifiée par le ministère américain de la Justice (DOJ) en avril comme étant à l'origine d'une campagne de harcèlement visant les ressortissants chinois aux États-Unis. Le DOJ a inculpé 44 personnes, dont 34 agents du ministère chinois de la Sécurité publique. Le rapport indique que les images peuvent être créées par des agents du gouvernement chinois, mais la diffusion des images et des textes a rendu une partie de la propagande virale. Pour illustrer la portée des campagnes, le rapport estime que ces contenus ont atteint 103 millions de personnes dans pas moins de 40 langues.
Enfin, Microsoft évoque les efforts déployés par le gouvernement chinois pour diffuser de la propagande afin de donner une bonne image de la Chine dans le monde. « Le gouvernement chinois investit des ressources dans la diffusion de messages dans de nombreuses langues et sur de nombreuses plateformes, tout en faisant évoluer ses techniques », indique le rapport. Il précise que le pays emploie des centaines de personnes qui se font passer pour des influenceurs afin de diffuser de l'information, notamment de la propagande visant à contredire le discours des médias et des autorités américains sur la Chine.
Source : rapport de Microsoft
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
La Chine derrière «la plus vaste opération d'influence multiplateforme connue au monde» découverte par Meta ciblant plus de 50 plateformes dont X et TikTok, des milliers de comptes Facebook supprimés Meta / Facebook a gagné des millions grâce à des publicités provenant de réseaux de faux comptes, l'entreprise a banni les comptes faisant la promotion de la désinformation, mais a conservé l'argent Vulkan Files : des documents divulgués révèlent les tactiques de cyberguerre de Poutine à l'échelle nationale et mondiale, ils décrivent des outils de piratage à grande échelle et de désinformation Les chatbots d'IA pourraient aggraver la désinformation en ligne, en permettant aux acteurs malveillants de créer des campagnes plus rentables et plus difficiles à repérer, selon certains chercheurs