La Chine accusée d'inonder les médias sociaux de spam pour évincer les actualités sur des manifestations

«premier échec majeur» pour arrêter l'ingérence du gouvernement sur Twitter selon Alex Stamos

La Chine accusée d'inonder les médias sociaux de spam pour évincer les actualités sur des manifestations.
un réseau de spambots détourne également des hashtags dans une tentative à grande échelle d'empêcher la couverture médiatique

Une tentative d'inonder les plateformes de médias sociaux de spam afin de noyer la couverture des manifestations de confinement en Chine a probablement été soutenue par le gouvernement chinois, selon une analyse d'une société américaine de cybersécurité. Twitter peine à réagir. Pour Alex Stamos, directeur de l'Observatoire Internet de Stanford, l'activité chinoise indique le « premier échec majeur » pour arrêter l'ingérence du gouvernement sur la plateforme détenue par Elon Musk.

Les premières semaines de Twitter sous la propriété de Musk ont été tout simplement tumultueuses. Elles ont commencé par le licenciement des dirigeants sans ménagement, puis par la moitié de la main-d'œuvre mondiale de Twitter. Il a réorganisé Twitter Blue pour donner automatiquement aux abonnés payants une coche de vérification bleue, ce qui a rapidement conduit à une usurpation d'identité généralisée sur le réseau social.

Pour rendre Twitter rentable, Elon Musk a décidé dans un premier temps d'alléger sa masse salariale. Aucun département n'a été épargné. Durant le processus, début novembre, Bloomberg News a rapporté que Twitter a considérablement réduit son personnel de modération de contenu approuvé pour accéder à un tableau de bord qui enregistre le contenu automatisé et signalé par l'utilisateur qui nécessite un examen humain avant que le contenu ne soit restreint. Habituellement, des centaines d'employés utiliseraient le tableau de bord, examinant le contenu pour appliquer manuellement les actions dictées par la politique de Twitter, telles que l'interdiction ou la restriction de comptes. Pourtant, fin octobre, deux initiés de l'équipe de sécurité de Twitter ont déclaré à Bloomberg que le nombre total avait été réduit à environ 15 employés.

Les violations de politique examinées manuellement sont généralement les violations les plus médiatisées, y compris celles qui pourraient entraîner des dommages réels, ont déclaré les employés de Twitter à Bloomberg.

Yoel Roth, responsable de la sécurité sur Twitter, a réagi à l'article de Bloomberg dans un tweet : « C'est exactement ce que nous (ou n'importe quelle entreprise) devrions faire au milieu d'une transition d'entreprise pour réduire les opportunités de risque d'initié. Nous appliquons toujours nos règles à grande échelle ».


Après avoir conclu son acquisition de Twitter, Musk a déclaré qu'il prévoyait de former un « conseil de modération de contenu », sans divulguer de détails tels que qui en ferait partie ou ce qu'il ferait. Le PDG de Tesla a ajouté qu'il ne prendrait aucune « décision majeure sur le contenu » ni ne rétablirait les comptes précédemment interdits avant que le conseil ne commence ses travaux.

Bien entendu, cette promesse a évolué : dans un tweet blâmant apparemment les militants pour les problèmes publicitaires de Twitter, Musk a affirmé qu'il n'avait promis de former le conseil qu'à la condition que les militants promettent de cesser de pousser les annonceurs à boycotter sa plateforme.

« Une large coalition de groupes d'activistes politiques/sociaux a accepté de ne pas essayer de tuer Twitter en nous privant de revenus publicitaires si j'acceptais cette condition », a tweeté Musk. « Ils ont rompu l'accord ».

Certains militants qui ont assisté à la réunion ont tweeté pour confirmer qu'ils n'avaient jamais conclu un tel accord avec Musk, notamment la co-PDG de Free Press, Jessica Gonzalez, qui a aidé à diriger une coalition #StopToxicTwitter faisant pression sur les 20 principaux annonceurs de Twitter pour qu'ils boycottent la plateforme.

« Je ne sais pas de qui Musk parle ici, mais je l'ai rencontré il y a quelques semaines avec des leaders des droits civiques, et je codirige également la coalition #StopToxicTwitter qui appelle les annonceurs à suspendre les publicités jusqu'à ce qu'il redresse le navire », a tweeté Gonzalez. « Je n'ai jamais conclu un tel accord ».

Le président de la NAACP, Derrick Johnson, a soutenu Gonzalez dans son propre tweet niant que les militants aient conclu un accord avec Musk.

« Nous ne ferions jamais un tel accord », a tweeté Johnson. « La démocratie vient toujours en premier. Les décisions prises sur Twitter sont dangereuses et il est de notre devoir, comme depuis notre création, de dénoncer les menaces qui pèsent sur notre démocratie. Les discours de haine et les complots violents ne peuvent pas avoir de refuge. »

Quoi qu'il en soit, après la réduction du personnel assigné à la modération, Twitter semble faire face à un défi majeur.

Une campagne de spambots pour empêcher la couverture médiatique des manifestations anti-confinement en Chine

Recorded Future a découvert que des réseaux de comptes de bots coordonnés ciblaient des plateformes de médias sociaux non chinoises pour évincer les messages authentiques sur les manifestations avec du contenu de spam et en détournant des hashtags de noms de villes chinoises. L'entreprise a déclaré que le gouvernement chinois était le plus susceptible d'être derrière cette stratégie.

Charity Wright, analyste senior chez Recorded Future, a déclaré : « Ces réseaux de spambots sont résilients, bien dotés en ressources et agiles. La vitesse à laquelle ils publient du contenu et créent de nouveaux comptes nous indique qu'ils disposent d'outils d'automatisation pour inonder l'espace d'information. Très peu d'opérations d'influence sont capables de ce niveau d'activité ». « Nous pensons qu'il est probable qu'il s'agissait d'une opération à grande échelle soit parrainée par le gouvernement chinois, soit sous-traitée par l'État à un substitut comme une ferme de trolls bien dotée en ressources », a-t-elle ajouté.

L'analyse fait suite à des preuves la semaine dernière que Twitter était bombardé de messages importuns, dont beaucoup étaient des publicités pour des escortes, dans le but de masquer les actualités des manifestations anti-confinement en Chine. Alex Stamos, directeur de l'Observatoire Internet de Stanford, a déclaré que l'activité chinoise indiquait le « premier échec majeur » pour arrêter l'ingérence du gouvernement sur la plateforme détenue par Elon Musk.

Recorded Future a découvert que des réseaux de milliers de comptes et de publications ciblaient un public parlant le mandarin en sautant sur les hashtags utilisés pour signaler la couverture des manifestations. Les comptes de bots distribuent ensuite de grands volumes de publications sous ces hashtags en chinois – par exemple les lieux de manifestations comme Pékin, Shanghai, Guangzhou, Shenzhen et Wuhan – en utilisant des contenus tels que des publicités pour des escortes, des services de rencontres, de la pornographie et de courts clips vidéo faisant la publicité de divers services.

Dans certains cas, les messages consistent en des chaînes aléatoires de mots anglais avec des codes de suivi joints, potentiellement pour évaluer la quantité de messages utilisés.

Recorded Future a déclaré que les comptes automatisés portaient la marque de campagnes de désinformation coordonnées. Les signes révélateurs incluent l'utilisation de comptes nouvellement créés avec un nombre d'abonnés nul ou faible ; comptes créés par blocs de centaines ou de milliers ; utiliser des structures de nom de compte similaires telles que le nom féminin + les numéros ; contenu textuel identique ; et partager des photos ou des vidéos de jeunes femmes asiatiques.

« À première vue, il semble que cette campagne vise à noyer la discussion sur les manifestations anti-confinement en Chine », a déclaré Wright. Elle a déclaré qu'il y avait des preuves que les réseaux de robots avaient détourné les hashtags des noms de villes lors de campagnes précédentes, notamment en septembre et fin octobre.

L'analyse de Recorded Future de la campagne de perturbation multiplateforme a révélé une propagation limitée de contenu de bot vexatoire sur Facebook et Instagram, alors qu'il n'y avait rien de notable sur TikTok, propriété chinoise, qui a diffusé des images des manifestations.

Wright a déclaré que les autorités chinoises et les plateformes nationales de médias sociaux étaient en mesure de réprimer rapidement les contenus qu'elles jugeaient répréhensibles. Cependant, cela n'est pas possible pour les plateformes étrangères, ce qui fait des comptes de robots une option potentielle pour réprimer la couverture des manifestations.

« Une option consiste à contrôler le récit en inondant la plateforme avec le récit qu'ils préfèrent », a déclaré Wright. « Dans ce cas, les spambots n'ont raconté aucune histoire particulière ni poussé un récit parrainé par l'État. Au lieu de cela, ils ont simplement submergé les flux de médias sociaux avec du contenu de spam. »

Source : Recorded Future

Et vous ?

Quelle lecture faites-vous de cette situation ?
Premier grand défi d'Elon Musk en matière de modération ?
Comment s'en sort-il selon vous ?
Êtes-vous plus portés vers la solution algorithmique, humaine, ou plus un mix des deux (dans quelles proportions) ? Twitter gagnerait-il à embaucher plus de personnes pour la modération ou plutôt à sous-traiter une partie (voire toute) de cette activité ?

Voir aussi :

Twitter licencie 4*400 à 5*500 contractuels sans les avertir au préalable, ni prévenir les équipes internes, d'après Platformer
Elon Musk propose de transformer Twitter en banque pour éviter la faillite. Musk vise à augmenter le nombre d'utilisateurs de Twitter d'un milliard, puis à lier les comptes aux cartes de débit