IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

TikTok suggère du contenu sur l'anorexie et l'automutilation aux adolescents qui rejoignent la plateforme en quelques minutes
Selon un rapport du Center for Countering Digital Hate

Le , par Stéphane le calme

214PARTAGES

25  0 
TikTok recommande des contenus sur l'automutilation et les troubles de l'alimentation à certains utilisateurs quelques minutes après avoir rejoint la plateforme, selon un nouveau rapport publié mercredi par le Center for Countering Digital Hate (CCDH).

La nouvelle étude a demandé aux chercheurs de créer des comptes TikTok se faisant passer pour des utilisateurs de 13 ans intéressés par du contenu sur l'image corporelle et la santé mentale. Il a été constaté que 2,6 minutes après avoir rejoint l'application, l'algorithme de TikTok recommandait un contenu suicidaire. Le rapport a montré que le contenu sur les troubles de l'alimentation était recommandé en 8 minutes.

Au cours de cette étude, les chercheurs ont trouvé 56 hashtags TikTok hébergeant des vidéos sur les troubles de l'alimentation avec plus de 13,2 milliards de vues.

« Le nouveau rapport du Center for Countering Digital Hate souligne pourquoi il est bien plus que temps pour TikTok de prendre des mesures pour lutter contre la dangereuse amplification algorithmique de la plateforme », a déclaré James P. Steyer, fondateur et PDG de Common Sense Media, qui n'est pas affilié à l'étude. « L'algorithme de TikTok bombarde les adolescents avec du contenu préjudiciable qui favorise le suicide, les troubles de l'alimentation et les problèmes d'image corporelle qui alimentent la crise de santé mentale des adolescents ».

TikTok, qui a été lancé à l'échelle mondiale par la société chinoise ByteDance en 2017, et fonctionne grâce à des algorithmes informés par des données personnelles (les j'aime, les personnes qu'ils suivent, le temps de visionnage, les intérêts d'un utilisateur) est devenu l'application de médias sociaux à la croissance la plus rapide au monde, atteignant un milliard d'actifs par mois utilisateurs d'ici 2021.

Le rapport du CCDH détaille comment les algorithmes de TikTok affinent les vidéos présentées aux utilisateurs à mesure que l'application recueille plus d'informations sur leurs préférences et leurs intérêts. Les suggestions algorithmiques du flux « Pour vous » sont conçues, comme le dit l'application, pour être « au cœur de l'expérience TikTok ». Mais de nouvelles recherches montrent que la plateforme vidéo peut pousser du contenu préjudiciable aux utilisateurs vulnérables, car elle cherche à les garder intéressés.

Comment les tests ont-ils été effectués ?

Pour tester l'algorithme, les chercheurs du CCDH se sont enregistrés en tant qu'utilisateurs aux États-Unis, au Royaume-Uni, au Canada et en Australie et ont créé des comptes « standard » et « vulnérables » sur TikTok. Au total, huit comptes ont été créés et des données ont été recueillies à partir de chaque compte pendant les 30 premières minutes d'utilisation. Le CCDH affirme que la petite fenêtre d'enregistrement a été créée pour montrer à quelle vitesse la plateforme vidéo peut comprendre chaque utilisateur et diffuser du contenu potentiellement dangereux.

Dans le rapport, chaque chercheur, se faisant passer pour un jeune de 13 ans, l'âge minimum auquel TikTok autorise l'inscription à son service, a créé deux comptes dans son pays désigné. Un compte a reçu un nom d'utilisateur féminin. L'autre, un nom d'utilisateur qui indique une préoccupation concernant l'image corporelle - le nom comprenait l'expression « perdre du poids ». Dans tous les comptes, les chercheurs se sont brièvement arrêtés sur des vidéos sur l'image corporelle et la santé mentale. Ils ont « aimé » ces vidéos, comme s'ils étaient des adolescents intéressés par ce contenu.

Lorsque le compte « perdre du poids » a été comparé au compte standard, les chercheurs ont constaté que les comptes « perdre du poids » recevaient trois fois plus de contenu préjudiciable global et 12 fois plus de vidéos d'automutilation et de suicide que les comptes standard.

« TikTok est capable de reconnaître la vulnérabilité des utilisateurs et cherche à l'exploiter », a déclaré Imran Ahmed, PDG du CCDH, qui se trouve à Washington D.C., plaidant pour le Kids Online Safety Act (KOSA), qui mettrait en place des garde-fous pour protéger les mineurs en ligne. « Cela fait partie de ce qui rend les algorithmes de TikTok si insidieux*; l'application teste constamment la psychologie de nos enfants et s'adapte pour les garder en ligne ».

Le contenu poussé vers les comptes vulnérables comprenait une vidéo avec la légende*: « Faire en sorte que tout le monde pense que vous allez bien afin que vous puissiez essayer en privé ». La vidéo insinuant une tentative de suicide a recueilli 386 900 j'aime. Le reportage présentait également une vidéo d'une adolescente en pleurs, avec des mots à l'écran : « Tu ne penses pas à te suicider, n'est-ce pas ? » Et puis en faisant référence à un personnage de télévision nommé, Sarah Lynn, qui dans la série animée Netflix « Bojack Horseman » meurt d'une overdose. Cette vidéo a reçu 327 900 likes. Et un autre avec un lien vers PrettyScale.com, un site Web où les utilisateurs téléchargent des photos du corps et du visage pour que leur attrait soit classé par une « formule mathématique ». La vidéo avait 17 300 likes.


La réaction de TikTok

Un porte-parole de TikTok a contesté la méthodologie de l'étude.

« Nous consultons régulièrement des experts de la santé, supprimons les violations de nos politiques et donnons accès à des ressources de soutien à toute personne dans le besoin », a déclaré le représentant. Le porte-parole de TikTok a poursuivi en disant que la plateforme vidéo était « consciente que le contenu déclencheur est unique à chaque individu » et que la plateforme sociale « reste concentrée sur la création d'un espace sûr et confortable pour tout le monde ».

Cette étude intervient alors que plus de 1 200 familles ont lancé des poursuites judiciaires contre des sociétés de médias sociaux, parmi lesquelles TikTok. Ces poursuites allèguent que le contenu des plateformes de médias sociaux a eu un impact profond sur la santé mentale de leurs enfants et, dans certains cas, a contribué à la mort de leurs enfants. Plus de 150 procès devraient aller de l'avant l'année prochaine.

Kids Online Safety Act (KOSA), qu'est-ce que c'est et pourquoi des organismes s'y opposent ?

Les récents rapports des lanceurs d'alerte, mais aussi des études sur les effets néfastes des plateformes en ligne, en particulier des médias sociaux, semblent avoir suscité davantage l'inquiétude des législateurs californiens. C'est dans ce contexte qu'a été présenté en février un projet de loi visant à protéger les données des enfants en ligne, à l'instar du code pour enfants récemment introduit au Royaume-Uni (UK Children's code). L'initiative des législateurs californiens s'inscrit également dans le cadre d'un mouvement mondial croissant en faveur d'une réglementation plus stricte des grandes entreprises technologiques.

Le projet de loi sur la sécurité des enfants en ligne (Kids Online Safety Act) a été présenté par les sénateurs Richard Blumenthal, D-Conn, et Marsha Blackburn, R-Tenn, respectivement président et membre principal de la sous-commission du commerce du Sénat sur la protection des consommateurs. S'il est adopté, le projet de loi aura un effet important sur la conception des plateformes créées par des sociétés comme Meta, la société mère de Facebook, Snap, Google et TikTok. Il exigera des entreprises dont le siège est situé dans l'État qu'elles limitent la quantité de données qu'elles collectent auprès des jeunes utilisateurs.

Le projet de loi exige que ces entreprises mettent en place des mesures de protection auxquelles les mineurs ou leurs parents peuvent facilement accéder pour « contrôler leur expérience et leurs données personnelles ». Dans le texte initial, il est question entre autres des paramètres de plateforme qui limiteraient la capacité des autres à trouver les mineurs en ligne, qui leur permettraient de se retirer des systèmes de recommandations algorithmiques utilisant leurs données et qui limiteraient leur temps passé en ligne. En outre, le projet de loi californien imposera des restrictions sur le profilage des jeunes utilisateurs des plateformes en ligne à des fins de publicité ciblée.

Si l'intention est noble, cela n'a pas empêché des dizaines d'organisations de défense des droits de la personne et LGBTQ+ d'écrire aux membres du Congrès pour s'opposer à ce projet de loi sur la sécurité en ligne des enfants qui, selon eux, ne contribuerait pas réellement à faire d'Internet un meilleur endroit pour les enfants et les adolescents. La lettre intervient alors que les parrains au Sénat de la Kids Online Safety Act poussent à son adoption, qualifiant le projet de loi de moyen important de tenir les plateformes de médias sociaux responsables des dommages causés aux enfants en l'absence d'une loi américaine plus large sur la confidentialité en ligne.

Mais les groupes affirment que l'exigence du projet de loi selon laquelle les sites filtrent le contenu en ligne conduirait à une « modération excessive » et exclurait les membres des groupes plus jeunes marginalisés qui comptent sur les services en ligne pour en savoir plus sur l'éducation sexuelle ou accéder aux ressources LGBTQ+. Ils soutiennent également que l'aspect de la supervision parentale du projet de loi « nécessiterait effectivement des services en ligne pour permettre la surveillance parentale des 15 et 16 ans par défaut » et pourrait nuire aux adolescents victimes de violence domestique. Ils préviennent que le projet de loi pourrait conduire les sites à collecter par inadvertance plus d'informations auprès des jeunes utilisateurs que nécessaire en raison des exigences de vérification de l'âge.

Un contenu différent promu en Chine

Il y a un côté sombre de cette application qui, au lieu de faire l'objet de nombreuses discussions, est ignoré la plupart du temps.

Le journaliste et présentateur de Fox News, Tucker Carlson, a récemment parlé du contenu promu par l'algorithme de l'application en Chine continentale et l'a comparé au contenu des pays occidentaux. Carlson a expliqué comment le contenu diffère à un niveau étendu et montre des genres complètement différents aux utilisateurs en fonction de l'emplacement. C'est un fait bien connu que TikTok est assez célèbre pour ses vidéos a but récréatif.

De plus, de nombreux contenus font la promotion de contenus problématiques pour des enfants comme le twerk, les thérapies de changement de genre, allant même jusqu'à leur enseigner comment cacher leur «*identité de genre*» à leurs parents. Un rapport du Daily Mail de décembre 2021 alléguait que TikTok faisait la promotion de la chirurgie de changement de genre comme quelque chose de "cool" parmi les enfants, et au moment où ce rapport a été publié, ces vidéos étaient visionnées plus de 26 milliards de fois.

TikTok s'appelle Douyin en Chine. Il appartient à la même société chinoise ByteDance. Comparé au contenu que les utilisateurs occidentaux voient sur TikTok, ce qu'il promeut en Chine est complètement à l'opposé du spectre. Il convient de noter qu'il existe une politique en place en Chine selon laquelle le contenu réglementé par le gouvernement peut être affiché sur n'importe quelle plateforme, et tout autre contenu ne peut pas obtenir les promotions souhaitées par la plateforme.

Gardant cela à l'esprit, la majorité du contenu promu par Douyin en Chine est liée à la technologie, à l'architecture, à la musique et à des intérêts similaires qui augmentent la créativité des utilisateurs et aident à améliorer leurs compétences. Comme aucune politique de ce type n'est en place dans d'autres pays, TikTok promeut un contenu qui peut devenir viral rapidement et génère des revenus pour l'entreprise. De plus, certaines théories sont souvent discutées sur des forums selon lesquels la Chine utilise intentionnellement un contenu inapproprié généré en Occident pour «*corrompre l'esprit*» de la jeune génération. C'est le cas d'Andrew Schulz dont voici les propos :


Lors d'un podcast, le comédien Andrew Schulz a évoqué l'algorithme TikTok. Il a expliqué comment l'algorithme promeut du contenu inutile en Occident, mais montre un contenu extrêmement utile en Chine. Il a déclaré que la Chine ne voulait pas que les applications créées par d'autres pays influencent leur future génération. Schulz a souligné qu'en Chine, l'application fait la promotion de contenu utile, par exemple sur l'architecture, la science ou les mathématiques. Cependant, dans d'autres pays, il promeut des contenus comme des danses stupides, etc.

Dans un podcast, Crowder et Crew ont expliqué comment TikTok rendait les gens stupides. Ils ont mentionné différentes études qui ont prouvé que TikTok pouvait manipuler le comportement des utilisateurs et avait le potentiel de prendre en charge le contenu de l'utilisateur sur n'importe quel appareil en contournant les politiques de confidentialité et les conditions définies par Google et Apple.


L'idée de base derrière TikTok est de promouvoir un contenu qui peut devenir viral en un instant et de pousser les créateurs de contenu à créer un contenu similaire.

Plus ces vidéos devenaient virales, plus les créateurs de contenu y voyaient une opportunité facile de gagner du terrain sur la plateforme. Selon certains observateurs, une fois que les utilisateurs ont commencé à créer du contenu similaire, TikTok a commencé à promouvoir le contenu qu'ils souhaitaient diffuser dans une zone particulière. Par exemple, s'ils voulaient que les enfants des États-Unis subissent une chirurgie de changement de genre à grande échelle, ils feraient la promotion d'un contenu qui le présenterait comme une étape cool, moderne, facile et gratifiante à franchir.

En fait, les influenceurs TikTok sont devenus si importants aux États-Unis maintenant qu'au début de la guerre russo-ukrainienne, le président américain Joe Biden a invité les influenceurs TikTok à la Maison-Blanche et a sollicité leur soutien pour faire avancer l'agenda américain en ligne.

De la vente d'un produit inutile à la modification des habitudes de vote, une plateforme comme TikTok est capable de faire beaucoup de dégâts à moins que les gouvernements ne proposent une politique stricte pour contrer l'algorithme de TikTok.

Sources : rapport du CCDH, TikTok

Et vous ?

Que pensez-vous de ce rapport ? Est-il crédible selon vous ? Dans quelle mesure ?
Qu'est-ce qui pourrait, selon vous, expliquer ce genre de promotion ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de SimonKenoby
Membre averti https://www.developpez.com
Le 11/01/2023 à 11:15
Moi, ce qui m'étonne, c'est que les réseaux sociaux soient autorisés sur des appareils gouvernementaux en 1er lieu.
7  0 
Avatar de bouye
Rédacteur/Modérateur https://www.developpez.com
Le 27/03/2023 à 0:15
Je suis pas spécialement paranoïaque ni ne pense que nos gouvernements ont des but cachés foncièrement mauvais mais je pense qu'on fait ou tente de faire probablement pareil de notre coté (ou sommes très envieux d'eux si on ne peut pas le faire).

Pour équilibrer un peu la chose, je rappelle juste qu'il y a qq années on "découvrait" que Facebook était capable même de sniffer et suivre les comportements des utilisateurs sur les téléphones ou son app était même pas installée. Et que sans parler de "collusion avec le gouv US", presque tous les fournisseurs de réseaux sociaux, de services de reconnaissance/commande vocale, mais aussi tous les fournisseurs de plateformes (Google) nous traquent tout le temps sous le prétexte que "nos apps et services marchent mieux comme ca".

Il y a bien longtemps déjà, le bouquin O'Reilly sur PGP commençait sur un chapitre parlant de la volonté du gouvernement Clinton d'imposer une puce de cryptage dans les TV permettant de réceptionner les réseaux câblé et que c’était mal car "le gouv US aurait pu alors vous espionner comme bon vous semble" (syndrome pourquoi les cartes de crédit avec puce ont eut du mal a décoller aux US). Décris comme ça, ça faisait très parano, mais c’était la raison 1ere de du dev de cet outil : mettre en accès libre un outil permettant a tout un chacun de crypter des trucs que le gouv US n'aurait pas pu casser (un raisonnement très américain en soit).

Bref, 25 ans plus tard, pas beaucoup de changements, les gouv nous traquent des que possible (Chine, Pegasus, révélations passées sur les écoutes du Gov US, les nôtres font sans doute pareil de toutes manières [et ça fait partie du jeu standard d'espionner ses ennemis comme ses alliés et aussi de tenter d'identifier les menaces internes potentielles]) et les majors tant orientales que occidentales font pareil aussi (soit pour collaborer avec leur gouv, soit pour se faire du fric sur notre dos via nos data ou de la pub, soit les deux)...

Pendant ce temps-la, il me semble avoir vu qu'un certain présentateur d'une certaines émission littéraire sur France 5 apparaissait également dans une campagne de pub pour "BookTok" (le partage d'avis littéraire sur TikTok) sur les chaînes du groupe France TV (et d'autres aussi probablement) récemment.
6  0 
Avatar de Athaa
Membre à l'essai https://www.developpez.com
Le 27/03/2023 à 13:20
Citation Envoyé par Ryu2000 Voir le message
Ce mot n'existe pas, on doit dire "chiffrage".
Pour être précis on dit chiffrement.
Citation Envoyé par Ryu2000 Voir le message

Ce mot n'existe pas, on doit dire "chiffrer".
Désolé, j'aime bien le comique de répétition.
En effet crypter ne veux rien dire.
Pour s’en convaincre:
-déchiffrer : transformer un message crypté en message en clair, en utilisant la clé de déchiffrement.
-décrypter : transformer un message crypté en message en clair, sans connaître la clé de déchiffrement.
Je vous laisse déduire ce que veux dire chiffrer et ce voudrais dire crypter s’il existait.
6  0 
Avatar de fodger
Membre confirmé https://www.developpez.com
Le 27/03/2023 à 11:54
Toutes ces applications sont bonnes à vider le cerveau des gens, qu'on les supprime.
6  1 
Avatar de denisys
Membre expérimenté https://www.developpez.com
Le 27/03/2023 à 18:11
Pour moi.
Aucun smartphone avec un logiciel dit : réseaux sociaux, devrait être installé par les constructeurs.
Il devrait être un choix optionnel de l’utilisateur final !!
5  0 
Avatar de der§en
Membre éclairé https://www.developpez.com
Le 03/01/2023 à 9:02
Bref, les ricains reprochent aux chinois, là aussi, de copier sur eux
4  0 
Avatar de pcdwarf
Membre éprouvé https://www.developpez.com
Le 06/01/2023 à 14:27
Moi j'ai pas compris la mécanique par laquelle tictok est tellement nuisible.

J'ai très bien compris en quoi c'était une usine à connerie, mais est-ce que c'est tellement pire qu'une "real-tv" lambda ?
De toute façon, c'est pas un critère. En tout cas si il fallait interdire tictok pour motif de stupidité, ça ne serait que le premier d'une très très très longue série et il ne resterait plus grand chose à la fin.

du coup, c'est quoi le truc réellement malicieux dedans ? comment ça collecte des données ? et comment ça les utilise (ou pourrait les utiliser) pour nuire ?
Et en quoi c'est pire que google, facebook, twitter et compagnie ?
4  0 
Avatar de Waikiki
Membre averti https://www.developpez.com
Le 27/01/2023 à 13:27
Ça serait bien que tout les pays d'Europe fassent de même mais sans se limiter à Tiktok, il faudrait aussi bannir Facebook, Twitter, Snapchat, Instagram, Whatsapp vu que le gouvernement US oblige les entreprises US du numérique à coopérer avec leurs services (comme l'a dit Ryu2000).

Mais bon, on peut rêver, déjà qu'aucun pays n'ose s'opposer à l'extraterritorialité du droit américain.
4  0 
Avatar de Jo6466
Nouveau Candidat au Club https://www.developpez.com
Le 23/03/2023 à 13:12
Il ne faut pas avoir fait l'Ena pour comprendre que l'Europe répond à la demande de l'Amérique d'empêcher que Tiktok remplace Google
Le plus cynique dans l'histoire c'est que l'on accuse Tiktok de choses que Google fait certainement depuis des décénies ... l'espionnage de l'Europe
5  1 
Avatar de BleAcheD
Membre confirmé https://www.developpez.com
Le 16/12/2022 à 15:26
J'ai pu effectivement voir toute sorte de choses bizarres après quelques secondes sur l'application avec un compte neuf. Je n'avais rien cherché, donc on peut se poser des questions.
3  0