TikTok est poursuivi pour la mort de deux jeunes filles. Son algorithme les a exposé aux vidéos virales du "blackout challenge"

Qu'elles ont tenté de reproduire dans l'espoir de devenir célèbres

TikTok est poursuivi pour la mort de deux jeunes filles. Son algorithme les a exposées aux vidéos virales du "blackout challenge"
qu'elles ont tenté de reproduire dans l'espoir de devenir célèbres

Lalani Erika Walton, huit ans, voulait devenir « célèbre sur TikTok ». Au lieu de cela, elle s'est retrouvée morte.

Il s'agit de l'une des deux tragédies de ce type qui ont été l'origine de deux poursuites pour mort injustifiée déposées vendredi devant la Cour supérieure du comté de Los Angeles contre la grande enseigne des médias sociaux. L'application de la société a diffusé à la fois à Lalani et Arriani Jaileen Arroyo, 9 ans, des vidéos associées à une tendance virale appelée blackout challenge dans laquelle les participants tentent de s'étouffer jusqu'à perdre conscience, selon les cas ; les deux jeunes filles sont mortes après avoir tenté de participer.

C'est une indication que TikTok - l'application vidéo extrêmement populaire et organisée par algorithme qui a son siège américain à Culver City - est un produit défectueux, estime le Social Media Victims Law Center, le cabinet d'avocats à l'origine des poursuites et une « ressource juridique » autoproclamée pour les parents d'enfants lésés par les réseaux sociaux. TikTok a exposé Lalani et Arriani à une tendance dangereuse, est conçu pour créer une dépendance et n'a pas offert aux filles ou à leurs parents des dispositifs de sécurité adéquats, selon le Law Center, tout cela au nom de la maximisation des revenus publicitaires.

TikTok n'a pas immédiatement répondu à une demande de commentaire.

Les décès des filles présentent des similitudes frappantes.

Lalani, qui venait du Texas, était une TikTokeuse passionnée, publiant des vidéos d'elle-même dansant et chantant sur le réseau social dans l'espoir de voir ses vidéos devenir virales, selon la plainte du Law Center.

À un moment donné en juillet 2021, l'algorithme de Twitter a commencé à faire apparaître des vidéos du blackout challenge par autoétranglement, continue la plainte. Au milieu de ce mois de juin 2021, Lalani a dit à sa famille que les ecchymoses qui étaient apparues sur son cou étaient le résultat d'une chute, selon la plainte; peu de temps après, elle a passé une partie d'un trajet en voiture de 20 heures avec sa belle-mère à regarder des vidéos de blackout challenge, ce que sa belle-mère apprendrait plus tard.

Quand elles sont rentrées du voyage, la belle-mère de Lalani lui a dit que les deux pourraient aller nager plus tard, puis ont fait une brève sieste. Mais au réveil, continue la plainte, sa belle-mère est allée dans la chambre de Lalani et a trouvé la fille « suspendue à son lit avec une corde autour du cou ».

La police, qui a pris le téléphone et la tablette de Lalani, a dit plus tard à sa belle-mère que la jeune fille avait regardé des vidéos de blackout challenge « en boucle », indique la plainte.

Lalani était « convaincue que si elle publiait une vidéo d'elle-même en train de faire le Blackout Challenge, elle deviendrait célèbre », note la plainte, mais la jeune fille « n'a pas apprécié ni compris la nature dangereuse de ce que TikTok l'encourageait à faire ».

Arriani, de Milwaukee, aimait également publier des vidéos de chansons et de danse sur TikTok, indique la plainte. Elle « est progressivement devenue obsédée » par l'application, ajoute-t-elle.

Le 26 février 2021, le père d'Arriani travaillait au sous-sol lorsque son jeune frère Edwardo est descendu et a dit qu'Arriani ne bougeait pas. Les deux frères et sœurs jouaient ensemble dans la chambre d'Arriani, selon la plainte, mais lorsque leur père s'est précipité à l'étage pour vérifier, il a trouvé sa fille « suspendue à la laisse du chien de la famille ».

Arriani a été transportée d'urgence à l'hôpital et placée sous ventilateur, mais il était trop tard – la jeune fille avait perdu toutes ses fonctions cérébrales, selon la plainte, et a finalement été retirée de l'assistance respiratoire.

« Le produit de TikTok et son algorithme ont dirigé des défis et des vidéos extrêmement et inacceptablement dangereux » dans le flux d'Arriani, poursuit la plainte, l'encourageant « à s'engager et à participer au TikTok Blackout Challenge ».

Lalani et Arriani ne sont pas les premiers enfants à mourir en tentant le blackout challenge.

Nylah Anderson, 10 ans, s'est accidentellement pendue dans la maison de sa famille alors qu'elle tentait d'imiter la tendance, allègue une plainte que sa mère a récemment intentée contre TikTok en Pennsylvanie.

Un certain nombre d'autres enfants, âgés de 10 à 14 ans, seraient morts dans des circonstances similaires alors qu'ils tentaient de relever le défi du blackout.

« TikTok savait sans aucun doute que le Blackout Challenge mortel se propageait via leur application et que leur algorithme publiait spécifiquement le Blackout Challenge sur le flux des enfants », affirme la plainte du Social Media Victims Law Center, ajoutant que la société « savait ou aurait dû savoir que ne pas prendre des mesures immédiates et importantes pour stopper la propagation du Blackout Challenge mortel entraînerait davantage de blessures et de décès, en particulier chez les enfants ».

TikTok a par le passé nié que le blackout challenge soit une tendance TikTok, pointant du doigt des cas pré-TikTok d'enfants mourant du « jeu d'étouffement » et disant au Washington Post que la société a bloqué le hashtag #BlackoutChallenge de son moteur de recherche.

Ces types de défis viraux, généralement construits autour d'un hashtag qui permet de trouver facilement chaque entrée au même endroit, font partie intégrante de la culture des utilisateurs de TikTok. La plupart sont inoffensifs, encourageant souvent les utilisateurs à synchroniser les lèvres d'une chanson particulière ou à imiter un mouvement de danse.

Mais certains se sont avérés plus risqués. Des blessures ont été signalées lors de tentatives de recréation de cascades connues sous le nom de fire challenge, milk crate challenge, Benadryl challenge, skull breaker challenge et dry scoop challenge, entre autres.

Ce n'est pas non plus un problème limité à TikTok. Dans le passé, YouTube a accueilli des tendances telles que le Tide Pod challenge et le cinnamon challenge, qui, selon les experts, pourraient être dangereuses. En 2014, la légende urbaine native d'Internet connue sous le nom de Slenderman a conduit deux préadolescentes à poignarder un ami 19 fois.


Contourner la section 230 en s'attaquant aux algorithmes

Bien que les plateformes de médias sociaux soient depuis longtemps accusées d'héberger des contenus socialement nuisibles, y compris des discours de haine, des calomnies et de la désinformation, une loi fédérale appelée Section 230 rend difficile de poursuivre les plateformes elles-mêmes. En vertu de la section 230, les applications et les sites Web bénéficient d'une grande latitude pour héberger le contenu généré par les utilisateurs et le modérer comme bon leur semble, sans avoir à craindre d'être poursuivis en justice.

La plainte du Law Center tente de contourner ce pare-feu en présentant les décès dus au blackout challenge comme un échec de la conception du produit plutôt que comme une modération du contenu. TikTok est responsable d'avoir développé un produit de médias sociaux organisé de manière algorithmique qui a exposé Lalani et Arriani à une tendance dangereuse, selon la théorie – un argument de sécurité des consommateurs qui est beaucoup moins controversé que les questions épineuses sur la liberté d'expression et la censure qui pourraient survenir étaient que la plainte présente les faux pas de TikTok comme ceux d'un éditeur.

Le Law Center soutient qu'un « produit de médias sociaux déraisonnablement dangereux... qui est conçu pour créer une dépendance aux jeunes enfants et qui le fait, qui les dirige vers le danger, n'est pas un contenu tiers immunisé, mais plutôt une conduite volontaire de la part des sociétés de médias sociaux », a déclaré Matthew Bergman, l'avocat qui a fondé le cabinet.

Ou, comme le dit la plainte : les plaignants « n'allèguent pas que TikTok est responsable de ce que des tiers ont dit ou fait, mais de ce que TikTok a fait ou n'a pas fait ».

En grande partie, les plaintes le font en critiquant l'algorithme de TikTok comme addictif, avec une interface semblable à une machine à sous qui alimente les utilisateurs d'un flux de vidéos sans fin et sur mesure dans l'espoir de les garder en ligne pendant des périodes de plus en plus longues. « TikTok a conçu, fabriqué, commercialisé et vendu un produit de médias sociaux qui était déraisonnablement dangereux, car il a été conçu pour créer une dépendance pour les utilisateurs mineurs », lit-on dans la plainte, ajoutant que les vidéos qui ont été diffusées aux utilisateurs incluent celles qui sont « nuisibles et exploiteuses ». « TikTok avait le devoir de surveiller et d'évaluer les performances de son algorithme et de s'assurer qu'il ne dirigeait pas les enfants vulnérables vers des vidéos dangereuses et mortelles ».

Des documents divulgués indiquent que l'entreprise considère à la fois la rétention des utilisateurs et le temps pendant lequel les utilisateurs restent sur l'application comme des indicateurs de réussite clés.

C'est un modèle commercial que de nombreuses autres plateformes Web gratuites déploient - plus les utilisateurs passent de temps sur la plateforme, plus la plateforme peut vendre d'annonces - mais qui est de plus en plus critiqué, en particulier lorsque les enfants et leurs cerveaux encore en développement sont impliqués.

Deux projets de loi en cours d'examen à l'Assemblée législative de Californie visent à remodeler le paysage de la façon dont les plateformes de médias sociaux engagent les jeunes utilisateurs. La première, la Social Media Platform Duty to Children Act, donnerait aux parents le pouvoir de poursuivre les plateformes Web qui rendent leurs enfants dépendants ; l'autre, la California Age-Appropriate Design Code Act, exigerait que les plateformes Web offrent aux enfants des protections substantielles en matière de confidentialité et de sécurité.

Bergman a passé une grande partie de sa carrière à représenter des victimes de mésothéliome, dont beaucoup sont tombées malades suite à une exposition à l'amiante. Le secteur des médias sociaux, a-t-il dit, « fait passer l'industrie de l'amiante pour une bande d'enfants de chœur ».

Mais aussi mauvaises que soient les choses, a-t-il ajouté, des cas comme le sien contre TikTok offrent également un peu d'espoir pour l'avenir.

Avec le mésothéliome, dit-il, « cela a toujours été une compensation pour les torts passés ». Mais les poursuites contre les entreprises de médias sociaux offrent « l'opportunité d'arrêter de faire des gens des victimes*; de mettre réellement en œuvre le changement*; de sauver des vies ».

Source : plainte du Law Center

Et vous ?

Quelle lecture en faites-vous ?

Voir aussi :

TikTok a dépassé Snapchat en termes de popularité parmi les adolescents pour la première fois. Facebook a connu un déclin considérable, selon des données de Piper Sandler
Les données des utilisateurs US de TikTok ont été consultées en Chine malgré les démentis, selon un rapport. Aussi, TikTok a annoncé le transfert de tout le trafic américain vers les serveurs Oracle