VRchat, une app dans le métavers, permet à des enfants d'avoir accès à des clubs de striptease virtuels

Avec peu de modération en place. L'application est sous le feu des critiques

Une chercheuse se faisant passer pour une fille de 13 ans a été témoin de grooming (l'action d'un pédophile de préparer un enfant à une rencontre, notamment via un forum de discussion sur Internet, dans l'intention de commettre une infraction sexuelle), de matériel sexuel, d'insultes racistes et d'une menace de viol dans le monde de la réalité virtuelle. La NSPCC (National Society for the Prevention of Cruelty to Children), une association caritative britannique pour la protection des enfants, s'est dite « choquée et en colère » par les découvertes.

Le responsable de la politique de sécurité des enfants en ligne, Andy Burrows, a ajouté que l'enquête avait révélé « une combinaison toxique de risques ».

Se servant d'une application exigeant un âge minimum de 13 ans, la chercheuse a visité des salles de réalité virtuelle où des avatars simulaient le sexe. Il lui a été montré des jouets sexuels et des préservatifs, et elle a été approchée par de nombreux hommes adultes.

Le métavers est le nom donné aux jeux et expériences auxquels accèdent les personnes portant des casques de réalité virtuelle. La technologie, auparavant confinée au jeu, pourrait être adaptée pour une utilisation dans de nombreux autres domaines - du travail au jeu, des concerts aux voyages au cinéma.

Mark Zuckerberg pense que cela pourrait être l'avenir d'Internet, à tel point qu'il a récemment renommé Facebook en Meta, la société investissant des milliards dans le développement de son casque Oculus Quest. Selon des estimations, ce casque, désormais rebaptisé Meta Quest, détient jusqu'à 75 % de part de marché. C'était d'ailleurs l'un de ces casques que la chercheuse a utilisé pour explorer une application et une partie du métavers. L'application, appelée VRChat, est une plateforme virtuelle en ligne que les utilisateurs peuvent explorer avec des avatars 3D.

Bien que l'application n'ait pas été développée par Facebook, elle peut être téléchargée à partir d'une boutique d'applications sur le casque Meta Quest de Facebook, sans vérification de l'âge (la seule exigence étant un compte Facebook).

La chercheuse a créé un faux profil pour créer son compte et sa véritable identité n'a pas été vérifiée.

À l'intérieur de VRChat, il y a des salles où les utilisateurs peuvent se rencontrer : certaines sont innocentes, comme un restaurant McDonald's, par exemple ; mais il y a aussi des clubs de pole-dance et de strip-tease.

Les enfants se mêlent librement aux adultes.

Un homme a déclaré à la chercheuse que les avatars peuvent « se déshabiller et faire des choses indécentes ». D'autres parlaient de « jeu de rôle érotique ».

Suite à l'enquête, la NSPCC a déclaré que l'amélioration de la sécurité en ligne était urgente. Burrows, du NSPCC, a estimé que ce que la chercheuse a trouvé était « extraordinaire ». « Ce sont des enfants exposés à des expériences totalement inappropriées, vraiment incroyablement nocives », a-t-il déclaré.

Il pense que les entreprises technologiques ont peu appris des erreurs commises avec la première génération de médias sociaux. « Il s'agit d'un produit dangereux par conception, à cause de la négligence. Nous voyons des produits déployés sans aucune suggestion que la sécurité ait été prise en compte », a-t-il regretté.

Meta dit qu'il dispose d'outils qui permettent aux joueurs de bloquer d'autres utilisateurs et cherche à apporter des améliorations à la sécurité « en apprenant comment les gens interagissent dans ces espaces ».


« Mon expérience dans VRChat », de Jess Sherwood

« J'ai été surprise de voir à quel point vous êtes totalement immergé dans les espaces. J'ai recommencé à me sentir comme un enfant. Alors, quand des hommes adultes me demandaient pourquoi je n'étais pas à l'école et m'encourageaient à me livrer à des actes sexuels en réalité virtuelle, c'était d'autant plus dérangeant.

« VRChat ressemblait définitivement plus à un terrain de jeu pour adultes qu'à un enfant. Beaucoup de pièces étaient ouvertement sexualisées en néon rose, comme ce que vous pourriez voir dans le quartier rouge d'Amsterdam ou dans les quartiers les plus miteux de Soho à Londres la nuit. À l'intérieur, des jouets sexuels étaient exposés.

« La musique diffusée dans les salles, qui peut être contrôlée par les joueurs, ajoute à l'impression que ce n'est pas un espace adapté aux enfants.

« Tout dans les chambres est énervant. Il y a des personnages qui simulent des actes sexuels sur le sol en grands groupes, se parlant comme des enfants qui jouent à être des couples d'adultes.

« C'est très inconfortable, et vos options sont de rester et de regarder, de passer à une autre pièce où vous pourriez voir quelque chose de similaire, ou de participer - ce que, à plusieurs reprises, on m'a demandé de faire ».


« Très peu de modération »

Les personnes dont le travail consiste à observer les évolutions de la VR sont également concernées. Catherine Allen dirige le cabinet de conseil Limina Immersive et rédige actuellement un rapport sur la réalité virtuelle pour l'Institut d'ingénierie et de technologie.

Elle dit que son équipe de recherche a trouvé bon nombre de leurs expériences en réalité virtuelle « amusantes et surréalistes », mais d'autres ont été « assez traumatisantes et dérangeantes ».

Elle a décrit un incident dans une application appartenant à Meta où elle a rencontré une fillette de sept ans.

Un groupe d'hommes les a entourées toutes les deux et a indiqué qu'il allait les violer. Allen a déclaré qu'elle devait s'interposer entre les hommes et l'enfant pour la protéger. « Je n'aurais pas dû avoir à faire ça, mais c'est parce qu'il n'y a pas de modération, ou apparemment très peu de modération ».

La réalité virtuelle et le métavers ne sont pas spécifiquement mentionnés dans le prochain projet de loi sur la sécurité en ligne du Royaume-Uni, qui doit être présenté au parlement dans les mois à venir. Mais devant le Parlement l'année dernière, la secrétaire à la Culture, Nadine Dorries, a clairement indiqué que la législation couvrirait la technologie.

Le projet de loi, une fois adopté, imposerait une obligation de diligence aux plateformes et aux fournisseurs pour protéger les enfants contre les contenus préjudiciables.

VRChat a déclaré qu'il « travaillait dur pour devenir un endroit sûr et accueillant pour tout le monde ». Il a déclaré que « les comportements prédateurs et toxiques n'ont pas leur place sur la plateforme ».

Le chef de produit de Meta pour l'intégrité VR, Bill Stillwell, a déclaré dans un communiqué : « Nous voulons que tous ceux qui utilisent nos produits aient une bonne expérience et trouvent facilement les outils qui peuvent aider dans des situations comme celles-ci, afin que nous puissions enquêter et agir ».

Il a ajouté : « Pour les applications multiplateformes… nous fournissons des outils qui permettent aux joueurs de signaler et de bloquer les utilisateurs. Nous continuerons d'apporter des améliorations à mesure que nous en apprendrons davantage sur la façon dont les gens interagissent dans ces espaces ».

Les organismes de bienfaisance conseillent aux parents de vérifier quelles applications leurs enfants utilisent sur les casques VR et, si possible, de les essayer par eux-mêmes, pour évaluer si elles sont appropriées.

De nombreuses applications permettent aux utilisateurs de "diffuser" simultanément leur expérience sur un téléphone ou un ordinateur portable, afin qu'un parent puisse regarder ce qui se passe en même temps que son enfant joue.

Source : BBC

Et vous ?

Connaissez-vous VRChat ? Qu'en pensez-vous ?
Qui devrait gérer la modération sur le métavers ? Le fournisseur de casque si l'application passe par sa vitrine de téléchargement ? Le développeur de l'application ?
Des papiers d'identité susceptibles d'être éligibles pour un accès à des endroits pour adultes comme des clubs de striptease ?
Les réseaux sociaux ayant déjà du mal à modérer leurs propres plateformes, avec autant de vecteurs (paroles, écrits, actes, etc.), Facebook pourrait-il gérer efficacement la modération ?