Le bureau du procureur général du Nouveau-Mexique a déposé une plainte contre Meta, la société mère de Facebook, alléguant que près de 100 000 enfants sont harcelés sexuellement chaque jour sur ses plateformes. La plainte, basée sur des documents internes et des communications d'employés de Meta, accuse l'entreprise de favoriser la pornographie enfantine et de permettre aux prédateurs de solliciter des mineurs. Les enquêteurs ont créé des comptes-leurres d'enfants qui ont été exposés à des images sexuellement explicites, même sans intérêt exprimé. La plainte affirme que Meta a négligé la sécurité des enfants, nuisant à leur santé mentale et à leur sécurité physique. Meta rejette les accusations, déclarant que la plainte dénature son travail et soulignant les mesures prises pour protéger les adolescents. Cette affaire s'ajoute à d'autres poursuites à l'encontre de Meta, soulignant les préoccupations croissantes concernant la sécurité des enfants sur les réseaux sociaux. La société a annoncé des mesures supplémentaires pour protéger les adolescents, mais les critiques persistent quant à l'efficacité de ses systèmes de modération de contenu.
Meta estime qu'environ 100 000 enfants utilisant Facebook et Instagram reçoivent chaque jour du harcèlement sexuel en ligne, notamment des « images d'organes génitaux d'adultes », selon des documents internes de l'entreprise rendus publics mercredi en fin de journée. Le dossier juridique non scellé comprend plusieurs allégations contre l'entreprise basées sur des informations que le bureau du procureur général du Nouveau-Mexique a reçues lors de présentations par des employés de Meta et de communications entre le personnel. Les documents décrivent un incident survenu en 2020, lorsque la fille de 12 ans d'un cadre d'Apple a été sollicitée via IG Direct, le produit de messagerie d'Instagram.
« C'est le genre de chose qui énerve Apple au point de menacer de nous retirer de l'App Store », s'est inquiété un employé de Meta, selon les documents. Un employé senior de Meta a décrit comment sa propre fille avait été sollicitée via Instagram lors d'un témoignage devant le Congrès américain à la fin de l'année dernière. Ses efforts pour résoudre le problème ont été ignorés, a-t-il déclaré.
Chaque jour, près de 100 000 enfants font l'objet de harcèlement sexuel sur les plateformes de Meta, d'après les allégations formulées dans une plainte déposée par le bureau du procureur général du Nouveau-Mexique. Cette plainte, fondée sur des documents internes et des communications d'employés de Meta, suggère que l'entreprise aurait été négligente en permettant la diffusion de contenus pornographiques mettant en scène des enfants et en facilitant l'interaction entre des prédateurs et des mineurs. Meta réfute ces allégations, arguant que la plainte utilise des "citations sélectives" pour dénaturer son travail et insistant sur les mesures substantielles mises en place pour protéger les adolescents.
Des comptes-leurres exposent la vulnerabilite des enfants en ligne
L'enquête menée par le bureau du procureur général du Nouveau-Mexique a révélé l'utilisation de comptes-leurres, impliquant des enfants de 14 ans et moins, qui étaient exposés à des contenus sexuellement explicites, même en l'absence de tout intérêt manifesté. Les procureurs soutiennent que Meta a permis à des adultes d'encourager activement les enfants à fournir des images pornographiques, tout en facilitant la diffusion de contenu inapproprié au sein de groupes non modérés.
Les enquêteurs du Nouveau-Mexique ont créé des comptes-leurres d'enfants de 14 ans et moins qui, selon le bureau de Torrez, recevaient des images sexuellement explicites même lorsque l'enfant n'exprimait aucun intérêt pour ces images. Les procureurs de l'État affirment que Meta a permis à des dizaines d'adultes de trouver, de contacter et d'encourager des enfants à fournir des images sexuellement explicites et pornographiques.
Selon les enquêteurs, les comptes ont également reçu des recommandations pour rejoindre des groupes Facebook non modérés destinés à faciliter le commerce du sexe, ajoutant que Meta a également permis à ses utilisateurs de trouver, de partager et de vendre « un énorme volume de pornographie infantile ». La plainte affirme que Meta « nuit aux enfants et aux adolescents par la conception addictive de sa plateforme, dégradant la santé mentale des utilisateurs, leur sens de l'estime de soi et leur sécurité physique ». Selon les médias, la plainte est basée sur des communications internes entre le personnel de Meta et des présentations faites par des employés de l'entreprise.
Il s'agirait notamment d'une discussion interne à l'entreprise datant de 2020, au cours de laquelle un employé a posé la question suivante : « Que faisons-nous spécifiquement pour la manipulation d'enfants (quelque chose dont je viens d'entendre parler et qui se produit souvent sur TikTok) ? » « Quelque part entre zéro et négligeable, a répondu le collègue. « La sécurité des enfants est un non-objectif explicite pour ce semestre. »
Les documents ont montré comment la fille de 12 ans d'un cadre d'Apple a été sollicitée sur Instagram. « C'est le genre de chose qui énerve Apple au point de menacer de nous retirer de l'App store », a déclaré un autre employé à ses collègues. Le même employé a demandé quand « nous empêcherons les adultes d'envoyer des messages à des mineurs sur (Instagram) Direct ».
La plainte affirme que Meta « nuit aux enfants et aux adolescents par la conception addictive de sa plateforme, dégradant la santé mentale des utilisateurs, leur sens de l'estime de soi et leur sécurité physique ».
Réseaux sociaux et santé mentale des enfants
Les jeunes considèrent souvent les réseaux sociaux comme l'avenir, mais leur influence complexe dans la vie des adolescents est indéniable. D'un côté, ces plateformes offrent une source d'information et de socialisation, mais de l'autre, une utilisation intensive est associée à des problèmes de santé mentale, particulièrement chez les filles.
Cette préoccupation suscite l'inquiétude de divers acteurs, allant des enseignants aux scientifiques, et a même conduit à des actions judiciaires contre des entreprises telles que Meta (anciennement Facebook). Plusieurs études ont exploré les liens entre les réseaux sociaux et la santé mentale des adolescents, mettant en évidence une corrélation positive, surtout chez les filles. Face à ces constats, des recommandations ont été émises, et des appels à réguler les réseaux sociaux, notamment pour les jeunes, se sont multipliés.
Jonathan Haidt, professeur à l'École de commerce Stern de l'université de New York, examine les préoccupations croissantes concernant les effets des réseaux sociaux sur la santé mentale des adolescents. En se basant sur des études, Haidt souligne la corrélation entre l'utilisation des médias sociaux et les problèmes de santé mentale chez les adolescents, remettant en question l'idée que ces problèmes sont simplement une critique générationnelle.
La plainte souligne également l'impact négatif de la plateforme sur la santé mentale des utilisateurs jeunes, évoquant une conception addictive. Des communications internes, notamment une discussion datant de 2020, ont été citées, révélant une attitude laxiste envers la sécurité des enfants. Facebook envisageait de développer un produit destiné aux enfants trop jeunes pour s'inscrire sur Instagram officiellement, mais cette initiative a été confrontée à une opposition internationale de défenseurs de la santé des enfants. Ces critiques, rassemblées par Campaign for a Commercial-Free Childhood, ont adressé une lettre ouverte à Mark Zuckerberg, PDG de Facebook, exprimant leurs préoccupations quant à l'impact potentiel sur les jeunes utilisateurs.
Stephanie Otway, porte-parole de Facebook, a déclaré qu'Instagram travaille sur un service pour les enfants afin de les maintenir hors de sa plateforme principale. Elle a souligné la nécessité de solutions pour garantir que les moins de 13 ans n'accèdent pas à Instagram. Facebook insiste sur le développement d'outils de vérification d'âge et explore une version d'Instagram pour les enfants, gérée par les parents et exemptée de publicités.
En octobre 2021, Facebook avait suspendu le lancement d'Instagram Kids après des préoccupations exprimées par des législateurs et d'autres parties quant à l'impact potentiel sur la santé mentale des jeunes. Adam Mosseri, responsable d'Instagram, a annoncé cette pause dans le développement pour écouter les préoccupations et démontrer la valeur de la version pour enfants, promettant un environnement sans publicité et avec un contrôle parental accru. Facebook défend la création d'espaces numériques sûrs pour les enfants, soulignant l'importance de permettre aux parents de surveiller l'activité de leurs enfants en ligne.
Cette décision intervient après une enquête du Wall Street Journal révélant que les recherches internes de Facebook ont indiqué qu'Instagram était nocif pour un pourcentage significatif de jeunes utilisateurs, particulièrement les adolescentes. Ces résultats ont suscité des inquiétudes quant à l'impact sur la santé mentale des adolescents, et Facebook a choisi de différer le lancement d'Instagram Kids pour prendre en compte les retours des parties prenantes. La société plaide en faveur de la création d'espaces numériques fiables pour les enfants plutôt que de les empêcher complètement d'accéder en ligne.
La secrétaire d'État britannique à la culture envisage de modifier le projet de loi sur la sécurité en ligne pour permettre aux régulateurs de poursuivre les dirigeants de médias sociaux n'ayant pas assuré la sécurité des enfants. L'amendement, soutenu par 36 députés conservateurs et les travaillistes, vise à engager la responsabilité pénale des dirigeants d'entreprises de médias sociaux. Les modifications incluraient également une révision des plans antérieurs concernant les contenus préjudiciables pour adultes, tout en soulignant la nécessité de réduire les risques pour la vie privée et la sécurité dans la vérification de l'âge en ligne. La commissaire à la cybersécurité australienne propose une feuille de route pour la sécurité en ligne, suscitant des préoccupations quant à l'invasivité des méthodes de vérification de l'âge.
Meta repond aux allegations : mesures de securite, mais des doutes subsistent
Des employés de Meta ont signalé un algorithme de recommandation appelé People You May Know (PYMK), alléguant qu'il mettait en contact des enfants avec des prédateurs. Les critiques internes de cet algorithme auraient été ignorées. La direction de Meta est accusée de ne pas avoir pris des mesures suffisantes pour protéger les enfants, préférant l'engagement des utilisateurs et les revenus publicitaires. Ces allégations s'inscrivent dans le contexte de poursuites antérieures à l'encontre de Meta pour des fonctionnalités supposément conçues pour attirer délibérément les enfants, contribuant ainsi à des problèmes de santé mentale chez les jeunes.
En réponse, Meta déclare avoir investi des ressources considérables dans la protection des jeunes utilisateurs, mettant en avant des outils de sécurité et des efforts pour désactiver les comptes violant les politiques de sécurité des enfants. La société annonce également des mesures supplémentaires, telles que l'application de paramètres de contrôle de contenu plus restrictifs pour les adolescents sur Instagram et Facebook.
Cependant, les critiques, dont d'anciens employés, remettent en question l'efficacité des systèmes de modération automatisés de Meta. À l'échelle européenne, la Commission européenne sollicite des informations sur les mesures de protection des enfants contre les contenus illégaux et préjudiciables. Ces révélations soulignent l'urgence de solutions robustes pour garantir la sécurité des jeunes utilisateurs dans le contexte des médias sociaux.
L'affaire impliquant le bureau du procureur général du Nouveau-Mexique et Meta souligne des préoccupations légitimes concernant la sécurité des enfants sur les plateformes de médias sociaux. Les allégations graves, basées sur des documents internes et des communications d'employés de Meta, suggèrent un manque de diligence de la part de l'entreprise pour protéger les jeunes utilisateurs contre le harcèlement sexuel et la pornographie enfantine.
L'utilisation de comptes-leurres d'enfants par les enquêteurs, qui auraient été exposés à des contenus sexuellement explicites sans exprimer d'intérêt, soulève des inquiétudes sérieuses sur la capacité de Meta à assurer une modération de contenu efficace et à prévenir l'exploitation des mineurs sur ses plateformes. D'un autre côté, Meta rejette vigoureusement les accusations, affirmant que la plainte dénature son travail et met en avant les mesures prises pour protéger les adolescents. Cependant, la répétition de poursuites à l'encontre de Meta, ainsi que les préoccupations persistantes émanant de différentes parties, soulignent un besoin urgent de transparence et d'améliorations substantielles dans les mécanismes de sécurité de l'entreprise.
Les annonces de Meta concernant des mesures supplémentaires pour protéger les adolescents sont un pas dans la bonne direction, mais des doutes subsistent quant à l'efficacité réelle de ces initiatives. Les critiques qui persistent remettent en question la capacité de l'entreprise à mettre en œuvre des systèmes de modération de contenu suffisamment robustes pour assurer la sécurité des utilisateurs les plus vulnérables.
Dans l'ensemble, cette affaire met en lumière les défis complexes auxquels les plateformes de médias sociaux sont confrontées en matière de sécurité des enfants, et elle souligne la nécessité d'une surveillance régulière, d'une responsabilisation accrue des entreprises et d'une collaboration étroite avec les autorités compétentes pour garantir un environnement en ligne sûr pour tous les utilisateurs, en particulier les mineurs.
Source : The Guardian
Et vous ?
Quel est votre avis sur la sécurité des enfants sur les platesformes de Meta ? Possédez-vous un profil sur Facebook ? Le conseilleriez-vous à un enfant ? Quelles mesures concrètes Meta aurait-elle dû prendre pour prévenir la pornographie enfantine, selon les communications d'employés ?Voir aussi :
Réseaux sociaux et santé mentale des enfants : le Royaume-Uni pourrait emprisonner les responsables de médias sociaux, qui enfreignent les règles de sécurité des enfants Instagram pour les enfants ? Mark Zuckerberg cible maintenant vos enfants et si le milliardaire les attrape tôt, il les aura pour la vie Facebook suspend son projet de lancer Instagram Kids, cette décision fait suite aux préoccupations concernant les effets sur la santé mentale des moins de 13 ans Réseaux sociaux et santé mentale des adolescents : une épidémie mondiale de troubles mentaux, des statistiques inquiétantes dans l'ère numérique La santé mentale des adolescents est en chute libre et les médias sociaux en sont une cause majeure, une étude de Jonathan Haidt 
Envoyé par calvaire
