Une mère découvre des instructions de suicide en vidéo sur YouTube et YouTube Kids
Dissimulées entre des extraits d'un jeu vidéo populaire

Le , par Jonathan

92PARTAGES

15  0 
YouTube, la célèbre plateforme de partage de vidéos de Google, attire tous les jours des millions de visiteurs et possède également une version adaptée aux enfants appelée YouTube Kids. Cette version propose des sélections organisées de contenu, des fonctionnalités de contrôle parental et un filtrage des vidéos qui ne sont pas jugées appropriées pour le public cible. Seulement, il arrive parfois qu'on retrouve sur YouTube, certaines vidéos considérées comme dangereuses, car pouvant inciter à des activités dangereuses. Le cas de la vidéo du défi inspiré du film Black Box en est un exemple. Et il semblerait qu'une fois de plus, une vidéo de ce genre se soit retrouvée sur YouTube.

La vidéo en question a été découverte il y a quelques jours par une mère et pédiatre nommée Free Hess. Dans cette dernière, des instructions sur l'automutilation sont données entre des extraits d'un jeu vidéo populaire (Splatoon). Dans la vidéo, ces instructions sont données par le YouTubeur Filthy Frank dont le vrai nom est George Miller, qui compte près de 6,2 millions d'abonnés, mais jusqu'à présent il n'a pas encore été prouvé que ce dernier ait participé à ce montage vidéo. Après la découverte de cette vidéo, Free Hess l'a publiée sur son blog, afin de sensibiliser les autres parents et qu'ils fassent attention à ce que leurs enfants pourraient regarder. YouTube a par la suite retiré cette vidéo en affirmant qu'elle ne respectait pas les conditions d'utilisation de la plateforme, mais cette dernière peut toujours être regardée sur le blog de Hess.


Hess n'en est pas à sa première dénonciation. Elle déclare sur son blog qu'il y a sept mois, une mère inquiète lui a signalé un dessin animé sur YouTube Kids qui contenait le clip d'un homme qui montrait comment se couper correctement les poignets. Grâce à des efforts considérables menés par elle et de nombreux autres parents de groupes Facebook, ils avaient réussi à faire retirer cette vidéo de la plateforme. Cela est perçu comme de la négligence de la part de YouTube pour certains et comme du mépris pour d'autres, qui pensent que la société peut se permettre de laisser passer ce genre de vidéo en sachant qu'ils ne peuvent réellement pas être inquiétés si ce n'est par des amendes qu'ils paieront aisément.

Pour Hess, YouTube Kids est censé être une version adaptée aux enfants du site YouTube pour les enfants de 8 ans et moins, mais des personnes mal intentionnées ont trouvé des moyens pour contourner l'algorithme de YouTube et publier des vidéos potentiellement dangereuses. Une chose qu'elle trouve absolument affreuse.

Hess déclare avoir trouvé 7 autres vidéos troublantes sur YouTube Kids et pense qu'il ne s'agit là que de la partie visible de l’iceberg. Afin d'explorer YouTube Kids, elle dit s'y connecter en se faisant passer pour un enfant et affirme que les vidéos qu'elle y a trouvées contiennent des mentions ou des images se rapportant à l'automutilation, au suicide, à la violence domestique, aux abus sexuels et à la violence armée, y compris à une simulation de fusillade dans une école. Un porte-parole de YouTube a déclaré à CBS News que le site travaillait d'arrache-pied pour s'assurer que YouTube n'est pas utilisé pour encourager les comportements dangereux. Le porte-parole a également déclaré que YouTube appliquait des règles strictes interdisant les vidéos favorisant l'automutilation.


Cependant, des cas assez perturbants sont rapportés comme la recherche du mot pistolet sur l'application pour enfant qui a fait surface après qu'une vidéo sur la construction d'un pistolet à serpentin a été publiée. Plusieurs autres cas de ce genre sont signalés et la société annonce qu'elle prendra des mesures fortes qui conduiront à la suppression de plus de 400 comptes et des dizaines de vidéos, mais les critiques estiment que son approche de la sécurité sur toutes les plateformes ne fonctionne tout simplement pas.

Hess pense qu'il est moralement obligatoire pour les parents de dénoncer chaque chose qu'ils découvrent qui puissent nuire à leurs enfants et se battre afin que les personnes sensées empêcher que des vidéos malsaines se retrouvent à la portée de leurs enfants, soient tenus pour responsables. Il est donc important de rester vigilant et toujours mobilisé pour faire changer les choses.

Source : CBS News

Et vous ?

Qu'en pensez-vous ?
Pensez-vous que YouTube devrait être tenu pour responsable ?

Voir aussi :

YouTube bannit les vidéos incitant à des activités dangereuses à cause du défi Bird Box qui a eu de graves conséquences chez des participants
YouTube travaille à restaurer les vidéos bloquées de plusieurs chaînes parmi lesquelles celle du MIT et de la fondation Blender
Blocage de vidéos : YouTube voudrait-il forcer les chaînes populaires à accepter la publicité ? Le président de la Fondation Blender s'interroge

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de NBoulfroy
Membre averti https://www.developpez.com
Le 25/02/2019 à 17:52
C'est un peu comme la problématique de la découverte d'un réseau pédophile qui visiblement squatte YouTube mais la plateforme a tout fait jusqu'à il y a quelques jour pour faire taire les personnes qui ont, visiblement, découvert ce réseau qui ne cherchait même pas à se cacher suite au retrait des régies publicitaires de certaines grandes marques (oui, à nouveau).

YouTube (et Google par la même) vont devoir améliorer un peu leur système de filtrage car cela commence à devenir un vrai problème (entre les abus de censure, les ayant droits qui n'ont aucun droit sur certains contenus et ça).
Avatar de Doksuri
Membre émérite https://www.developpez.com
Le 26/02/2019 à 9:10
pour utiliser YT kids, il y a un nombre impressionnant de videos de "super heros" realises par des parents/enfants en costumes... pour un enfant qui regarde ca, c'est genial c'est son super hero qu'il regarde... mais pour un adulte, pour certaines, c'est carrement "border-line"

on ne le repetera jamais assez : les tablettes (en general c'est la qu'il y a YT kids) c'est en presence d'un adulte !
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 9:36
Citation Envoyé par NBoulfroy Voir le message
YouTube (et Google par la même) vont devoir améliorer un peu leur système de filtrage car cela commence à devenir un vrai problème
Maintenant que le problème est au grand jour peut-être que ce n'est pas trop difficile de faire en sorte que les algorithmes filtrent plus de contenu problématique.
Je pense qu'à chaque fois qu'on découvre un problème on améliore le système.

Citation Envoyé par Doksuri Voir le message
on ne le repetera jamais assez : les tablettes (en general c'est la qu'il y a YT kids) c'est en presence d'un adulte !
Ou alors pas de connexion internet du tout, comme ça il est plus simple de filtrer le contenu.
Il doit y avoir moyen de faire un PC de bureau déconnecté d'internet avec des jeux, des films et des séries.
Avatar de sebastiano
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 10:37
Citation Envoyé par Ryu2000 Voir le message
Maintenant que le problème est au grand jour peut-être que ce n'est pas trop difficile de faire en sorte que les algorithmes filtrent plus de contenu problématique.
Je pense qu'à chaque fois qu'on découvre un problème on améliore le système.

Ou alors pas de connexion internet du tout, comme ça il est plus simple de filtrer le contenu.
Il doit y avoir moyen de faire un PC de bureau déconnecté d'internet avec des jeux, des films et des séries.
Ou pas de tablette/téléphone/ordinateur du tout, comme ça même pas besoin de choisir entre internet/pas internet et les applications.

Les écrans défavorisent les capacités de concentration. Il suffit de voir la posture d'un gamin devant un écran : fixe, sans réaction, hébété... laissons-leur des vrais jeux, ils auront tout le temps de découvrir ces bêtises à l'adolescence et plus tard.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 10:55
Citation Envoyé par sebastiano Voir le message
Les écrans défavorisent les capacités de concentration.
Ouais enfin un peu de jeu-vidéo n'a jamais fait de mal... (ce serait sympa que les enfants aient accès à des vieux jeux sur des émulateurs)
Il est possible qu'un enfant s'occupe sans technologie, mais c'est plus de boulot, il faut que les enfants aiment bricoler des trucs, faire du sport, lire des livres, etc.
C'est quand même plus facile de les laisser devant une TV ou une tablette.
Les parents ne sont pas impliqué à fond tout le temps, sachant qu'ils ont plein de responsabilités en parallèle (avec le travail, les tâches ménagères, etc).

Les tablettes sont-elles bonnes pour les enfants?
Olivier Houdé, un des auteurs de l'avis de l'Académie des Sciences interviewé par le Figaro Madame, recommande de se prémunir contre l'hyperstimulation et de conserver un juste milieu:

«Le numérique développe chez les jeunes une intelligence fluide, rapide, fragmentée, automatique et multitâches. Mais aussi moins apte à la synthèse, à l’abstraction et à la hiérarchisation des infos. D’où le risque de superficialité. Voilà pourquoi il faut aussi préserver l’intelligence lente, linéaire, fixée, profonde, avec une certaine intériorité, que nous a donnée la culture du livre depuis l’invention de l’imprimerie, et continuer à la transmettre aux plus jeunes. S’ils parviennent à jongler avec les deux, ils feront des merveilles.»
Des experts de la petite enfance alertent sur l'usage intensif des tablettes numériques
Alors que l'Académie américaine de pédiatrie préconise de ne pas exposer les moins de deux ans aux écrans, et de limiter à 1 à 2 heures par jour l'exposition des enfants plus âgés (tous écrans confondus), l'Académie française des Sciences reste plus réservée et ne propose pas de durée d'utilisation limite. Par contre, elle insiste sur le rôle primordial des parents et la nécessité d'utiliser des logiciels de contrôle parental. Pour le Professeur Olivier Houdé, directeur du laboratoire de psychologie du développement et de l'éducation de l'enfant (Sorbonne/CNRS), coauteur de l'avis de l'Académie des Sciences, il faut avant tout apprendre aux enfants à s'autoréguler, plutôt que de les isoler des écrans.

(...)

«Les ingénieurs n'ont pas conçu la tablette numérique pour l'éveil des petits, mais elle correspond exactement à leur forme d'intelligence, sensorimotrice. C'est donc contre-¬intuitif d'empêcher un bébé, en famille, de toucher une couleur, une forme, d'écouter un son, de voir l'effet de son doigt (causalité), comme il peut le faire sur une tablette, ajoute le Pr Houdé. La tablette ne remplace pas la table d'éveil classique faite avec des tissus, une roue, un miroir, qui stimule aussi par le toucher et les gestes de préhension: les bébés doivent avoir les deux. Il ne faut pas réduire toutes ces ouvertures neuronales disponibles!».
Un autre problème des smartphones / tablettes c'est que dès le CP, un élève peut montrer du porno hardcore à toute la classe...
Avatar de sebastiano
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 11:01
Citation Envoyé par Ryu2000 Voir le message
Ouais enfin un peu de jeu-vidéo n'a jamais fait de mal... (ce serait sympa que les enfants aient accès à des vieux jeux sur des émulateurs)
Il est possible qu'un enfant s'occupe sans technologie, mais c'est plus de boulot, il faut que les enfants aiment bricoler des trucs, faire du sport, lire des livres, etc.
C'est quand même plus facile de les laisser devant une TV ou une tablette.
Les parents ne sont pas impliqué à fond tout le temps, sachant qu'ils ont plein de responsabilités en parallèle (avec le travail, les tâches ménagères, etc).

Les tablettes sont-elles bonnes pour les enfants?

Des experts de la petite enfance alertent sur l'usage intensif des tablettes numériques

Un autre problème des smartphones / tablettes c'est que dès le CP, un élève peut montrer du porno hardcore à toute la classe...
Sur tablettes et téléphones, si, les jeux vidéos font du mal.

Je ne parle pas de trucs plus ludiques où les enfants s'amusent vraiment, type Kinect.

Mais les jeux sur supports mobiles sont abrutissants pour les plus petits, c'est vraiment pour passer le temps quand t'es adulte.
Avatar de Ecthelion2
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 12:02
Citation Envoyé par Ryu2000 Voir le message

Un autre problème des smartphones / tablettes c'est que dès le CP, un élève peut montrer du porno hardcore à toute la classe...
Faudrait m'expliquer comment dès le CP, un enfant sait où trouver du "porno hardcore" sur le net, et surtout, comment est-il au courant que cela existe ?

Encore arrivé au collège, avec la puberté tout ça, je veux bien l'entendre, mais à 6 ans, t'es même pas sensé savoir à quoi ça sert d'autre que faire pipi un zizi, et encore moins rechercher activement à regarder du "porno"...
(déjà que la plupart des enfants de cet âge trouve degueu le fait de se faire un bisou sur la bouche ^^)

Un gamin de CP qui montre du porn à ses camarades, c'est qu'on lui a montré avant, il ne connait pas ça tout seul de lui-même...
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 12:15
Citation Envoyé par Ecthelion2 Voir le message
Faudrait m'expliquer comment dès le CP, un enfant sait où trouver du "porno hardcore" sur le net, et surtout, comment est-il au courant que cela existe ?
Sur internet on peut tomber dessus par hasard...
Et c'est facile de chercher "lesbienne" dans un moteur de recherche.
Bon "CP" c'est peut-être exagéré, mais c'est jouable si il y a un CM2 qui est pote avec un CP.

Et on s'en fout de comment il est tombé dessus, le problème c'est qu'il peut partager des vidéos violentes.

Accros à la pornographie dès huit ans
Comment un bambin de six ans peut-il en venir à forcer un autre enfant à lui faire une fellation ? Qui sont ces petits, aux comportements sexuels problématiques et intrusifs ? Chercheurs et intervenants s’inquiètent de ce phénomène en émergence qui traumatise des enfants exposés à la sexualité explicite. Au banc des accusés : la pornographie.
Violence et pornographie : "L'école est une éponge", dit sur RTL un directeur de primaire
Le directeur d'école constate également que les enfants sont de plus en plus initiés à la pornographie. "On a beaucoup de tensions entre les filles et les garçons, plus qu'avant, et cela se développe dès le CM1/CM2", explique Gilles Langlois.
Avatar de Bill Fassinou
Chroniqueur Actualités https://www.developpez.com
Le 26/02/2019 à 13:31
YouTube annonce avoir pris des mesures strictes pour lutter contre les vidéos avec les mineurs
et pouvant faire l'objet de commentaires prédateurs

Rappelons qu'en décembre 2018, Forbes a publié un article sur les youtubeurs et c'est un garçon de 7 ans qui est le youtubeur le mieux payé de 2018. Forbes a estimé ses entrées à 22 millions de dollars. Ryan ToyReview est comme tous les autres enfants de 7 ans : il aime les Legos, les trains, les voitures - et ses 17 millions de followers. Il a dépassé de 500 000 dollars Jake Paul pour la période de 12 mois terminée en juin et se retrouve donc en tête du classement avec 22 millions de dollars en gagnant sept places. Les revenus de Ryan, qui ne comprennent ni les taxes ni les frais facturés par les agents ou les avocats, ont doublé par rapport à l'année précédente.

Le 13 février dernier, un rapport de Wired UK, un magazine bimestriel basé au Royaume-Uni qui traite des effets de la science et de la technologie, refait la lumière sur un phénomène devenu très viral sur YouTube, les vidéos ASMR. Le rapport parle en générale du cas des enfants qui s’adonnent de plus en plus à cette pratique et, en particulier du cas d’une jeune adolescente de 13 ans qui serait devenue une star dans la pratique avec plus de mille dollars gagnés par jours. ASMR est un sigle signifiant « Autonomous Sensory Meridian Response » et traduit en français par « réponse autonome sensorielle culminante ». Il décrit une sensation distincte, agréable et non sexuelle de picotements ou frissons au niveau du crâne, du cuir chevelu ou des zones périphériques du corps, en réponse à un stimulus visuel, auditif, olfactif ou cognitif.

Il y a quelques jours, une vidéo a été découverte par une mère et pédiatre nommée Free Hess. Dans cette dernière, des instructions sur l'automutilation sont données entre des extraits d'un jeu vidéo populaire (Splatoon). Dans la vidéo, ces instructions sont données par le YouTubeur Filthy Frank dont le vrai nom est George Miller, qui compte près de 6,2 millions d'abonnés, mais jusqu'à présent il n'a pas encore été prouvé que ce dernier ait participé à ce montage vidéo. Après la découverte de cette vidéo, Free Hess l'a publiée sur son blog afin de sensibiliser les autres parents et qu'ils fassent attention à ce que leurs enfants pourraient regarder. YouTube a par la suite retiré cette vidéo en affirmant qu'elle ne respectait pas les conditions d'utilisation de la plateforme, mais cette dernière peut toujours être regardée sur le blog de Hess.


Hess déclare avoir trouvé 7 autres vidéos troublantes sur YouTube Kids et pense qu'il ne s'agit là que de la partie visible de l’iceberg. Afin d'explorer YouTube Kids, elle dit s'y connecter en se faisant passer pour un enfant et affirme que les vidéos qu'elle y a trouvées contiennent des mentions ou des images se rapportant à l'automutilation, au suicide, à la violence domestique, aux abus sexuels et à la violence armée, y compris à une simulation de fusillade dans une école. Un porte-parole de YouTube a déclaré à CBS News que le site travaillait d'arrache-pied pour s'assurer que YouTube n'est pas utilisé pour encourager les comportements dangereux. Le porte-parole a également déclaré que YouTube appliquait des règles strictes interdisant les vidéos favorisant l'automutilation.

Suite à la publication de cet article, un porte-parole de YouTube France nous a envoyé un droit de réponse officiel que voici publié dans son intégralité :

Citation Envoyé par YouTube France
Tout contenu – y compris les commentaires – qui met en danger des mineurs est odieux et nous avons des règles claires les interdisant sur YouTube. Nous avons immédiatement pris les mesures correspondantes en supprimant des chaînes et des comptes, en signalant toute activité illégale aux autorités et en désactivant les commentaires sur des dizaines de millions de vidéos incluant des mineurs. Il reste encore des choses à faire et nous continuons à travailler pour améliorer notre dispositif et être encore plus rapide pour appréhender ces abus.

Pour ce qui est de la monétisation, voici les mesures prises

Les vidéos incluant des mineurs et qui sont susceptibles d'être commentéees par des prédateurs recevront peu ou même pas de publicité (icône jaune). Si en tant qu'utilisateur vous pensez que nous avons commis une erreur, vous pouvez soumettre une demande d'examen. Nous continuerons d’affiner notre approche dans les semaines et les mois à venir. Nous avons immédiatement pris les mesures nécessaires au-delà de ce qui avait été signalé. Au cours des dernières 48 heures, nous avons : adopté une approche agressive et désactivé les commentaires sur des dizaines de millions de vidéos incluant des mineurs, ce, au-delà de nos protections habituelles ; examiné et supprimé des milliers de commentaires inappropriés associés à des vidéos incluant des mineurs ; mis fin à plus de 400 chaînes à cause des commentaires laissés sur des vidéos et signalé les commentaires illégaux au National Center foc Missing and Exploited Children (NCMEC) afin qu'ils puissent travailler avec les autorités compétentes ; supprimé des dizaines de vidéos mises en ligne avec des intentions légitimes, mais mettant clairement des mineurs en danger. Nous travaillons également en étroite collaboration avec des organisations telles que Point de Contact en France ou la Internet Watch Foundation au Royaume-Uni.

Actions entreprises au quotidien pour lutter contre les prédateurs

Nous nous sommes toujours engagés à œuvrer au sein de l’industrie pour lutter contre ce genre de contenus horribles avec, notamment, le développement de technologies de pointe comme notre outil CSAI. Nous investissons continuellement dans les nouvelles technologies et les mettons gratuitement à la disposition des autres acteurs du numérique. Nous sommes fiers que notre travail avec le NCMEC ait pu conduire à des arrestations et à des condamnations. L'année dernière, nous avons ainsi supprimé et signalé 46 000 comptes au NCMEC via YouTube. En complément, nous recrutons régulièrement des experts dédiés à la sécurité des enfants, notamment, des travailleurs sociaux, des spécialistes du développement de l'enfant, des salariés du NCMEC, d'anciens procureurs et d'anciens membres du FBI et de la CIA. Nous ne cesserons jamais nos efforts et allons continuer de développer nos équipes dédiées à la sécurité des mineurs.

Suppression de comptes d'utilisateurs de moins de 13 ans

De manière générale, nos conditions d'utilisation n'autorisent pas les utilisateurs de moins de 13 ans (l'âge peut varier dans certains pays) à créer ou à posséder un compte sur YouTube. Dans les cas où nous identifions un compte géré par une personne en dessous de cette limite d'âge, nous le redirigeons vers notre processus d’examen des comptes de mineurs. Le compte est résilié ou le propriétaire est invité à vérifier juridiquement que le titulaire du compte a dépassé l'âge limite. S'ils ne sont pas en mesure de fournir ces informations, nous prenons les mesures nécessaires pour mettre fin aux comptes YouTube et Google de l'utilisateur, ce, conformément à nos conditions d'utilisation. Nous supprimons des milliers de comptes chaque semaine dans le cadre de ce processus.

En complément, je vous invite à parcourir notre dernier rapport détaillant les nombreuses actions mises en œuvre pour garantir l’application de notre règlement de la communauté. Ainsi, entre juillet et septembre 2018, YouTube a retiré 7,8 millions de vidéos. Parmi celles-ci, 81 % ont été détectées grâce à l’apprentissage automatique. 74,5 % des vidéos identifiées par cette technologie ont été retirées avant qu’un utilisateur ne puisse les voir. Au total, 90 % des vidéos mises en lignes en septembre 2018 et supprimées pour extrémisme violent ou mise en danger d'un enfant ont été vues moins de 10 fois.

Concernant les commentaires

De juillet à septembre 2018, nos équipes ont supprimé plus de 224 millions de commentaires pour violation du règlement en vigueur sur la plateforme. Pour rappel, l'année dernière, Google a porté à 10 000 le nombre de personnes chargées au sein de l'entreprise de lutter contre les contenus susceptibles de violer nos conditions d'utilisation.
Source : Porte-parle de YouTube France

Et vous ?

Que pensez-vous de ces mesures prises par YouTube ?

Voir aussi

Une mère découvre des instructions de suicide en vidéo sur YouTube et YouTube Kids dissimulées entre des extraits d'un jeu vidéo populaire

À sept ans, il devient le YouTuber le mieux payé de 2018 selon Forbes, qui estime ses entrées à 22 millions de dollars

Une jeune fille de 13 ans gagnerait plus de 1000 $ par jour sur YouTube en créant des vidéos ASMR, selon un rapport

Blocage de vidéos : YouTube voudrait-il forcer les chaînes populaires à accepter la publicité ? Le président de la Fondation Blender s'interroge
Avatar de Ecthelion2
Membre extrêmement actif https://www.developpez.com
Le 26/02/2019 à 14:59
Citation Envoyé par Ryu2000 Voir le message
Sur internet on peut tomber dessus par hasard...
Et c'est facile de chercher "lesbienne" dans un moteur de recherche.


Mais à 6 ans tu ne sais pas ce que c'est une lesbienne...

Chouette, un journal catholique avec 0 sources vers les études dont il parle...

Faut juste qu'il sorte du 19ème arrondissement, c'est peut-être "nouveau" pour les familles habitant là, mais c'est tout lol xD

Quand j'étais en CM1/CM2 (et je n'ai que 37 ans), il y avait déjà des insultes, ça parlait déjà de sexe, etc. Et internet n'existait pas hein. On attendait pas d'avoir 12 ou 15 ans pour jouer "au docteur" ou autres avec les filles

Et je te laisse en discuter avec tes parents (qui se sont tapés la fin des années 60 / début 70) ou même avec tes grand-parents pour savoir à quelle âge ils ont commencé à fricoter, ils ne faisaient pas que commencer à travailler plus tôt que maintenant...
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web