Les cadres dirigeants de YouTube auraient laissé les contenus « toxiques » sur la plateforme
Tant qu'ils généraient de l'audience

205PARTAGES

10  0 
Un nouveau rapport explique en détail à quel point YouTube a permis à du contenu extrémiste de se répandre sur sa plateforme. Selon le rapport, des responsables de YouTube, dont la directrice générale Susan Wojcicki, ont à plusieurs reprises ignoré les avertissements des employés de YouTube concernant la popularité croissante de vidéos extrêmes et trompeuses sur le site. Cela aurait été fait par "crainte d'engagements étranglés".

Il faut rappeler qu’il y a un an, Susan Wojcicki était sur scène pour défendre YouTube. Sa société, qui était alors martelée depuis des mois pour avoir alimenté des mensonges en ligne, faisait face à une nouvelle vague de critiques à cause de l’apparition d’une vidéo sur YouTube sur la théorie du complot au sujet de la fusillade dans le lycée de Parkland, en Floride, suggérant que les victimes étaient des acteurs.

Elle était à Austin à la conférence South by Southwest pour dévoiler une solution qui, espérait-elle, contribuerait à calmer les théories du complot : une minuscule zone de texte provenant de sites Web tels que Wikipedia, placée sous des vidéos qui remettaient en cause des faits bien établis tels que l'alunissage et reliant les spectateurs à la vérité.

Ce jour-là, Wojcicki a comparé son site vidéo à un autre type d'institution : « Nous ressemblons beaucoup plus à une bibliothèque », a-t-elle déclaré, se positionnant comme défenseur de la liberté d'expression. « Il y a toujours eu des controverses, si vous regardez les bibliothèques ».

Depuis que Wojcicki est entré en scène, des théories du complot bien connues ont été publiées sur la plateforme, notamment une sur la vaccination des enfants; une autre qui a lié Hillary Clinton à un culte satanique (cette dernière a suscité la colère des législateurs désireux de réglementer les entreprises technologiques). Et YouTube est, un an plus tard, encore plus associé aux parties les plus sombres du Web.

Selon le rapport, la problématique ne repose pas sur le fait que YouTube permette aux théories du complot telles que celle qui remet en cause l’efficacité du vaccin d’apparaître, mais plutôt que YouTube « permet aux absurdités de s'épanouir. Et, dans certains cas, grâce à son puissant système d’intelligence artificielle, il fournit même le carburant qui le permet. »


Susan Wojcicki prend la parole au SXSW en 2018.

Des employés YouTube qui sont priés de ne pas faire de zèle s’ils ne figurent pas parmi les modérateurs

Selon certaines sources, des « notes » d'employés de YouTube et de Google ont exprimé leur inquiétude à propos du contenu incendiaire sur YouTube. Certains ont également proposé des solutions : un employé a voulu signaler les vidéos troublantes, qui ne respectaient pas les règles contre le discours incitant à la haine, et cesser de les recommander aux téléspectateurs. Un autre souhaitait suivre ces vidéos dans un tableur afin de déterminer leur popularité. Un troisième, inquiet de la propagation des blogueurs vidéo «alt-right» (l'alt-droite ou la droite alternative américaine -en anglais « Alt-right »- est un terme flou désignant une partie de l'extrême droite américaine qui rejette le conservatisme classique et milite en faveur de la défense des Blancs, aussi bien que du sexisme, de l'antisémitisme, du conspirationnisme, de l'opposition à l'immigration et à l'intégration des immigrés), a créé une verticale interne qui montrait à quel point ils étaient populaires. YouTube n'a pas tenu compte de leurs suggestions et a continué à fermer les yeux sur de nombreux types de contenu extrême. En effet, le rapport assure qu’à chaque fois, ils obtenaient la même réponse de base: ne faites pas tanguer le bateau.

Bien qu'aucune de ces réfutations ne semble être consignée sur papier en tant que politique officielle, les employés auraient été découragés d'être proactifs. Les avocats de YouTube ont dit aux employés qui n'étaient pas affectés à des tâches de modération de ne pas rechercher seuls des contenus toxiques.

Parlant de Wojcicki, une personne qui travaillait pour elle a déclaré que : « Son point de vue était :"Mon travail consiste à diriger la société, pas à gérer cela” ».

Un porte-parole de YouTube a réfuté l’affirmation selon laquelle la société se concentrerait avant tout sur l’engagement des internautes à la plateforme. Cependant, l'engagement fait depuis longtemps une part importante des résultats nets de YouTube. Au grand dam des créateurs, la société modifie constamment son algorithme pour donner la priorité à certaines vidéos sur la page d'accueil du site et dans ses listes recommandées. L'engagement - ou le nombre de visionnements d'une vidéo, la durée pendant laquelle un spectateur passe à regarder une vidéo et d'autres interactions avec le site dans son ensemble - continue d'influer sur la popularité croissante de certaines chaînes par rapport à d'autres.


La réaction de YouTube

Mais à présent, YouTube dit qu'il est davantage axé sur la « responsabilité ». Depuis 2017, YouTube aurait recommandé des vidéos basées sur un « indicateur de responsabilité » difficile à quantifier. La société a seulement déclaré que cette mesure s’appuyait sur des réponses aux enquêtes de satisfaction qu'elle montrait aux téléspectateurs après avoir visionné une vidéo. Aucune information concernant un complément, s’il y en a, qui contribue à mesurer la responsabilité.

Un porte-parole de YouTube France a déclaré

Citation Envoyé par YouTube
Nous avons eu pour objectif principal au cours des deux dernières années de nous attaquer à des défis extrêmement complexes relatifs aux contenus sur notre plateforme, en tenant compte des commentaires et des préoccupations des utilisateurs, des créateurs, des annonceurs, des experts et des employés. Nous avons pris un certain nombre de mesures importantes, comme notamment la mise à jour de notre système de recommandations pour empêcher la propagation de fausses informations nuisibles; l'amélioration de la diffusion d'informations en provenance de médias sur YouTube; le fait d'atteindre le nombre de 10 000 personnes travaillant sur les problématiques de retrait de contenu chez Google; l'investissement dans l'apprentissage automatique afin de pouvoir trouver et supprimer encore plus rapidement les contenus non autorisés ainsi que la révision et la mise à jour de nos Règles de la communauté - nous avons réalisé plus de de 30 mises à jour en 2018. Et ce n'est pas fini, être responsable reste notre priorité numéro un.
Un autre porte-parole a donné quelques informations supplémentaires sur le travail des équipes YouTube :

  • Au cours des deux dernières années, nous avons réalisé des investissements importants dans la résolution des problèmes les plus difficiles, tels que la désinformation, les recommandations et le contenu problématique.
  • Les hauts dirigeants sont très impliqués dans la prise de ces décisions - nous avons un indicateur de responsabilité interne et un OKR d’entreprise pour l’améliorer.
  • Sur les recommandations:
    • Nos systèmes de recommandations ont beaucoup changé au fil des ans, passant de vues en veille en 2012, puis de veille en satisfaction en 2016. Nous mesurons la satisfaction à l'aide d'éléments comme les goûts, les like, les dislike, les partages et les sondages - nous recevons des millions de réponses aux enquêtes chaque semaine.
    • En janvier de cette année, nous avons lancé l’un de nos plus grands changements jamais apportés à notre système de recommandations et avons annoncé notre intention de commencer à réduire les recommandations relatives au contenu limite et au contenu susceptible de mal informer les utilisateurs de manière préjudiciable. Les travaux sur ce changement ont commencé plus d’un an avant le lancement.
    • En règle générale, le contenu extrême ne fonctionne pas bien sur le site.

  • Sur la désinformation:
    • En juillet de l’année dernière, nous avons introduit un changement important dans l’actualité sur YouTube et annoncé que, pour les requêtes de recherche d’informations, nous diffusions des vidéos de sources faisant autorité.
    • Nous avons également introduit des panneaux d’information sur des sujets sujets aux théories du complot. Celles-ci ont été couronnées de succès et nous continuons à les développer. Nous couvrons maintenant des centaines de sujets et les panels montrent des dizaines de millions de fois chaque semaine. Nous continuons à ajouter de nouveaux sujets sur une base continue.

  • Sur les directives de la communauté:
    • Au quatrième trimestre de 2018 seulement, nous avons retiré 8,8 millions de vidéos pour violation des consignes de notre communauté, la majorité d'entre elles étant signalées par des machines et supprimées avant la réception d'un seul affichage.
    • Nous avons également supprimé 2,4 millions de chaînes et plus de 260 millions de commentaires au cours de la même période.


Les défis rencontrés par l'entreprise

YouTube a apporté plusieurs changements de politique ces dernières années. Depuis l'ad-pocalypse de 2017, la société a modifié nombre de ses règles et réglementations en ce qui concerne les types de contenu pouvant être monétisés sur la plateforme, les personnes pouvant être payées via YouTube et le contenu explicitement banni du site.

Tous ces changements ont des avantages et des inconvénients. S'ils démontrent que YouTube a adopté une position plus ferme contre certains types de contenu extrémiste, certains créateurs ont trouvé les nouvelles règles confuses et ont été mécontents de la façon dont YouTube applique ses sanctions en matière de marquage et de démonétisation.

De plus, YouTube n'a pas totalement empêché les contenus toxiques de trouver une maison sur sa plateforme. Tout récemment, YouTube a dû désactiver les commentaires sur la plupart des vidéos mettant en vedette des enfants en raison des pédophiles cachés sur le site. YouTube doit également s’occuper de contenus pour adultes masqués en tant que contenus pour enfants qui ont infiltré YouTube Kids, une version du site censée ne proposer que des contenus adaptés aux enfants.

Mais est-ce vraiment étonnant ?

Tout comme Facebook et d’autres sites de médias sociaux, YouTube s’attache à attirer l’attention des utilisateurs et à le garder pendant des années. Il s’agit maintenant du premier site de diffusion vidéo en continu. Même si nous ne connaissons pas le chiffre exact des revenus, YouTube rapporterait des milliards de dollars chaque année. YouTube ne serait pas la première entreprise à ignorer ou à négliger les contenus toxiques si cela impliquait de faire venir plus de gens sur sa plateforme.

La réponse de YouTube à ce nouveau rapport n'est pas claire, si tant est que l’entreprise ait vraiment répondu. Après avoir fait face à des critiques pour son manque de responsabilité dans la capture et la suppression de contenu extrême sur sa plateforme, Facebook a récemment annoncé un changement de stratégie visant à « des communications axées sur la protection de la vie privée ». Nous n'avons pas encore vu comment Facebook concrétisera ce projet ou si YouTube fera davantage pour résoudre des problèmes similaires sur sa plateforme. L'histoire a montré que les médias sociaux ne réagissent plus fermement à la controverse que lorsque les critiques deviennent trop audibles pour être ignorées, mais cette stratégie va-t-elle encore fonctionner longtemps ?

Source : rapport

Et vous ?

Pensez-vous que les médias sociaux devraient réglementer le contenu et les discours de haine?

Voir aussi :

YouTube va désactiver les commentaires sur la plupart des vidéos de mineurs à cause des pédophiles
YouTube annonce avoir pris des mesures strictes pour lutter contre les vidéos avec les mineurs et pouvant faire l'objet de commentaires prédateurs
Une mère découvre des instructions de suicide en vidéo sur YouTube et YouTube Kids dissimulées entre des extraits d'un jeu vidéo populaire
Disney aurait retiré les fonds alloués pour la publicité sur YouTube, suite à une controverse liée à l'exploitation des enfants

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 04/04/2019 à 11:15
YouTube doit faire quelque chose contre ça :
Citation Envoyé par Stéphane le calme Voir le message
De plus, YouTube n'a pas totalement empêché les contenus toxiques de trouver une maison sur sa plateforme. Tout récemment, YouTube a dû désactiver les commentaires sur la plupart des vidéos mettant en vedette des enfants en raison des pédophiles cachés sur le site. YouTube doit également s’occuper de contenus pour adultes masqués en tant que contenus pour enfants qui ont infiltré YouTube Kids, une version du site censée ne proposer que des contenus adaptés aux enfants.
Mais après il faut tolérer toutes les idées, sinon ça fait ministère de la vérité "ça c'est faux alors on censure", ceux qui décident de ce qui est vrai ou faux on trop de pouvoir.
"Discours de haine" c'est un concept trop flou...
Si il y a un appelle à la violence c'est illégal, mais sinon ça devrait passer. À moins que ce soit un truc grave comme du harcèlement sur une personne.
2  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 04/04/2019 à 12:49
c'est etonnant don't be evil => Money first
0  0 
Avatar de AoCannaille
Membre émérite https://www.developpez.com
Le 04/04/2019 à 13:56
Citation Envoyé par Aiekick Voir le message
c'est etonnant don't be evil => Money first
Depuis 2015 ce n'est plus le slogan officiel, depuis 2018, ça n'est plus mentionné sur le code de conduite Alphabet
0  0 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 04/04/2019 à 14:05
Et qui définis ce qui est toxique ou pas? Depuis quelques temps déja, je vois surtout se mettre en place lentement mais surement un gros instrument de censure au motif qu'il y a justement des contenues "toxique" l'europe étant heureusement là comme berger pour guider les analphabètes que nous somme. Il est vrai que je ne me suis jamais pointé à mon travail aussi bourré que Juncker pour prétendre faire partie de cette élite.
2  0 
Avatar de sirthie
Membre éclairé https://www.developpez.com
Le 04/04/2019 à 16:15
Citation Envoyé par Ryu2000 Voir le message
Mais après il faut tolérer toutes les idées, sinon ça fait ministère de la vérité "ça c'est faux alors on censure", ceux qui décident de ce qui est vrai ou faux on trop de pouvoir.
Ah ! si c’était si simple ! Toutes les idées, ou plutôt tous les discours n’ont pas la même valeur : on ne peut pas mettre sur le même pied la physique quantique et le spiritisme, le fait que la Terre soit sphérique et l’affirmation qu’elle est plate, l’effet des vaccins et les divagations (aux conséquences parfois mortelles) des antivaxx, etc., etc.
De manière plus générale, on ne peut pas mettre sur le même pied des affirmations qui ont été validées par des expériences respectant un protocole expérimental valide, qui ont été réalisées par des personnes possédant des compétences validées et qui ont été reproduites à des multiples reprises par des équipes indépendantes (cas des discours scientifiques dans l’idéal) et des affirmations non validées par des expériences ou reposant sur des expériences suivant un protocole expérimental erroné ou / et qui n’ont pas pu être reproduites, etc., etc. (mais la distinctions n’est pas toujours simple).

De plus, on ne sautait pas non plus mettre sur le même pied des discours visant simplement à exposer des faits (ou des spéculations possibles, probables ou vraisemblables) et des discours fallacieux comportant tout un dispositif argumentatif exploitant les biais cognitifs (biais de confirmation, biais de corrélation, biais de conformisme, etc.) des individus dans le but de leur faire accepter des thèses fantaisistes comme vraies : les uns sont conçus pour informer, les autres sont conçus pour manipuler.
1  2 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 04/04/2019 à 16:30
Citation Envoyé par sirthie Voir le message
Ah ! si c’était si simple !
On s'en branle des anti vaccins et des gens qui pensent que la terre est plate...
11 vaccins sont obligatoire et il est évident que la terre est plutôt sphérique.

La libération d'expression existe ou pas ?
De toute ce n'est pas parce que le consensus scientifique affirme que quelque chose est faux avec les connaissances actuelles que cette chose est vraiment fausse.
Le premier médecin qui a dit "on devrait se laver les mains avant de faire accoucher les femmes, il y a peut-être une histoire de microbe" c'est fait maltraiter par tous les autres médecins.
Les connaissances actuelles scientifique ce n'est pas la vérité absolue.

Il y a plein de choses qu'on croit vrai aujourd'hui qui sont fausses en réalité.
Et il y a plein de choses que la science ne comprend pas actuellement.

===
On nous a toujours dis que la liberté était importante, donc même si vous n'aimez pas ce que quelqu'un dit, ou si vous trouvez son discours dangereux c'est important qu'il puisse s'exprimer.
Sinon c'est la fin de toutes les libertés, si tu commences à dire "tu n'as pas le droit de penser ça" tout est fini.
Pour l'esprit il ne faut pas de barrière.

Là on a déjà un système "si vous n'êtes pas vacciné vous n'êtes pas un citoyen à part entière, toutes les portes vous sont fermées" je ne sais pas ce que vous voulez de plus...
3  1 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 05/04/2019 à 22:47
Citation Envoyé par sirthie Voir le message

De manière plus générale, on ne peut pas mettre sur le même pied des affirmations qui ont été validées par des expériences respectant un protocole expérimental valide, qui ont été réalisées par des personnes possédant des compétences validées et qui ont été reproduites à des multiples reprises par des équipes indépendantes (cas des discours scientifiques dans l’idéal) et des affirmations non validées par des expériences ou reposant sur des expériences suivant un protocole expérimental erroné ou / et qui n’ont pas pu être reproduites, etc., etc. (mais la distinctions n’est pas toujours simple).

De plus, on ne sautait pas non plus mettre sur le même pied des discours visant simplement à exposer des faits (ou des spéculations possibles, probables ou vraisemblables) et des discours fallacieux comportant tout un dispositif argumentatif exploitant les biais cognitifs (biais de confirmation, biais de corrélation, biais de conformisme, etc.) des individus dans le but de leur faire accepter des thèses fantaisistes comme vraies : les uns sont conçus pour informer, les autres sont conçus pour manipuler.
Sauf que les expérimentation scientifique ça ne fait pas tout non plus... A une époque et aujourd'hui encore vous trouvez des études sur l’éducation des gosses qui rejettent toutes réprimandes de la part des parents vis à vis des gosses pour ne pas briser sa spontanéité. C'est souvent les même gamins qu'on retrouve chez pascal le grand frère en train d'être en roue libre. Alors j'exagère, tous ne finisse pas comme ça (une éducation trop stricte peut être tout aussi néfastei). Croire que tout se juge par l'expérimentation scientifique est faut, certaine chose se fonde sur l'expérience et le feeling.
0  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 05/04/2019 à 23:00
Citation Envoyé par pierre-y Voir le message
Sauf que les expérimentation scientifique ça ne fait pas tout non plus... A une époque et aujourd'hui encore vous trouvez des études sur l’éducation des gosses qui rejettent toutes réprimandes de la part des parents vis à vis des gosses pour ne pas briser sa spontanéité.[…]
Attention, bien souvent ils ne font pas de la Science, mais du "sport de combat".

Un bon nombre d'études sociologiques ne valent absolument rien sur le plan scientifique.
Certains, pourtant bien médiatisés, ont même été jusqu'à ce qu'on peut qualifier de fraude scientifique.
0  1 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 06/04/2019 à 9:48
Citation Envoyé par Neckara Voir le message

Un bon nombre d'études sociologiques ne valent absolument rien sur le plan scientifique.
Certains, pourtant bien médiatisés, ont même été jusqu'à ce qu'on peut qualifier de fraude scientifique.
A mais je suis bien d'accord avec toi. Mais ce que je veux dire c'est que des personnalités reconnu par le milieu ont pourtant bien soutenu ces idées et par la même apporté un crédit à ça.
0  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 06/04/2019 à 10:01
Citation Envoyé par pierre-y Voir le message
Mais ce que je veux dire c'est que des personnalités reconnu par le milieu ont pourtant bien soutenu ces idées et par la même apporté un crédit à ça.
Il faut être clair, e.g. en sociologie, ils ont beau se prétendre chercheurs ou scientifiques, ils n'en ont que le titre.

À part quelques rares personnes qui font de la vraie recherche, et qui souvent ont un double background (e.g. économie + sociologie), les autres ne savent même pas ce qu'est la recherche et la confondent avec du militantisme.

Leurs expérimentations n'ont rien de scientifiques. Ils ne respectent déjà pas les bases de l'expérimentation scientifique.
Je ne parle pas non plus de leurs conclusions à ces expérimentations, qui sont bien souvent complètement abusives, et ne servant qu'à justifier leurs idées préconçues.

Merci donc de ne pas confondre ces militants avec des scientifiques, par respect envers les vrais scientifiques.
0  1 
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web