À la suite d'une nouvelle fusillade à caractère raciste diffusée en direct sur les médias sociaux, les entreprises technologiques sont confrontées à de nouvelles questions sur leur capacité à modérer efficacement leurs plateformes. Selon Hany Farid, professeur d'informatique à l'université de Berkeley, le hachage permettrait de supprimer les copies de vidéos sur les médias sociaux, mais les entreprises technologiques ne se donnent pas la peine de le faire fonctionner.Payton Gendron, le tireur de 18 ans qui a tué 10 personnes dans un quartier majoritairement noir de Buffalo, dans l'État de New York, samedi, a diffusé son violent carnage sur le service de streaming de jeux vidéo Twitch. Twitch affirme avoir supprimé le flux vidéo en quelques minutes seulement, mais il a fallu suffisamment de temps pour que des personnes créent des copies éditées de la vidéo et les partagent sur d'autres plateformes, notamment Streamable, Facebook et Twitter.
Comment les entreprises technologiques s'y prennent-elles pour signaler et retirer les vidéos violentes qui ont été modifiées et diffusées sur d'autres plateformes sous différentes formes ? À première vue, le problème semble compliqué. Mais selon le professeur d'informatique à l'université de Berkeley, Hany Farid, il existe une solution technologique à ce problème exclusivement technologique. Les entreprises technologiques ne sont tout simplement pas motivées financièrement pour investir des ressources dans son développement.
Le travail de Farid comprend des recherches sur le hachage, un outil qui crée une empreinte digitale pour les vidéos permettant aux plateformes de les retrouver et de trouver leurs copies dès qu'elles sont mises en ligne. Lors d’un entretien sur le problème plus général de l'interdiction des contenus indésirables sur les plateformes en ligne, et sur la question de savoir si les entreprises technologiques font suffisamment d'efforts pour résoudre ce problème, Farid explique : « le hachage permettrait de supprimer les copies de vidéos sur les médias sociaux. »
Twitch affirme avoir retiré la vidéo du tireur de Buffalo en quelques minutes, mais les versions éditées de la vidéo ont continué à proliférer, non seulement sur Twitch mais aussi sur de nombreuses autres plateformes. Selon Farid, le problème n'est pas aussi difficile à résoudre que le secteur technologique veut le faire croire. « Il y a deux choses en jeu. La première est la vidéo en direct, la rapidité avec laquelle elle aurait pu et dû être trouvée et la manière dont nous limitons la distribution de ce matériel. »
Pour Farid, la technologie de base pour empêcher la redistribution est appelée "hachage" ou "hachage renforcé". L'idée de base est assez simple : « vous avez un élément de contenu qui n'est pas autorisé sur votre service, soit parce qu'il viole les conditions d'utilisation, soit parce qu'il est illégal, soit pour toute autre raison, vous accédez à ce contenu et vous en extrayez une signature numérique, ou un hachage comme on l'appelle. »
Ce hachage a quelques propriétés importantes. La première est qu'il est distinct. En présence de deux images ou deux vidéos différentes, on devrait avoir des signatures différentes, un peu comme l'ADN humain. Il est possible de le faire depuis longtemps. Deuxièmement, la signature doit rester stable même si le contenu est modifié, par exemple lorsque quelqu'un change la taille ou la couleur ou ajoute du texte. Enfin, il est possible d'extraire et de comparer les signatures très rapidement.
Ainsi, selon Farid, si les entreprises adoptent une technologie répondant à tous ces critères, Twitch pourrait dire : « Nous avons identifié une attaque terroriste qui est diffusée en direct. Nous allons saisir cette vidéo. Nous allons extraire le hash et nous allons le partager avec l'industrie. Ensuite, chaque fois qu'une vidéo est téléchargée avec le hachage, la signature est comparée à cette base de données, qui est mise à jour presque instantanément. Et ensuite, arrête la redistribution. »
De l’avis de Farid, c'est un problème de collaboration au sein de l'industrie et c'est un problème de technologie sous-jacente. « Si c'était la première fois que ça arrivait, je comprendrais. Mais ce n'est pas, ce n'est pas la 10e fois. Ce n'est pas la 20e fois. Je veux insister : aucune technologie ne sera parfaite. Il s'agit de lutter contre un système intrinsèquement contradictoire. Mais il ne s'agit pas de quelque chose qui passe à travers les mailles du filet. Votre artère principale est en train d'éclater. Le sang jaillit à raison de quelques litres par seconde. Ce n'est pas un petit problème. C'est un échec total et catastrophique pour contenir ce matériau. »
« Et à mon avis, comme ce fut le cas avec la Nouvelle-Zélande et comme ce fut le cas avant elle, c'est inexcusable d'un point de vue technologique. Mais les entreprises ne sont pas motivées pour résoudre le problème. Et nous devrions arrêter de prétendre que ce sont des entreprises qui se soucient d'autre chose que de faire de l'argent », précise l’enseignant-chercheur en informatique.
Et vous ?
Quel est votre avis sur le sujet ? À votre avis, les entreprises technologiques peuvent-elles empêcher les vidéos violentes de circuler sur Internet ? Êtes-vous d'avis comme le professeur Hany Farid que les entreprises ne se soucient de rien autre que de faire de l'argent ? Cette pensée, n'est-elle pas vraie pour les autres catégories d'entreprises ? Les entreprises pharmaceutiques par exemple ?Voir aussi :
Les Big Tech devraient payer les FAI pour moderniser leurs réseaux, affirment les opérateurs de télécommunications, dont Orange pour la France Cloud Act : la loi américaine qui donne aux USA un accès aux données stockées en UE inquiète l'Europe, la France prépare des mesures pour se protéger La France sollicite Dassault Systèmes et OVH pour retenter l'aventure du cloud souverain, elle s'attend à avoir « les premiers résultats en décembre 2019 » Parler affirme qu'il est de retour sans la "Big Tech" après avoir été viré d'Amazon Web Services, et avoir passé plus d'un mois hors service