Facebook ouvre un nouveau front dans sa guerre sans fin contre les contenus problématiques en annonçant qu'il bannit la plupart des vidéos deepfake de ses plateformes.« Les gens partagent des millions de photos et de vidéos sur Facebook chaque jour, créant certains des visuels les plus convaincants et créatifs sur notre plateforme. Une partie de ce contenu est manipulée, souvent pour des raisons bénignes, comme rendre une vidéo plus nette ou une audio plus claire. Mais il y a des gens qui se livrent à la manipulation des médias pour tromper.
« Les manipulations peuvent être effectuées grâce à une technologie simple comme Photoshop ou à des outils sophistiqués qui utilisent l'intelligence artificielle ou des techniques "d'apprentissage en profondeur" pour créer des vidéos qui déforment la réalité - généralement appelées "deepfakes". Bien que ces vidéos soient encore rares sur Internet, elles présentent un important défi pour notre industrie et notre société à mesure que leur utilisation augmente.
« Aujourd'hui, nous voulons décrire comment nous abordons à la fois les deepfakes et tous les types de médias manipulés. Notre approche comprend plusieurs volets, allant de l'enquête sur le contenu généré par l'IA et les comportements trompeurs tels que les faux comptes, au partenariat avec le monde universitaire, le gouvernement et l'industrie à la révélation des personnes derrière ces efforts.
« La collaboration est essentielle. À travers le monde, nous avons mené des conversations avec plus de 50 experts mondiaux ayant des antécédents techniques, politiques, médiatiques, juridiques, civiques et universitaires pour éclairer l'élaboration de nos politiques et améliorer la science de la détection des médias manipulés.
« À la suite de ces partenariats et discussions, nous renforçons notre politique envers les vidéos manipulées trompeuses qui ont été identifiées comme des deepfakes. À l'avenir, nous supprimerons les supports manipulés trompeurs s'ils répondent aux critères suivants :
- ils ont été édités ou synthétisés - au-delà des ajustements pour la clarté ou la qualité - d'une manière qui n'est pas apparente pour une personne moyenne et qui induirait probablement quelqu'un en erreur en pensant qu'un sujet de la vidéo a dit des mots qu'il n'a pas réellement dits ;
- ils sont le produit de l'intelligence artificielle ou de l'apprentissage automatique qui fusionne, remplace ou superpose le contenu sur une vidéo, ce qui donne l'impression qu'elle est authentique.
« Cette politique ne s'applique pas aux contenus parodiques ou satiriques ni aux vidéos qui ont été modifiées uniquement pour omettre ou modifier l'ordre des mots.
« Conformément à nos politiques existantes, l'audio, les photos ou les vidéos, qu'il s'agisse d'un deepfake ou non, seront supprimés de Facebook s'ils violent l'une de nos autres normes communautaires, y compris celles régissant la nudité, la violence graphique, la suppression des électeurs et le discours de haine.
« Les vidéos qui ne satisfont pas à ces normes de suppression peuvent toujours être examinées par l'un de nos vérificateurs de faits tiers indépendants, qui comprend plus de 50 partenaires dans le monde entier qui vérifient les faits dans plus de 40 langues. Si une photo ou une vidéo est jugée fausse ou partiellement fausse par un vérificateur des faits, nous réduisons considérablement sa distribution dans le fil d'actualités et la rejetons si elle est diffusée en tant qu'annonce. Et de manière critique, les personnes qui la voient, essaient de le partager, ou l'ont déjà partagé, verront des avertissements les prévenant qu'il s'agit d'un faux ».
Facebook a été la cible de protestations et de critiques pointues ces derniers mois. En juin dernier, des farceurs sur Internet ont publié un deepfake de Mark Zuckerberg censé se vanter d'être « un seul homme, avec un contrôle total sur des milliards de données volées ». Il a ajouté que « je dois tout à SPECTRE » - une organisation maléfique fictive de la franchise James Bond.
Instagram, qui appartient à Facebook, avait refusé de retirer ladite vidéo. À peu près à la même période, Facebook a refusé de retirer une vidéo de la présidente de la Chambre des représentants des États-Unis, Nancy Pelosi, qui a été ralentie, donnant l'impression que Pelosi était ivre. L'élue aurait été furieuse à cause du fait que Facebook n'a pas retiré la vidéo trompeuse.
La nouvelle politique s'appliquerait clairement à des vidéos comme celle de Zuckerberg attribuant à SPECTRE sa réussite professionnelle. Mais la nouvelle politique ne semble pas s'appliquer aux vidéos comme celle de Pelosi. Cette dernière a été manipulée à l'aide d'outils plus conventionnels et non par « une intelligence artificielle ou l'apprentissage automatique ». De plus, elle n'a pas changé les mots de Pelosi ; elle a juste changé la façon dont elle les a dits.
Dans les heures qui ont suivi l'annonce de la nouvelle politique, même les responsables de Facebook semblaient confus quant à savoir si l'entreprise interdisait les deepfakes dans les publicités politiques. En effet, un porte-parole de Facebook a déclaré que « Facebook n'interdira pas les deepfakes dans les publicités politiques[...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
