Une vidéo deepfake de Donald Trump diffusée sur une chaine de TV nationale ?
L'employé responsable a été licencié

Le , par Coriolan

118PARTAGES

16  0 
En septembre, nous vous parlions d’une technique de synthèse d’images basée sur l’intelligence artificielle. Il s’agit de créer de fausses vidéos difficilement identifiables en combinant et en superposant des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique.

Il est facile de trouver sur des sites de diffusion en continu comme YouTube ou Vimeo du contenu non pornographique qui fait appel à la permutation intelligente de visages. Il est aussi possible de faire facilement des vidéos avec permutation intelligente de visages en utilisant l’application FakeApp, qui utilise TensorFlow, un outil à code source ouvert développé par Google.

La dernière personne en date à tomber victime de cette technique serait Donald Trump. Une chaîne de TV américaine (Seattle TV) a publié une vidéo où on voit le visage du président américain transformé pour paraitre plus orange que la normale lors d’un discours télévisé, et avec une fin de vidéo qui le fait paraitre plutôt stupide.

Voici une comparaison juxtaposée de la version originale et la version truquée (à droite) :


« Espérons que nous pourrons nous élever au-dessus de la politique partisane pour soutenir la sécurité…, » a dit Trump. La vidéo (publiée par Q13) a été modifiée pour donner l'impression que Trump sortait languissamment sa langue entre les phrases. De plus, les couleurs de la vidéo semblent plus saturées, ce qui fait que la peau et les cheveux du président apparaissent orange.

« Cette vidéo ne répond pas à nos normes éditoriales, et nous regrettons qu’elle peint une image négative du président », a écrit la directrice d’actualités de Q13, Erica Hill, dans un communiqué. Plus tard jeudi matin, Hill a publié un autre communiqué dans lequel elle déclarait : « Nous avons terminé notre enquête sur cet incident et déterminé que les actions ont été menées par un éditeur individuel qui a été viré. »

Il n’est pas clair si l’employé a créé la vidéo ou bien a permis sa diffusion. Mais sa diffusion sur une station de TV nationale, autrement dit un média traditionnel, devrait soulever plusieurs questions sur la légitimité des vidéos, et le potentiel d’utilisation de cette technique pour partager des fake news. Dans un contexte de politique fracturée et de technologie accessible, il est devenu plus facile que jamais de modifier et manipuler des images pour altérer la réalité, c’est d’ailleurs, pour limiter d'éventuels dégâts que causeraient ces méthodes ainsi que bien d’autres techniques que l’administration Trump travaille à l'établissement de règles de protection de la vie privée sur Internet à l’image du RGPD en Europe. Sur cet exemple précis il ne s'agit vraisemblablement pas d'un deepfake mais plutôt d'une simple édition de vidéo, à savoir rendu la couleur plus orangée et passé en boucle la fin de la vidéo.

Ce n’est pas la première fois que ce genre d'incident a créé la polémique. L’année dernière, l’accès du journaliste de CNN Jim Acosta à la Maison-Blanche a été suspendu. L’homme a été accusé d’accrocher une jeune stagiaire par l’attachée de presse Sarah Huckabee Sanders. Elle a d’ailleurs publié une vidéo qui semblait montrer Acosta retenant le bras de la stagiaire avec sa main alors qu’elle essayait de lui arracher le micro. Par la suite, des experts et chercheurs ont noté que la vidéo publiée par Sanders est truquée et ne reflète pas la réalité.

La permutation intelligente de visages est surtout connue pour avoir été utilisée afin de créer de fausses vidéos à caractère sexuel qui mettent en scène des célébrités, et pour la porno de vengeance. La pornographie avec permutation intelligente de visages a émergé sur Internet en 2017, notamment sur Reddit, et a été depuis interdite par Reddit, Twitter, Pornhub et d’autres. Cette technique utilisée pour créer des fausses nouvelles et des canulars s’appuie sur le machine learning comme l’explique cette vidéo :


Source : vidéo - Seattle Times

Et vous ?

Qu’en pensez-vous ?
La technologie IA deepfake constitue-t-elle une menace pour la démocratie ?
S'agit-il ici d'une simple édition de vidéo et non d'un véritable deepfake ?
Comme pour d'autres technologies à la mode (IA, Deep learning, Blockchain,...), les réseaux sociaux et la presse vont-il s'enflammer en utilisant le mot Deepfake à tort et à travers ?

Voir aussi

Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre
Trump accuse Google de truquer les résultats de recherche pour supprimer les news positives sur le président, et donner la priorité aux "Fake News"
Trump accuse Google de ne pas avoir fait la promotion de son discours annuel comme il l'a fait pour Obama, une accusation aussitôt rejetée par Google

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Membre expert https://www.developpez.com
Le 14/01/2019 à 20:56
Je pense qu'un réalisateur de cinéma peut produire des vidéos plus élaborées qui seraient un véritable danger pour la Démocratie. Pour l'instant le procédé reste trop artisanal pour bluffer un être humain. Alors une machine qui filtre les vidéos devrait nous éviter toute menace sur la Démocratie.
Avatar de moddernity
Candidat au Club https://www.developpez.com
Le 14/01/2019 à 22:41
Au vu de la vidéo , je ne vois en rien un exemple de deepfake.
Juste une colorisation et une simple boucle.
Avatar de smobydick
Membre du Club https://www.developpez.com
Le 15/01/2019 à 8:01
'' Sur cet exemple précis il ne s'agit vraisemblablement pas d'un deepfake mais plutôt d'une simple édition de vidéo, à savoir rendu la couleur plus orangée et passé en boucle la fin de la vidéo.''

Alors changez le titre de votre article si vous saviez que ce n'était pas du deepfake...
Avatar de CoderInTheDark
Membre expérimenté https://www.developpez.com
Le 15/01/2019 à 9:50
A la base, je ne vois pas l'intérêt d'essayer de rendre Trump plus con en transformant la réalité, il l'est déjà bien assez.

Et comme déjà dit ce n'est pas du deepfake.

Mais quand cela sera au point, j'ai peur que se soit dangereux.
Car on nous sert de l'information en continue et il est plus dur de la digérer, cela tourne à l'indigestion.

Le risque est qu'une information fausse bien placé provoque une adhésion massive, surtout si elle joue sur l'émotion.
Nos politiques ne disent plus les choses pour ce qu'elles sont mais pour l'effet qu'elle produit sur les moutons que nous sommes en train de devenir.

Par exemple au sujet des gilets jaunes, je suspecte le pouvoir de nous saturer avec les images des débordements pour retourner l'opinion.

Et il n'y a pas forcément besoin de techniques avancée pour mentir et manipuler l'opinion
Les Bush père et fils on fait la guerre en Irak sur la bases de mensonges
Rappelez-vous des témoignages qui prétendaient que des soldats irakiens avaient pris des nouveau-néss dans des couveuses pour les jeter à terre.
En autre le témoignage poignant, de la fille d' l'ambassadeur kowétien à l'ONU.
Rien de tel que jouer sur la corde sensible, les enfants?*

Tout cela pour laisser prendre l'idée, que se sont des barbares ils ne méritent pas de vivre on peut les tuer sans remords .

Et le canon géant de Saddam qui n'a jamais existé.
Il y avait même eu des arrestations.

Et Bush qui disait sans complexe que l'effet du mensonge l'emporte sur la vérité à long terme.
Là où il a été infâme est qu'il a envoyé ses GI se faire tuer tout en sachant qu'il n'y avait pas d'armes de destruction massives , sans compter tout les cciviles irakiens.
Dans sa séquence vidéo de départ soit disant drôle il marchait à quatre pattes dans son bureau en rigolant et disant "elle sont où ".
J'ai trouvé cela tellement méprisant pour ceux qu'il a fait tuer.

Et ce qui m'a désespéré c'est que les gens ont trouvé ça amusant.
Alors &la manipulation en image à de l'avenir, tant que les gens se diront c'est vrai c'es passé à la télé au journal de 20h
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 15/01/2019 à 10:16
Citation Envoyé par CoderInTheDark Voir le message
Par exemple au sujet des gilets jaunes, je suspecte le pouvoir de nous saturer avec les images des débordements pour retourner l'opinion.
Oui les médias ne choisissent que les moments de violence, les médias n'aiment pas les gilets jaunes, les gilets jaunes n'aiment pas trop les médias non plus.
Mais au moins ce sont des vrais images.

Il y a eu peu de modification, juste ça :
« Gilets jaunes »: France 3 s'excuse pour la pancarte anti-Macron censurée... Le SNJ parle de «faute professionnelle inexcusable»...
C'est pas trop grave encore.

Pendant la manif pour tous, les médias ont dit que les images n'avaient pas été truquées.
Le gouvernement a-t-il truqué des images de la « Manif pour tous » ?

Le gouvernement Syrien disait que des faux reportages sur la Syrie étaient filmé au Qatar.
De faux reportages sur la Syrie sont filmés au Qatar (agence)
De faux reportages sur les événements en Syrie sont réalisés par une entreprise qatarie spécialisée dans la production de décors cinématographiques, rapporte jeudi l'agence syrienne SANA, précisant que cette entreprise est située dans les environs de Doha.
Citation Envoyé par CoderInTheDark Voir le message
Alors &la manipulation en image à de l'avenir, tant que les gens se diront c'est vrai c'es passé à la télé au journal de 20h
Exactement comme dans Running Man ! (Qui est un excellent film que je conseil à tout le monde, il est encore mieux que Total Recall)

Citation Envoyé par CoderInTheDark Voir le message
Les Bush père et fils on fait la guerre en Irak sur la bases de mensonges
La plupart des guerres sont basés sur un mensonge.
Mais maintenant on peut faire de plus en plus de fausses preuves.
Avatar de ymoreau
Membre émérite https://www.developpez.com
Le 15/01/2019 à 14:05
Pour moi les trucages de Deepfake ne font que pousser un peu plus loin un mécanisme déjà omniprésent : la manipulation des informations.

Je n'ai pas attendu qu'il y ait des fausses vidéos pour me méfier de certaines sources d'information, ou de certaines informations tout court. Notre génération a vite appris à ne pas se laisser avoir par certains types d'intox sur les réseaux sociaux ou des sites racoleurs. On apprendra de même à se méfier de vidéos truquées, même si elles paraissent authentiques.

Pour moi le vrai problème est surtout la paranoïa que ces manipulations engendrent, plus ça va et moins j'ai confiance en ce que je lis, d'un autre côté ça force à être critique, à creuser un peu, recouper les sources etc.
Un autre problème plus pratique que social, comment va évoluer la justice quand les preuves deviendront de plus en plus faciles à falsifier ? Comment pourra-t-on prouver quelque chose si toute photo/vidéo/document est potentiellement fausse ?
Avatar de Buffet_froid
Inactif https://www.developpez.com
Le 15/01/2019 à 16:19
Ce qui est surtout fort avec ces trucages, c'est qu'à peu près tout le monde va devenir plus ou moins "complotiste", y compris les irréductibles jamais-sceptiques.
J'entends d'ici les jacasseries, "il y a le bon complotiste, et le mauvais complotiste... mais on peut pas les confondre".

Après, que ce soit dangereux, risqué ou autres considérations peu rassurantes, certes.
Mais ce n'est qu'un détail dans la dynamique des avancées technologiques.
Il n'y a pas de complot précis contre les peuples, néanmoins les penseurs de la cybernétiques travaillent de plus en plus vite, bien plus vite qu'on ne le pense.
Tout ce que la technique permet va advenir. En particulier la fabrication d'une réalité virtuelle et artificielle dans une logique orwellienne de contrôle des esprits.
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 15/01/2019 à 18:08
Citation Envoyé par CoderInTheDark Voir le message
A la base, je ne vois pas l'intérêt d'essayer de rendre Trump plus con en transformant la réalité, il l'est déjà bien assez.
Ça c'est de l'ignorance et de la diffamation.
Trump est un génie, il a tout compris à l'économie, il a fait ce qu'il fallait, le chômage a quasiment disparu aux USA et c'est redevenu un pays prospère.

Pour avoir un pays prospère : ne pas dépenser son budget dans les guerres, rétablir l'économie de marché libre et capitaliste, et diminuer le cout de l'état donc diminuer les services de l'état.

Dommage que Macron ne puisse pas faire la même politique en France, tout ça à cause des gilets jaunes et des syndicalistes.
Avatar de Buffet_froid
Inactif https://www.developpez.com
Le 15/01/2019 à 20:56
Citation Envoyé par Coriolan Voir le message
La technologie IA deepfake constitue-t-elle une menace pour la démocratie ?
Non, elle est intrinsèque à la démocratie de marché.

Citation Envoyé par Mingolito Voir le message
Dommage que Macron ne puisse pas faire la même politique en France
Dommage que Macron ait 15 ans de retard dans sa vision du monde, dommage que Macron soit l'Hilarante Clinton française, et dommage que les LREM passent leur temps à cracher à la bouche de Mr Trump.
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 16/01/2019 à 9:00
Citation Envoyé par Buffet_froid Voir le message
J'entends d'ici les jacasseries, "il y a le bon complotiste, et le mauvais complotiste... mais on peut pas les confondre".
Le bon complotisme c'est de dire que le gouvernement Russe a aidé l'élection de Trump et que les Gilets Jaunes sont financé par l'Italie.
Cagnottes : Marlène Schiappa soupçonne les puissances étrangères au vu de la position de l'Italie

Citation Envoyé par Mingolito Voir le message
le chômage a quasiment disparu aux USA et c'est redevenu un pays prospère.
Ouais enfin les statistiques du chômage sont truqués partout, y compris aux USA.
Il est possible que des gens aient trouvé du travail grâce à Trump.
Mais ya encore plein de gens qui n'ont pas de travail et qui aimeraient en avoir un.

Citation Envoyé par Mingolito Voir le message
Dommage que Macron ne puisse pas faire la même politique en France, tout ça à cause des gilets jaunes et des syndicalistes.
Macron suit la feuille de route de l'UE.
Depuis Maastricht les gouvernement ont de moins en moins de pouvoir.

Citation Envoyé par Mingolito Voir le message
diminuer le cout de l'état donc diminuer les services de l'état.
Moi je serais plus pour re-nationaliser les autoroutes et la SNCF par exemple.

Citation Envoyé par Buffet_froid Voir le message
Dommage que Macron ait 15 ans de retard dans sa vision du monde
En fait il y a 15 ans les USA étaient à fond mondialiste, Trump a compris que le mondialisme profitait plus à la Chine qu'aux USA.
Trump veut faire du protectionnisme et ça c'est nouveau.
Les USA font la promotion du mondialisme et du libre-échangisme depuis des décennies.
Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web