Une vidéo deepfake de Donald Trump diffusée sur une chaine de TV nationale ?
L'employé responsable a été licencié
Le 2019-01-14 20:04:51, par Coriolan, Expert éminent sénior
En septembre, nous vous parlions d’une technique de synthèse d’images basée sur l’intelligence artificielle. Il s’agit de créer de fausses vidéos difficilement identifiables en combinant et en superposant des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique.
Il est facile de trouver sur des sites de diffusion en continu comme YouTube ou Vimeo du contenu non pornographique qui fait appel à la permutation intelligente de visages. Il est aussi possible de faire facilement des vidéos avec permutation intelligente de visages en utilisant l’application FakeApp, qui utilise TensorFlow, un outil à code source ouvert développé par Google.
La dernière personne en date à tomber victime de cette technique serait Donald Trump. Une chaîne de TV américaine (Seattle TV) a publié une vidéo où on voit le visage du président américain transformé pour paraitre plus orange que la normale lors d’un discours télévisé, et avec une fin de vidéo qui le fait paraitre plutôt stupide.
Voici une comparaison juxtaposée de la version originale et la version truquée (à droite) :
« Espérons que nous pourrons nous élever au-dessus de la politique partisane pour soutenir la sécurité…, » a dit Trump. La vidéo (publiée par Q13) a été modifiée pour donner l'impression que Trump sortait languissamment sa langue entre les phrases. De plus, les couleurs de la vidéo semblent plus saturées, ce qui fait que la peau et les cheveux du président apparaissent orange.
« Cette vidéo ne répond pas à nos normes éditoriales, et nous regrettons qu’elle peint une image négative du président », a écrit la directrice d’actualités de Q13, Erica Hill, dans un communiqué. Plus tard jeudi matin, Hill a publié un autre communiqué dans lequel elle déclarait : « Nous avons terminé notre enquête sur cet incident et déterminé que les actions ont été menées par un éditeur individuel qui a été viré. »
Il n’est pas clair si l’employé a créé la vidéo ou bien a permis sa diffusion. Mais sa diffusion sur une station de TV nationale, autrement dit un média traditionnel, devrait soulever plusieurs questions sur la légitimité des vidéos, et le potentiel d’utilisation de cette technique pour partager des fake news. Dans un contexte de politique fracturée et de technologie accessible, il est devenu plus facile que jamais de modifier et manipuler des images pour altérer la réalité, c’est d’ailleurs, pour limiter d'éventuels dégâts que causeraient ces méthodes ainsi que bien d’autres techniques que l’administration Trump travaille à l'établissement de règles de protection de la vie privée sur Internet à l’image du RGPD en Europe. Sur cet exemple précis il ne s'agit vraisemblablement pas d'un deepfake mais plutôt d'une simple édition de vidéo, à savoir rendu la couleur plus orangée et passé en boucle la fin de la vidéo.
Ce n’est pas la première fois que ce genre d'incident a créé la polémique. L’année dernière, l’accès du journaliste de CNN Jim Acosta à la Maison-Blanche a été suspendu. L’homme a été accusé d’accrocher une jeune stagiaire par l’attachée de presse Sarah Huckabee Sanders. Elle a d’ailleurs publié une vidéo qui semblait montrer Acosta retenant le bras de la stagiaire avec sa main alors qu’elle essayait de lui arracher le micro. Par la suite, des experts et chercheurs ont noté que la vidéo publiée par Sanders est truquée et ne reflète pas la réalité.
La permutation intelligente de visages est surtout connue pour avoir été utilisée afin de créer de fausses vidéos à caractère sexuel qui mettent en scène des célébrités, et pour la porno de vengeance. La pornographie avec permutation intelligente de visages a émergé sur Internet en 2017, notamment sur Reddit, et a été depuis interdite par Reddit, Twitter, Pornhub et d’autres. Cette technique utilisée pour créer des fausses nouvelles et des canulars s’appuie sur le machine learning comme l’explique cette vidéo :
Source : vidéo - Seattle Times
Et vous ?
Qu’en pensez-vous ?
La technologie IA deepfake constitue-t-elle une menace pour la démocratie ?
S'agit-il ici d'une simple édition de vidéo et non d'un véritable deepfake ?
Comme pour d'autres technologies à la mode (IA, Deep learning, Blockchain,...), les réseaux sociaux et la presse vont-il s'enflammer en utilisant le mot Deepfake à tort et à travers ?
Voir aussi
Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre
Trump accuse Google de truquer les résultats de recherche pour supprimer les news positives sur le président, et donner la priorité aux "Fake News"
Trump accuse Google de ne pas avoir fait la promotion de son discours annuel comme il l'a fait pour Obama, une accusation aussitôt rejetée par Google
Il est facile de trouver sur des sites de diffusion en continu comme YouTube ou Vimeo du contenu non pornographique qui fait appel à la permutation intelligente de visages. Il est aussi possible de faire facilement des vidéos avec permutation intelligente de visages en utilisant l’application FakeApp, qui utilise TensorFlow, un outil à code source ouvert développé par Google.
La dernière personne en date à tomber victime de cette technique serait Donald Trump. Une chaîne de TV américaine (Seattle TV) a publié une vidéo où on voit le visage du président américain transformé pour paraitre plus orange que la normale lors d’un discours télévisé, et avec une fin de vidéo qui le fait paraitre plutôt stupide.
Voici une comparaison juxtaposée de la version originale et la version truquée (à droite) :
« Espérons que nous pourrons nous élever au-dessus de la politique partisane pour soutenir la sécurité…, » a dit Trump. La vidéo (publiée par Q13) a été modifiée pour donner l'impression que Trump sortait languissamment sa langue entre les phrases. De plus, les couleurs de la vidéo semblent plus saturées, ce qui fait que la peau et les cheveux du président apparaissent orange.
« Cette vidéo ne répond pas à nos normes éditoriales, et nous regrettons qu’elle peint une image négative du président », a écrit la directrice d’actualités de Q13, Erica Hill, dans un communiqué. Plus tard jeudi matin, Hill a publié un autre communiqué dans lequel elle déclarait : « Nous avons terminé notre enquête sur cet incident et déterminé que les actions ont été menées par un éditeur individuel qui a été viré. »
Il n’est pas clair si l’employé a créé la vidéo ou bien a permis sa diffusion. Mais sa diffusion sur une station de TV nationale, autrement dit un média traditionnel, devrait soulever plusieurs questions sur la légitimité des vidéos, et le potentiel d’utilisation de cette technique pour partager des fake news. Dans un contexte de politique fracturée et de technologie accessible, il est devenu plus facile que jamais de modifier et manipuler des images pour altérer la réalité, c’est d’ailleurs, pour limiter d'éventuels dégâts que causeraient ces méthodes ainsi que bien d’autres techniques que l’administration Trump travaille à l'établissement de règles de protection de la vie privée sur Internet à l’image du RGPD en Europe. Sur cet exemple précis il ne s'agit vraisemblablement pas d'un deepfake mais plutôt d'une simple édition de vidéo, à savoir rendu la couleur plus orangée et passé en boucle la fin de la vidéo.
Ce n’est pas la première fois que ce genre d'incident a créé la polémique. L’année dernière, l’accès du journaliste de CNN Jim Acosta à la Maison-Blanche a été suspendu. L’homme a été accusé d’accrocher une jeune stagiaire par l’attachée de presse Sarah Huckabee Sanders. Elle a d’ailleurs publié une vidéo qui semblait montrer Acosta retenant le bras de la stagiaire avec sa main alors qu’elle essayait de lui arracher le micro. Par la suite, des experts et chercheurs ont noté que la vidéo publiée par Sanders est truquée et ne reflète pas la réalité.
La permutation intelligente de visages est surtout connue pour avoir été utilisée afin de créer de fausses vidéos à caractère sexuel qui mettent en scène des célébrités, et pour la porno de vengeance. La pornographie avec permutation intelligente de visages a émergé sur Internet en 2017, notamment sur Reddit, et a été depuis interdite par Reddit, Twitter, Pornhub et d’autres. Cette technique utilisée pour créer des fausses nouvelles et des canulars s’appuie sur le machine learning comme l’explique cette vidéo :
Source : vidéo - Seattle Times
Et vous ?
Voir aussi
-
CoderInTheDarkMembre émériteA la base, je ne vois pas l'intérêt d'essayer de rendre Trump plus con en transformant la réalité, il l'est déjà bien assez.
Et comme déjà dit ce n'est pas du deepfake.
Mais quand cela sera au point, j'ai peur que se soit dangereux.
Car on nous sert de l'information en continue et il est plus dur de la digérer, cela tourne à l'indigestion.
Le risque est qu'une information fausse bien placé provoque une adhésion massive, surtout si elle joue sur l'émotion.
Nos politiques ne disent plus les choses pour ce qu'elles sont mais pour l'effet qu'elle produit sur les moutons que nous sommes en train de devenir.
Par exemple au sujet des gilets jaunes, je suspecte le pouvoir de nous saturer avec les images des débordements pour retourner l'opinion.
Et il n'y a pas forcément besoin de techniques avancée pour mentir et manipuler l'opinion
Les Bush père et fils on fait la guerre en Irak sur la bases de mensonges
Rappelez-vous des témoignages qui prétendaient que des soldats irakiens avaient pris des nouveau-néss dans des couveuses pour les jeter à terre.
En autre le témoignage poignant, de la fille d' l'ambassadeur kowétien à l'ONU.
Rien de tel que jouer sur la corde sensible, les enfants?*
Tout cela pour laisser prendre l'idée, que se sont des barbares ils ne méritent pas de vivre on peut les tuer sans remords .
Et le canon géant de Saddam qui n'a jamais existé.
Il y avait même eu des arrestations.
Et Bush qui disait sans complexe que l'effet du mensonge l'emporte sur la vérité à long terme.
Là où il a été infâme est qu'il a envoyé ses GI se faire tuer tout en sachant qu'il n'y avait pas d'armes de destruction massives , sans compter tout les cciviles irakiens.
Dans sa séquence vidéo de départ soit disant drôle il marchait à quatre pattes dans son bureau en rigolant et disant "elle sont où ".
J'ai trouvé cela tellement méprisant pour ceux qu'il a fait tuer.
Et ce qui m'a désespéré c'est que les gens ont trouvé ça amusant.
Alors &la manipulation en image à de l'avenir, tant que les gens se diront c'est vrai c'es passé à la télé au journal de 20hle 15/01/2019 à 9:50 -
smobydickMembre averti'' Sur cet exemple précis il ne s'agit vraisemblablement pas d'un deepfake mais plutôt d'une simple édition de vidéo, à savoir rendu la couleur plus orangée et passé en boucle la fin de la vidéo.''
Alors changez le titre de votre article si vous saviez que ce n'était pas du deepfake...le 15/01/2019 à 8:01 -
ymoreauMembre éméritePour moi les trucages de Deepfake ne font que pousser un peu plus loin un mécanisme déjà omniprésent : la manipulation des informations.
Je n'ai pas attendu qu'il y ait des fausses vidéos pour me méfier de certaines sources d'information, ou de certaines informations tout court. Notre génération a vite appris à ne pas se laisser avoir par certains types d'intox sur les réseaux sociaux ou des sites racoleurs. On apprendra de même à se méfier de vidéos truquées, même si elles paraissent authentiques.
Pour moi le vrai problème est surtout la paranoïa que ces manipulations engendrent, plus ça va et moins j'ai confiance en ce que je lis, d'un autre côté ça force à être critique, à creuser un peu, recouper les sources etc.
Un autre problème plus pratique que social, comment va évoluer la justice quand les preuves deviendront de plus en plus faciles à falsifier ? Comment pourra-t-on prouver quelque chose si toute photo/vidéo/document est potentiellement fausse ?le 15/01/2019 à 14:05 -
moddernityCandidat au ClubAu vu de la vidéo , je ne vois en rien un exemple de deepfake.
Juste une colorisation et une simple boucle.le 14/01/2019 à 22:41 -
Ryu2000Membre extrêmement actifOui les médias ne choisissent que les moments de violence, les médias n'aiment pas les gilets jaunes, les gilets jaunes n'aiment pas trop les médias non plus.
Mais au moins ce sont des vrais images.
Il y a eu peu de modification, juste ça :
« Gilets jaunes »: France 3 s'excuse pour la pancarte anti-Macron censurée... Le SNJ parle de «faute professionnelle inexcusable»...
C'est pas trop grave encore.
Pendant la manif pour tous, les médias ont dit que les images n'avaient pas été truquées.
Le gouvernement a-t-il truqué des images de la « Manif pour tous » ?
Le gouvernement Syrien disait que des faux reportages sur la Syrie étaient filmé au Qatar.
De faux reportages sur la Syrie sont filmés au Qatar (agence)
De faux reportages sur les événements en Syrie sont réalisés par une entreprise qatarie spécialisée dans la production de décors cinématographiques, rapporte jeudi l'agence syrienne SANA, précisant que cette entreprise est située dans les environs de Doha.
La plupart des guerres sont basés sur un mensonge.
Mais maintenant on peut faire de plus en plus de fausses preuves.le 15/01/2019 à 10:16 -
ddoumecheMembre extrêmement actifTu es un grand naïf pour ne pas dire autre chose, tu crois que Macron est un libéral alors que c'est petit inspecteur des finances prêt à faire crever le pays pour payer l'état.le 16/01/2019 à 10:15
-
CoderInTheDarkMembre émériteQui a parlé d'économie ?
Ce n'est pas moi, c'est toi., qui à soulevé le sujet économique.
Je pense avant tout, qu'il a une mentalité détestable, et qu'il manque d'honnêteté Intellectuel .
Par exemple sa position bornée sur les armes est biaisé à cause de son parti pris pour la NRA.
Oui comme il l'avance, il y a un problème de maladie mental, mais il devrait aussi se demander pourquoi ils ne légifèrent pas plus pour interdire l'accès aux armes à ceux qui devraient ne pas en posséder, c'est à dire ce qui qualifie de malades mentaux.
et pourquoi ils autorise la vente et la détention d'armes de guerre, des fusils d'assauts, pour se défendre, c'est un paradoxe fou pour moi.
Il y a entre 30000 et 40000 morts par armes à feux aux USA par an.
https://www.liberation.fr/planete/20...-fleau_1629977
Alors dire que si les français avaient été armé les attentats auraient pu être évité, c'est ignoble et irresponsable.
Il n'a aucune retenu dans la connerie.
Il méprise ses partenaires de l'ALENA canadiens et mexicains traite ces derniers de criminels, il oublie que les trafiquant mexicains se fournissent en armes aux USA.
Et même ça devrait te touché, il se moque ouvertement de ton poulain Macron.
Et même il critique l'union européenne alors que son pays à aussi son propre accord de libre échanges
https://www.latribune.fr/economie/in...ne-785187.html
Il est choqué que la commission européenne ai infligé une amende à google, mais n'héhésite pas à pénaliser toutes les entreprises qui travaillaient avec l'Iran.
Trump c'est faite ce que je dis pas ce que je fait.
Il va lâcher les kurdes en Syrie, qui ont été des alliés précieux contre les islamistes, les turcs n'attendent que ça.
Concernant l'économie Trump n'est pas un modèle .
Il n'est pas le self man qu'il prétend être, il a surtout hérité de l'entreprise de son père.
La gestion de ses affaires personnelles n'est pas si glorieuse.
Il à plusieurs Faillit à son passif, et même frauduleuses
https://www.franceinter.fr/monde/usa...lites-de-trump
Il y a des conflits d'intérêts possible entre ses affaires et sa fonction de président
Pour la conjecture actuelle je lui laisse le bénéfice du doute.
Car concernant l'économie, je considère qu'il y a une certaine inertie, il faut attendre encore pour juger.
Et je pense qu'on ne peut pas forcément lui attribuer le mérite, c'est la conjecture qui lui est favorable.
C'est exactement ce que l'on reprochais à Lionel Jospin, qui se vantait de ses bons résultats économiques.Pour avoir un pays prospère : ne pas dépenser son budget dans les guerres, rétablir l'économie de marché libre et capitaliste, et diminuer le cout de l'état donc diminuer les services de l'état.
C'est avant tout pour aider les entreprises à faire de l'argent en pillant des pays vulnérables, et donc espérer un retour sur investissement
Souvent ce sont ces mêmes entreprises qui ne veulent pas payer d'impôts, qui financent l'larmé
Et les américains ont été toujours très bon à ce jeux, depuis les républiques bananières
Ils ne sont pas prêt d'arrêter
Il demande aux allié de mettre la main à la poche.
Donc on va devoir augmenter notre budget défense, comment tu réponds à cette contradiction ?
Concernant l'Europe c'était la France et la Grande Bretagne qui intervenait en dehors de l'Europe pour protéger leurs intérêts et un peu ceux des autres pays membres.
Avec la sortie du Royaume Uni c'est la France qui va devoir s'en charger ?
Surtout que l'Allemagne à longtemps profité de son faible budget militaire pour équilibrer ses comptes, alors c'est hypocrite de leur part de donner des leçons de rigueur économiques aux autres dans ces conditions .
Les américains on profité de l'OTAN pour vendre des armes aux nouveaux membres
Ca été le cas avec les pays de l'est, à qui on a dit de mettre au rebu leurs armes russes, même leurs avions qui étaient encore valables.
Et d'acheter de préférence made in USA
Quant au laissé faire économique on a vu ce que ça donné avec la crise des subprime.
C'était bien du laisser faire économique, la libéralisation financière encore une merveille de l'école de Chicago
La main invisiblbe d'Addam Smith les plus fragiles finissent toujours par la prendre dans la gueule
Le marché fait n'importe quoi, on se rappelle aussi de la crise des strart-up.
Des entreprise non encore crée voyaient leur cours décollé en bourse, car elles avaient un projet lié à) l'internet.
En 2006 2007 je travaillais comme comptable dans une salle de marché
Je me suis un peu intéressé à la finance car j'évoluais dedans.
Je me rappelle qu'au sujet des subprimes, ils disaient c'est un truc lointains qui concerne seulement le marché américain le marché va se réguler de lui-même, il n'y arien d'inquiétant.
Et on a vvu ce que cela à donner.
Quant aux traders ils disaient joué ouvertement au casino, on gagne c'est pour nous on perd c'est pour la société
Sans être un ultra gauchiste, à la prochaine crise financière c'est à dire dans pas longtemps,, pour moi il serait indécent de renflouer les banques, à nouvveau.
Car elles n'ont pas montrée de reconnaissance et continue de se gaver sur le dos des états, des petits clients...
La nationalisation pour moi sera la meilleur réponse, car trop c'est trop.
CE point là doit te choquer :;DDommage que Macron ne puisse pas faire la même politique en France, tout ça à cause des gilets jaunes et des syndicalistes.
Car c'est la voie prise par Macron.
Défendre ses droits c'est entreprendre,
Travailler c'est entreprendre pour créer de la vvaleur ajouté, si la seule perspective en se levant est de payer son loyer et remplir son estomac ce n'est pas créateur de richesse pour un individu.
Toute personne est un agent économique rationnel , il est légitime de défendre sson droit à vivre dignement de son travail.
c'est un élément de ta pensé économique libéral
Aux Usa des gens doivent cumuler différents emplois vendre leur sang travailler jusqu'à 70 ans car leur retraite a ffondu en bourse
Pour moi ce ne n'est pas une société idéale
Et il y a un cercle vicieu.
Tout ces travailleurspauvres sont obligés d'acheter des chinoiseries chez walmart, car le made in usa est tro cher.
Alors cela soutien la croissance chinoisele 16/01/2019 à 11:37 -
Ryu2000Membre extrêmement actifMais c'est la culture US !
Ça vient du Deuxième amendement de la Constitution des États-Unis
Le deuxième amendement de la Constitution des États-Unis d’Amérique reconnait la possibilité pour le peuple américain de constituer une milice (« bien organisée ») pour contribuer « à la sécurité d'un État libre », et il garantit en conséquence à tout citoyen américain le droit de porter des armes.
Il ne faut pas penser comme un Français.
Il y a un terroriste qui arrive, t'es armée, tu le tues.
Personnellement ça ne va peut-être pas, mais au niveau du pays, tout va bien.
On peut faire un bilan positif pour l'instant, selon comment on regarde.
C'est con parce que ceux qui ont anticipé la crise, on pu parier à la baisse et ils se sont fait une fortune, mais bon si tu sais que ça va s’effondrer tu le gardes pour toi, ça ne sert à rien de faire paniquer les autres.
La bourse c'est effectivement un Casino, on peut parier sur n'importe quoi.
Si on laisse les banques faire faillites tout le monde est ruiné.
Mais ouais je suis d'accord il faudrait le faire.
La nationalisation des banques ce serait chouette.
Trump faut tout pour que le made in america soit moins cher et le made in china plus cher.le 16/01/2019 à 12:12 -
CoderInTheDarkMembre émérite
Le risque est que tout le monde ne croie en rien, tout sera suspect
Au final on aura plus de rpères
Au passage ton pseudo c'est un homage au film de Blier ?le 17/01/2019 à 11:59 -
marsupialExpert éminentJe pense qu'un réalisateur de cinéma peut produire des vidéos plus élaborées qui seraient un véritable danger pour la Démocratie. Pour l'instant le procédé reste trop artisanal pour bluffer un être humain. Alors une machine qui filtre les vidéos devrait nous éviter toute menace sur la Démocratie.le 14/01/2019 à 20:56