Un deepfake - la contraction des termes anglais deep learning (apprentissage profond) et fake (feint, truqué) - est une technique de synthèse d'images basée sur l'intelligence artificielle. Les méthodes actuelles utilisées deviennent incroyablement sophistiquées et permettent déjà de créer des fausses vidéos difficilement identifiables en tant que telles. Le deepfake est utilisé pour combiner et superposer des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique. La technologie est en développement et des chercheurs continuent d’améliorer les méthodes qui contribueront certainement à révolutionner certains secteurs d’activité mais qui ne manqueront, peut-être, pas de se retrouver, comme une arme, entre les mains des personnes malveillantes.Sans surprise, l’une des premières utilisations de deepfake a été vu dans l’industrie porno, où des visages ont été superposé à d’autres.
Des chercheurs ont créé des algorithmes qui sont capables de récupérer le contenu d'une vidéo et de l'appliquer à une autre et ce sans altérer le style de la vidéo cible. La vidéo, ci-dessous, offre une illustration des plus explicites. Cela commence avec le présentateur américain John Oliver dont les expressions faciales et les mouvements de bouche sont littéralement calqués de façon transparente sur le visage de son homologue Stephen Colbert. On découvre que le système peut s'appliquer à des fleurs ou des paysages. La démonstration se conclut avec le clonage du style de Martin Luther King appliqué sur le visage de Barack Obama, lequel va ensuite se glisser dans la peau de Donald Trump.
Mais à présent, les législateurs pensent que cette technique de synthèse d’images pourrait être utilisées dans le cadre de campagnes de désinformation plus larges par exemple dans l’optique d’influencer des élections en diffusant des fake news qui pourraient alors paraître plus crédibles.
« Les deepfake pourraient devenir un puissant outil pour les puissances hostiles cherchant à propager des informations erronées », a déclaré le représentant du parti démocrate sur le renseignement, Adam Schiff, dans une lettre adressée à Dan Coats, directeur du renseignement national.
« En brouillant la frontière entre les faits et la fiction, la technologie deepfake pourrait miner la confiance du public dans les images et les vidéos enregistrées en tant que représentations objectives de la réalité,. Alors que les technologies deepfake deviennent plus avancées et plus accessibles, cela pourrait constituer une menace pour le discours public et la sécurité nationale des Etats-Unis, avec des implications larges et inquiétantes pour les campagnes de mesures offensives actives contre les Etats-Unis », indique la lettre, qui a été co-signée par les représentants Stephanie Murphy (D-FL) et Carlos Curbelo (R-FL).
Schiff, Murphy et Curbelo veulent que le directeur du renseignement national, qui supervise la communauté du renseignement aux États-Unis, rende compte de son évaluation de la façon dont la technologie deepfake pourrait nuire aux intérêts de la sécurité nationale et des mesures de protection contre les influences étrangères. .
Le bureau du DNI a été invité à faire rapport au Congrès à la mi-décembre.
Un projet de loi déjà sur la table
Fin décembre, le comité judiciaire du Sénat s’est penché sur une proposition de législation sur le sujet émise par le sénateur républicain Ben Sasse : Malicious Deep Fake Prohibition Act (loi sur la prohibition des deepfake). L’objectif de cette proposition de loi est d’apporter des amendements aux textes américains de loi pour interdire certains enregistrements audiovisuels frauduleux et à d’autres fins.
Il est d’abord question d’apporter des définitions
Le texte entend par « enregistrement audiovisuel » tout support audio ou visuel sous un format électronique; ce qui « comprend toute photographie, film cinématographique, enregistrement vidéo, image électronique ou enregistrement sonore ».
Le texte entend par « falsification » un document audiovisuel créé ou modifié de telle sorte qu’il semblerait à tort à un observateur raisonnable qu’il est un document authentique du discours ou du comportement d’un individu.
De plus, le texte estime que les expressions « service informatique interactif » et « fournisseur de contenu d’information » ont la même signification au sens de l’article 230 de la loi sur les communications de 1934 (47 U.S.C. 230).
Infraction
Le texte estime qu’il est illégal, par tout moyen ou installation du commerce entre États ou avec l'étranger, de :
- « créer, dans l’intention de distribuer, un deep fake avec l’intention de faciliter la conduite criminelle ou délictuelle au regard de la législation fédérale, nationale, locale ou tribale; ou
- « distribuer un enregistrement audiovisuel avec
- « la connaissance réelle que l'enregistrement audiovisuel est un deep fake; et
- « L'intention selon laquelle la distribution du document audiovisuel faciliterait un comportement criminel ou délictueux en vertu de lois fédérales, d'État, locales ou tribales
Sanction
Toute personne qui enfreint l'alinéa b) sera
- «1) condamné à une amende en vertu de ce titre, à une peine d'emprisonnement maximale de deux ans, ou les deux; ou
- «(2) condamné à une amende en vertu de ce titre, à une peine d'emprisonnement maximale de 10 ans, ou les deux, dans le cas d'une violation dans laquelle la création, la reproduction ou la distribution d’un deep fake pouvait raisonnablement être prévue pour
- «(A) affecter la conduite de toute procédure administrative, législative ou judiciaire d'un organisme gouvernemental fédéral, d'un État, local ou tribal, y compris l'administration d'une élection ou la conduite de relations extérieures; ou
- «(B) faciliter la violence.
Source : projet de loi
Et vous ?
Partagez-vous les appréhensions des législateurs ? Que pensez-vous de ces mesures ?Voir aussi :
Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre Les législateurs californiens approuvent des règles de confidentialité auxquelles la Silicon Valley s'oppose, début d'un RGPD aux USA ? Les liens de Google avec Huawei vus d'un mauvais œil par des législateurs américains qui y voient une menace pour la sécurité des États-Unis Affaire Cambridge Analytica : Facebook témoigne dans un document de 500 pages, en ignorant les préoccupations de nombreux législateurs américains 
Envoyé par Stéphane le calme
