Où est la vérité, où est le mensonge ? Comment les deepfakes changent notre monde

Les géants de la technologie consacrent déjà des millions de dollars à la lutte contre les contenus falsifiés.

Le mot « deepfakes » apparaît de plus en plus souvent dans nos fils d'actualité et à l'antenne des principales chaînes de télévision mondiales. Des géants technologiques comme Amazon et Facebook travaillent ensemble pour les combattre. Nous expliquons ce que c'est et comment ils vont changer notre monde. 

Qu'est-ce qu'un deepfake et comment on les utilise 

Il s'agit d'une technologie qui fonctionne grâce à l'intelligence artificielle. Elle produit ou modifie entièrement un contenu, ce qui donne naissance à une vidéo qui n'a jamais existé. Ainsi, on peut falsifier les déclarations de responsables politiques, d'hommes d'affaires, de scientifiques et de n'importe qui. Chaque jour, la technologie progresse et il est tout à fait possible qu'elle devienne si vraisemblable que même les experts ne pourront pas déterminer si la vidéo est réelle ou non. 

Les deepfakes sont créés à l'aide d'une méthode d'apprentissage profond connue sous le nom de réseaux antagonistes génératifs (GAN), dans laquelle deux algorithmes sont utilisés pour rendre les faux plus vraisemblables. En étudiant des images et des vidéos d'une personne servant de données d'apprentissage, le premier modèle crée une vidéo, tandis que le second modèle tente de détecter ses défauts. Ces deux modèles travaillent main dans la main jusqu'à ce qu'ils produisent une vidéo vraisemblable.

Ils peuvent être utilisés en politique, dans le show-business, et même dans la vie quotidienne pour menacer et faire chanter. En effet, aujourd'hui déjà, presque tout utilisateur d'internet peut créer une fausse vidéo, et avec le temps, ce sera encore plus facile.

Cette technologie présente aussi des avantages, si on l'utilise à bon escient. Par exemple, la création de davantage de données d'apprentissage pour améliorer les véhicules autonomes. Mais, comme pour toute autre technologie, les gens l'utilisent à leur manière — pour créer de fausses vidéos et diffuser de la désinformation sur les réseaux sociaux. 

À quoi ressemblent les deepfakes

Le réalisateur américain Jordan Peele (les films « Get Out » et « Us ») a créé une vidéo avec une copie numérique de Barack Obama. Cela a été rendu possible grâce à des interviews antérieures d'Obama et à des réseaux de neurones.

Dans la vidéo elle-même, le réalisateur et la « copie présidentielle » mettent en garde contre une époque dangereuse et appellent les internautes à faire preuve de vigilance, à ne pas croire tout ce qu'ils voient sur internet et à ne faire confiance qu'aux sources d'information vérifiées et authentifiées.

« Nous vivons à une époque où nos ennemis peuvent avoir l'apparence de n'importe qui, dire n'importe quoi et à n'importe quel moment. Par exemple, ils peuvent me faire dire que Killmonger (l'ennemi juré de Black Panther, l'un des principaux films de super-héros de l'année) avait raison ! Ou, le plus simple : le président Trump est un parfait connard. Comme vous le comprenez, je ne dirai jamais ces mots, du moins en public. Mais quelqu'un d'autre le pourrait. Ce quelqu'un, c'est Jordan Peele », déclare Barack Obama dans une fausse allocution. Le faux Obama conclut son discours par ces mots : « Merci et restez toujours sur vos gardes, salopes. »

Comment les deepfakes peuvent interférer dans les élections 

L'année prochaine, les États-Unis éliront leur président. Dans les cercles politiques, on s'inquiète déjà de la possibilité que les vidéos truquées influencent sérieusement les résultats du scrutin. Compte tenu du scandale de l'an dernier impliquant la société Cambridge Analytica, les Américains ne veulent pas revivre un scénario où l'élection présidentielle s'est déroulée sous une ingérence manifeste de forces extérieures. 

De tels faux ne sont pas encore largement diffusés, mais le gouvernement américain craint que des adversaires étrangers ne les utilisent pour tenter d'interférer dans les élections de 2020. Lors d'une évaluation internationale des menaces en janvier, Dan Coats, directeur du Renseignement national américain, a averti que parmi ceux qui voudraient saboter les élections figureraient probablement des escrocs ou de faux médias. La commission du renseignement de la Chambre des représentants a même organisé des auditions sur les menaces potentielles que représente la technologie de falsification.

Dans l'espoir d'arrêter la diffusion de la désinformation liée aux deepfakes, Hany Farid, professeur et expert en criminalistique au Dartmouth College, développe un logiciel capable de détecter les deepfakes. Il affirme espérer diffuser en décembre ses outils de détection de fausses vidéos auprès des journalistes, grâce à un site où ils pourront vérifier l'authenticité des vidéos. « Si vous êtes reporter et que vous voyez une vidéo, vous devez disposer d'un mécanisme de vérification avant de la relayer », a-t-il déclaré.

Comment les géants de la technologie vont lutter contre les deepfakes 

Les sociétés Facebook, Microsoft et Amazon se sont associées pour lutter contre les deepfakes. Amazon, en particulier, compte mettre à disposition des chercheurs 1 million de dollars au cours des deux prochaines années. 

Plus tôt, en septembre de cette année, Facebook a annoncé un partenariat avec le programme DeepFake Detection, en collaboration avec Microsoft et des établissements universitaires tels que Cornell Tech, le MIT et l'université d'Oxford. Les partenaires de l'initiative ont promis 10 millions de dollars et publié un ensemble de données de 5 000 vidéos afin d'aider les personnes à créer des outils de détection. 

Alexeï Simontchouk