¿Dónde está la verdad y dónde la mentira? Cómo los deepfakes están cambiando nuestro mundo

Los gigantes tecnológicos ya destinan millones de dólares a la lucha contra el contenido falso.

La palabra «deepfakes» aparece cada vez más en nuestros feeds y en las emisiones de los principales canales de televisión del mundo. Gigantes tecnológicos como Amazon y Facebook trabajan juntos para plantarles cara. Explicamos qué son y cómo cambiarán nuestro mundo. 

Qué es un deepfake y cómo se utiliza 

Es una tecnología que funciona con inteligencia artificial. Produce o modifica por completo contenido, de modo que aparece un vídeo que nunca existió. Así, se pueden falsificar declaraciones de políticos, empresarios, científicos y de cualquiera. Cada día la tecnología avanza y, muy posiblemente, llegará a ser tan verosímil que ni siquiera los expertos podrán determinar si el vídeo es real o no. 

Los deepfakes se crean con un método de aprendizaje profundo conocido como Redes Generativas Antagónicas (GAN, por sus siglas en inglés), en el que dos algoritmos se usan para hacer los falsos más verosímiles. Al estudiar imágenes y vídeos de una persona como datos de entrenamiento, el primer modelo crea el vídeo, mientras que el segundo intenta detectar sus defectos. Estos dos modelos trabajan codo con codo hasta que generan un vídeo verosímil.

Pueden utilizarse en la política, en el mundo del espectáculo e, incluso, en la vida cotidiana para amenazas y chantajes. Y es que hoy en día prácticamente cualquier usuario de internet puede crear un vídeo falso, y con el tiempo será aún más fácil.

Esta tecnología también tiene sus ventajas, si se emplea para el bien. Por ejemplo, para crear más datos de entrenamiento que mejoren los vehículos autónomos. Pero, como ocurre con cualquier otra tecnología, las personas la usan a su manera: para crear vídeos falsos y difundir desinformación en las redes sociales. 

Cómo son los deepfakes

El director estadounidense Jordan Peele (películas «Huir» y «Nosotros») creó un vídeo con una copia digital de Barack Obama. Esto fue posible gracias a entrevistas anteriores de Obama y a redes neuronales.

En el propio vídeo, el director y la «copia presidencial» advierten de que ha llegado un tiempo peligroso y que los usuarios deben estar más alerta y no creer todo lo que ven en internet, confiando únicamente en fuentes de noticias verificadas y contrastadas.

«Vivimos en una era en la que nuestros enemigos pueden parecer cualquier cosa, decir cualquier cosa y en cualquier momento. Por ejemplo, pueden hacer que yo diga que Killmonger (archienemigo de Pantera Negra, uno de los principales superhéroes del año en el cine) tenía razón. O, lo más sencillo, que el presidente Trump es un completo cabrón. Como entenderán, nunca diré esas palabras, al menos en público. Pero otro podría hacerlo. Ese otro es Jordan Peele», dice Barack Obama en el falso mensaje. El falso Obama concluye su discurso con las palabras: «Gracias y mantengan siempre los ojos abiertos, zorras».

Cómo los deepfakes pueden interferir en las elecciones 

El año que viene se elegirá presidente en Estados Unidos. En los círculos políticos ya cunde el pánico ante la posibilidad de que los vídeos falsos influyan seriamente en los resultados de la votación. Teniendo en cuenta el escándalo del año pasado con la empresa Cambridge Analytica, los estadounidenses no quieren que se repita un escenario en el que las elecciones presidenciales se celebren con una injerencia evidente de terceras fuerzas. 

Este tipo de falsificaciones aún no se ha extendido ampliamente, pero el Gobierno de Estados Unidos está preocupado por que adversarios extranjeros puedan utilizarlas para intentar interferir en las elecciones de 2020. En la evaluación internacional de amenazas de enero, Dan Coats, director de Inteligencia Nacional de Estados Unidos, advirtió de que, probablemente, entre quienes quieran boicotear las elecciones podrían encontrarse estafadores o medios de comunicación falsos. La Comisión de Inteligencia de la Cámara de Representantes incluso celebró audiencias sobre las amenazas potenciales que plantea la tecnología de falsificación.

Con la esperanza de frenar la difusión de desinformación relacionada con los deepfakes, Hany Farid, catedrático y experto en criminalística del Dartmouth College, desarrolla un software capaz de detectar deepfakes. Afirma que espera difundir en diciembre sus herramientas de detección de vídeos falsos entre periodistas, mediante un sitio web donde puedan comprobar la autenticidad de los vídeos. «Si eres reportero y ves un vídeo, antes de informar sobre él debes tener un mecanismo de verificación», dijo.

Cómo los gigantes tecnológicos lucharán contra los deepfakes 

Las empresas Facebook, Microsoft y Amazon se han unido para combatir los deepfakes. En concreto, Amazon tiene previsto proporcionar a los investigadores 1 millón de dólares durante los próximos dos años. 

Anteriormente, en septiembre de este año, Facebook anunció una asociación con el programa DeepFake Detection, en colaboración con Microsoft y instituciones académicas como Cornell Tech, el MIT y la Universidad de Oxford. Los socios de la iniciativa prometieron 10 millones de dólares y publicaron un conjunto de datos de 5000 vídeos para ayudar a las personas a crear herramientas de detección. 

Alexéi Simonchuk