Deepfakes: el aterrador truco de la IA con el que "revivieron" a Juan Gabriel

Deepfakes: el aterrador truco de la IA con el que "revivieron" a Juan Gabriel

Por: Beatriz Esquivel -

¿Un episodio de 'Black Mirror' o la mera realidad? Los videos deepfakes han alcanzado tal grado de detalle que diferenciar entre la mentira y la verdad es de lo más difícil.

Los videos deepfakes llegaron al gran público de la mano de una serie de vídeos pornográficos que tenían como protagonistas a actrices prominentes de Hollywood, pero que a pesar de parecer de lo más reales, eran totalmente falsos. Probablemente esa fue la primera ocasión que escuchaste el término o por lo menos que te familiarizaste con la posibilidad de crear un video que mostrara a una persona diciendo o haciendo algo sin su consentimiento.

Recientemente, esta tecnología ha sido utilizada para hacer un video en el que Juan Gabriel, "El divo de Juárez" aseguraba estar vivo y que tuvo que fingir su muerte. En un principio muchos aseguraron que se trataba de un imitador, sin embargo, de acuerdo con el reportaje de Radio Fórmula en entrevista con el abogado de Juan Gabriel, en realidad se trató de un deepfake que un sujeto realizó con la ayuda de una app que permite a cualquiera parecerse a Juanga. 

  Artículos Relacionadosjuan-gabriel-esta-vivo-video-fingir-muerteentretenimiento"Tuve que fingir, les diré la verdad": Surge video de "Juan Gabriel" vivo 

La premisa de un video de este tipo es simple: utilizando inteligencia artificial y cientos de horas de trabajo computarizado se realizan “videomontajes” en los que se coloca el rostro de algún famoso o político sobre el de otra persona, produciendo entonces un video totalmente nuevo que podría confundir a más de uno. 

Para que el detalle del video sea tal que se pueda confundir con un video real, en principio se necesita entrenar a la inteligencia artificial, esto se logra mediante el procesamiento de todo tipo de videos y fotografías del rostro. Una versión muy simple de esta tecnología es el faceswap y los filtros que aplicaciones como Instagram o Snapchat tienen disponibles. 

  Artículos Relacionadospintura-perdida-picasso-que-inteligencia-artificial-recuperoarteLa pintura de Picasso que fue recuperada por una Inteligencia Artificial

  Artículos Relacionadosneuralink-elon-musk-inteligencia-artificial-en-el-cerebrotecnologiaNeuralink de Elon Musk: cómo la Inteligencia Artificial reparará el daño cerebral

Sin embargo, más allá del peligro al que están sujetos las personas públicas, el mayor riesgo que muchos ven en esta tecnología es la alteración de la información. El ejemplo más popular es imaginar un video que involucre a algún presidente como Trump o Kim Jong-un lanzando un discurso incendiario que pueda cambiar el curso de la política internacional. No obstante, otra preocupación importante radica en la seguridad y privacidad de aquellos que no son figuras públicas.


Lee más: Porno de famosas: el sucio negocio multimillonario de la inteligencia artificial

En otras palabras, algunos plantean escenarios en la que la tecnología sea utilizada para crear videos falsos para chantajear a otras personas que no cuentan con todo un equipo de relaciones públicas o recursos para hacer saber que tal video en efecto es falso. Del mismo modo, otra versión de esta aplicación implica la acusación de crímenes falsos. 

Por otro lado, existen otras implicaciones en la creación de los deepfakes que caen no sólo en el terreno del delito, sino de la inmoralidad. Por ejemplo, existen algunos creadores, en especial de aquellos videos de índole sexual, que se han preocupado que la inteligencia artificial se nutra del contenido de actores infantiles —o que comenzaron en su infancia— por lo que inadvertidamente estarían creando y distribuyendo pornografía infantil. 

deep fakesEjemplo de deepfake, del lado izquierdo el video fuente y del derecho el resultado después de ser procesado por la computadora.Considerando tal escenario, autoridades en Estados Unidos han aprobado el PROTECT Act, que ha clasificado la pornografía infantil generada por computadora como obscena, por lo que producirla, distribuirla o consumirla es un delito penado hasta con 30 años. 

A raíz de tales riesgos, algunos especialistas han comenzado estudios que permitan identificar un deepfake. Por ejemplo, han señalado que el parpadeo es una gran forma de diferenciarlos, ya que los videos falsos el parpadeo no existe o tiene poca naturalidad. Pero a pesar de ello, la realidad es que las máquinas también pueden ser entrenadas para procesar videos con un alto grado de detalle en los que los sujetos parpadean, un deepfake casi indescifrable.

Lee más: Cómo tu ex y tu empresa monitorean tus redes sociales sin que te des cuenta

Por tal razón, algunos han decidido no divulgar la información, como Siwey Liu, una profesora de la State University of New York. Interpretando que mantenerlo el mayor tiempo posible implica una ventaja sobre las personas que realizan deepfakes. La importancia de tales soluciones en nuestra época es mayor dado que hemos probado ser sociedades en donde las fake news se propagan con rapidez.

«Si las personas son lo suficientemente crédulas para creer en teorías de conspiración, no necesitamos IA [inteligencia artificial] para engañar a nadie y que crea algo». Samantha Cole en Motherboard.

deepfakes que es Amy Adams con el rostro de Nicolas Cage.El problema de las fake news es precisamente la credulidad de las personas. Incontables veces se ha demostrado que una noticia falsa se propaga más rápido que una nota que rectifica su veracidad, por lo que aunque se puedan desarrollar soluciones que identifiquen los deepfakes, una vez hayan visto la luz difícilmente podrá cambiarse el pensamiento de aquellos que ya lo vieron y han decidido creer que es real.

Aunque suene como una suerte de utopía, lo cierto es que más allá de un algoritmo u otra computadora, aquello que podría ser nuestra mejor herramienta contra los deepfakes es nuestro pensamiento crítico, así como el sentido común. 

Este artículo fue publicado originalmente el 9 de febrero de 2019 y fue actualizado.

Te podría interesar: 

8 habilidades que necesitas para ser CEO de Google

La nueva tecnología ayuda a enviar víveres a los refugiados de guerra

10 frases de Stephen Hawking sobre Dios y el futuro que dejó antes de morir