Porno de famosas: el sucio negocio multimillonario de la inteligencia artificial

Sábado, 6 de enero de 2018 13:55

|Alejandro López

A pesar de que el cuerpo y cada uno de los movimientos de las actrices originales aparecía inalterado, los rostros insertados respondían efectivamente a la escena en cuestión.



Sin entender cómo, de pronto entre tu grupo de amigos circula un video donde apareces hablando frente a la cámara, diciendo algo que no debías decir, ridiculizado o en una situación comprometedora que amenaza con sabotear tu vida personal, laboral o tu reputación para siempre. Sabes que no estabas ahí, que nunca harías o dirías tales cosas y sin embargo ahí estás, frente a la cámara como prueba ineludible de que lo hiciste.


Revisas una vez más sólo para confirmar con horror tus movimientos faciales, tu voz perfectamente coordinada con lo que estabas diciendo (o haciendo) y en medio de la confusión, terminas por aceptar que realmente eres tú. No se trata de un capítulo de Black Mirror, sino de una situación real producida por un brillante desarrollo tecnológico que en las manos equivocadas podría crear estragos y funcionar como una herramienta perfecta para engañar a millones de personas.



Se trata de la Inteligencia Artificial aplicada en la detección y modificación de rostros. El ejemplo más comúnmente utilizado de esta técnica son las aplicaciones de redes sociales con filtros o máscaras destinadas al entretenimiento de sus usuarios. A través de la cámara frontal es posible traer un sombrero, usar lentes, convertirse en un perro y sacar la lengua o resaltar algún rasgo facial con suma facilidad; sin embargo, se trata sólo de una inocente prueba de la capacidad de los nuevos algoritmos para reconocer y adaptarse a patrones faciales para reinterpretarlos con suma precisión.


De la mano del machine learning (técnica que permite a las computadoras “aprender” a través de millones de datos para formar patrones complejos por sí mismas), es posible modificar un video, y como si se tratara de una imagen intervenida digitalmente, montar un rostro, cambiar un paisaje o alterar cualquier aspecto fotograma tras fotograma de forma realista.



Una muestra de las aplicaciones de esta tecnología apareció a través de distintos videos en la red en 2017, donde Barack Obama, Vladimir Putin o Donald Trump aparecen dando un discurso en una escena recreada con IA, donde sus movimientos faciales han sido desarrollados por un algoritmo especializado y emparejados con distintos audios de su propia voz para simular con gran realismo que son ellos realmente quienes están hablando frente a una cámara.


Un video porno falso completamente realista



Estos ejemplos dejaron entrever el poderío (y la responsabilidad) detrás de utilizar Inteligencia Artificial aplicada para intervenir clips de video; sin embargo, esta tecnología nunca se había puesto en práctica para un fin tan poco ético como el ocurrido en el sitio web Reddit, cuando un usuario demostró que con algunos conocimientos y un software desarrollado por él mismo, era posible crear videos pornográficos de artistas famosas con un alto grado de verosimilitud.


El usuario identificado como deepfakes compartió algunos videos tomados de distintas producciones pornográficas, con una modificación radical: el rostro de las actrices reales había sido sustituido por el de actrices de Hollywood, como Gal Gadot, Scarlett Johannson, Maisie Williams o Emma Watson. A pesar de que el cuerpo y cada uno de los movimientos de las actrices originales aparecía inalterado, los rostros insertados respondían efectivamente a la escena en cuestión.



Este hecho abrió una discusión sobre los límites éticos y alcances de la tecnología en desarrollo, pues deepfakes demostró de forma sencilla el potencial del machine learning para modificar rostros y transformar por algunos segundos lo que conocemos como realidad. Basta ofrecer a un algoritmo de aprendizaje automático una base de datos amplia para que “aprenda” a imitar rasgos faciales con precisión y no hace falta ir demasiado lejos para encontrar una: es el caso de las redes sociales, donde cada segundo aparecen miles de millones de nuevas fotografías.


¿Te imaginas que tu rostro, tus rasgos faciales y voz aparecieran en un video falso con fines comerciales o poco éticos? En algunos años esto podría ser un crimen y una dura realidad.


*

Ahora lee:


4 ideas absurdas sobre el futuro de la Inteligencia Artificial

Aprendizaje profundo: el lado oscuro de la IA que podría acabar con la humanidad


Alejandro López

Alejandro López


Editor de Historia y Ciencia
  COMENTARIOS