Aprendizaje profundo: El lado oscuro de la IA que podría acabar con la humanidad | Cultura Colectiva - Cultura Colectiva Aprendizaje profundo: El lado oscuro de la IA que podría acabar con la humanidad | Cultura Colectiva

Reciente

Aprendizaje profundo: el lado oscuro de la IA que podría acabar con la humanidad

Imagina que estás en una nave espacial dirigida por un tripulante invisible creado con inteligencia artificial. Esa computadora es capaz de procesar la información con una capacidad casi humana. Puede aprender a partir de la observación de sus compañeros hechos de carne y hueso, y opera de acuerdo con el protocolo que ellos siguen. Todos tienen […]



Imagina que estás en una nave espacial dirigida por un tripulante invisible creado con inteligencia artificial. Esa computadora es capaz de procesar la información con una capacidad casi humana. Puede aprender a partir de la observación de sus compañeros hechos de carne y hueso, y opera de acuerdo con el protocolo que ellos siguen. Todos tienen la misma misión.

Pero surge un problema, la computadora no está de acuerdo con las decisiones de sus tripulantes y decide –por su propia cuenta– eliminarlos y continuar la misión por sí sola. Según sus cálculos es el mejor curso de acción. Nadie le enseñó a asesinar y nunca se le indicó que lo hiciera. ¿Cómo es que dentro de su código pudo llegar a semejante conclusión?

secretos de la inteligencia artificial robots

Ese escenario es el setting de la película “2001: A Space Odyssey” (1968) de Stanley Kubrick. Se trata de Hal 9000, uno de los villanos más destacados del cine y representa uno de los posibles problemas con los que se enfrentará el futuro de la humanidad: La Inteligencia Artificial (I.A.) independiente.

A pesar de que las leyes de la robótica indican que una máquina nunca lastimará a un ser humano, los expertos aún desconocen precisamente cómo funcionan los algoritmos de aprendizaje de las inteligencias artificiales que se desarrollan alrededor del mundo. El ejemplo más reciente y claro reportado por el MIT Technology Review señala a un coche autónomo de la empresa NVIDIA que literalmente aprendió a manejar simplemente analizando el comportamiento de un conductor promedio. 


Aprendizaje profundo: el siguiente paso de la I.A.

secretos de la inteligencia artificial aprendizaje

Ese hecho fue considerado un gran logro para la I.A. pero, ¿qué sucedería si de pronto ese automóvil decide no actuar de forma normal? Y, ¿por qué es importante hacer esa pregunta? Digamos que alguien se sube a uno de estos dispositivos, el auto detecta el peso del humano, así que sella las puertas, activa los cinturones de seguridad y avanza, pero súbitamente comienza a acelerar y a hacer curvas a la mitad de la calle poniendo en riesgo la vida tanto del pasajero como de los transeúntes.

¿Es culpable la I.A? ¿Tiene defectos? ¿Aprendió de manera errónea o tomó la decisión de forma independiente? Nadie sabe la respuesta correcta. Este sistema es conocido como aprendizaje profundo y podría significar el principal obstáculo para crear inteligencias más complejas.

secretos de la inteligencia artificial cerebro

Así es. A pesar de que los expertos en informática y programación han creado sistemas y algoritmos que pueden aprender de los humanos, no saben con precisión cómo es que funciona su proceso de toma de decisiones, así lo comentó Will Knight, periodista especializado. De acuerdo con su análisis, no puede continuar el avance si las tecnologías “no rinden cuentas”. Es decir, ninguna máquina está libre de fallos a menos que todo su sistema sea comprensible. Por lo tanto, no es posible emplear o darle tareas a un robot con I.A., ya que no se predecir qué decisiones tomará, tal como sucede en “Odisea en el espacio”.

secretos de la inteligencia artificial ai

El gran problema es que resulta casi imposible descifrar cómo suceden esos procesos. Aún no se sabe con precisión cómo es que una persona toma decisiones a partir de su propio aprendizaje, así que posiblemente sea un elemento natural en la inteligencia. Los humanos al igual que las máquinas, toman información. Se le puede enseñar a realizar una tarea de cierta forma, pero su mente es única; es probable que decida implementar otros métodos para cumplirla a partir de su observación y su entendimiento de lo que percibe. A las personas se les puede cuestionar su toma de decisiones y pueden mentir. De esa manera también es posible que, por medio del aprendizaje, una máquina también aprenda a hacerlo. Es un elemento que se explota en la cinta de ciencia ficción “Ex Machina” (2015), en donde el robot comienza a crear engaños al igual que un individuo.

secretos de la inteligencia artificial control



Crear Inteligencia Artificial con aprendizaje profundo es crear una mente independiente. Está dentro de su código tomar decisiones a partir de su observación. Mientras no exista un humano enterado de cada proceso y cómo es que llega a tales conclusiones, es imposible saber qué hará. El automóvil autónomo podría chocar, la nave espacial podría matar a sus tripulantes. No importa si a la máquina se le enseña sobre las leyes de la robótica, será lo suficientemente independiente como para pasarlas por alto y hacer lo que considere mejor. Es alarmante y si se ignora, podríamos terminar en un futuro más cercano a “The Matrix” (1999), donde no somos más que baterías para las máquinas que creamos.
Es el castigo perfecto.

*

Referencia

MIT Technology Review

Comenta