Los robots asesinos que podrían acabar con todos si algo sale mal

Martes, 16 de mayo de 2017 11:24

|Rodrigo Ayala



La Tercera Guerra mundial podría librarse en circunstancias que en estos momentos suenan como fantasía: humanos contra robots.

¿Recuerdan aquella película, de 1984, llamada “Terminator”? En ella, ocurría una batalla librada entre cyborgs y humanos debido a que los primeros habían desarrollado una inteligencia tan superior que terminaron por volverse en contra de sus creadores. Lo que fue una entretenida fantasía de ciencia ficción, en el presente podría ser una siniestra realidad; una contradicción de las Leyes de la Robótica de Isaac Asimov.

robots asesinos

Los ejércitos más potentes del mundo desde hace años desarrollan un tipo de tecnología que en la actualidad serviría para aniquilar con mayor rapidez a sus enemigos, sin necesidad de la intervención de los soldados. Armas autónomas letales, es decir, robots con una capacidad asesina superior a la de cualquier humano. Este desarrollo armamentístico preocupa a diferentes organismos como Human Rights Watch, Amnistía Internacional y la Liga Internacional de Mujeres por la Paz y la Libertad, los cuales se han pronunciado en contra de la fabricación y uso de esta tecnología de Inteligencia Artificial.

La situación ha causado tanto revuelo que la ONU, en abril de 2016, llevó a cabo el encuentro llamado Reunión Informal de Expertos de las Naciones Unidas sobre Sistemas de Armas Letales Autónomas. Una de las cuestiones fundamentales a tratar fue la falta de regulación de estas máquinas. ¿Cómo deberían tratarse las acciones genocidas? ¿Cómo lograr que las máquinas hagan una distinción entre soldados y civiles? El consenso general es que cada ejército y nación debería hacerse cargo de sus máquinas y responder ante cualquier anomalía cometida por las mismas.

robots asesinos

Una de las máquinas que ya está casi lista para entrar en funcionamiento es un avión de combate autónomo que recibe el temible nombre de Taranis, construido por la empresa de armamento británica BAE Systems. Taranis es capaz de realizar misiones en aire y tierra y llevar a cabo misiones intercontinentales. El Ministerio de Defensa Británico financió la mitad de su desarrollo.

El debate al respecto contiene muchas opiniones divididas: se dice que estas nuevas máquinas están capacitadas para actuar de manera autónoma sin la intervención del ser humano. Éstas pueden clasificar objetivos y aniquilarlos al instante por decisión propia. Varios de los asistentes a la reunión coincidieron en que los seres humanos deberían ser los responsables de decidir si los objetivos seleccionados por las máquinas serían atacados.

robots asesinos dvid

Ante ello, varias delegaciones se pronunciaron a favor de la autonomía de la máquina, pues ésta podría tomar decisiones sin la intervención del factor moral o afán de venganza que guía a los seres humanos. Es decir, la máquina está capacitada para tomar mejores decisiones que los soldados.

¿Hasta qué punto es posible que las máquinas pudieran desatar una catástrofe de alcances mundiales? Las posturas y visiones al respecto varían, como puede adivinarse en la postura de Holden Karnofsky, uno de los expertos que trabajan en el proyecto Open Philanthropy, organismo preocupado por regular el uso de estas máquinas letales: “No creo que debamos permitir que los escenarios de mal uso dominen nuestro pensamiento sobre las posibles consecuencias de la IA, más que cualquier otra tecnología poderosa. Pero creo que vale la pena preguntar si hay algo que podamos hacer hoy para sentar las bases para evitar riesgos de uso indebido en el futuro”.

robots asesinos batalla

Que estas armas caigan en manos equivocadas y despiadadas, es decir, grupos que quieran usarlas de manera similar a lo que se hizo con la bomba atómica, es uno de los riesgos que los expertos contemplan para generar regulaciones sobre el tema. La rebelión de las máquinas parece uno de los escenarios más improbables, sin embargo, cualquier precaución al respecto nunca sobra. Para muchos, un arma con un alto poderío de inteligencia representaría un peligro latente: siempre cabría la posibilidad de que se rebelara contra sus creadores.

¿Qué otro factor cabría incluir en la ecuación de una posible falla que desatara un panorama negro para la humanidad? Mencionemos el peligro latente de los hackers. Uno de ellos podría alterar a su conveniencia (o a la de la persona que lo contrate para manipular a distancia estas máquinas) a estos robots asesinos.

robots asesinos disenados

Mark Gubrud es uno de los hombres que ve en el desarrollo de estos artefactos un peligro latente para la humanidad. Este investigador pertenece al Programa sobre Ciencia y Seguridad Global de la Universidad de Princeton y es miembro de Comité Internacional para el Control de Armas Robóticas (CICAR). “Las principales potencias mundiales resistirán cualquier esfuerzo de prohibir las armas autónomas. Ciertamente Estados Unidos es el más importante; tiene una política declarada a favor de su desarrollo. China ve una oportunidad también, y ya tienen sistemas que serían preocupantes. Lo mismo con Rusia, Reino Unido. Las principales potencias se resistirán porque la incertidumbre estratégica, las oportunidades que ven, porque ya han realizado inversiones”, declaró para el medio británico BBC.

robots asesinos laboratorio

Gubrud mencionó a detalle la armas que ya son una realidad en diferentes latitudes del planeta, las cuales podrían ser apenas el comienzo de una revolución que podría volverse en contra del ser humano: «…por ejemplo, los robots centinela surcoreanos, que son capaces de reconocer intrusos humanos en forma autónoma dentro de un área determinada. Y podrían dispararles también en forma autónoma, o ser instruidos en forma remota a que abran fuego».

Tienen la capacidad autónoma de matar gente. Ese es un ejemplo, otro serían los misiles que existen hoy. Misiles que buscan y dan caza a un objetivo específico fuera del campo visual, misiles tierra-aire o aire-mar, donde el misil se envía en busca de un objetivo de cierto tipo y tiene una tecnología que le permite distinguir el objetivo real de objetivos falsos; por ejemplo un tipo de barco de otro”.

robots asesinos

A lo largo de la historia, diversos inventos han definido importantes eras en la humanidad: el fuego, la rueda, la pólvora, las computadoras… ¿los drones o robots serán el siguiente escalón en esta cadena de inventos revolucionarios?

La ganadora del Premio Nobel de la Paz en 1997, Jody Williams, por su campaña para prohibir las minas terrestres antipersonales, también se ha pronunciado en contra de estos letales proyectos en entrevista para la BBC:

«Preferimos llamarlos robots asesinos, armas que son letales, armas que pueden matar por su propia cuenta, y en las que no habría ningún ser humano involucrado en el proceso de toma de decisión. Cuando supe de esto por primera vez, honestamente me sentí horrorizada. Encuentro repulsiva la sola idea de que unos seres humanos se dediquen a crear máquinas que pueden ser usadas para matar a otros seres humanos.»

-

La revolución de las máquinas ya está entre nosotros, tomando decisiones que antes concernían sólo a los seres humanos, esto nos lleva a pensar si, ¿puede un algoritmo ser juez y elegir tu condena en la cárcel? Asimismo conoce el ambicioso plan de Elon Musk para computarizar nuestros cerebros.

*

Expansión
BBC
Media-Tics



REFERENCIAS:
Rodrigo Ayala

Rodrigo Ayala


  COMENTARIOS