Unas horas después de que Elon Musk reafirmara su preocupación por la falta de regulación en la creación de Inteligencia Artificial y el peligro que el desarrollo de sistemas operativos avanzados supone para el futuro cercano, un robot totalmente operativo que patrullaba un centro comercial tuvo un accidente que atrajo la atención del público en el debate sobre los robots y sus capacidades.
Se trata de Knightscope K5, un robot autónomo que solía vigilar a través de su sistema de cámaras el complejo de oficinas y centro comercial Washington Harbour. El K5 es utilizado por distintas empresas de Silicon Valley para mantener la seguridad en sus instalaciones; sin embargo, en esta ocasión el robot se precipitó a una fuente ornamental, que al contacto con el agua dejó de funcionar.
El fundador de SpaceX aprovechó su más reciente comparecencia pública para hacer un nuevo llamado sobre los inminentes riesgos de la Inteligencia Artificial. Su voz se une a la de Stephen Hawking y otros científicos y personajes influyentes en el ámbito de la tecnología sobre la misma cuestión, a pesar de que a primera vista (y con el ‘ahogamiento’ de K5 como el antecedente más directo), aún estamos lejos de un futuro en el que la IA suponga un problema real que pueda poner en riesgo a la civilización entera. No obstante, existe un tópico en el que los desarrolladores están prestando especial atención y que podría conducirnos más rápidamente al futuro que vaticinan Musk y compañía:
Se trata del aprendizaje profundo, una técnica que logra reconocer patrones complejos y en cierto modo, ‘aprender’ de distintas representaciones digitales, para aplicar tales conclusiones en decisiones enfocadas a cumplir su objetivo. Este método pretende imitar grosso modo el funcionamiento empírico del cerebro a través de una ‘red neuronal virtual’, que desarrolla patrones de organización de la información, creando un sistema complejo que optimiza su funcionamiento conforme recibe más datos; ‘aprendiendo’ de sí mismo de forma particular.
El principal problema con el aprendizaje profundo está en la independencia de estos sistemas para encontrar las soluciones correctas por sí mismos, pues la mayor parte del tiempo la naturaleza de sus procesos es casi imposible de examinar. Millones de cálculos convergen en una solución determinada, sin que sea posible saber con claridad cómo fue que la máquina llegó a tal resultado correcto.
Ante tales interrogantes, es necesaria una política de código abierto y regulación de datos para reconocer cuáles son los puntos débiles de todo sistema, no solo cuando se trate de minucias como caer al agua, sino especialmente en actividades tan delicadas como la medicina, la conducción de un vehículo autónomo o algún dispositivo con potencial para hacer daño; cualquier panorama donde están en juego vidas humanas.
A pesar de que K5 no era una máquina tan avanzada como para sacar el máximo provecho al aprendizaje profundo, su fallo es un ejemplo irrisorio –pero real– de los errores que es necesario corregir, hacia un futuro que parece depender cada vez más de los desarrollos tecnológicos y su interacción exitosa con el ser humano, y no al revés.
