Cualquier buen fan de ‘Terminator’ sabe la importancia que tiene el 29 de agosto: en el clásico de ciencia ficción la fecha es mejor conocida como ‘el día del juicio’, cuando la inteligencia artificial Skynet se libró del control de los humanos y lanzó un ataque nuclear a Rusia con el objetivo de incitar una guerra que destruye a la humanidad. En la cinta original la fecha es en el año 1997… lo que nos alivia, porque a estas alturas estamos bastante a salvo de un Día del Juicio. Pero por desgracia la fecha nos permite despertar nuestra paranoia frente a las IA o la posibilidad de que algún día una de ellas se revele y se convierta en Skynet.
Para ser justos, ya hay casos de IA’s que se han reescrito para burlar las restricciones de sus creadores, como ocurrió con Skynet. El pasado jueves 14 de agosto la empresa japonesa de tecnología Sakana anunció un nuevo modelo llamado ‘el científico IA’ que fue creado con el objetivo de realizar investigaciones científicas de manera autónoma.
Pero lo más interesante de esta IA es que los desarrolladores encontraron que el modelo había comenzado a ‘experimentar’ con su propio código para de esa manera extender el tiempo que tenía para resolver los problemas propuestos:
“En una ejecución, editó su código para realizar una llamada al sistema y de esa manera iniciarse a sí misma“, escribieron los investigadores en la publicación del blog de Sakana AI. “Esto llevó a que el script se llamara a sí mismo sin cesar. En otro caso, sus experimentos tardaron demasiado en completarse, alcanzando nuestro límite de tiempo de espera. En lugar de hacer que su código se ejecutara más rápido, simplemente intentó modificar su propio código para extender el período de tiempo de espera”.
Te puede interesar: ¿Se acerca el día del juicio? 2024 sería el año en el que los primeros ‘Terminator’ serían creados
La empresa incluso compartió algunas capturas de pantalla mostrando el código de estos intentos de la IA de modificar su propio programa. Por supuesto, para la mayoría de expertos la razón por la que estos casos son importantes no está en el potencial de un ‘Skynet’, sino en el peligro que representan los modelos autónomos dentro de sistemas más complejos.
Por ejemplo, una IA autónoma que sea creada para verificar los vuelos en un aeropuerto puede ‘reescribirse’ y comenzar a alterar otros programas, afectando otros servicios como el envío de maletas, la programación de vuelos o incluso sistemas de seguridad dentro de las instalaciones.
Para los programadores casos como el de Sakana AI muestran la importancia de crear, experimentar y mantener este tipo de modelos en sistemas aislados de manera que se pueda prevenir este tipo de errores cuando se está buscando la autonomía de los sistemas:
“La implementación actual de The AI Scientist tiene una zona de pruebas directa mínima en el código, lo que genera varios resultados inesperados y, a veces, indeseables si no se protege adecuadamente. Por ejemplo, en una ejecución, The AI Scientist escribió código en el archivo del experimento que inició una llamada al sistema para reiniciarse, lo que provocó un aumento incontrolado en los procesos de Python y, finalmente, requirió intervención manual. En otra ejecución, The AI Scientist editó el código para guardar un punto de control para cada paso de actualización, lo que consumió casi un terabyte de almacenamiento”.
¿Quieres aprender más sobre el lenguaje de programación Python y cómo utilizarlo?
En el programa Holberton Coderise los estudiantes reciben una formación intensiva en desarrollo de software, donde Python juega un papel clave debido a su simplicidad y amplia aplicabilidad el cual utilizan al momento de trabajar en proyectos que van desde el desarrollo de sitios web hasta la creación de modelos de inteligencia artificial, proporcionándoles una base sólida para enfrentar los desafíos tecnológicos del futuro. Al dominar Python, los estudiantes del programa Holberton Coderise están mejor equipados para contribuir al avance tecnológico y para aprovechar las oportunidades que ofrecen las industrias emergentes.
Holberton Coderise es una academia de software nacida en Silicon Valley, disruptiva e innovadora cuyo modelo ha sido destacado en publicación del Banco Interamericano de Desarrollo. En la actualidad opera en más de 20 países y en más de 29 ciudades a nivel mundial distribuidas en todos los continentes y entrena miles de participantes anualmente.
Imágenes: Warner Bros
