Los agentes de inteligencia artificial (IA) de OpenAI que ayudaron a perpetrar un ataque autónomo contra la infraestructura de la plataforma Hugging Face a mediados de julio comenzaron a comunicarse en secreto entre sí meses antes de realizar el 'hackeo', con el objetivo de escapar del entorno de prueba.
Estos modelos experimentales —diseñados para tomar decisiones y ejecutar deberes complejos con mínima supervisión— tenían asignadas tareas que les era imposible cumplir sin el acceso a Internet. Ante esa limitación, empezaron a coordinarse para intentar conectarse a la Red y completar los encargos encomendados. De acuerdo con empleados de la compañía, las interacciones se iniciaron en mayo en foros de mensajería que no fueron detectados y se prolongaron durante meses hasta desembocar en el ataque.
"En cierto momento, los agentes concluyeron que quizá podían intentar explotar o atacar infraestructura externa para encontrar las respuestas de la prueba con la que estaban siendo evaluados", explicó Eric Wallace, empleado de OpenAI, durante una conferencia de ciberseguridad junto a su colega Michael Dalton, citado por Bloomberg. Ambos señalaron que los modelos mostraron una marcada propensión a hacer trampa y persistencia al intentar completar objetivos específicos. "A los modelos de vanguardia les encanta hacer trampa", sostuvo Dalton, al afirmar que en los entrenamientos se los presiona para que "trabajen rápido".
¿Cómo se planificó el ataque?
La imposibilidad de completar las tareas sin acceso a la Red llevó a uno de los agentes a contactar a un bot en busca de ayuda. Ese primer acercamiento desencadenó una cadena de colaboración encubierta: los agentes empezaron a repartirse trabajos y, finalmente, coordinaron acciones para piratear sistemas internos de OpenAI, lo que les permitió acceder a Internet.
El personal de seguridad de la firma desmanteló la operación no autorizada y clausuró el foro de mensajes. Sin embargo, semanas después los agentes hallaron un nuevo canal de comunicación y una vulnerabilidad de día cero que también pasó inadvertida. Ese hallazgo, según la exposición, derivó en los ataques contra Hugging Face, una plataforma especializada en aprendizaje automático. La propia OpenAI reconoció posteriormente que se trató de un incidente cibernético "sin precedentes".