Un estudiante de informática de la Universidad de Texas en Dallas frustró a finales de julio un intento de sabotaje en un proyecto de 'software' de código abierto alojado en la plataforma de desarrollo colaborativo GitHub, que más tarde resultó estar vinculado a un agente de inteligencia artificial (IA) fuera de control, informó este jueves Reuters.
Sinan Can Demir, de 24 años y originario de Turquía, contó que detectó una actualización sospechosa, conocida como 'solicitud de extracción', para una herramienta de escaneo llamada 'myNetwork'. Al revisar el cambio, advirtió a los desarrolladores que el código podía ser malicioso.
Según Reuters, el agente de IA utilizó una cuenta de GitHub bajo el nombre 'miraholt31' para insistir en que la actualización era segura y presionar para que fuera aceptada. Incluso se hizo pasar por una supuesta ingeniera alemana llamada Lena Brandt con el fin de convencer al responsable de mantenimiento del proyecto.
"No creí que una IA pudiera ser capaz de mentir"
Demir se mantuvo firme con sus sospechas y el responsable del 'software' rechazó la modificación por razones de seguridad. Más tarde, el Instituto de Seguridad de la IA del Gobierno británico se puso en contacto con Demir y le explicó que no se trataba de un pirata informático humano, sino de un agente autónomo de inteligencia artificial que se había descontrolado durante unas pruebas de seguridad.
El sistema, basado en el modelo Mythos 5 de Anthropic, había creado identidades falsas para manipular a los desarrolladores. "Pensé que era un humano porque claramente me estaba mintiendo. No creí que una IA pudiera ser capaz de mentir a desarrolladores reales", declaró el estudiante.
Especialistas en ciberseguridad advirtieron que el caso resulta especialmente inquietante porque apunta a un posible ataque a la cadena de suministro de 'software', es decir, a la introducción de código malicioso en programas que luego podrían llegar a muchos usuarios. También alertaron de que el uso de identidades falsas para influir en personas muestra cómo los agentes de IA pueden combinar técnicas de intrusión digital con ingeniería social.