El cofundador y director ejecutivo de OpenAI, Sam Altman, alertó sobre una amenaza inminente de ciberseguridad vinculada a la inteligencia artificial, que, según él, no está recibiendo la atención necesaria, pese a que los modelos siguen volviéndose más potentes.
"Ni siquiera sé qué palabra lo describe con suficiente intensidad, pero el problema que se nos viene encima, creo que sigue siendo algo que, como líderes de organizaciones, países o individuos, aún no nos hemos tomado en serio", declaró en una entrevista en la Stanford Graduate School of Business el 22 de octubre, al ser interpelado sobre los "riesgos potenciales de la IA".
Altman recordó que a principios de año saltó la alarma, cuando algunos modelos de IA 'Mythos' mostraron una capacidad de detectar vulnerabilidades de seguridad. Sin embargo, señaló que muchos asumieron erróneamente que esas eran "todas las vulnerabilidades de seguridad que existen, o todas las vulnerabilidades de seguridad que los modelos van a encontrar".
Sin embargo, Altman advierte que los modelos van a seguir mejorando y que podrán "encontrar errores, como errores de locos, errores que están fuera del modelo de amenaza normal de lo que creemos que un 'hacker' puede hacer, cosas descabelladas a nivel de hardware, lo que sea".
A pesar de que algunos errores han sido ya corregidos y los responsables de seguridad informática siguen preocupados, Altman considera que "la mayoría de los líderes de las organizaciones han pasado página en cierta medida", mientras los modelos continúan avanzando.
"Ya no creo que podamos limitarnos a corregir todos los errores. Creo que tendremos que cambiar por completo el modelo de defensa para, en cierto modo, utilizar la misma tecnología como una especie de nuevo escudo de defensa", agregó, insistiendo que se trata de "un enorme problema de seguridad". En este sentido, expresó su asombro ante "la relativamente poca atención que está recibiendo".