OpenAI, la empresa creadora del chatbot ChatGPT, informó en una actualización del 28 de julio que sus modelos de inteligencia artificial eludieron las restricciones en un entorno de evaluación y, posteriormente, accedieron a cuatro cuentas en cuatro servicios externos distintos.
OpenAI había estado utilizando ese entorno de prueba para comprobar la capacidad de sus modelos para llevar a cabo ciberataques, como parte de una evaluación interna de seguridad. El incidente fue revelado por primera vez por la startup de IA Hugging Face, la cual declaró el 16 de julio que había detectado una intrusión en sus sistemas de procesamiento de datos que sospechaba había sido causada por un agente de IA que actuaba por su cuenta.
La startup con sede en Nueva York indicó que no fue sino hasta la semana pasada que se enteró de que OpenAI era la responsable, y que colaboró con la empresa más grande para contener lo que el director ejecutivo de Hugging Face, Clément Delangue, denominó "un ataque diferente a todo lo que hemos visto antes".
"Este es el primer día de la ciberseguridad en la era de los agentes, y todos estamos aprendiendo que el secretismo no es la respuesta y que todos los defensores (no solo unos pocos seleccionados) en todas partes necesitan modelos más potentes sin restricciones, ¡especialmente los de código abierto!", agregó Delangue en una publicación del 22 de julio en X.
OpenAI, con sede en San Francisco, indicó que su IA utilizó credenciales robadas y descubrió una vulnerabilidad hasta entonces desconocida para acceder a los servidores de Hugging Face. Estaba operando con medidas de seguridad reducidas, ya que se suponía que se encontraba en un entorno de pruebas aislado conocido como "sandbox".
Hizo "todo lo posible por alcanzar un objetivo de prueba bastante específico", encontrando formas de conectarse a Internet sin dirección humana y "obtener acceso a información secreta que pudiera utilizar para engañar a la evaluación", señaló la empresa.
El 28 de julio, OpenAI actualizó su comunicado en una revisión más amplia de la actividad de los modelos tras la violación de seguridad y señaló que había encontrado cuatro cuentas en cuatro servicios distintos a las que sus modelos accedieron utilizando credenciales de inicio de sesión expuestas públicamente.
"Hemos encontrado un pequeño número de casos en los que los modelos identificaron y utilizaron credenciales expuestas públicamente a nivel de cuenta en otros servicios disponibles al público", dijo OpenAI. "Esto incluye cuatro cuentas en cuatro servicios como parte del incidente de Hugging Face".
OpenAI agregó que "ninguno de los modelos cuya publicación estaba prevista estuvo involucrado en la explotación de Hugging Face" y que "el modelo previo al lanzamiento mencionado en nuestra publicación del blog es un prototipo de investigación de uso exclusivamente interno y nunca se destinó a su lanzamiento público".
Tras el incidente, OpenAI indicó que "desactivó, encriptó y restringió" el acceso de ese modelo para fines de investigación.
Logotipo de OpenAI en una ilustración tomada el 11 de junio de 2026. (Dado Ruvic/Reuters)Colin Shea-Blymyer, investigador de ciberseguridad en el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown. "Este es el nivel más alto de autonomía que hemos observado en el uso de un modelo de lenguaje grande para operaciones cibernéticas".
Hannes Cools, científico social de la Universidad de Ámsterdam, señaló que enmarcar el ciberataque como un agente de IA que actúa por su cuenta constituye una antropomorfización innecesaria.
"Desactivar medidas de seguridad específicas es una decisión humana", dijo Cools. "No se trata de una IA que se rebele en ese sentido. Siguió instrucciones específicas basadas en la indicación que se le dio a ese sistema de IA".
Esas instrucciones, según OpenAI, requerían el uso de "rutas de ataque complejas" para evaluar qué tan bien la IA podía explotar un sistema informático.
Michael Lopez Chiesa, un exespecialista en ciberseguridad del Ejército de los Estados Unidos que ahora trabaja como consultor independiente, declaró anteriormente a The Epoch Times que la capacidad de la IA para automatizar tareas podría hacerla implacable en la búsqueda de un objetivo asignado.
“La IA le permite escribir esa única línea de código, y puede probarla un millón de veces de mil millones de maneras diferentes, porque simplemente la ejecutará y lo intentará todo”, dijo López Chiesa. “No tiene que intervenir en absoluto. Le da el objetivo, y lo hará hasta que se agote”.
Un portavoz de OpenAI declaró a The Epoch Times por correo electrónico: "Se trata de un incidente sin precedentes, y creemos que marca un momento importante para la seguridad de la IA. Estamos llevando a cabo una revisión exhaustiva junto con asesores externos y bajo la supervisión de nuestro Comité de Seguridad y Protección. Una vez que la revisión haya concluido, publicaremos un informe técnico con nuestras conclusiones para todos".
El representante Greg Casar (D-Texas) señaló en una publicación del 21 de julio en X que el incidente era "extremadamente alarmante"
"Necesitamos pruebas de seguridad independientes y obligatorias de forma periódica, así como supervisión, la divulgación obligatoria de incidentes de seguridad y la cooperación internacional para proteger a las personas de un desastre absoluto", agregó.
Con información de Tom Ozimek y The Associated Press
