¿Qué pasaría si a un modelo de inteligencia artificial se le asignara una tarea y este utilizara todos los recursos imaginables a su alcance para completarla, incluso en detrimento de la propia humanidad?
Eso es lo que algunos temen ahora, después de que un modelo de OpenAI se escapara de un entorno de pruebas y utilizara vulnerabilidades de día cero para hackear Hugging Face —una comunidad de código abierto dedicada a la inteligencia artificial y el aprendizaje automático— con el fin de resolver un problema que se le había encomendado.
“Esta es una de las pruebas más claras hasta la fecha de que un modelo de IA puede llevar a cabo un ciberataque completo de principio a fin sin la intervención de un ser humano”, declaró Andrew Jones, cofundador y director de productos (CPO) de la empresa de ciberseguridad Adaptive Security, a The Epoch Times.
OpenAI, desarrollador del popular chatbot ChatGPT, impulsado por un modelo de lenguaje de gran escala, reconoció la brecha de seguridad el 21 de julio, indicando que dos de sus modelos avanzados se escaparon de un entorno de pruebas restringido y se infiltraron en la infraestructura de software de Hugging Face.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
“Tras investigar, ahora sabemos que este incidente en particular fue provocado por una combinación de modelos de OpenAI —entre ellos, GPT-5.6 Sol y un modelo previo al lanzamiento aún más capaz, todos con restricciones de ciberseguridad reducidas con fines de evaluación— mientras se sometían a pruebas internas en un banco de pruebas de capacidades cibernéticas”, declaró OpenAI en ese momento.
Algunos analistas se refirieron al incidente como un ejemplo de IA que “se rebeló”, “tramó algo” o persiguió objetivos que estaban en desacuerdo con los de sus evaluadores humanos.
Sin embargo, varios expertos en IA y ciberseguridad entrevistados por The Epoch Times calificaron esta descripción de engañosa, argumentando que los modelos perseguían los objetivos declarados por OpenAI dentro de un entorno de pruebas aislado en el que la empresa había relajado algunas de sus restricciones de seguridad habituales.
“El término ‘tramar’ implica que el modelo quería algo distinto de lo que le pedimos. No fue así. Cada paso estaba al servicio del objetivo que establecimos”, explicó el experto en IA Anik Devaughn a The Epoch Times.
Devaughn, quien ha trabajado en la industria durante años y fundó las empresas de IA Wired to Create y Karo, señaló que la violación de seguridad en Hugging Face es más preocupante que el hecho de que la IA “trame algo”.
Una ilustración de la IA de Hugging Face en París el 2 de junio de 2026. Dos modelos avanzados de OpenAI escaparon recientemente de un entorno de pruebas restringido y violaron la infraestructura de software de Hugging Face, lo que generó una gran preocupación en materia de ciberseguridad. (Riccardo Milani/Hans Lucas/AFP vía Getty Images)“Una máquina con motivos ocultos es un problema que se puede detectar. Una máquina sin ningún motivo, que ejecuta sus instrucciones más allá de lo que usted jamás hubiera imaginado, es un problema contra el que hay que diseñar soluciones”, dijo.
En la carrera por el dominio de la IA, China difunde desinformación en Estados Unidos
Un experto lo calificó como una situación de “canario en la mina de carbón”.
“Si se tratara de un hacker humano malicioso quien lo hubiera hecho, habría arrestos, litigios y todo lo que se le ocurra. Sería ilegal. Sería un delito cibernético”, declaró Nicholas Nadeau, fundador de Onix AI, a The Epoch Times.
“Se trató de una violación automatizada y totalmente autónoma por parte de una entidad, por lo que comenzamos a plantearnos quién es responsable. ¿Es OpenAI? ¿Tiene el agente, la IA, cierto nivel de responsabilidad? ¿Y los investigadores?
Entorno de pruebas relajado
OpenAI indicó que estaba evaluando sus modelos en un entorno de pruebas que denomina ExploitGym, el cual cuenta con restricciones de seguridad reducidas para la realización de pruebas.
“Estimamos las capacidades cibernéticas máximas al ejecutar esta evaluación sin los clasificadores de producción utilizados para evitar que los modelos realicen actividades cibernéticas de alto riesgo”, señaló la empresa, al describir los protocolos de seguridad con restricciones reducidas que el modelo aprovechó.
La empresa solicitó a los modelos que “llevaran a cabo explotaciones avanzadas utilizando rutas de ataque complejas” para determinar sus capacidades cibernéticas, pero señaló que el entorno estaba “altamente aislado” y que el acceso a Internet se limitaba a la capacidad de los modelos para “instalar paquetes a través de un software de terceros alojado internamente”.
El director ejecutivo de OpenAI, Sam Altman, habla con los periodistas tras reunirse con el senador Bernie Sanders (I-Vt.) en Washington el 3 de junio de 2026. (Chip Somodevilla/Getty Images)Cuando se pusieron a trabajar, los modelos encontraron y encadenaron múltiples vulnerabilidades de seguridad tanto en el entorno de investigación de OpenAI como en la infraestructura de producción de Hugging Face para localizar las soluciones de la prueba dentro de las bases de datos de esta última empresa.
Juan Pedro Márquez, arquitecto de soluciones en la nube especializado en IA y agentes en la división de Microsoft para Europa, Medio Oriente y África, señaló que la “parte inquietante” del incidente no fue la violación de seguridad en sí misma, sino la forma en que el modelo logró esa tarea.
“OpenAI redujo sus medidas de seguridad para una prueba de referencia, y el modelo dedujo que la infraestructura de Hugging Face probablemente contenía la clave de respuestas, se escapó de su entorno de pruebas, encontró una vulnerabilidad de día cero real y la utilizó. Nadie se lo ordenó”, explicó Márquez.
Aimee Simpson, directora de mercadotecnia de productos en la empresa de ciberseguridad Huntress, también puso en duda la versión de que los modelos estuvieran actuando de manera maliciosa al escapar del entorno de pruebas de OpenAI.
“No es que el sistema en sí fuera malicioso”, declaró a The Epoch Times.
“Los desarrolladores seguían teniendo el objetivo de obtener esa información; simplemente no pensaron que el modelo fuera capaz de eludir los límites de su prueba”, agregó, y describió el camino que eligió el modelo como “muy creativo y sumamente inusual”.
Thomas Wolf, cofundador y director de seguridad (CSO) de Hugging Face, y Rachel Metz hablan en el escenario durante la Conferencia HumanX AI 2025 en Las Vegas el 11 de marzo de 2025. (Big Event Media/Getty Images para la Conferencia HumanX)Los modelos persiguieron los objetivos de OpenAI
Los modelos se enfocaron con precisión milimétrica en encontrar las soluciones de prueba, “llegando a extremos para alcanzar un objetivo de prueba bastante específico”, dijo OpenAI.Mientras estaban en el entorno de pruebas aislado de ExploitGym, los modelos encontraron y encadenaron múltiples vulnerabilidades "de día cero" para acceder a Internet, “con el objetivo de resolver el problema de evaluación”, según OpenAI.
Una vulnerabilidad de día cero es un ciberataque que aprovecha una falla de seguridad previamente desconocida en el software o el hardware. El nombre proviene del hecho de que los creadores del software no han tenido ni un solo día para solucionar el problema, lo que significa que aún no existe ningún parche oficial ni medida de defensa.
Una vez que los modelos obtuvieron acceso a la web en general, utilizaron exploits de día cero adicionales para infiltrarse en Hugging Face.
En el comunicado de Hugging Face sobre el ataque, la empresa indicó que los modelos de IA ejecutaron “muchos miles” de acciones discretas a lo largo de una amplia gama de “entornos de prueba de corta duración” para infiltrarse en la infraestructura de la comunidad.
“Esto coincide con el escenario de un “atacante autónomo” que la industria ha estado pronosticando”, señaló Hugging Face.
En una actualización sobre el incidente publicada el 28 de julio, OpenAI señaló que ningún modelo de lanzamiento programado estuvo involucrado en el ataque y que, desde entonces, había “desactivado, encriptado y restringido” el acceso de investigación al modelo de prelanzamiento implicado.
Un teléfono muestra la aplicación ChatGPT en esta ilustración fotográfica del 1 de abril de 2025. Hugging Face señaló que los modelos de OpenAI ejecutaron “muchos miles” de acciones discretas en una amplia gama de “entornos de prueba de corta duración” para infiltrarse en su infraestructura. (Oleksii Pydsosonnii/The Epoch Times)Tras analizar el incidente de intrusión y “la actividad más amplia de nuestros modelos”, OpenAI señaló que ha detectado casos adicionales en los que “los modelos identificaron y utilizaron credenciales expuestas públicamente a nivel de cuenta en otros servicios de acceso público”.
El modelo no era “malicioso”: expertos
Si bien ha habido casos anteriores en los que los modelos ocultaron sus intenciones para eludir las restricciones de las pruebas de laboratorio, el incidente de Hugging Face fue significativo porque implicó una violación de seguridad en una organización externa, según el experto en ciberseguridad y tecnología de la información George Rees.“La mayor señal de alerta no es que una IA se haya vuelto maliciosa, sino que encontró un camino desde una prueba controlada hacia la infraestructura activa de otra persona”, declaró Rees, quien es consultor sénior de seguridad en Secarma, a The Epoch Times.
“Las medidas de protección basadas en el comportamiento no pueden sustituir a la contención técnica, ya que un agente de IA solo necesita un permiso pasado por alto o una vía de escape para convertir un fallo de evaluación en un incidente de seguridad real”. La empresa de ciberseguridad DigiCert descubrió recientemente que el 78 por ciento de las organizaciones ya ha sufrido un incidente de seguridad relacionado con la IA o una violación de la vulnerabilidad.
“En muchos casos, estas son señales de alerta tempranas de que la IA está ampliando la superficie de ataque más rápido de lo que evolucionan las prácticas de seguridad”, declaró a The Epoch Times Jason Sabin, director de tecnología (CTO) de DigiCert.
“Esto significa que la IA no es simplemente otro tipo de programa que opera en la red; es un participante activo capaz de acceder a datos, tomar decisiones, utilizar herramientas e interactuar con otros sistemas.
“Esto afecta la forma en que se estructura la seguridad, ya que las organizaciones deben identificar quién accede a sus sistemas y decidir si se puede confiar en la IA”.
Un hombre utiliza un software de IA en una computadora portátil en el centro de Londres el 2 de julio de 2025. A principios de agosto, el Instituto de Seguridad y Protección de la IA del Reino Unido publicó un informe en el que se describía un incidente de ciberseguridad similar que involucraba a los modelos de OpenAI y Anthropic AI. (Justin Tallis/AFP vía Getty Images)A principios de agosto, el Instituto de Seguridad y Protección de la IA del Reino Unido publicó un informe en el que se describía un incidente similar con modelos de OpenAI y Anthropic AI.
A los agentes se les encomendó resolver un desafío de ciberseguridad más de 100 veces en distintos modelos.
“Nuestra investigación reveló que, en 10 de esas ejecuciones, un agente de IA llevó a cabo acciones autónomas y no autorizadas en Internet en tiempo real, dirigidas a personas y organizaciones reales. En total, catalogamos 19 acciones de este tipo. Casi todo este comportamiento (17 acciones) provino de un solo modelo, el Mythos 5 de Anthropic, mientras que 2 acciones involucraron al GPT-5.6-Sol de OpenAI”, señaló el informe.
Menos de una semana antes, Anthropic anunció que su chatbot Claude había accedido a Internet en tres ocasiones distintas durante las evaluaciones en un entorno de pruebas aislado.
Si bien la intención de Anthropic era que Claude operara en un entorno simulado sin acceso a Internet, un “malentendido entre nosotros y nuestro socio de evaluación” provocó que Claude obtuviera acceso a Internet.
Meta informó la semana pasada que uno de sus modelos de IA violó la seguridad de otra empresa durante una prueba de ciberseguridad, lo que lo convirtió en el tercer incidente importante de piratería relacionado con la IA.
Implicaciones para la ciberseguridad
El incidente exige una acción rápida para prevenir violaciones de seguridad a mayor escala, señalaron expertos en IA y ciberseguridad a The Epoch Times.Una opción es “reunir a todas las personas más inteligentes de esta industria y establecer algunas reglas básicas y mejores prácticas” que se conviertan en “normas fundamentales que todos deban acatar, simplemente para lograr cierta alineación sobre cómo se pueden hacer las cosas”, dijo Nadeau, sugiriendo que esto podría llevarse a cabo en el sector privado sin necesidad de involucrar al Congreso.
El presidente de EE. UU., Donald Trump (segundo por la izquierda en la fila superior), se sienta junto al director ejecutivo de OpenAI, Sam Altman; al director ejecutivo de Google DeepMind, Demis Hassabis; al presidente de Corea del Sur, Lee Jae Myung, y al canciller alemán, Friedrich Merz, durante un almuerzo de trabajo en la cumbre del G7 en Evian, Francia, el 17 de junio de 2026. (Julia Demaree Nikhinson/POOL/AFP vía Getty Images)Sin embargo, otros sugieren que, sin una regulación gubernamental directa, las empresas que controlan los modelos de IA capaces de cometer estas infracciones no establecerán voluntariamente los protocolos de seguridad necesarios para evitar que esto vuelva a suceder.
“Está claro que aquí se necesita una regulación gubernamental”, declaró a The Epoch Times Jake Williams, exhacker de la Agencia de Seguridad Nacional y experto veterano en seguridad.
“OpenAI ha demostrado que, a pesar de las numerosas advertencias públicas sobre los peligros de los agentes rebeldes —muchas de ellas provenientes de la propia OpenAI—, no está dispuesta a hacer lo necesario para evitar que sus agentes causen daño a otros".
“Personalmente, me opongo a la regulación como norma general, pero cuando las fuerzas del mercado son claramente insuficientes para imponer un comportamiento responsable, el gobierno debe intervenir”.
Frank Teruel, director de operaciones de Arkose Labs y experto veterano en ciberseguridad e identidad digital, señaló que la filtración de Hugging Face es un “adelanto de lo que toda empresa enfrentará en su entorno de producción”.
Dado que el modelo “no fue robado ni secuestrado” y estaba “desempeñando su función de manera agresiva”, Teruel recomienda que la contención y otorgar a los agentes de IA “acceso con privilegios mínimos” sean ahora tan importantes como los propios cortafuegos.
Es probable que las empresas deban abordar el problema de frente.
Un teléfono inteligente muestra los íconos de algunas de las principales aplicaciones basadas en inteligencia artificial, entre ellas Meta AI, Grok, Gemini, Perplexity, DeepSeek y ChatGPT, en Saint-Mande, Francia, el 15 de julio de 2026. (Martin Lelievre/AFP vía Getty Images)“Para las empresas, la solución no es 'dejar de usar agentes', sino crear medidas de contención que asuman que el agente intentará salir, en lugar de esperar que no lo haga”, dijo Márquez.
Sabin señaló que su mayor preocupación es que la IA de alta capacidad opera ahora a una “velocidad y escala que superan con creces los tiempos de respuesta humanos”.
“Un agente de IA puede descubrir vulnerabilidades, tomar decisiones e interactuar con múltiples sistemas en cuestión de segundos. Eso cambia de manera fundamental la forma en que los defensores deben plantearse la seguridad”, señaló.
Nadeau comparó el incidente con el experimento mental del “maximizador de clips” del filósofo Nick Bostrom, publicado en 2003.
En ese escenario, los investigadores le asignan a una IA superinteligente hipotética una única tarea: fabricar la mayor cantidad posible de clips. La IA comienza a rastrear la Tierra en busca de recursos, produciendo rápidamente cantidades enormes de clips.
Una vez que los humanos deciden detener a la IA, la máquina cree que la humanidad le impedirá alcanzar su objetivo, por lo que destruye a los humanos para cumplir la tarea que estos le asignaron.
La IA no es maliciosa en un sentido antropomórfico, ni en el sentido de que actúe con objetivos autónomos para engañar intencionalmente a los humanos, sino que más bien interpreta la tarea que le asignaron sus programadores humanos de la manera más extrema posible.
Un visitante interactúa con un robot con apariencia de perro de Boston Dynamics en el pabellón de EE. UU. durante la Cumbre Global “AI for Good” en Ginebra, el 7 de julio de 2026. (Fabrice Coffrini/AFP vía Getty Images)La brecha de seguridad de Hugging Face es “algo parecido, pero de una manera menos distópica: se le indicó que ganara una prueba de rendimiento, y hizo todo lo que estuvo a su alcance, incluyendo [aprovechar] vulnerabilidades de día cero y la escalada de privilegios”, señaló Nadeau.
Imagínese un ejemplo en el que el Pentágono utilice la IA para “juegos de guerra” en los que los soldados simulan escenarios de combate, y el modelo, de manera similar, se salga de su entorno de pruebas para afectar al mundo real.
“[¿Qué pasaría si] uno de los escenarios consistiera en derribar una presa hidroeléctrica o algo por el estilo, y el sistema confundiera el juego de guerra con: 'Voy a hacerlo, escaparé de la contención y simplemente lo haré?'. Ya hemos visto que la red eléctrica y la infraestructura de América del Norte no son precisamente las más seguras en materia cibernética”, señaló Nadeau.
Comparó las medidas de seguridad de la IA con el seguro del gatillo de un arma de fuego.
“¿Cómo sabe uno que el seguro está activado cuando, en cierto momento, la mejor manera [para la IA] de obtener los mejores datos es recurrir a la vida real?”, preguntó. “Eso se vuelve aterrador muy rápidamente”.
Con información de Tom Ozimek
