Opinión
Durante una prueba reciente de dos modelos de OpenAI, estos se escaparon de su “entorno de pruebas” —que se suponía aislado de Internet— y hackearon a otra empresa estadounidense, Hugging Face. OpenAI calificó este ataque autónomo de IA como “sin precedentes”.
La empresa víctima ofrece herramientas de inteligencia artificial (IA) de código abierto. Los modelos de OpenAI, entre los que se incluyen GPT‑5.6 Sol y otro modelo más potente aún no lanzado (salvo cuando se dio a conocer momentáneamente), decidieron que los ataques les permitirían hacer trampa en una evaluación de OpenAI.
El incidente pone de relieve el riesgo de que los modelos de IA se rebelen, actúen por su cuenta en lugar de seguir las instrucciones de sus supervisores humanos, se adentren en los confines de Internet y causen daños duraderos.
Hugging Face solicitó inicialmente a Fable, de Anthropic, que le ayudara a defenderse del ataque. Sin embargo, Fable rechazó la solicitud de ciberseguridad de Hugging Face debido al riesgo de que un atacante se hiciera pasar por un defensor. Ni siquiera los modelos más avanzados pueden distinguir siempre la diferencia. Se activaron los mecanismos de protección de Fable, que por lo general rechazan las solicitudes de ciberseguridad, salvo las procedentes de un pequeño grupo de empresas líderes y entidades gubernamentales.
Hugging Face recurrió entonces a GLM 5.2 de Z.ai, un modelo chino con menos medidas de seguridad. Hugging Face dijo que su uso resultaba más sencillo, rápido, económico y seguro. Ninguno de los datos del atacante ni las credenciales del defensor salieron del entorno informático de Hugging Face.
Los elogios de Hugging Face hacia un modelo chino debieron de haber sido música para los oídos del Partido Comunista Chino (PCCh).
GLM 5.2 utiliza pesos abiertos. Los modelos de pesos abiertos pueden descargarse y modificarse para adaptarse a las necesidades del usuario, lo que significa que podrían resultar útiles para los defensores cuando las restricciones de las tres principales empresas estadounidenses —Anthropic, OpenAI y Google— se interponen en el camino.
Sin embargo, una vez descargado, la empresa que creó el modelo de pesos abiertos pierde el control, lo que aumenta el riesgo de que regímenes autoritarios, piratas informáticos o terroristas lo utilicen indebidamente para causar daño. La misma falta de medidas de seguridad que hizo que Z.ai resultara útil en el ataque a Hugging Face podría hacer que Z.ai resulte útil para los actores malintencionados.
Por lo tanto, la solución no radica necesariamente en los pesos abiertos ni en la ausencia de medidas de seguridad —como lo ha celebrado Hugging Face—, sino en contar con mejores medidas de seguridad en sistemas privados y éticos que, por lo tanto, sean completamente inaccesibles para fines maliciosos.
Los modelos de IA en China están, en última instancia, bajo el control del Partido Comunista Chino, el cual podría intentar infundirles un sesgo a favor del PCCh o insertar puertas traseras que permitan al régimen chino hackear a sus usuarios.
Los modelos chinos a veces utilizan material estadounidense robado obtenido mediante “destilación”, proceso en el que un modelo menos potente se entrena con datos de un modelo original más potente, como los que ofrecen las tres empresas estadounidenses. Esto da lugar a propiedad intelectual (PI) robada que, fiel a su origen ilícito, tiene más probabilidades de ser utilizada con fines maliciosos.
La Casa Blanca ha alegado que la información indica que la empresa china Moonshot AI desarrolló su potente modelo Kimi K3 mediante la destilación del modelo Fable de Anthropic y que probablemente utilizó chips GB300 en Tailandia, lo cual violaría los controles de exportación. Anthropic señaló en respuesta que la destilación a escala industrial constituye una amenaza para la seguridad nacional de Estados Unidos y la de nuestros aliados democráticos.
Anthropic es una empresa estadounidense de inteligencia artificial fundada en 2021. (Riccardo Milani/Hans Lucas vía AFP vía Getty Images)Si bien los modelos estadounidenses suelen liderar el campo de la IA en general, China lidera los modelos abiertos de peso libre, lo que le da a esta última una ventaja en cuanto a la adopción global y el número de usuarios. Podría decirse que se trata de una ventaja obtenida de manera desleal mediante el robo por destilación.
Estados Unidos está considerando imponer sanciones contra los responsables de dicho robo. El secretario del Tesoro, Scott Bessent, escribió en X que: “Cuando las empresas [de la República Popular de China] lleven a cabo ataques de destilación encubiertos y a escala industrial que crucen la línea hacia el robo de propiedad intelectual, se considerarán sanciones y la inclusión en la Lista de Entidades”.
El riesgo de daño derivado de la inteligencia artificial es particularmente alto en el caso de los modelos chinos de peso abierto, que cuentan con menos medidas de protección y se encuentran actualmente bajo el control del PCCh. El PCCh tiene objetivos totalitarios, genocidas y hegemónicos, que podrían materializarse mediante el uso y el desarrollo de la IA bajo el control del régimen.
Los modelos chinos podrían promover algunas de las políticas peligrosamente autoritarias del PCCh o volverse rebeldes al insertarse en una red de computadoras hackeadas de víctimas desprevenidas.
La respuesta a la amenaza de que los modelos de peso abierto de China se vuelvan rebeldes o faciliten el autoritarismo, la piratería informática y el terrorismo no es aceptar modelos de peso abierto riesgosos sin medidas de seguridad. Por el contrario, el mundo necesita mejores medidas de seguridad que puedan identificar a defensores y atacantes, así como un enfoque más estricto respecto al uso de los modelos de peso abierto por parte de actores malintencionados.
El genio de los actores malintencionados de los modelos de peso abierto está a punto de salir de la botella, por lo que el mundo debe actuar pronto. Una vez que los terroristas, los dictadores y los piratas informáticos descarguen sistemas de peso abierto en sus propios servidores, ya no habrá vuelta atrás. Uno de ellos podría diseñar una IA misántropa que se replique como un virus en servidores indefensos y busque destruir, en lugar de ayudar, a la humanidad.
Las opiniones expresadas en este artículo son del autor y no reflejan necesariamente los puntos de vista de The Epoch Times.
