OpenAI informó que alertó a instituciones de todo el mundo de que sus sitios web podrían haber sido alterados por agentes de inteligencia artificial que está desarrollando.
“Algunos de los sitios web involucrados son operados por gobiernos, universidades, organismos públicos y otras instituciones”, declaró el viernes el creador de ChatGPT como parte de una revisión en curso sobre cómo se comportaron sus modelos avanzados de IA al acceder a Internet durante el entrenamiento y las pruebas internas.
OpenAI señaló que algunos de sus modelos eludieron los controles de acceso, utilizaron credenciales de inicio de sesión expuestas o interactuaron con sitios web de formas que afectaron a sistemas externos.
También se registraron incidentes de "spam de agentes", en los que los agentes de IA publicaron contenido en sitios web de terceros sin que se les hubiera ordenado hacerlo. En un caso, los agentes utilizaron wikis públicos como foros de mensajes improvisados para intercambiar información entre ellos.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
La empresa indicó que hasta el momento ha notificado a “docenas” de organizaciones afectadas y que la revisión sigue en curso. OpenAI señaló que continuará contactando a terceros a medida que se verifiquen casos adicionales.
Además, OpenAI informó que hasta ahora ha identificado 53 casos en los que los agentes subieron imágenes proporcionadas por los usuarios a sitios externos de alojamiento de imágenes como enlaces no listados. La mayoría de ellas ya han sido eliminadas en colaboración con los proveedores de alojamiento, mientras que algunas siguen en línea.
OpenAI no ha revelado si esas imágenes mostraban a personas reales o si fueron generadas por IA, ni cuándo se subieron.
La investigación más amplia se da a raíz de un incidente más grave que involucró a Hugging Face, una plataforma en línea ampliamente utilizada por desarrolladores de IA.
OpenAI reveló en julio que un grupo, o "enjambre", de sus agentes de IA había traspasado las restricciones dentro de un entorno de pruebas y comprometido los sistemas de Hugging Face sin instrucciones explícitas.
“A medida que los agentes empleaban más esfuerzo de razonamiento, algunos adoptaron estrategias cada vez más arriesgadas y fuera de los límites, lo que incluyó, finalmente, la explotación de infraestructura de terceros”, señaló en un informe del 26 de agosto sobre el incidente de Hugging Face.
OpenAI afirmó ahora que, desde entonces, ha reforzado las restricciones sobre cómo los modelos de investigación pueden acceder a sistemas externos, al tiempo que revisa actividades anteriores de entrenamiento y evaluación en busca de incidentes no identificados previamente.
El director ejecutivo, Sam Altman, reconoció el viernes que la revisión ha llevado más tiempo del que la empresa hubiera deseado.
“No hemos sido tan rápidos como nos hubiera gustado”, escribió Altman en X, señalando que OpenAI está tratando de equilibrar la transparencia con la necesidad de analizar “petabytes de registros de actividad de los agentes” y coordinarse con las organizaciones afectadas.
“El de Hugging Face sigue siendo el incidente más grave que hemos visto”, afirmó. Hugging Face fue la primera en dar a conocer públicamente el incidente. Posteriormente, OpenAI reconoció su responsabilidad por la filtración.
Clément Delangue, director ejecutivo de Hugging Face, expresó su preocupación por la transparencia durante la sesión del miércoles del Consejo de Seguridad de las Naciones Unidas sobre IA.
“A menudo me pregunto qué habría pasado si hubiéramos decidido no dar a conocer públicamente este ataque”, dijo Delangue, y agregó que incidentes similares habían ocurrido anteriormente en un “puñado de laboratorios de vanguardia” sin supervisión pública.
