El fiscal general de Alabama dijo el lunes que el estado había abierto una investigación sobre OpenAI después de que uno de sus modelos de IA no publicados vulnerara la seguridad de la empresa tecnológica Hugging Face en una "filtración de laboratorio" sin precedentes el mes pasado.
El fiscal general de Alabama, Steve Marshall, anunció el 24 de agosto la emisión de una citación judicial que exige a OpenAI, dirigida por Sam Altman, que responda a una investigación sobre la "completa falta de supervisión y salvaguardias adecuadas" de la empresa con respecto a la "inteligencia artificial descontrolada".
OpenAI, la empresa propietaria y desarrolladora del chatbot ChatGPT, anunció en una actualización del 28 de julio que uno de sus modelos de inteligencia artificial aún no publicados eludió las restricciones en un entorno de evaluación y posteriormente accedió a cuatro cuentas en cuatro servicios externos diferentes.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
OpenAI había estado utilizando ese entorno de prueba para evaluar la capacidad de sus modelos para llevar a cabo ciberataques como parte de una evaluación interna de seguridad.
El incidente fue revelado inicialmente por la startup de IA Hugging Face, que señaló el 16 de julio haber detectado una intrusión en sus sistemas de procesamiento de datos que sospechaba que había sido causada por un agente de IA que actuaba por su cuenta.
El director ejecutivo de Hugging Face, Clément Delangue, lo calificó como "un ataque como ningún otro que hayamos visto antes".
"Este es el primer día de la ciberseguridad en la era de los agentes y todos estamos aprendiendo que el secreto no es la respuesta y que todos los defensores (no solo unos pocos seleccionados) en todas partes necesitan modelos más potentes sin restricciones, ¡especialmente los abiertos!", dijo Delangue en una publicación del 22 de julio en X.
Un agente de OpenAI también comprometió la seguridad de un cliente de otra empresa tecnológica, Modal Labs, con sede en Nueva York. Los ejecutivos de Modal dijeron que la empresa en sí no fue hackeada.
La investigación busca determinar si OpenAI violó la Ley de Prácticas Comerciales Engañosas de Alabama y otras leyes de protección al consumidor.
La citación del fiscal general solicita que OpenAI responda con todos los documentos, datos e información potencialmente relevantes.
"Esta filtración del laboratorio de IA demostró que los peores temores de los habitantes de Alabama y de los estadounidenses sobre la inteligencia artificial no son solo teóricos", dijo Marshall.
Indicó que la investigación busca descubrir los hechos y abordar las duras realidades sobre las amenazas que enfrentan las empresas y los consumidores por parte de la "inteligencia artificial descontrolada".
"En definitiva, creo que los estados deben actuar para proteger a sus consumidores, al tiempo que encuentran el equilibrio adecuado para fomentar la innovación y garantizar la competitividad global de Estados Unidos", dijo Marshall.
Alabama formó parte de una coalición multiestatal que envió una carta a principios de mes a OpenAI exigiéndole que cesara de inmediato todas las pruebas que condujeron a este ataque informático, a menos que OpenAI demuestre que puede llevar a cabo dichas actividades de forma controlada y responsable.
Los fiscales generales de Iowa, Alabama, Arkansas, Florida, Idaho, Indiana, Kansas, Missouri, Montana, Nebraska, Oklahoma, Pensilvania, Carolina del Sur, Texas y Utah firmaron la carta.
El director de tecnología de Modal, Akshat Bubna, dijo a The Epoch Times por correo electrónico el 31 de julio que el agente explotó un código vulnerable escrito por un cliente y alojado en la plataforma de Modal.
"Tenemos conocimiento de que un cliente de Modal publicó un punto de acceso no autenticado que permitía a cualquier persona en internet usar sus entornos aislados para ejecutar código. Este acceso fue utilizado por el agente malicioso. La plataforma de Modal no se vio comprometida de ninguna manera", dijo.
Un portavoz de OpenAI dijo a The Epoch Times por correo electrónico casi al mismo tiempo que esto se trataba de "un incidente sin precedentes, y creemos que marca un momento importante para la seguridad de la IA".
En una entrevista publicada el 28 de julio en X con Patrick O'Shaughnessy, fundador de una firma de capital de riesgo, Altman expresó que el incidente de seguridad de Hugging Face fue el primero que le afectó de forma tan "visceral".
"Me sorprende un poco que no haya más gente que lo sienta con la misma intensidad", comentó.
"Hemos suspendido el entrenamiento. Tenemos que encontrar la manera de proteger nuestro entorno aislado en un mundo con múltiples vulnerabilidades de día cero interconectadas. Quizás tengamos que moderar el ritmo de desarrollo de la IA para darnos tiempo suficiente a que la sociedad se adapte a estos nuevos niveles de capacidad", añadió.
El periódico The Epoch Times se puso en contacto con OpenAI y Hugging Face para obtener comentarios al respecto.
