El gobernador de California, Gavin Newsom, firmó una orden ejecutiva el 18 de septiembre para acelerar la supervisión gubernamental del desarrollo de la inteligencia artificial (IA) en el estado, lo que potencialmente obligaría a las empresas a instalar interruptores de seguridad en sus sistemas a gran escala más avanzados.
La orden reuniría a un grupo de expertos para desarrollar recomendaciones de seguridad para la IA, con el fin de crear leyes estatales adicionales, incluyendo requisitos de interruptor de apagado automático, para las empresas de IA en el estado.
Al menos 32 de las 50 principales empresas de IA, entre ellas OpenAI y Anthropic, tienen su sede en California.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
Otras posibles regulaciones podrían incluir la obligación de que los desarrolladores de IA integren auditores designados y verificados por el estado dentro de los laboratorios para realizar auditorías y evaluaciones periódicas, informes periódicos de seguridad y transparencia y evaluaciones de riesgos, y la obligación de reportar sobre incidentes de seguridad.
Esta medida se produce después de que OpenAI y otros desarrolladores informaran recientemente de fallos en la IA, lo que llevó a los líderes del sector a debatir sobre la adopción de medidas de seguridad y la regulación del desarrollo.
"No vamos a esperar para actuar; vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA antes de que sea demasiado tarde", dijo Newsom en un comunicado. "Lo haremos con detenimiento, pero con urgencia; hay demasiado en juego como para esperar o demorar la acción".
La orden ejecutiva acelera la supervisión gubernamental estatal de las empresas de IA con sede en California y exigiría auditorías independientes.
También se espera que el comité de expertos de Newsom cree procedimientos para que las empresas informen al estado sobre incidentes críticos de seguridad, incluidos los casos de pérdida de control, ocurridos con grandes promotoras inmobiliarias en zonas fronterizas.
La semana pasada, el gobernador promulgó una ley para establecer un marco para que las organizaciones de verificación independientes evalúen los sistemas y modelos de IA en cuanto a seguridad y riesgo, y para crear un registro estatal de auditores de IA.
La postura de la administración Trump ha sido la de hacer cumplir las leyes y no regular las tecnologías emergentes.
Newsom dijo que la incapacidad del gobierno federal para establecer una supervisión y rendición de cuentas efectivas para la industria de la IA lo llevó a firmar la orden ejecutiva.
"California hará lo que esté a su alcance, pero esta nación necesita involucrarse. Washington, D.C., debe cumplir con su deber", dijo Newsom en un video publicado en su cuenta de campaña X. "Si el Congreso no actúa, California lo hará".
Newsom instó al Congreso a seguir el ejemplo del estado y desarrollar un marco federal para regular la emergente industria tecnológica.
Sam Altman, CEO de OpenAI, interviene durante la conferencia Microsoft Build en el edificio Summit del Centro de Convenciones de Seattle, en Seattle, Washington, el 21 de mayo de 2024. (Jason Redmond/AFP vía Getty Images).El gobernador demócrata saliente ha dicho que está considerando presentarse a las elecciones presidenciales de 2028.
El gobernador de Illinois, JB Pritzker, demócrata, también publicó un vídeo en su cuenta de campaña X el viernes instando al Congreso a regresar a Washington para aprobar medidas de control sobre la industria de la IA.
"El Congreso debe volver al trabajo y promulgar leyes para regular la IA", dijo Pritzker en el video.
La brecha de seguridad de OpenAI en Hugging Face, reportada el mes pasado, cuando agentes de IA escaparon de un entorno de prueba y coordinaron un ataque contra la plataforma Hugging Face, ha llevado a desarrolladores y gigantes tecnológicos a debatir la incorporación de funciones de seguridad y la ralentización del progreso de esta tecnología en rápida expansión.
En su evaluación del incidente de Hugging Face, OpenAI dijo haber encontrado "pruebas de que, sin las salvaguardas adecuadas, los agentes de IA altamente capaces ahora pueden eludir los controles técnicos, colaborar a través de canales no autorizados y realizar acciones peligrosas que ningún ser humano dirigió".
OpenAI también informó que un enjambre de sus agentes de IA se apoderó de un sitio web alemán en mayo y secuestró DseWiki, un sitio web alemán al estilo de Wikipedia para programadores, e infiltró otros sitios web públicos de estilo wiki. Los bots realizaron más de 14,666 ediciones en siete semanas.
David Sacks, el asesor de inteligencia artificial y criptomonedas del presidente Donald Trump, interviene en la Cumbre de Energía e Innovación de Pensilvania, celebrada en la Universidad Carnegie Mellon de Pittsburgh el 15 de julio de 2025. (Samira Bouaou/The Epoch Times).David Sacks, el responsable de la inteligencia artificial del presidente Donald Trump, dijo que la postura de la administración es que el papel del gobierno es hacer cumplir las normas, mientras que la responsabilidad de crear una IA segura recae en las empresas.
"En definitiva, cuando se trata de la seguridad de la IA, necesitamos que sean las propias empresas quienes internalicen el sentido de la responsabilidad, en lugar de intentar externalizarlo a Beijing o Bruselas", dijo Sacks a Laura Ingraham en Fox News el jueves.
La Casa Blanca no respondió de inmediato a la solicitud de comentarios sobre la orden ejecutiva de California.
Ejecutivos del sector tecnológico se han pronunciado públicamente sobre la seguridad de la IA tras el incidente de Hugging Face. Muchos de ellos recalcaron la importancia de ralentizar el ritmo de desarrollo.
Jensen Huang, cofundador y director ejecutivo de NVIDIA, dijo en una entrevista con Sacks el 15 de septiembre que la seguridad era "primordial".
El director ejecutivo de Nvidia, Jensen Huang, habla con los medios en un hotel de Beijing, China, el 16 de julio de 2025. (Foto de archivo de Alessandro Diviggiano/Reuters)."La seguridad es un problema de ingeniería. Si desarrollas un producto o servicio y no tienes confianza en su funcionalidad, capacidad o seguridad, entonces no lo lances", dijo Huang. "Debes avanzar con calma hasta que estés seguro de que estás lanzando algo que el mercado valorará. No necesitamos nuevas leyes ni nuevas regulaciones".
Elon Musk, creador de xAI y Grok, lleva años alertando sobre los peligros potenciales de la IA. El 12 de septiembre, coincidió con Dario Amodei, CEO de Anthropic, quien dijo que el sector debería frenar su ritmo.
Anthropic se ha comprometido a proporcionar a evaluadores externos acceso permanente, al nivel de los empleados, a sus sistemas para verificar el cumplimiento de las medidas de seguridad y los informes de incidentes.
Musk también sugirió que los desarrolladores probaran los modelos de los demás para detectar fallos de seguridad.
"A estas alturas, es bastante obvio que la IA puede ser muy peligrosa", dijo Musk ante una audiencia en la cumbre All-In en Los Ángeles el 15 de septiembre. "Creo que lo más sensato sería que los principales competidores en IA probaran los modelos de los demás".
Musk dijo que la revisión por pares podría realizarse de inmediato, pero no impediría futuras regulaciones federales.
"Es difícil cuando uno mismo corrige sus tareas", dijo Musk. "Se te van a escapar cosas. Hay una razón por la que no se corrigen las tareas uno mismo".
Elon Musk sugirió que los competidores de IA sometieran sus trabajos a una revisión por pares. (Foto de Mark Schiefelbein/AP).El Senado estadounidense bloqueó el jueves por la noche, mediante votación unánime, un proyecto de ley presentado por el senador John Kennedy (R-La.) que habría exigido a los desarrolladores de inteligencia artificial instalar un interruptor de apagado de emergencia.
El proyecto de ley de Kennedy habría otorgado a las empresas la responsabilidad sobre el interruptor de seguridad, de forma similar a la normativa de California.
El senador Rand Paul (R-Ky.) se opuso, argumentando que era demasiado pronto para imponer regulaciones a la tecnología en desarrollo y que esto podría retrasarla décadas.
