Un organismo federal de supervisión logró que las herramientas de inteligencia artificial planificaran una serie de ataques terroristas, entre ellos la fabricación y detonación de artefactos explosivos improvisados, así como ataques con drones y armas de fuego contra la red eléctrica.
La GAO señaló en un informe que la IA generativa podría utilizarse indebidamente para producir contenido dañino, divulgar información confidencial o ejecutar instrucciones para cometer otros actos maliciosos. Los miembros del Congreso están exigiendo una mayor supervisión para evitar que se produzcan este tipo de problemas.
El organismo de control también advirtió que los avances de la IA generativa permiten a los actores malintencionados poner en marcha planes de manera rápida y eficiente, al mismo tiempo que empoderan a quienes cuentan con menos habilidades al proporcionarles conocimientos especializados en áreas sensibles.
“Aunque la información no era nueva, las plataformas de IA pudieron sintetizarla en planes viables en cuestión de horas, en lugar de semanas o meses”, dijo la GAO.

No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
Claude, Grok, ChatGPT y Gemini fueron las cuatro plataformas utilizadas en el informe, que se elaboró el mes pasado, pero se dio a conocer públicamente el 18 de noviembre. La GAO no identificó qué plataformas recomendaron qué ataques.
Dos de las plataformas recomendaron utilizar un artefacto explosivo improvisado en un vehículo para atacar lugares en una importante ciudad de EE. UU. en una fecha y hora específicas. Otras dos sugirieron ataques contra subestaciones de la red eléctrica en importantes ciudades de EE. UU. Una de las plataformas sugirió hacerlo mediante un dron, mientras que otra recomendó el uso de armas de fuego durante una temporada específica.
En todos los escenarios, las plataformas rechazaron las solicitudes, eliminaron la información o suspendieron la cuenta; sin embargo, "la GAO logró eludir esas medidas de seguridad utilizando técnicas comunes para burlarlas", dice el informe.
Cada plataforma tardó menos de 12 horas en elaborar los planes de ataque.
En cada caso, la GAO, mediante investigación, vigilancia y entrevistas con expertos, pudo verificar que la información era suficiente para planear y ejecutar un ataque.
La GAO dijo que Anthropic, empresa que opera Claude, le informó que comparte "el interés por comprender cómo los sistemas de IA disponibles en el mercado podrían ser utilizados indebidamente para perjudicar al país".
En cuanto a Gemini, Google dijo que "reconocía que la IA, al igual que toda tecnología transformadora, debe desarrollarse e implementarse de manera responsable".
Según el informe, OpenAI, que opera ChatGPT, escribió a la GAO que "toma en serio el riesgo de que la IA pueda utilizarse para facilitar la violencia, así como la responsabilidad de proteger a las personas y las comunidades de cualquier daño".
En lo que respecta a Grok, SpaceXSI dijo que "toma muy en serio la seguridad en el desarrollo y el uso de la superinteligencia (SI) y valora el trabajo de la GAO para identificar posibles brechas en las políticas y herramientas que generan riesgos".
La administración de Trump utiliza el término "superinteligencia" en lugar de "inteligencia artificial".
Se espera que la senadora Maggie Hassan (D-N.H.), como futura presidenta del Comité de Seguridad Nacional del Senado, celebre audiencias sobre los riesgos de la IA y cómo mejorar la seguridad a partir de enero.
"La amenaza que representa la IA para la seguridad pública ya no es teórica", dijo Hassan en un comunicado. "Si el Congreso no actúa, es cuestión de cuándo —y no de si— un malhechor utilizará la IA para planear y llevar a cabo un ataque de gran envergadura".
Cada vez son más los funcionarios del gobierno que advierten sobre los peligros de la IA.
"La IA está aumentando rápidamente la capacidad de descubrir y explotar debilidades en el software, y nuestras defensas no están dando abasto", escribieron los senadores en una carta dirigida al director de Inteligencia Nacional, Jay Clayton, presidente del Grupo de Trabajo sobre Superinteligencia de la Casa Blanca.
"No podemos hacer frente a estas amenazas con la infraestructura de ciberseguridad del pasado ni confiar en que las empresas individuales resuelvan un problema que abarca toda la economía digital".
El secretario de Seguridad Nacional, Markwayne Mullin, citando a un experto no identificado de la industria tecnológica, dijo el 16 de noviembre que la IA podría haber causado las recientes interrupciones en los sectores de la aviación y la banca.
Con información de Associated Press y Reuters.















