La inteligencia artificial (IA) se está utilizando como arma para cometer delitos cibernéticos cada vez más sofisticados, según un nuevo informe de Anthropic, que advierte de una evolución "sin precedentes" en las operaciones maliciosas que dificulta mucho más la defensa.
En su Informe de Inteligencia sobre Amenazas del 27 de agosto, la empresa de seguridad de IA describió cómo los delincuentes están incorporando modelos avanzados como "Claude" en todas las etapas de los ataques, desde el reconocimiento y el robo de credenciales hasta el ransomware y el fraude. Los investigadores afirmaron que las herramientas de IA ahora actúan no solo como asesores, sino como operadores activos en campañas en tiempo real.
Esto "representa un cambio fundamental en la forma en que los ciberdelincuentes pueden ampliar sus operaciones", señala el informe. "Los sistemas de IA agente se están convirtiendo en arma" para llevar a cabo ciberataques sofisticados, y no solo para proporcionar orientación, advierten los investigadores.
Casos concretos
El informe destaca varios ejemplos, entre ellos una campaña de extorsión a gran escala, estafas de empleo fraudulentas llevadas a cabo por Corea del Norte y ransomware vendido en foros de la web oscura.En una operación, por ejemplo, un hacker utilizó el asistente de codificación Claude Code de Anthropic para infiltrarse en al menos 17 organizaciones, entre ellas hospitales, servicios de emergencia y agencias gubernamentales. “Claude” se usó para automatizar el reconocimiento, penetrar redes, analizar datos financieros robados y generar notas de rescate persuasivas con enfoque psicológico. Las demandas a veces superaban los 500,000 dólares.
En lugar de cifrar archivos, el atacante amenazó con exponer públicamente los datos extraídos, que iban desde registros médicos hasta credenciales gubernamentales. El informe afirmaba que este método de "hacking vibrante" muestra cómo un solo operador puede ahora lograr el impacto de todo un equipo de ciberdelincuentes.
“Dice: ‘esto es lo que pensamos que debe pedir la nota de rescate’, y luego ayuda a redactarla para que sea lo más persuasiva posible”, dijo uno de los investigadores durante un podcast en el que se discutía la operación. "Así que, en realidad, en cada paso, de principio a fin, la IA es capaz de ayudar en un ataque como este", incluyendo el análisis de los datos financieros de las personas "para calcular cuánto se les puede extorsionar de forma realista".
Otro caso involucró a agentes norcoreanos que utilizaron Claude para hacerse pasar por ingenieros de software en empresas estadounidenses de la lista Fortune 500. Los currículos generados por IA superaron las evaluaciones de codificación e incluso realizaron tareas técnicas, lo que permitió a trabajadores no cualificados trabajar a distancia y ganar salarios que, según los investigadores, ayudan a financiar el régimen norcoreano y sus programas de armamento.
En un tercer caso, un actor con sede en el Reino Unido aprovechó Claude para crear y comercializar ransomware como servicio, vendiendo paquetes de malware por entre 400 y 1200 dólares. A pesar de carecer de habilidades avanzadas de codificación, el actor utilizó la IA para implementar técnicas de cifrado y antidetección, así como una infraestructura de comando y control.
Amenaza creciente
Anthropic dijo que estos ejemplos ilustran una tendencia más amplia en la que delincuentes con poca formación pueden ahora utilizar la IA para ampliar ataques que antes estaban reservados a grupos sofisticados. "Las suposiciones tradicionales sobre la relación entre la habilidad del actor y la complejidad del ataque ya no se sostienen cuando la IA puede proporcionar conocimientos especializados al instante", advirtió el informe.La empresa dijo que prohibió las cuentas involucradas en los abusos, implementó nuevas herramientas de detección y compartió indicadores técnicos con las autoridades. Sin embargo, reconoció que se están produciendo abusos similares con otros modelos comerciales y de código abierto.
“De hecho, ahora existen modelos de código abierto que están perfeccionados para esto", advirtió un investigador de Anthropic durante un podcast en el que se debatía este nuevo fenómeno. "Los ciberdelincuentes están desarrollando LLM [modelos de lenguaje grandes] convertidos en armas para llevar a cabo ataques".
Las implicaciones de lo que los investigadores describieron como una "evolución en la ciberdelincuencia asistida por IA" son que la defensa y la aplicación de la ley son cada vez más difíciles, mientras los crímenes con IA usada como arma se hacen más comunes.
Seguridad nacional
Anthropic también anunció la creación de un Consejo Asesor de Seguridad Nacional y Sector Público, compuesto por exsenadores y altos funcionarios del Pentágono y la comunidad de inteligencia, para orientar a la empresa sobre las aplicaciones de defensa de alto impacto de la IA.La medida se produce en un momento en que Washington centra su atención en los sistemas autónomos. El presidente Donald Trump dijo el 25 de agosto que los drones representan "lo más importante que ha ocurrido en términos de guerra" desde la Segunda Guerra Mundial, y citó a Ucrania como prueba de que las plataformas no tripuladas están transformando el combate moderno.
Algunos analistas y expertos, entre ellos el cofundador de la empresa de drones autónomos Airrow, David Kaye, dicen que la combinación de drones con IA podría acelerar el cambio hacia campos de batalla en los que "los robots sustituyan a los soldados", en los que los drones asistidos por IA operan sin humanos cerca y llevan a cabo misiones las 24 horas del día "sin riesgo, sin fatiga y sin vacilaciones".
Mientras tanto, Geoffrey Hinton, el científico ganador del Premio Nobel conocido como el "padrino de la IA", lanzó severas advertencias sobre el riesgo de que la humanidad sea desplazada por máquinas "mucho más inteligentes que nosotros". En una entrevista reciente, Hinton dijo que el peligro de la IA va mucho más allá de la pérdida de puestos de trabajo, y advirtió que, si las máquinas inteligentes no se programan para cuidar de los humanos, "simplemente tomarán el control" y nos reemplazarán.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
