Investigadores de la empresa de inteligencia artificial (IA) Anthropic afirmaron el 13 de noviembre que descubrieron el primer uso de la IA en un ciberataque por parte de un gobierno extranjero.
Anthropic, el desarrollador con sede en San Francisco del chatbot de IA Claude, dijo en una entrada de blog que estaba muy seguro de que los actores maliciosos chinos patrocinados por el Estado utilizaron la herramienta Claude Code de la empresa para crear un marco de ataque que, una vez puesto en marcha, requería una intervención humana mínima.
Los atacantes manipularon el software de IA de Anthropic para atacar 30 objetivos globales, entre los que se encontraban agencias gubernamentales, empresas de tecnología y servicios financieros y fabricantes de productos químicos, según afirmó Anthropic en una publicación en X. Un pequeño número de ataques tuvieron éxito.
Los ataques múltiples se detectaron por primera vez a mediados de septiembre y, a lo largo de 10 días, los investigadores de Anthropic trazaron el alcance de la operación, notificaron a las organizaciones afectadas y colaboraron con las autoridades regionales. Los ataques fueron posibles gracias a los rápidos avances en IA que no existían hace solo 12 meses, señaló la empresa.
En la primera fase de los ciberataques, los autores de las amenazas identificaron los objetivos y utilizaron Claude Code como herramienta automatizada para su ejecución. Eludieron las medidas de seguridad internas de Claude Code haciéndose pasar por empleados de defensa de la ciberseguridad y consiguieron que el chatbot de IA ejecutara los ataques desglosándolos en tareas menores, aparentemente inocuas, que no despertaban sospechas.
Una vez que obtuvo acceso, Claude Code comenzó a buscar bases de datos de gran valor, así como vulnerabilidades en los sistemas de ciberseguridad de las organizaciones. El chatbot de IA escribió su propio código de explotación, recopiló nombres de usuario y contraseñas para acceder a las bases de datos y extrajo datos con poca interacción humana. Por último, Claude presentó resúmenes detallados de sus acciones, incluyendo los sistemas que fueron violados, las credenciales que utilizó y las puertas traseras que se crearon.
Anthropic estima que la IA llevó a cabo entre el 80 y el 90 por ciento del trabajo durante los ciberataques.
"La enorme cantidad de trabajo realizado por la IA habría llevado mucho tiempo a un equipo humano", afirmó Anthropic en la entrada del blog. "En el momento álgido del ataque, la IA realizó miles de solicitudes, a menudo varias por segundo, una velocidad de ataque que habría sido simplemente imposible de igualar para los hackers humanos".
"Para seguir el ritmo de esta amenaza en rápido avance, ampliamos nuestras capacidades de detección y desarrollado mejores clasificadores para señalar actividades maliciosas", afirmó la empresa. "Trabajamos continuamente en nuevos métodos para investigar y detectar ataques distribuidos a gran escala como este".
A principios de octubre, Anthropic señaló que los modelos de IA se desarrollaron lo suficiente como para no solo reproducir ciberataques, sino también superar a algunos equipos humanos de ciber defensa. La empresa aconseja a los desarrolladores de IA que sigan desarrollando medidas de protección de la IA, ya que es probable que en el futuro se produzcan ataques similares.
Chris Krebs, exdirector de la Agencia de Seguridad Cibernética y de Infraestructuras del Departamento de Seguridad Nacional, dijo durante una entrevista matutina con la CBS que el ataque es probablemente una señal de lo que está por venir.
"Llevamos casi una década hablando de acontecimientos y ataques como este", dijo Krebs. "Verlo hacerse realidad de esta manera... es bastante escalofriante, y hay mucho trabajo que hacer en un futuro próximo para detenerlo".
