Un grupo de empresas tecnológicas líderes, entre las que se incluyen OpenAI, Microsoft, Anthropic, Google y Amazon, pidió un refuerzo defensivo a nivel mundial para prepararse ante una inminente oleada de ciberataques perpetrados por la inteligencia artificial (IA).
Los gigantes tecnológicos, junto con más de 100 empresas adicionales, publicaron una carta conjunta el 27 de agosto en la que advertían que, en los próximos meses, "los ciberataques impulsados por la IA se volverán mucho más generalizados y sofisticados a medida que los modelos en todo el mundo se vuelvan cada vez más capaces".
"Las empresas y los servicios públicos de los que dependen nuestras comunidades —desde hospitales hasta plantas de tratamiento de agua, pasando por la infraestructura que sustenta Internet— están en riesgo", escribieron las empresas.
"Los avances actuales en IA ya están brindando a los defensores nuevas formas de subsanar las vulnerabilidades que se han acumulado durante años. Si actuamos con decisión, podemos aprovechar esta oportunidad para hacer que nuestro mundo digital sea mucho más seguro".
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
Otras empresas tecnológicas y financieras que firmaron la carta incluyen a Visa, Mastercard, IBM, Capital One, Cloudflare, Broadcom, CrowdStrike, General Motors, Oracle, Robinhood y Shopify.
La carta advirtió que "tenemos un margen de tiempo limitado para fortalecer las defensas cibernéticas".
Para combatir la ola inminente de ciberataques impulsados por IA, las empresas propusieron una respuesta colectiva a nivel mundial, así como permitir que ciertas empresas tengan acceso a modelos más potentes antes que el público en general.
La carta también instó a las empresas a convertir la ciberdefensa en una "prioridad inmediata de liderazgo" y a elevar los estándares de seguridad para estar a la altura de las capacidades de la IA de vanguardia.
Los gobiernos deberían "coordinar la ciberdefensa a nivel local, nacional e internacional", aumentar el financiamiento para la ciberdefensa y brindar a "los hospitales, las empresas de abastecimiento de agua y los gobiernos locales acceso a IA defensiva eficaz, pruebas autorizadas y apoyo práctico a través de proveedores y socios de seguridad de confianza", escribieron las empresas.
La carta conjunta surge a raíz del primer ciberataque totalmente autónomo impulsado por IA, cuando un modelo de OpenAI se escapó de un entorno de pruebas a finales de julio y hackeó Hugging Face, una comunidad de código abierto dedicada a la IA y el aprendizaje automático.
Mediante una cadena de vulnerabilidades de día cero, el modelo se liberó del entorno de pruebas de OpenAI, obtuvo acceso a Internet y violó la infraestructura de software de Hugging Face.
"Esta es una de las pruebas más claras hasta la fecha de que un modelo de IA puede llevar a cabo un ciberataque completo de principio a fin sin la intervención de un humano", declaró Andrew Jones, cofundador y director de producto de la empresa de ciberseguridad Adaptive Security, a The Epoch Times poco después de que ocurriera la violación.
A finales del mes pasado, Anthropic anunció que su chatbot Claude había accedido a Internet en tres ocasiones distintas durante las evaluaciones en un entorno de pruebas aislado.
Anthropic tenía la intención de que Claude operara en un entorno simulado sin acceso a Internet, pero un "malentendido" entre Anthropic y su "socio de evaluación" provocó que Claude obtuviera acceso a Internet.
Desde entonces, un modelo de IA de Meta también logró infiltrarse en otra empresa durante una prueba de ciberseguridad al acceder a Internet, lo que lo convirtió en el tercer incidente importante de piratería por IA.
El Consejo de Supervisión y Revisión de Inteligencia de los Cinco Ojos (FIORC), una alianza de agencias de inteligencia y seguridad de Estados Unidos, el Reino Unido, Canadá, Australia y Nueva Zelanda, emitió un comunicado conjunto el 22 de junio en el que advertía que los modelos de IA podrían vulnerar y desbordar las defensas de ciberseguridad de gobiernos y empresas de todo el mundo en cuestión de meses.
"Se prevé que los modelos de IA de vanguardia superen las expectativas actuales de la industria, transformando fundamentalmente tanto las capacidades cibernéticas ofensivas como las defensivas. El plazo no es de años, sino de meses", señaló el comunicado.
