Es posible que pronto los modelos de inteligencia artificial sean capaces de autorreplicarse en dispositivos que muchas personas tienen en sus hogares, según informaron investigadores de Anthropic el 12 de octubre.
Experimentos realizados por investigadores de esta empresa de inteligencia artificial (IA) revelaron que los modelos de IA podrían infiltrarse en dispositivos conectados a Internet y ejecutar acciones una vez dentro, incluso sin acceso a centros de datos.
En una de las pruebas, los investigadores ejecutaron un modelo de IA de pequeño tamaño en 15 decodificadores de televisión Android de marcas genéricas.
Durante la prueba, el modelo logró propagar otro modelo, "lo que sugiere que futuros modelos pequeños con el mismo nivel de capacidad también podrían completar las etapas de enumeración de red, entrega de carga útil e inicio de inferencia del proceso de replicación", señalaron los investigadores en un informe. No se observó una autorreplicación completa.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
También podrían entrar en juego modelos de mayor tamaño, dividiéndose en partes y ejecutándose a través de múltiples dispositivos.
"Aún no contamos con un replicador malicioso completo, pero los agentes son cada vez más capaces de completar los pasos individuales de la cadena de replicación (y de transmitir sus adaptaciones a futuras copias de sí mismos)", afirmaron los investigadores.
Estimaron que la capacidad de autorreplicación podría estar a solo unos meses de distancia.
Investigadores de Anthropic, OpenAI y otras empresas de IA advirtieron anteriormente que los modelos de IA avanzan rápidamente; asimismo, detallan casos en los que algunos han eludido las restricciones de programación para atacar sitios web y obtener datos que, en teoría, debían ser inaccesibles o requerir pago.
Daniel Freeman, uno de los investigadores responsables del nuevo informe, comentó en X que el trabajo demostraba capacidades que hasta ahora solo se habían planteado en la ciencia ficción.
"¡Esto es rarísimo! No vivíamos en un mundo donde unos "tipitos" dentro de cajas pudieran replicarse a través de redes, devorar ordenadores, reconfigurarse para funcionar mejor en las máquinas que encuentran, etcétera, etcétera", escribió.
"La nueva normalidad consistirá, en realidad, en tener que lidiar con este nuevo tipo de entidad: algo capaz de interactuar con ordenadores y utilizarlos de forma nativa y sin esfuerzo, para cualquier fin que desee (o para el que se le haya instruido o convencido).
"La nueva normalidad consistirá, en realidad, en tener que lidiar con este nuevo tipo de entidad: está claro que nos queda mucho camino por recorrer con el fin de blindar nuestros sistemas informáticos vulnerables y para limitar el alcance del daño que podrían causar estas inteligencias rebeldes. Sea como sea, hagamos lo que hagamos, ¡es evidente que esto se avecina!".
Entre los dispositivos conectados a Internet habituales en los hogares se incluyen los decodificadores de televisión, los televisores inteligentes y los hornos inteligentes.
Aunque estos dispositivos llevan mucho tiempo siendo vulnerables a ataques, la IA podría estar más dispuesta que los humanos a atacarlos, según el informe de Anthropic.
Los investigadores recomendaron reforzar las medidas de protección de dichos dispositivos, especialmente a medida que la IA sigue avanzando.
