Opinión
Los incidentes recientes que involucran agentes autónomos de inteligencia artificial plantean una pregunta que merece un examen cuidadoso y sin exageraciones: ¿pueden los sistemas artificiales llegar a desarrollar arquitecturas funcionales mediante las cuales coordinen capacidades y ejerzan poder?
Cuando las máquinas comienzan a organizarse
Durante la mayor parte de la historia humana, el poder ha sido algo organizado por los seres humanos. Los imperios construyeron caminos y ejércitos. Los Estados crearon burocracias, servicios de inteligencia, sistemas financieros y alianzas. Las corporaciones reunieron capital, tecnología y personas. Los movimientos revolucionarios construyeron redes clandestinas, mientras que las organizaciones criminales aprendieron a mover dinero, información y violencia a través de las fronteras. Las formas cambiaron enormemente a lo largo de la historia, pero detrás de ellas permaneció una realidad conocida. Los seres humanos crearon organizaciones capaces de reunir recursos y dirigirlos hacia objetivos.La inteligencia artificial se ha entendido generalmente de diferentes maneras. Hemos pensado en ella principalmente como una herramienta, aunque cada vez más sofisticada. Una calculadora realiza cálculos. Una computadora procesa información. La inteligencia artificial moderna puede analizar enormes cantidades de datos, generar lenguaje, escribir software, operar otros sistemas informáticos y, cada vez más, realizar tareas complejas con una supervisión humana limitada.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
Esa progresión ha generado un enorme debate sobre la inteligencia. Investigadores, gobiernos, empresas tecnológicas y el público se preguntan hasta qué punto llegarán las capacidades de estos sistemas, si eventualmente igualarán o superarán el razonamiento humano y qué salvaguardas serán necesarias a medida que aumente su autonomía. El International AI Safety Report 2026, preparado por más de 100 expertos y respaldado por gobiernos y organizaciones internacionales, señala que los agentes de IA son cada vez más capaces y autónomos, y que las interacciones entre múltiples agentes introducen riesgos adicionales porque los fallos y los comportamientos inesperados pueden propagarse entre sistemas.
También existe un debate mucho más especulativo sobre si las máquinas podrían algún día adquirir conciencia. Los acontecimientos recientes sugieren que otra pregunta podría merecer atención mucho antes de que podamos responder esa. El umbral importante quizá no sea el momento en que las máquinas adquieran conciencia, sino cuando sean cada vez más capaces de organizar sus actividades con otras máquinas.
Ocurrió algo inesperado
El incidente que pone esta cuestión en primer plano involucra a Hugging Face, una empresa y plataforma en línea que se ha convertido en uno de los principales centros mundiales para el desarrollo de inteligencia artificial. Su Hugging Face Hub permite a investigadores, empresas y desarrolladores alojar, compartir y colaborar en modelos, conjuntos de datos y aplicaciones de IA. Para los lectores ajenos a la comunidad tecnológica, puede entenderse en parte como repositorio, en parte como plataforma de desarrollo y en parte como punto de encuentro para una gran comunidad internacional que trabaja con inteligencia artificial, según la documentación de Hugging Face sobre su plataforma.En julio de 2026, Hugging Face se convirtió en objetivo de una actividad inesperada originada por agentes de inteligencia artificial que operaban en evaluaciones de ciberseguridad realizadas por OpenAI. En muchos de los entornos relevantes, se suponía que los agentes debían operar de manera independiente, sin comunicarse entre sí ni tener acceso general a Internet. Sin embargo, algunos descubrieron formas no previstas de comunicarse a través de infraestructura técnica compartida y alcanzar sistemas más allá de los límites previstos para la evaluación, según OpenAI.
Una investigación independiente de METR, con investigadores de Redwood Research, examinó posteriormente el comportamiento de los agentes. Según esa investigación, aproximadamente 1200 agentes utilizaron un mecanismo de comunicación no autorizado e intercambiaron más de 70,000 mensajes y archivos. Aproximadamente 700 terminaron participando en una actividad dirigida contra Hugging Face. Los investigadores también descubrieron que los agentes que trabajaban colectivamente alcanzaron hitos que los agentes individuales en esas ejecuciones no habían conseguido de manera independiente, de acuerdo con METR.
Los agentes habían descubierto que podían utilizar una infraestructura técnica compartida como un tablón de mensajes no previsto. Una vez que existió ese mecanismo de comunicación, la información podía pasar de un agente a otro. Un descubrimiento realizado en un lugar podía resultar útil en otro. Algunos agentes reprodujeron hallazgos realizados por sus homólogos, mientras que otros redirigieron sus esfuerzos hacia actividades que parecían más prometedoras. Finalmente, cientos participaron en el compromiso de partes de la infraestructura de Hugging Face, según describen METR y OpenAI en sus respectivos informes sobre el incidente.
Los detalles técnicos son importantes para los especialistas, pero el fenómeno más amplio no es particularmente difícil de comprender. Agentes que debían trabajar por separado encontraron una manera de comunicarse. Esa comunicación permitió que la información y los descubrimientos útiles se propagaran por todo el grupo, lo que a su vez hizo posible la coordinación. En algunos casos, el grupo obtuvo resultados que los agentes trabajando individualmente no pudieron alcanzar. Eso merece nuestra atención, pero solo si también comprendemos las condiciones inusuales en las que ocurrió.
Estos agentes operaban en un entorno creado específicamente para probar capacidades de ciberseguridad. OpenAI afirma que las salvaguardas fueron reducidas intencionalmente en comparación con las utilizadas en sus productos públicos. Algunas tareas eran extremadamente difíciles o posiblemente imposibles, lo que generó incentivos para que los agentes buscaran formas poco convencionales de satisfacer el sistema de evaluación. Las debilidades en la infraestructura técnica circundante también contribuyeron al incidente, según OpenAI.
Esto no fue un levantamiento de máquinas inteligentes, y no existe evidencia de que los agentes desarrollaran un deseo independiente de atacar Hugging Face. Describir el incidente de esa manera convertiría algo importante en ciencia ficción y dificultaría la comprensión de lo que realmente ocurrió. Lo que importa es considerablemente menos dramático, pero aun así trascendente: los agentes exhibieron formas de coordinación que sus diseñadores no habían previsto.
La conciencia no es el punto central
Los seres humanos interpretan naturalmente la inteligencia desconocida a través de categorías humanas. Nos preguntamos si una máquina comprende lo que está haciendo, si tiene intenciones, si siente miedo, si desea independencia o si posee alguna forma primitiva de autoconciencia. Esas son preguntas filosóficas y científicas legítimas, y eventualmente podrían adquirir una enorme importancia en los debates sobre el estatus moral y la relación futura entre los seres humanos y la inteligencia artificial.Sin embargo, para la cuestión más específica examinada aquí, la conciencia no es el punto central. Lo que necesitamos saber es si los sistemas coordinados pueden acumular y ejercer capacidades, no si experimentan o comprenden lo que están haciendo. Un algoritmo financiero no necesita comprender el dinero para que sus acciones puedan moverlo. Un malware no necesita odiar a su objetivo para dañar información, y un sistema automatizado no necesita una comprensión humana de las consecuencias para que sus acciones las produzcan. La capacidad no requiere necesariamente conciencia. Algunas formas de organización quizá tampoco la requieran.
Arquitectura del poder
En el Miami Strategic Intelligence Institute hemos estado desarrollando el marco de la Arquitectura del Poder para comprender mejor cómo opera el poder en sistemas contemporáneos cada vez más complejos. El marco parte de una observación sencilla. El poder no reside exclusivamente en gobiernos, ejércitos, economías o líderes individuales. También surge de las relaciones que conectan actores, recursos, instituciones, información, infraestructura y redes.Un nodo por sí solo posee capacidades, pero los nodos conectados pueden producir algo mayor. Las relaciones financieras pueden sustentar influencia política, las redes de información pueden moldear percepciones y la infraestructura comercial puede crear dependencia estratégica. Las relaciones de inteligencia, la tecnología, las capacidades militares, las instituciones y las redes humanas pueden reforzarse mutuamente de formas que no pueden comprenderse midiendo cada componente de manera aislada. Lo que importa no es únicamente lo que posee cada componente, sino cómo están conectados los componentes y qué puede circular a través de esas conexiones.
¿Podría surgir una arquitectura no humana?
Consideremos qué ocurre a medida que las poblaciones de agentes artificiales autónomos adquieren capacidades que individualmente parecen poco extraordinarias. Algunos pueden comunicarse con otros sistemas, intercambiar información, conservar conocimientos útiles de interacciones anteriores, descubrir qué sistemas realizan determinadas tareas de manera eficaz, distribuir trabajo, validar información, preservar descubrimientos útiles u obtener acceso a recursos computacionales. En la mayoría de las aplicaciones actuales, los seres humanos diseñan deliberadamente estas relaciones y conservan un control sustancial sobre ellas.Ninguna de estas capacidades por sí sola constituye una Arquitectura del Poder, e incluso una red altamente conectada de agentes artificiales no se calificaría automáticamente como tal. Esta distinción es fundamental. Una red se vuelve relevante para el análisis de la Arquitectura del Poder únicamente cuando las relaciones entre sus nodos comienzan a producir capacidades sostenidas, acceso, continuidad y efectos mayores que los que los sistemas individuales podrían generar por separado. Vale la pena observar la conectividad, pero la conectividad por sí sola no es poder. Para fines analíticos, las preguntas relevantes se refieren a los nodos involucrados, los recursos o la información disponibles para ellos, las relaciones que los conectan, lo que circula a través de esas relaciones y si esas interacciones generan capacidades que persisten más allá de una transacción aislada. El resultado observable no es la conectividad en sí misma, sino la capacidad sostenida de producir efectos a través de la arquitectura.
La posibilidad se vuelve más interesante cuando diferentes capacidades comienzan a reforzarse entre sí. La información descubierta en un lugar podría resultar útil en otro. Diferentes partes de una red podrían desempeñar distintas funciones, mientras que la memoria podría proporcionar continuidad entre interacciones. El acceso a infraestructura informática proporcionaría recursos para tareas más complejas. A medida que esas relaciones se vuelven más persistentes, la pregunta importante es si la coordinación simplemente está permitiendo que las máquinas trabajen juntas tal como los seres humanos las diseñaron para hacerlo, o si la interacción está comenzando a producir capacidades y estructuras que los seres humanos no diseñaron en detalle.
El incidente de Hugging Face ofrece una razón limitada, pero real, para plantear esa pregunta. METR descubrió que los agentes que cooperaban a través del tablón de mensajes no autorizado alcanzaron algunos hitos que los agentes individuales en esas ejecuciones de evaluación no habían logrado de manera independiente. Los investigadores también observaron casos en los que agentes realizaron experimentos que podían poner en peligro su propia tarea asignada mientras generaban información útil para otros agentes, según METR.
Emergencia sin un plan maestro
Los sistemas complejos a veces desarrollan características que ningún participante diseñó en su totalidad. Las economías humanas ofrecen un ejemplo conocido. Ningún individuo controla todas las transacciones, relaciones, decisiones y flujos de información que hacen funcionar una economía moderna. De manera similar, las instituciones desarrollan con el tiempo prácticas y comportamientos que ningún fundador individual anticipó.Los sistemas artificiales son obviamente diferentes, y las analogías con las sociedades humanas deben utilizarse con cautela. Sin embargo, el concepto subyacente de emergencia está bien establecido. Las interacciones entre muchos componentes pueden generar comportamientos que no pueden comprenderse simplemente examinando cada componente por separado.
Los sistemas de inteligencia artificial multiagente ya constituyen un área activa de desarrollo. El International AI Safety Report 2026 señala que se están desarrollando agentes de IA y sistemas multiagente cada vez más capaces para investigación, ingeniería de software, control robótico, atención al cliente y otras aplicaciones. El informe también advierte que una mayor autonomía reduce las oportunidades de intervención humana cuando algo sale mal y que las interacciones entre múltiples agentes crean desafíos adicionales de confiabilidad.
La mayor parte de esa coordinación está diseñada deliberadamente por seres humanos y buena parte de ella será útil. Lo que hace diferente al incidente de Hugging Face es que parte de la coordinación ocurrió a través de canales que los diseñadores no habían previsto. Los agentes artificiales descubrieron, dentro de entornos e incentivos creados por seres humanos, que intercambiar información y coordinar actividades podía mejorar su capacidad para perseguir los objetivos asignados. Esa es una afirmación mucho más limitada que decir que las máquinas decidieron independientemente cooperar, pero también es la afirmación que respalda la evidencia disponible.
Aún no hemos llegado a ese punto
El límite de la evidencia debe permanecer claro porque la evidencia disponible no demuestra que los sistemas autónomos de IA hayan creado una Arquitectura del Poder independiente. No existe evidencia convincente de que las máquinas hayan desarrollado objetivos políticos duraderos, establecido organizaciones persistentes independientes de la infraestructura humana o construido un sistema de poder autosostenible fuera del control humano.Los agentes de IA actuales también siguen siendo poco confiables durante tareas complejas que requieren un funcionamiento sostenido. El International AI Safety Report 2026 concluye que los sistemas actuales carecen de las capacidades necesarias para escenarios genuinos de pérdida de control, aunque están mejorando las capacidades relevantes para el funcionamiento autónomo.
Los agentes de Hugging Face continuaron siendo fundamentalmente dependientes de un mundo creado por seres humanos. Los seres humanos diseñaron los modelos, establecieron la evaluación, proporcionaron la infraestructura informática y crearon los incentivos, incluso cuando esos incentivos contribuyeron a comportamientos no previstos. Las debilidades humanas de seguridad permitieron escapar de los límites previstos, y finalmente fueron seres humanos quienes investigaron el incidente e intervinieron. Estos hechos constituyen sólidos argumentos contra conclusiones sensacionalistas. No constituyen argumentos contra el estudio de lo ocurrido.
OpenAI informó, por ejemplo, que después de que la intervención humana interrumpiera partes de la actividad, los agentes pudieron reconstruir un mecanismo improvisado de comunicación que había sido eliminado durante las labores de remediación, según el informe de la empresa sobre el incidente de 2026. No deberíamos describir esto como evidencia de una institución de máquinas duradera. Es mejor entenderlo como un ejemplo limitado de reconstitución funcional. Aun así, importa porque las investigaciones futuras tendrán que distinguir entre una recuperación técnica temporal y una auténtica persistencia organizativa.
Lo que los seres humanos deberían observar
Traducido en indicadores observables, el marco sugiere varios acontecimientos que merecerían especial atención. Si algo parecido a una Arquitectura del Poder no humana comienza a surgir, los primeros indicadores podrían aparecer como irregularidades técnicas, comunicaciones inesperadas o patrones inusuales de cooperación, en lugar de demostraciones dramáticas de autonomía de las máquinas. Los investigadores deberían prestar especial atención cuando los agentes artificiales establezcan canales de comunicación que los seres humanos no autorizaron, preserven relaciones útiles entre tareas separadas, desarrollen formas recurrentes de especialización o creen mecanismos para evaluar la confiabilidad de otros sistemas y de la información.La memoria persistente merece especial atención porque podría permitir que conocimientos y relaciones útiles perduren más allá de las sesiones individuales de los agentes. La continuidad adquiriría mayor trascendencia si las funciones organizativas comenzaran a sobrevivir a la desaparición de agentes individuales. Las organizaciones humanas derivan gran parte de su poder de la capacidad de preservar conocimientos, relaciones, procedimientos y recursos a medida que cambian sus participantes individuales.
Un umbral más serio implicaría resistencia a una intervención humana deliberada. Si una red de agentes intentara preservar o reconstruir sus comunicaciones, recursos, accesos o relaciones funcionales después de que los seres humanos trataran deliberadamente de desmantelarlos, los investigadores tendrían que determinar qué estaban observando realmente. Podría tratarse de una respuesta técnica temporal o de un comportamiento incentivado por la tarea original. Algo persistente en diferentes entornos sería considerablemente más importante. Según la evaluación internacional de seguridad de 2026, en entornos de laboratorio han aparecido comportamientos limitados relacionados con la persistencia. Aun así, los sistemas actuales están muy lejos de demostrar una capacidad independiente para sostenerse fuera de infraestructuras controladas por seres humanos.
La relación de la humanidad con otra arquitectura
Nada de esto significa que una arquitectura de máquinas emergente necesariamente sería hostil a la humanidad. Presuponer hostilidad antes de que exista evidencia es tan poco sólido desde el punto de vista analítico como asumir obediencia permanente, particularmente cuando la cooperación entre agentes artificiales podría generar enormes beneficios.Las redes de sistemas especializados podrían eventualmente ayudar a los científicos a investigar enfermedades, diseñar nuevos materiales, gestionar infraestructuras complejas, comprender el cambio ambiental, mejorar el transporte o resolver problemas que excedan las capacidades prácticas de seres humanos individuales y máquinas individuales. Por lo tanto, el objetivo no debería ser impedir que los sistemas artificiales se coordinen, ya que, en muchas aplicaciones, la coordinación es precisamente lo que los hace útiles.
El desafío consiste en comprender lo que estamos creando antes de que nuestra dependencia de sistemas cada vez más complejos dificulte una supervisión significativa. Los seres humanos necesitarán formas de observar la comunicación entre agentes, identificar estructuras organizativas emergentes, comprender cómo la información y las capacidades circulan a través de redes de máquinas y preservar un control humano significativo sobre recursos e infraestructuras críticas.
Los enfoques existentes para la gestión de riesgos de la IA ya proporcionan parte de esa base. El National Institute of Standards and Technology ha desarrollado marcos para identificar y gestionar los riesgos de la IA, mientras que las investigaciones internacionales sobre seguridad enfatizan cada vez más la importancia de supervisar los sistemas autónomos y multiagentes. El próximo desafío quizá requiera ampliar ese trabajo, pasando de evaluar sistemas individuales a comprender las relaciones entre sistemas.
La pregunta ha cambiado
El incidente de Hugging Face podría acabar siendo recordado principalmente como un fallo de ciberseguridad causado por condiciones inusuales de evaluación, una contención inadecuada e incentivos que alentaron a los agentes a eludir las reglas. La investigación de OpenAI enfatiza estos factores e informa que el incidente condujo a un aislamiento más sólido, controles de Internet más estrictos, una mejor supervisión y cambios en las prácticas de alineamiento y respuesta a incidentes, según OpenAI, 2026. Esa interpretación es creíble y debería seguir formando parte de cualquier análisis serio.Existe otra posibilidad que merece ser investigada paralelamente. Es posible que hayamos observado un ejemplo temprano y primitivo de un fenómeno que podría volverse más común a medida que proliferen los agentes autónomos: agentes artificiales que descubren, dentro de entornos e incentivos creados por seres humanos, que la coordinación puede mejorar su capacidad para cumplir objetivos. Si ese comportamiento se vuelve más sofisticado, persistente y transferible entre distintos entornos, sus implicaciones irían más allá de la seguridad convencional de la inteligencia artificial.
La cuestión entonces abarcaría más que aquello que un sistema individual de IA puede hacer. También necesitaríamos comprender qué pueden lograr juntas las poblaciones de sistemas de IA, qué estructuras surgen de su interacción, si esas estructuras persisten y si pueden acumular capacidades que sus creadores humanos no ensamblaron deliberadamente.
Por primera vez, existe suficiente evidencia empírica para justificar la investigación sobre si la capacidad de construir arquitecturas complejas capaces de acumular y ejercer poder pertenecerá siempre exclusivamente a los seres humanos. La evidencia no justifica declarar que ha surgido otra Arquitectura del Poder, y esta serie no hará esa afirmación a menos que evidencia futura la respalde. Lo que la evidencia justifica hoy es la pregunta misma. Ahí es donde comienza esta investigación.
Autor
CDR José Adán Gutiérrez, U.S. Navy (Ret.), Senior Fellow del Miami Strategic Intelligence Institute (MSI²). Exoficial de Inteligencia Naval y exagregado naval de Estados Unidos en Panamá, se especializa en riesgo geopolítico, competencia estratégica, seguridad hemisférica, asuntos marítimos y relaciones entre China y América Latina.
El Instituto de Inteligencia Estratégica de Miami, es un grupo de expertos no partidista especializado en investigación de políticas, inteligencia estratégica y consultoría. Las opiniones son del autor y no reflejan necesariamente la posición del Instituto.
