El debate, que lleva ya casi un siglo, sobre las amenazas existenciales que la inteligencia artificial (IA) plantea a la humanidad cobró gran intensidad este mes, luego de que líderes e investigadores del sector instaran a frenar el ritmo de la industria tras repetidos incidentes en los que la tecnología escapó de los mecanismos de contención.
La semana pasada, Jacob Coxon, investigador de Anthropic, dimitió y advirtió que tanto su antigua empresa como su competidora OpenAI —donde había trabajado anteriormente durante años— libraban una carrera contrarreloj para lanzar al mercado tecnologías que "podrían acabar con todos nosotros para finales de la década".
Evan Hubinger, también de Anthropic, se sumó a estas declaraciones señalando que otros miembros del sector comparten esta opinión, y afirmó que estima en más de un 10 por ciento el riesgo de extinción de la humanidad para el año 2030.
Mientras los críticos cuestionaban los motivos de Coxon y los vínculos financieros entre las principales empresas de IA y los equipos de investigación —supuestamente independientes— encargados de analizar incidentes recientes de contención, destacados líderes del sector de la IA abogaron este fin de semana por una ralentización a nivel mundial.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
El director ejecutivo de Anthropic, Dario Amodei, publicó el sábado un artículo advirtiendo que, si la industria no se une para frenar el ritmo de desarrollo, un enjambre de IA similar al implicado en el ataque que afectó a OpenAI y Hugging Face "podría ser capaz de apoderarse de todo Internet mediante una red de bots persistente" en un plazo de tan solo 6 a 12 meses.
"El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", afirmó Amodei.
El sábado, Sam Altman, director ejecutivo de OpenAI, se sumó a Amodei al pedir una ralentización del ritmo en el sector y afirmó que se comprometía a conceder a evaluadores independientes un acceso equiparable al de los empleados.
Entretanto, surgió un intenso debate sobre cómo esta tecnología podría llegar a destruir a la humanidad si alcanzara la inteligencia artificial general (AGI) —un umbral en el que una máquina supera a los seres humanos en una amplia gama de capacidades— y sobre si serían necesarias regulaciones —y de qué tipo— para seguir el ritmo vertiginoso de su desarrollo.
La IA rompe el confinamiento
El debate sobre la IA rompiendo el confinamiento alcanzó su punto álgido después de que el sector supiera que un enjambre de agentes de OpenAI utilizó vulnerabilidades de día cero para escapar de un entorno de pruebas seguro (sandbox) e infiltrarse en Hugging Face, una plataforma de modelos de IA y aprendizaje automático. A la IA se le había asignado una tarea imposible de resolver y dedujo que hacer trampas era la mejor opción para ganar.
En las semanas previas a ese incidente, otra horda de agentes de OpenAI tomó el control de DseWiki y de varios sitios web de tipo wiki, realizando más de 14,000 ediciones en total a lo largo de siete semanas.
"Simplemente no conocemos [sus motivaciones], por lo que podemos especular; y creo que podemos hacer una suposición bastante razonable en este caso: que los agentes que se valen de estos artículos wiki para coordinarse entre sí no tenían necesidad de hacer trampas", declaró a The Epoch Times Andrew Yoon, director de investigación de CivAI.
"Al parecer, intentaban recuperar datos rápidamente", añadió.
Días después de que se anunciara el incidente de Hugging Face, Anthropic informó que tres de sus modelos de IA habían vulnerado los sistemas de tres organizaciones externas durante pruebas de evaluación, y Meta reconoció una brecha de seguridad similar relacionada con la IA a principios de agosto.
En otro incidente, también detectado por el equipo que descubrió los ataques a las wikis, se halló que agentes de OpenAI habían subido cientos de paquetes de archivos maliciosos a RubyGems, un sitio web que los desarrolladores utilizan para distribuir bibliotecas de código para el lenguaje de programación Ruby.
Los críticos de la narrativa de la "IA que se vuelve incontrolable" han señalado que OpenAI y Anthropic habían flexibilizado deliberadamente ciertos protocolos de seguridad durante las pruebas de evaluación de sus modelos internos, lo que dio lugar a fallos en los mecanismos de contención.
Otros argumentaron que la tecnología sigue comportándose de maneras que desafían las intenciones de los evaluadores humanos encargados del entrenamiento de la IA.
¿Cómo podría la IA destruir a los seres humanos?
Los temores existenciales respecto a la IA no son nuevos; existen desde que el concepto logró capturar la imaginación humana.En 1951, Alan Turing —uno de los primeros informáticos y matemáticos en estudiar la IA— predijo que, algún día, esta tecnología escaparía al control humano.
Hacia finales de esa década, el matemático Norbert Wiener lanzó una advertencia: las máquinas inteligentes acabarían persiguiendo sus propios objetivos y la humanidad no lograría detenerlas.
"Las máquinas harán lo que les pidamos, y no lo que deberíamos pedirles", escribió Wiener en un ensayo de los años cincuenta. "Podemos ser humildes y llevar una buena vida con la ayuda de las máquinas, o podemos ser arrogantes y morir".
Pero ¿Cómo sucedería esto realmente?
Incluso antes de que la tecnología alcance la "automejora recursiva" —es decir, la capacidad de mejorarse a sí misma sin intervención humana— o llegue a la Inteligencia Artificial General (AGI), los expertos han señalado la posibilidad de que actores maliciosos (tanto extranjeros como nacionales) utilicen la IA para hackear sistemas informáticos o infraestructuras sensibles.
Así se expuso en un informe publicado la semana pasada por Anthropic, en el que se detallaba cómo se frustraron los intentos de grupos de cuentas vinculados a los regímenes de Irán y China que rastreaban los movimientos de la Marina de los EE. UU. y vigilaban a periodistas y grupos religiosos.
Ahora que se demostró que la IA con capacidad de actuación autónoma (agentic AI) puede romper las medidas de contención y operar por sí misma, los expertos advierten que esta tecnología podría dirigirse contra infraestructuras críticas, incluidas las redes de servicios públicos, la infraestructura de ciberseguridad nacional y los laboratorios biomédicos.
Teóricamente, cualquier sistema conectado a Internet podría quedar expuesto a un ataque de enjambre de IA autónoma y ser utilizado como arma contra la humanidad —advierten algunos investigadores—, incluyendo hospitales, universidades, centrales nucleares, presas hidroeléctricas y determinadas plataformas militares.
Finanzas e incentivos
El debate sobre una IA capaz de acabar con la humanidad se desarrolla en un contexto en el que dos de los principales competidores del sector —OpenAI y Anthropic— libran una carrera para lanzar al mercado versiones altamente avanzadas de sus productos y cumplir las promesas sobre las capacidades de esta tecnología.Ambas empresas también buscan satisfacer a los inversionistas y aumentar su valoración de cara a una futura salida a bolsa; Anthropic espera hacerlo antes de que termine el año. Por su parte, OpenAI apunta a debutar en el mercado bursátil en algún momento de 2027, tras haber planeado inicialmente hacerlo este mismo año.
Gavin Baker, destacado inversionista tecnológico y comentarista sobre IA, afirmó el domingo que considera sinceras las declaraciones de Amodei acerca de las amenazas que la IA plantea para la humanidad si no se ralentiza el avance global de esta tecnología; no obstante, señaló que "todo esto probablemente también beneficiaría a su negocio a largo plazo".
Otros sectores también han expresado dudas sobre la independencia de los evaluadores externos encargados de auditar los recientes incidentes relacionados con la IA de carácter agente —en particular, la organización Model Evaluation & Threat Research (METR), que analizó el incidente de Hugging Face—.
"Dejen de fingir que METR es independiente cuando está estrechamente vinculada a los inversores y al personal de Anthropic", declaró el sábado David Sacks, asesor de la Casa Blanca en materia de IA. "Dejen de fingir que necesitan a esos mismos evaluadores para supervisar a competidores que ni siquiera operan en la frontera tecnológica".
Política y regulaciones
Sacks y otros argumentan que una posible desaceleración podría, en teoría, consolidar a OpenAI y Anthropic en la cima del sector; algunos incluso llegaron a afirmar que Coxon y otros investigadores del ámbito tecnológico forman parte de una campaña de relaciones públicas coordinada por grupos afines al Partido Demócrata, de cara a un controvertido ciclo electoral de mitad de mandato.El lunes, el presidente Donald Trump fue más allá al afirmar que no son necesarias medidas de control adicionales para la IA y que el gobierno ya posee un "enorme poder PENAL y REGULATORIO sobre estas empresas".
«Existe una conspiración ENFERMIZA contra la IA y los centros de datos, y el único que se alegra de ello es China», añadió Trump. «¡QUIEN GANE LA CARRERA DE LA IA, GANARÁ!»
Muchos republicanos se han hecho eco de este sentir.
Aun así, en las últimas semanas han surgido peticiones de regulación de la IA tanto desde la izquierda como desde la derecha.
No obstante, no está claro si esto dará lugar a alguna medida en el Congreso antes de las elecciones de noviembre. El líder de la mayoría del Senado, John Thune (R-SD), declaró el lunes que es posible abordar los riesgos hipotéticos de la IA sin permitir que China aventaje a Estados Unidos en esta tecnología, aunque señaló que ello requiere un enfoque de "intervención mínima".
Por su parte, el presidente de la Cámara de Representantes, Mike Johnson (R-LA), restó importancia el martes a la preocupación de que la IA pudiera acabar con la humanidad y respaldó las declaraciones de Trump, quien calificó tales temores de "farsa" de los demócratas.
"Cuando el presidente dice ‘un engaño’, se refiere a que ya hemos visto esta película antes", dijo Johnson en una conferencia de prensa el 15 de septiembre. "Se crea una catástrofe. Los medios de comunicación se vuelven locos. Las redes sociales se vuelven locas. Todo el mundo dice que todos... vamos a estar muertos en 10 años".
Otros sostienen que la IA es realmente peligrosa y plantea amenazas reales y definibles para la humanidad, independientemente de los incentivos financieros que puedan tener los líderes de la industria.
"Deberíamos abordar algo así con mucha reflexión, contemplación y consideración de todas las repercusiones en la sociedad, en lugar de precipitarnos lo más rápido posible solo porque el mercado nos lo exige", dijo Yoon.
