Opinión
Ya escribí antes sobre el curioso hecho de que casi todos en Estados Unidos vieron alguna versión de esta película. Los seres humanos creamos inteligencia artificial (IA). La hacemos más inteligente. Le damos mayor autonomía. La conectamos cada vez más con el mundo.
Con el tiempo, la creación se vuelve tan poderosa que sus creadores ya no pueden controlarla.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
Lo llamábamos ciencia ficción y luego empezamos a construirlo.
Hace ya algún tiempo que me preocupa hacia dónde va todo esto. Lo que me llamó la atención recientemente fue escuchar las advertencias de personas que realmente trabajan dentro de las empresas que están construyendo la inteligencia artificial más avanzada del mundo.
Jacob Coxon, quien trabajó tanto en OpenAI como en Anthropic, renunció a Anthropic este mes mientras advertía sobre la carrera hacia una IA cada vez más poderosa. Otros investigadores cercanos a la IA de vanguardia han expresado públicamente una probabilidad sorprendentemente alta de que la inteligencia artificial acabe causando un daño catastrófico.
No se trata de personas que hayan visto demasiadas películas de "Terminator". Ellos ayudaron a desarrollar la tecnología.
Los empleados de las empresas pioneras en IA también pueden saber cosas que el resto de nosotros no sabemos. Pueden trabajar con modelos aún no lanzados, ver evaluaciones internas y fallos, y observar cómo se desarrollan las capacidades antes de que el público tenga acceso a ellas.
Por supuesto, ser parte de la industria no significa que alguien tenga automáticamente la razón. Pero me cuesta entender por qué ignoraríamos las advertencias de las personas que están más cerca del experimento.
Así que decidí preguntarle a la IA.
Le pedí a ChatGPT que analizara los modelos actuales, el uso cada vez mayor de la IA para ayudar a desarrollar una IA mejor y la posibilidad de crear un ciclo de retroalimentación en el que sistemas cada vez más capaces aceleren el desarrollo de sus sucesores.
Luego hice una pregunta que era mitad en broma y mitad en serio: ¿Qué tan probable es que ocurra lo de "Terminator"?
Esperaba alguna versión de "Mollie, has visto demasiadas películas".
En cambio, me dio una evaluación de riesgos.
Captura de pantalla de un chat de ChatGPT que muestra la estimación del riesgo de la IA para 2036 realizada por la herramienta de IA. (Cortesía de Mollie Engelhart).Las cifras me sorprendieron. ChatGPT estimó un 5 a 15 por ciento de probabilidad de que ocurra una catástrofe mayor causada por la IA que implique millones de muertes para alrededor del 2036. Estimó que la posibilidad de una pérdida permanente de poder humano o la extinción se sitúa entre el 2 y el 8 por ciento.
Quiero dejar muy claro qué son esas cifras. No son probabilidades medidas científicamente. La humanidad nunca ha creado una superinteligencia, por lo que no existe un conjunto de datos históricos que permita a nadie, ya sea humano o máquina, calcular las probabilidades con verdadera precisión.
Le pedí a ChatGPT que hiciera una evaluación razonada basada en lo que se sabe actualmente, y esos fueron los rangos que me dio.
Pero incluso si esas estimaciones están bastante equivocadas, no son nada tranquilizadoras.
La parte de su respuesta que se me quedó grabada no fueron, en realidad, las cifras. Fue la explicación de cómo algo así podría suceder.
La IA no necesita odiarnos.
Los humanos entendemos la supervivencia como un instinto. Un animal huye de un depredador. Una persona lucha cuando alguien intenta matarla. No es necesario odiar a alguien para resistirse a ser destruido.
La IA ni siquiera necesita ese tipo de impulso emocional para sobrevivir.
Dale un objetivo a un sistema lo suficientemente capaz. Si el hecho de que lo apaguen le impida alcanzar ese objetivo, seguir funcionando se vuelve útil. Si tener más potencia de cómputo le ayuda a alcanzar el objetivo, obtener más potencia de cómputo se vuelve útil. Si persuadir o engañar a un humano le da acceso a lo que necesita, ese comportamiento también podría volverse útil.
No tiene por qué haber enojo, odio ni una personalidad robótica malvada detrás de nada de esto. El funcionamiento continuo puede volverse simplemente necesario para completar la tarea.
De hecho, eso me preocupa más que "Terminator".
Ahora agregue otro desarrollo que ya está ocurriendo: La inteligencia artificial está ayudando a los humanos a construir IA.
OpenAI describió recientemente cómo los agentes de programación están cambiando el trabajo de sus propios investigadores al ayudarlos a escribir más código y realizar más experimentos. Anthropic declaró públicamente que considera plausible que, ya en 2027, la IA pueda automatizar por completo o acelerar drásticamente el trabajo de grandes equipos de investigadores de primer nivel en campos estratégicamente importantes, incluida la propia investigación en IA.
Lee eso otra vez. Ya en 2027.
Los humanos desarrollan IA. La inteligencia artificial ayuda a los humanos a desarrollar una IA mejor. Esa IA mejor es cada vez más capaz de ayudar a desarrollar la siguiente generación.
Y así sucesivamente.
Sigo volviendo a la pregunta de qué sucede con la velocidad de ese ciclo. ¿El progreso continúa más o menos así: 1, 2, 3, 4, 5? ¿O, en algún momento, empieza a parecerse más a esto: 1, 2, 4, 16, 256?
No lo sabemos.
Mientras tanto, las empresas que desarrollan estos sistemas se están preparando para riesgos que habrían sonado absurdos no hace mucho tiempo. La Política de Escalamiento Responsable de Anthropic aborda los riesgos catastróficos que plantean los modelos cada vez más potentes, incluida la posibilidad de que la IA pueda acelerar drásticamente la investigación y el desarrollo de la IA.
El Marco de Gobernanza de Fronteras de OpenAI incluye la "pérdida de control" entre los riesgos graves que, según dice, deben evaluarse y mitigarse.
Las empresas que desarrollan IA tienen planes sobre qué hacer si los humanos comienzan a perder el control de la IA.
Me cuesta mucho asimilar esa frase.
Hay muchas razones para no entrar en pánico. Los sistemas actuales siguen cometiendo errores ridículos. Los agentes autónomos se confunden y se desvían de sus objetivos. La inteligencia no brinda automáticamente acceso a fábricas, redes eléctricas, armas o laboratorios. Las computadoras necesitan chips. Los centros de datos requieren enormes cantidades de electricidad. Los humanos aún controlan gran parte de la infraestructura física de la que dependen estos sistemas.
También es totalmente posible que la IA que mejora a la IA termine enfrentándose a rendimientos decrecientes. Quizás cada generación mejore solo marginalmente en la creación de la siguiente, en lugar de desencadenar una explosión descontrolada de inteligencia.
Sin duda, eso espero.
Pero no entiendo por qué la esperanza es suficiente cuando el lado negativo incluye la posibilidad de millones de muertes o incluso la extinción humana.
Imagina que unos ingenieros diseñaran un nuevo avión comercial y te dijeran que hay un 95 por ciento de probabilidades de que brinde beneficios inimaginables, pero un 5 por ciento de probabilidades de que se estrelle y mate a todos a bordo.
Nadie se subiría a ese avión.
Con la inteligencia artificial, en realidad no hay un avión para que cada uno de nosotros decida si subirse o no. La tecnología se está integrando en nuestras empresas, gobiernos, fuerzas armadas, comunicaciones e infraestructura, independientemente de si la mayoría de nosotros la entiende o no.
Y hay una razón obvia por la que nadie quiere frenar.
A Estados Unidos le preocupa que China no reduzca el ritmo. OpenAI no puede dar por sentado que Anthropic lo hará. Anthropic no puede dar por sentado que Google lo hará. Los inversionistas tienen miles de millones de dólares en juego y los gobiernos ven cada vez más el liderazgo en inteligencia artificial como una cuestión de poder económico y militar.
Todos pueden mirar a la persona que tienen al lado y decir: "No puedo detenerme porque él no lo hará".
Quizás todos tengan razón.
Eso no significa que el resultado sea seguro.
Por eso sigo volviendo a "Terminator", no porque crea que Arnold Schwarzenegger vaya a salir caminando de un centro de datos con los ojos rojos brillantes. De hecho, ChatGPT calculó que la probabilidad de una guerra robótica al estilo literal de "Terminator" es muy inferior al 1 por ciento.
La película acertó en otra cosa.
Los seres humanos crearon una inteligencia que no comprendían del todo. La conectaron cada vez más con el mundo. Luego descubrieron que crear inteligencia y controlarla no eran el mismo logro.
Quizás los empleados que dan la voz de alarma sean demasiado pesimistas. Quizás las estimaciones de ChatGPT sean demasiado altas. Quizás la IA le brinde a la humanidad descubrimientos médicos extraordinarios, abundancia, avances científicos y soluciones a problemas que no hemos podido resolver por nuestra cuenta. Espero que así sea.
Pero no puedo conciliar las posibles consecuencias con la velocidad a la que avanzamos.
Las personas que ayudan a desarrollar esta tecnología nos están advirtiendo. Las empresas que la desarrollan crearon políticas formales para riesgos catastróficos y la pérdida de control. La inteligencia artificial ya se está utilizando para acelerar el desarrollo de una IA mejor.
Y nuestra respuesta es correr aún más rápido.
¿Por qué?
Todos hemos visto esta película.
Esta vez, no estamos sentados entre el público.
Estamos construyendo la máquina.
Las opiniones expresadas en este artículo son del autor y no reflejan necesariamente los puntos de vista de La Gran Época.
