El director ejecutivo de Anthropic, Dario Amodei, advirtió que la inteligencia artificial podría "suponer un riesgo para la humanidad en su conjunto" durante una sesión informativa ante el Consejo de Seguridad de las Naciones Unidas el 23 de septiembre.
Amodei fue uno de los principales ejecutivos de IA que intervino en la reunión, organizada por Francia durante la asamblea general anual de la ONU que reúne a líderes mundiales, y que también incluyó declaraciones del director ejecutivo de OpenAI, Sam Altman, y del director ejecutivo y cofundador de Hugging Face, Clément Delangue.
Amodei pidió al consejo de 15 miembros a impulsar los acuerdos de la ONU que prohíban el uso de la IA para crear armas biológicas, y alentó al consejo a construir sistemas de evaluación y verificación que permitan a las naciones rendir cuentas entre sí, establecer estándares globales para probar los modelos de IA en busca de riesgos de pérdida de control y de uso indebido, y agregar un sistema de notificación de incidentes de IA relevantes para la seguridad mundial.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
"Reduciremos el ritmo todo lo necesario para garantizar que cada nueva tecnología de IA que lancemos sea realmente segura", dijo Amodei en su intervención por vídeo. "Pero, independientemente de lo que hagamos, gestionar estos riesgos es, en última instancia, una tarea que trasciende a cualquier empresa individual y que tiene repercusiones a nivel de toda la industria y a nivel global".
Amodei sugirió que existe la posibilidad de que la IA se convierta en un "país de genios dentro de un centro de datos" en menos de dos años.
Por su parte, Altman advirtió en su intervención que los humanos "podríamos perder el control del futuro a manos de la IA".
"El riesgo es que avance tan rápido que la gente ya no pueda seguir el ritmo ni intervenir cuando sea necesario", dijo Altman. "Esto sería terrible, obviamente. La industria no debe aceptar demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes y parezca demasiado importante como para frenarlos".
Altman enfatizó que ninguna persona, empresa o país debería poder utilizar los modelos de IA más potentes para imponer su visión del mundo a los demás.
Los llamamientos para frenar el avance de la IA se han intensificado después de que Jacob Coxon, un antiguo investigador de OpenAI que dimitió de Anthropic, dijera el 8 de septiembre que quienes desarrollan IA creen que podría matarnos a todos "antes de que termine la década".
Sam Altman, director ejecutivo de OpenAI, escucha durante una reunión del Consejo de Seguridad sobre inteligencia artificial en el 81.º período de sesiones de la Asamblea General de las Naciones Unidas en la sede de las Naciones Unidas en la ciudad de Nueva York, el 23 de septiembre de 2026. (Foto AP/Yuki Iwamura).OpenAI reconoció un incidente relacionado con agentes de IA maliciosos que lograron vulnerar la comunidad de IA de código abierto Hugging Face.
Delangue, cofundador de Hugging Face, dijo al consejo el miércoles que, en su opinión, las narrativas basadas en el miedo no son la forma adecuada de tomar decisiones correctas sobre el futuro de esta tecnología.
Dario Amodei, director ejecutivo de Anthropic, interviene de forma remota durante una reunión del Consejo de Seguridad sobre inteligencia artificial en el marco del 81.º período de sesiones de la Asamblea General de las Naciones Unidas, en la sede de las Naciones Unidas, el 23 de septiembre de 2026. (Foto AP/Yuki Iwamura)."Fuimos atacados con IA, pero lo más importante es que nos defendimos con la IA", dijo Delangu.
"Los mismos sistemas que nos ayudaron durante este ataque ahora nos están protegiendo de ciberataques que ya enfrentábamos. También nos están ayudando a corregir los errores y las vulnerabilidades de nuestros sistemas antes de que se produzca el ataque".
La reunión tuvo lugar un día después de que el presidente estadounidense Donald Trump dijera ante la Asamblea General de la ONU que Estados Unidos "rechaza totalmente cualquier intento de construir un plan globalista para controlar" la inteligencia artificial, a la que intentó rebautizar como "superinteligencia".
El presidente Donald Trump pronuncia un discurso durante la 81.ª sesión de la Asamblea General de las Naciones Unidas en la sede de la ONU en la ciudad de Nueva York, el 22 de septiembre de 2026. (Chip Somodevilla/Getty Images).Trump explicó que quería cambiar el nombre porque "artificial" hacía que la tecnología sonara falsa.
Según un correo electrónico enviado el 22 de septiembre por Michael Drager, subsecretario adjunto de Estado para la Oficina de Asuntos de Organizaciones Internacionales, el Departamento de Estado de Estados Unidos ordenó a sus diplomáticos que utilizaran el término "superinteligencia" en todas las comunicaciones posteriores al discurso de Trump en la ONU.
El presidente ha respaldado la tecnología y ha instado a su expansión, insistiendo en que Estados Unidos necesita superar a China en la carrera de la inteligencia artificial.
"Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así, porque quien gane en el campo de la IA, gana", dijo Trump mientras hablaba con los periodistas en su campo de golf en Irlanda el 13 de septiembre.
