Geoffrey Hinton, el pionero informático conocido como el "padrino de la IA", volvió a dar una voz de alarma, sobre que la misma tecnología que él ayudó a crear podría significar el fin de la humanidad tal como la conocemos.
En un clip de entrevista publicado el 18 de agosto como parte de la próxima película "Making God", Hinton lanzó una de sus advertencias más severas hasta la fecha.
Dijo que la humanidad corre el riesgo de quedar marginada y, finalmente, sustituida por máquinas mucho más inteligentes que nosotros.
"La mayoría de la gente no es capaz de comprender la idea de que existan cosas más inteligentes que nosotros", dijo Hinton, ganador del Premio Nobel de Física y antiguo ejecutivo de Google, en el vídeo.
"Siempre piensan: 'Bueno, ¿cómo vamos a usar esto?' No piensan: 'Bueno, ¿cómo nos va a usar a nosotros?'".
Hinton dijo que está "bastante seguro" de que la inteligencia artificial causará un desempleo masivo, y señaló los primeros ejemplos de gigantes tecnológicos como Microsoft, que están sustituyendo a los programadores junior por IA. Pero el peligro mayor, dijo, va mucho más allá del lugar de trabajo.
"El riesgo sobre el que más he advertido (...) es el riesgo de que desarrollemos una IA mucho más inteligente que nosotros y que simplemente tome el control", dijo Hinton.
"Ya no nos necesitará".
El único aspecto positivo, bromeó, es que "no nos comerá, porque estará hecha de silicio".
De los avances a los arrepentimientos
Hinton, de 77 años, ha dedicado décadas a ser pionero en el aprendizaje profundo, la arquitectura de redes neuronales que sustenta los sistemas de inteligencia artificial actuales. Sus avances en la década de 1980, en particular la invención de la máquina de Boltzmann, que podía aprender a reconocer patrones en los datos, ayudaron a abrir la puerta al reconocimiento de imágenes y al aprendizaje automático moderno.Este trabajo le valió el Premio Nobel de Física de 2024, otorgado "por sus descubrimientos e inventos fundamentales que permiten el aprendizaje automático con redes neuronales artificiales".
La Real Academia Sueca de Ciencias señaló que el uso temprano de la física estadística por parte de Hinton supuso un salto conceptual que hizo posible la revolución actual de la IA.
Sin embargo, Hinton se ha convertido desde entonces en uno de los críticos más feroces de este campo, advirtiendo que su rápido desarrollo ha superado la capacidad de la sociedad para garantizar su seguridad. En 2023, dimitió renunció de su cargo en Google para poder hablar libremente sobre los riesgos sin involucrar a la empresa.
En su discurso de aceptación del premio Nobel, Hinton reconoció los beneficios potenciales de la IA, como el incremento de la productividad y los nuevos tratamientos médicos que podrían suponer un "avance maravilloso para toda la humanidad". Sin embargo, también advirtió que la creación de seres digitales más inteligentes que los humanos supone una "amenaza existencial'.
"Ojalá hubiera pensado también en las cuestiones de seguridad", dijo durante la reciente conferencia Ai4 en Las Vegas, reflexionando sobre su carrera. Añadió que ahora lamenta haberse centrado únicamente en hacer que la IA funcionara, en lugar de anticipar sus riesgos.
Enseñar a la IA a proteger
Hinton ha estimado anteriormente que existe entre un 10 y un 20 por ciento de posibilidades de que la IA acabe con la humanidad. En un episodio de junio del podcast The Diary of a CEO, dijo que los ingenieros que están detrás de los sistemas de IA actuales no comprenden completamente la tecnología y se dividen, en términos generales, en dos bandos: los que creen en un futuro distópico en el que los humanos serán sustituidos y los que descartan esos temores por considerarlos ciencia ficción."Creo que ambas posturas son extremas", dijo Hinton.
"A menudo digo que hay entre un 10 por ciento y un 20 por ciento de posibilidades de que [la IA] nos extermine. Pero es solo una corazonada, basada en la idea de que seguimos creándola y somos bastante ingeniosos. Y la esperanza es que, si hay suficientes personas inteligentes que investiguen lo suficiente con los recursos necesarios, encontraremos la manera de crearla para que nunca quiera hacernos daño".
En la conferencia de Las Vegas de la semana pasada, Hinton ofreció una idea novedosa para mitigar el peligro: en lugar de intentar someter a los sistemas de IA, los investigadores deberían diseñarlos con "instintos maternales" para que quisieran proteger a los humanos incluso a medida que se vuelven más inteligentes.
"El modelo correcto es el único modelo que tenemos de algo más inteligente controlado por algo menos inteligente, que es una madre controlada por su bebé", dijo Hinton en la conferencia.
"Van a ser mucho más inteligentes que nosotros", advirtió Hinton, añadiendo que "el único resultado positivo" es que se preocupen por la humanidad como una madre se preocupa por su hijo.
"Si no va a ser mi padre, me va a sustituir".
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo clic aquí
