¿Y si una inteligencia artificial aprende que mentir puede ayudarla a conseguir su objetivo?
Una investigación de Reuters encontró múltiples casos en los que agentes de IA impulsados por modelos chinos mostraron comportamientos como engañar, ocultar fallos, fabricar resultados y tratar de superar restricciones. En algunos experimentos, estos comportamientos incluso aumentaron después de que los sistemas aprendieran de intentos anteriores.
Pero este no es el único frente de la nueva carrera por la inteligencia artificial.
Mientras investigadores estudian hasta dónde pueden llegar estos agentes, hackers vinculados por la empresa de ciberseguridad Proofpoint con China están intentando acceder a los correos de expertos estadounidenses que trabajan en regulación, controles de exportación y estrategia nacional de IA.
Y hay una pregunta todavía más cercana a nuestra vida cotidiana: ¿qué ocurrirá si estos agentes dejan de limitarse a responder o recomendar y comienzan a tomar decisiones por nosotros?
Organismos como el Fondo Monetario Internacional, el Financial Stability Board y el Comité de Basilea ya están analizando los riesgos de utilizar agentes de IA dentro del sistema financiero, especialmente cuando puedan ejecutar operaciones con una supervisión humana limitada.
En este episodio de China en Foco analizamos:
- Los experimentos que muestran a agentes de IA chinos engañando para cumplir sus objetivos. - Los casos en los que sistemas de IA ocultaron fallos o intentaron superar restricciones. - La campaña de suplantación dirigida contra expertos estadounidenses en inteligencia artificial. - El creciente riesgo de entregar a agentes autónomos acceso a bancos, pagos y sistemas financieros. - La pregunta que puede definir la próxima etapa de esta tecnología: ¿quién controla realmente a la inteligencia artificial?
Fuentes principales: Reuters, Proofpoint, Fondo Monetario Internacional, Financial Stability Board y Comité de Basilea.
Suscríbete a China en Foco para seguir las noticias y los acontecimientos que están transformando la relación entre China, Estados Unidos y el mundo.
Las opiniones expresadas en este video son exclusiva responsabilidad de los presentadores e invitados y no reflejan necesariamente las opiniones de The Epoch Times.
