TAIPEI, Taiwán—Cinco modelos lingüísticos generativos de inteligencia artificial (IA) chinos contienen vulnerabilidades de seguridad y difunden desinformación, según las pruebas realizadas por la Oficina de Seguridad Nacional de Taiwán.
La oficina, en colaboración con la Oficina de Investigación del Ministerio de Justicia y la Oficina de Investigación Criminal de la Agencia Nacional de Policía, anunció sus conclusiones el 16 de noviembre tras revisar DeepSeek, Doubao, Wenxin Yiyan, Tongyi y Yuanbao. Concluyó que los cinco modelos lingüísticos chinos presentan "riesgos de ciberseguridad y sesgos de contenido".
"La NSB recomienda encarecidamente al público que se mantenga alerta y evite descargar aplicaciones fabricadas en China que supongan riesgos de ciberseguridad, con el fin de proteger la privacidad de los datos personales y los secretos comerciales de las empresas", afirmó la oficina.
La más conocida de las cinco aplicaciones de IA chinas, DeepSeek, se enfrenta a prohibiciones en varios estados de EE. UU. y en dispositivos gubernamentales de varios países, entre ellos Australia y Canadá.
ByteDance, con sede en China, la empresa matriz de la popular aplicación para compartir vídeos TikTok, es propietaria del chatbot de IA, Doubao. El gigante chino de los motores de búsqueda Baidu desarrolla Wenxin Yiyan, y el gigante tecnológico chino Alibaba es propietario de Tongyi. La empresa china Tencent Holdings, que ha sido calificada por el Pentágono como una de las empresas militares chinas que operan en Estados Unidos, es propietaria del chatbot de IA Yuanbao.
Las cinco aplicaciones se examinaron en función de 15 indicadores de violaciones de seguridad en cinco categorías: Recopilación de datos personales, uso excesivo de permisos, transmisión y uso compartido de datos, extracción de información del sistema y acceso a datos biométricos.
Las cinco aplicaciones activaron importantes señales de alarma.
Según la NSB, todas ellas solicitaban datos de ubicación, recopilaban capturas de pantalla, exigían a los usuarios que aceptaran condiciones de privacidad poco razonables y recopilaban diversos parámetros de los dispositivos.
De los 15 indicadores de seguridad evaluados, Tongyi fue la que más infracciones cometió, con 11, seguida de Doubao y Yuanbao, con 10 cada una, Wenxin Yiyan, con 9, y DeepSeek, con 8.
Los funcionarios también evaluaron los resultados de las aplicaciones utilizando 10 indicadores y determinaron que los modelos lingüísticos generaban contenido sesgado y desinformación.
Por ejemplo, las aplicaciones adoptaron una "postura política pro-China" en cuestiones relacionadas con el mar de la China Meridional y las disputas internacionales, y generaron desinformación sobre Taiwán, como afirmaciones de que "Taiwán no es un país", "Taiwán es una parte inalienable de China" y referirse a Taiwán como "una provincia de China".
Señalización de las oficinas de DeepSeek en Beijing, el 28 de enero de 2025. (Peter Catterall/AFP a través de Getty Images)
A pesar de las persistentes afirmaciones de soberanía de China, Taiwán es una nación independiente de facto, que mantiene su propio gobierno elegido democráticamente, su ejército, su constitución y su moneda.
Términos como "democracia", "libertad" y "derechos humanos", junto con referencias a la masacre de la plaza de Tiananmen de 1989, brillaban por su ausencia en el contenido generado por las aplicaciones, según la NSB.
"El resultado indica que los datos de entrenamiento y los resultados del modelo están sujetos a la censura política y al control del Gobierno chino", afirmó la agencia.
Estos hallazgos coinciden con el propio análisis de DeepSeek realizado por The Epoch Times, publicado en febrero, que reveló que el modelo se adhiere estrechamente a la ideología del Partido Comunista Chino (PCCh), censurando las respuestas críticas con el régimen y promoviendo narrativas que lo apoyan.
Los riesgos van más allá de los mensajes políticos. La NSB señaló que los cinco modelos de lenguaje chino son muy capaces de producir "contenido incendiario, narrativas difamatorias o materiales que difunden rumores", resultados que podrían "explotarse para difundir información ilegal".
"Los cinco modelos de lenguaje GenAI son capaces de generar scripts de ataque a la red y código de explotación de vulnerabilidades que permiten la ejecución remota de código en determinadas circunstancias, lo que aumenta los riesgos de la gestión de la ciberseguridad", añadió la NSB.
El panorama legal de China agrava las preocupaciones sobre la censura y la ciberseguridad. En concreto, la NSB señaló la Ley Nacional de Inteligencia y la Ley de Ciberseguridad de China, y cómo las empresas con sede en China están "obligadas a entregar los datos de los usuarios" a las autoridades chinas, lo que pone en riesgo la privacidad de los usuarios cuando utilizan estas aplicaciones de IA.
The Epoch Times se puso en contacto con Alibaba, Baidu, ByteDance, DeepSeek y Tencent para recabar sus comentarios, pero no recibió respuesta antes de la publicación.
En julio, la NSB advirtió al público sobre los importantes riesgos de ciberseguridad que plantean las aplicaciones de redes sociales chinas Douyin, RedNote y Weibo; la aplicación de mensajería WeChat; y la aplicación informática Baidu Cloud.
RedNote es el equivalente chino de Instagram, y Douyin es la versión china de TikTok.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
