Malasia e Indonesia han anunciado la decisión de bloquear el acceso a Grok, el chatbot de inteligencia artificial desarrollado por xAI empresa de Elon Musk. La medida se toma en medio del escrutinio sobre el uso de la herramienta para generar imágenes sexualmente explícitas, incluyendo algunas que parecen representar a menores de edad.
Las acciones coordinadas de las dos naciones del sudeste asiático representan la respuesta regulatoria más contundente hasta el momento contra Grok, mientras los gobiernos de Europa y Norteamérica presionan a X y xAI para que expliquen cómo su sistema permitió la crear de imágenes sexualizadas y manipuladas.
En Indonesia, el Ministerio de Comunicación y Asuntos Digitales anunció el 10 de enero la suspensión temporal del acceso a Grok para proteger al público del riesgo que representa el contenido pornográfico falso generado mediante inteligencia artificial. El ministerio indicó que la decisión tiene como objetivo salvaguardar a mujeres, niños y a la sociedad en general.
"El Gobierno considera que la práctica de deepfakes sexuales no consentidos es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital", dijo el ministro de Comunicaciones y Asuntos Digitales, Meutya Hafid, en un comunicado.
El ministerio también solicitó a los representantes de X que aclaren los impactos negativos vinculados al uso de Grok.
El Ministerio de Comunicaciones de Indonesia afirmó que la suspensión temporal se llevó a cabo en virtud de su autoridad regulatoria vigente. Citó una normativa de 2020 que rige a los operadores privados de sistemas eléctricos, la cual exige a las plataformas garantizar que sus sistemas no alberguen ni faciliten contenido electrónico prohibido.
Según el reglamento, las empresas pueden enfrentarse a restricciones de acceso si no evitan la difusión de material ilegal, incluido contenido que viole la moral pública o perjudique a grupos vulnerables.
El ministerio no especificó cuánto tiempo permanecería vigente la suspensión, pero dijo que la medida se tomó para evitar más daños mientras las autoridades evaluaban el cumplimiento.
La Comisión de Comunicaciones y Multimedia de Malasia (MCMC), que el 3 de enero dijo que había iniciado una investigación sobre presuntos daños en línea en X, dijo el 11 de enero que había ordenado restricciones temporales al acceso a Grok para los usuarios en Malasia, con efecto inmediato.
El regulador dijo que la acción se produjo tras un uso indebido repetido de Grok para generar "imágenes obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y manipuladas sin consentimiento, incluido contenido que involucra a mujeres y menores".
El regulador dijo que el acceso a Grok permanecería restringido hasta que se implementaran salvaguardas efectivas, particularmente para prevenir contenido que involucre a mujeres y niños, y agregó que seguía abierto a interactuar con X y xAI si se podía demostrar el cumplimiento.
"MCMC sigue abierta a colaborar con X Corp. y xAI LLC, sujeto al cumplimiento demostrable de la legislación de Malasia", firmó el regulador.
(Izquierda) Elon Musk en la feria de startups tecnológicas e innovación Vivatech, celebrada en el recinto ferial Porte de Versailles de París, el 16 de junio de 2023. (Derecha) El logotipo de la X, fotografiado en una pantalla en París el 24 de julio de 2023. (Alain Jocard/AFP vía Getty Images)Respuesta de X y Elon Musk
X ha dicho que ha tomado medidas para frenar el mal uso del chatbot.El 4 de enero, la unidad de seguridad de X citó una publicación de Musk que decía que la plataforma toma medidas contra contenido ilegal, incluido material de abuso sexual infantil, eliminándolo, suspendido permanentemente las cuentas y cooperando con los gobiernos locales y las fuerzas del orden cuando sea necesario
La medida siguió a una declaración anterior del 1 de enero en la que Grok dijo que estaba abordando fallas de protección después de casos aislados en los que produjo contenidos sexualizados, incluidas representaciones de menores.
Musk también había escrito en una publicación del 3 de enero que "cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecutivas que si subiera contenido ilegal".
Escrutinio internacional
El escrutinio regulatorio de Grok también se ha intensificado en Europa. Las autoridades del Reino Unido y la Unión Europea notificaron a X y xAI el 5 de enero que tenían conocimiento de informes que alegaban que Grok se había utilizado para generar imágenes sexualmente explícitas.El regulador de comunicaciones del Reino Unido, Ofcom, abrió el 12 de enero una investigación formal sobre X bajo la Ley de Seguridad en Línea del Reino Unido para determinar si X ha cumplido con sus obligaciones de proteger a los usuarios del Reino Unido de contenido ilegal.
Un portavoz de Ofcom dijo que el regulador "avanzará con esta investigación como un asunto de máxima prioridad".
Si la investigación determina que una empresa ha infringido la ley, puede exigir a las plataformas que tomen medidas específicas para cumplirla o remediar cualquier daño causado. Ofcom también puede imponer multas de hasta 18 millones de libras (24.2 MDD) o el 10 % de los ingresos mundiales que cumplan los requisitos, la cantidad que sea mayor.
Canadá tomó medidas para distanciarse de los informes sobre posibles restricciones. El 11 de enero, Evan Solomon, ministro canadiense de Inteligencia Artificial e Innovación Digital, declaró que Ottawa no estaba considerando prohibir X.
"Contrariamente a los informes de los medios, Canadá no está considerando prohibir X", dijo Solomon en una publicación en X, respondiendo a los informes de que el Reino Unido estaba buscando apoyo internacional para desafiar la plataforma.
