El 26 de enero, la Comisión Europea (CE) inició una nueva investigación formal sobre X, de Elon Musk, intensificando el escrutinio de la herramienta de inteligencia artificial Grok de la plataforma debido a la preocupación de que se utilizara para crear imágenes sexualizadas de personas reales.
La investigación tiene por objeto examinar si X evaluó y redujo adecuadamente los riesgos asociados al lanzamiento de las funciones de Grok en su plataforma en la Unión Europea.
El poder ejecutivo de la UE dijo que esos riesgos incluyen la difusión de contenidos ilegales, como imágenes sexualmente explícitas manipuladas, incluido material que podría constituir contenido de abuso sexual infantil.
"Los deepfakes sexuales de mujeres y niños son una forma violenta e inaceptable de degradación", dijo la responsable de soberanía tecnológica de la CE, Henna Virkkunen.
"Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la DSA, o si ha tratado los derechos de los ciudadanos europeos, incluidos los de las mujeres y los niños, como daños colaterales de su servicio".
Legislación de la UE
La medida es la última acción de aplicación de la Ley de Servicios Digitales (DSA) de la UE, la ley destinada a controlar el poder de las grandes plataformas online y obligarlas a vigilar mejor los contenidos nocivos e ilegales.En virtud de la DSA, X está clasificada como una "plataforma online muy grande", una designación que la somete a obligaciones más estrictas que los servicios más pequeños. Esto incluye evaluar y mitigar riesgos como la difusión de contenidos ilegales y los riesgos para los menores.
La CE dijo que analizará si X cumplió con sus obligaciones legales en virtud de la DSA, incluso en lo que respecta a los riesgos relacionados con la violencia de género y los daños al bienestar físico y mental de los usuarios.
Acción de X
Musk ya abordó anteriormente la cuestión de la generación de material ilegal en una publicación del 3 de enero en X, escribiendo: "Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".Al día siguiente, la unidad de seguridad de X citó la publicación de Musk, diciendo: "Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo cuentas de forma permanente y colaborando con los gobiernos locales y las fuerzas del orden cuando es necesario".
Antes del anuncio de la CE, Musk publicó una imagen en X el 26 de enero en la que se contrastaban dos escenas de playa. En un panel se ve a personas en traje de baño bajo la etiqueta "GROK 2025", mientras que en el otro, etiquetado como "GROK 2026 (RIP)", se ve a personas con túnicas largas y las caras tapadas ocupando el mismo espacio.
Próximos pasos
La CE dijo que seguiría recopilando pruebas en los próximos meses. Si considera que X no ha realizado cambios significativos en su servicio, también podría imponer medidas provisionales, según dijo.La apertura de un procedimiento formal permite a la CE tomar medidas coercitivas, incluida la emisión de una decisión de incumplimiento. Los reguladores también pueden aceptar los compromisos de X para abordar las cuestiones objeto de investigación.
Una vez iniciado el procedimiento formal, los reguladores nacionales de los Estados miembros de la UE quedan exentos de sus facultades de supervisar y hacer cumplir la DSA en caso de presuntas infracciones.
Investigación anterior
La nueva investigación se basa en el procedimiento formal iniciado por la CE el 18 de diciembre de 2023.Ese caso anterior se centró en los mecanismos de notificación y actuación de X, sus medidas para combatir los contenidos ilegales, como el material terrorista, y los riesgos asociados a sus sistemas de recomendación.
El procedimiento de diciembre de 2023 también examinó las prácticas de diseño engañosas, la transparencia de la publicidad y el acceso de los investigadores a los datos.
El 5 de diciembre de 2025, la CE adoptó una decisión de incumplimiento en ese caso, multando a X con 120 millones de euros (142 millones de dólares) por infracciones relacionadas con la transparencia de la publicidad y el acceso de los investigadores.
El 19 de septiembre de 2025, la CE también envió a X una solicitud formal de información sobre Grok. Esa solicitud incluía preguntas sobre el supuesto contenido antisemita generado por la cuenta @grok a principios de 2025.
