La empresa de inteligencia artificial de Elon Musk, xIA, demandó a un hombre de Carolina del Sur que fue arrestado a principios de este año por cargos de explotación sexual infantil.
La empresa alega que el hombre hizo un uso indebido de su sistema de IA Grok, que está integrado en la plataforma X, para crear material de abuso sexual infantil (CSAM, por sus siglas en inglés).
En la demanda, presentada ante una corte federal de Texas el 14 de julio, xIA alegó que Terry Wayne Harwood violó los términos de servicio de la compañía. Harwood fue arrestado el 26 de febrero de este año.
Fue acusado de tres cargos de explotación sexual de un menor en segundo grado y cinco cargos de explotación sexual de un menor en tercer grado, ambos delitos graves punibles con hasta 10 años de prisión por cada cargo.
Los investigadores afirmaron que Harwood poseía y distribuía archivos con material de abuso sexual infantil.
La información de contacto de Harwood no estaba disponible de inmediato.
xIA alegó que Harwood subió imágenes no sexuales de adultos y menores a Grok e intentó utilizar el sistema para generar "deepfakes" sexualmente explícitos basados en ellas.
La denuncia también alegaba que había creado imágenes sexuales no consentidas de adultos.
En esta ilustración fotográfica se muestra la pantalla de un teléfono con la aplicación Grok AI. (Oleksii Pydsosonnii/The Epoch Times)La empresa solicitó a la corte una indemnización económica de cuantía indeterminada y una orden judicial que impidiera de forma permanente a Harwood utilizar Grok.
"Las acciones del demandado fueron un plan calculado para instrumentalizar la herramienta del demandante con fines delictivos, exponiendo a víctimas reales a un daño profundo y duradero, al tiempo que exponían al demandante a un riesgo legal significativo y a un daño a su reputación", afirmó xIA en la demanda.
"Su conducta fue consciente, intencional y calculada. Las autoridades policiales de Carolina del Sur lo arrestaron en relación con la creación de material de abuso sexual infantil".
La denuncia de xIA afirma que la empresa "hace cumplir sus normas contra los infractores mediante la suspensión y cancelación de cuentas, y denunciando el material sospechoso de abuso sexual infantil al Centro Nacional para Niños Desaparecidos y Explotados".
La demanda alega que la empresa suspendió 52,222 cuentas y realizó 7,604 denuncias ante el Centro Nacional para Niños Desaparecidos y Explotados en 2026, lo que resultó en al menos 244 arrestos.
En enero, xIA anunció que había bloqueado a todos los usuarios la posibilidad de editar imágenes de "personas reales con ropa reveladora" y de generar imágenes de personas con ropa reveladora en "jurisdicciones donde sea ilegal".
Musk dijo en una publicación del 14 de enero en X que no tenía conocimiento de "ninguna imagen de menores desnudos generada por Grok".
"Literalmente cero. Obviamente, Grok no genera imágenes de forma espontánea, sino solo a petición del usuario", dijo Musk.
Cuando se le pida que genere imágenes, se negará a producir cualquier contenido ilegal, ya que el principio operativo de Grok es respetar las leyes de cada país o estado. Puede haber ocasiones en que un ataque informático malintencionado a las indicaciones de Grok produzca resultados inesperados. Si esto ocurre, corregimos el error de inmediato.
El periódico The Epoch Times se puso en contacto con xAI para obtener comentarios, pero no recibió respuesta antes de la publicación.
Con información de Reuters y Kimberly Hayek.
