Tres personas de Tennessee, entre ellas dos menores, demandaron a xAI, la empresa de Elon Musk, el 16 de marzo, alegando que diseñó a sabiendas su generador de imágenes Grok para permitir a los usuarios crear contenido sexualmente explícito utilizando fotos reales de otras personas.
Grok, el chatbot de IA desarrollado por xAI, permite a los usuarios de X generar texto e imágenes o editar imágenes existentes etiquetando la cuenta de Grok en una publicación en X o abriendo una ventana de chat a través de un icono específico.
La demanda, presentada ante la corte federal de San José (California), solicita la condición de demanda colectiva para las personas en Estados Unidos que fueran "razonablemente identificables" en imágenes o vídeos sexualizados supuestamente generados por Grok a partir de imágenes reales de sí mismas.
La demanda alega que xAI no instaló medidas de seguridad para evitar que sus sistemas generaran contenido sexual en el que participaran menores. Los tres demandantes eran menores de edad en el momento en que supuestamente se generaron las imágenes.
Historias relacionadas
Los demandantes alegan que sus imágenes reales fueron alteradas digitalmente para convertirlas en contenido explícito y, a continuación, compartidas en línea a través de plataformas, lo que les causó angustia emocional y supuso una molestia pública.
Solicitan una indemnización por daños y perjuicios, sin especificar el pago de las costas judiciales y una orden judicial que obligue a xAI a poner fin a las supuestas prácticas.
"xAI... vio una oportunidad de negocio: una oportunidad de lucrarse con la depredación sexual de personas reales, incluidos niños", afirma la demanda.
xAI, con sede en el área de la bahía de San Francisco, desarrolló Grok como una herramienta de IA generativa comercializada como un modelo de IA de libre expresión y una herramienta creativa.
The Epoch Times se puso en contacto con xAI para recabar comentarios, pero no recibió respuesta antes de la hora de publicación.
La cuenta de Seguridad de la empresa en X dijo en enero que colabora con los gobiernos para eliminar dicho contenido.
"Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo cuentas de forma permanente y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario", escribió la cuenta de Seguridad de X en una publicación del 4 de enero en X. "Cualquier persona que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".
Historias relacionadas
Más adelante, en enero, la cuenta de Seguridad anunció que iba a imponer limitaciones a las capacidades de edición de imágenes de Grok para evitar que la cuenta de Grok editara imágenes de personas reales para hacerlas aparecer con ropa reveladora, como bikinis.
La unidad de Seguridad indicó que la creación y edición de imágenes a través de la cuenta de Grok ahora solo está disponible para suscriptores de pago. La unidad señaló que esto tenía como objetivo añadir una "capa adicional de protección, al ayudar a garantizar que las personas que intenten abusar de la cuenta de Grok para infringir la ley o nuestras políticas puedan rendir cuentas".
"Ahora bloqueamos geográficamente la capacidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde sea ilegal", decía el comunicado.
Musk dijo en una publicación del 14 de enero en X que no tenía conocimiento de "ninguna imagen de menores desnudos generada por Grok".
"Literalmente cero. Obviamente, Grok no genera imágenes de forma espontánea, solo lo hace según las solicitudes de los usuarios", dijo Musk.
"Cuando se le pide que genere imágenes, se niega a producir nada ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado. Puede haber ocasiones en las que el hackeo adversario de las indicaciones de Grok provoque algo inesperado. Si eso ocurre, corregimos el error inmediatamente".
Con información de Victoria Friedman y Reuters.
