La madre de uno de los hijos de Elon Musk ha demandado a su empresa de inteligencia artificial, alegando que su chatbot Grok permitía a los usuarios generar imágenes falsas de ella con fines de explotación sexual, lo que le ha causado humillación y angustia emocional.
Ashley St. Clair, de 27 años, quien se describe como escritora y estratega política, alega en una demanda presentada el jueves en la Ciudad de Nueva York contra xAI que las imágenes incluyen una foto de ella completamente vestida a los 14 años, alterada para mostrarla en bikini, y otras que la muestran de adulta en posturas sexualizadas y con un bikini con esvásticas. St. Clair es judía. Grok se encuentra en la plataforma de redes sociales de Musk, X.
Los abogados de xAI no respondieron de inmediato a los correos electrónicos que solicitaban comentarios el viernes. El miércoles, tras la reacción global por las imágenes sexualizadas de mujeres y niños, X anunció que Grok ya no podrá editar fotos para retratar a personas reales con ropa provocativa, en lugares donde esto es ilegal.
Cuando se le preguntó sobre la demanda y sus acusaciones, xAI solo respondió "Legacy Media Lies" en un correo electrónico a The Associated Press.
St. Clair afirmó haber reportado las deepfakes a X luego de que comenzaran a aparecer el año pasado y haber solicitado su eliminación. Añadió que la plataforma primero respondió que las imágenes no infringían sus políticas. Luego, prometió no permitir que se usaran ni alteraran imágenes suyas sin su consentimiento.
St. Clair dijo que la plataforma social tomó represalias contra ella eliminando su suscripción premium X y la marca de verificación, no permitiéndole ganar dinero con su cuenta, que tiene 1 millón de seguidores, y continuando permitiendo imágenes falsas degradantes de ella.
"He sufrido y sigo sufriendo un gran dolor y angustia mental como resultado del papel de xAI en la creación y distribución de estas imágenes alteradas digitalmente de mí", declaró en un documento adjunto a la demanda. "Me siento humillada y siento que esta pesadilla no terminará mientras Grok siga generando estas imágenes mías".
También dijo que vive con miedo de las personas que ven imágenes falsas de ella.
St. Clair es la madre de Romulus, el hijo de 16 meses de Musk. Vive en la Ciudad de Nueva York, donde presentó la demanda ante la Corte Suprema estatal. Solicita una indemnización por daños y perjuicios no revelada por presunta angustia emocional y otras reclamaciones, así como órdenes judiciales que prohíban de inmediato a xAI permitir más deepfakes de ella.
Más tarde el jueves, los abogados de xAI trasladaron la demanda a una corte federal de Manhattan, solicitando que un juez la atendiera. Ese mismo día, xAI también presentó una contrademanda contra St. Clair en una corte federal del Distrito Norte de Texas, alegando que incumplió los términos de su acuerdo de usuario de xAI, que exige que las demandas contra la empresa se presenten en una corte federal de Texas. Solicita una indemnización económica no revelada contra ella.
X tiene su sede en Texas, donde Musk posee una casa y su fabricante de automóviles eléctricos Tesla tiene su sede en Austin.
Carrie Goldberg, abogada de St. Clair, calificó la contrademanda como una medida "sorprendente" que nunca antes había visto por parte de un acusado.
"La Sra. St. Clair defenderá enérgicamente su foro en Nueva York", declaró Goldberg. "Pero, francamente, cualquier jurisdicción reconocerá la gravedad de las afirmaciones de la Sra. St. Clair: que, al crear imágenes sexualmente explícitas no consensuadas de niñas y mujeres, xAI constituye una molestia pública y un producto poco seguro".
En su anuncio del miércoles, X afirmó que implementaría otras medidas de seguridad en Grok, entre ellas limitar la creación y edición de imágenes a las cuentas de pago, lo que, según afirmó, mejoraría la responsabilidad. Afirmó que tenía tolerancia cero con la explotación sexual infantil, la desnudez no consentida y el contenido sexual no deseado, y que eliminaría inmediatamente dicho contenido y denunciaría a las autoridades las cuentas involucradas en materiales de abuso sexual infantil.
Por Dave Collins.
