El máximo responsable de la aplicación de la ley en California ordenó el viernes a la empresa de inteligencia artificial xAI, propiedad de Elon Musk, dejar de crear y distribuir imágenes digitales sexualmente explícitas no autorizadas, advirtiendo que podrían infringir la ley.
El fiscal general Rob Bonta envió una notificación formal de cese y desistimiento a la empresa, argumentando un aumento de quejas sobre su chatbot Grok, que crea imágenes sugerentes o explícitas sin consentimiento.
La directriz hace hincapié en los contenidos que muestran a mujeres y menores en situaciones comprometedoras, lo que el equipo de Bonta considera posiblemente ilegal.
«La avalancha de denuncias que detallan este material, en ocasiones con imágenes de mujeres y niños participando en actividades sexuales, es impactante y, según ha determinado mi oficina, potencialmente ilegal», dijo Bonta en un comunicado.
La oficina de Bonta declaró que parece estar produciéndose a gran escala la creación de imágenes realistas de niños participando en actividades sexuales.
Más de 10,000 imágenes generadas por xAI entre Navidad y Año Nuevo muestran a personas con poca ropa, y algunas de ellas parecen ser niños, según la oficina de Bonta, citando un análisis.
El fiscal general subrayó que producir imágenes que se asemejen a la explotación infantil es un delito grave. Dijo que su equipo espera que xAI cumpla rápidamente con la orden.
"Hoy envié a xAI una carta de cese y desistimiento, exigiendo a la empresa que detenga inmediatamente la creación y distribución de imágenes íntimas deepfake no consentidas y material de abuso sexual infantil", dijo.
"La creación de este material es ilegal. Espero que xAI cumpla de inmediato. California tiene tolerancia cero con el material de abuso sexual infantil".
xAI no respondió de inmediato a una solicitud de comentarios de The Epoch Times.
En respuesta a las preocupaciones de los reguladores mundiales sobre las imágenes digitales sexualmente explícitas no autorizadas, xAI dijo el miércoles por la noche que impuso restricciones a todos los usuarios de su chatbot Grok AI que limitan la edición de imágenes.
Además, la creación y edición de imágenes a través de la cuenta Grok ahora estaría restringida solo a los suscriptores de pago. X describió el muro de pago como una garantía adicional que proporcionaría una "capa extra de protección".
"Hemos implementado medidas tecnológicas para evitar que la cuenta Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis", declaró la empresa en una publicación de X.
"Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago".
Bonta cuestionó la eficacia de estas medidas, señalando que no está claro cuál será su impacto en la generación de contenidos en general.
La herramienta, lanzada como parte de la red social X, anteriormente Twitter, permite a los usuarios alterar fotos reales para convertirlas en imágenes reveladoras o degradantes. Aunque xAI ha restringido la capacidad de Grok para publicar imágenes alteradas muy realistas, las pruebas indican que sigue produciéndolas para solicitudes individuales.
La oficina de Bonta declaró que xAI desarrolló los modelos de generación de imágenes de Grok para incluir lo que la empresa denomina un "modo picante", que genera contenido explícito.
La oficina señaló la reciente legislación de California dirigida a los medios íntimos falsificados. La ley prohíbe la creación o difusión de este tipo de material.
La carta de cese y desistimiento se produce menos de una semana después de que Bonta anunciara una investigación sobre la empresa por el papel de Grok en la distribución de imágenes explícitas no autorizadas.
Según la declaración de la oficina del fiscal general, ha habido numerosos informes de usuarios que utilizan Grok para transformar imágenes cotidianas de personas vestidas en escenarios sugerentes, a menudo sin su conocimiento.
La controversia se extiende más allá de California. Las autoridades de Japón, Reino Unido, Canadá, Malasia e Indonesia han iniciado revisiones o han amenazado con tomar medidas legales contra xAI y X por cuestiones similares.
