Empresa de tecnología responsable de permitir imágenes “desnudas” generadas por inteligencia artificial (IA) de niños escolares australianos enfrenta medidas legales ante el aumento de denuncias sobre explotación infantil en línea.
El comisionado de seguridad electrónica de Australia ha iniciado acciones legales contra una empresa de tecnología con sede en el Reino Unido responsable de permitir imágenes “desnudas” generadas por inteligencia artificial de niños escolares australianos.
Esto ocurre mientras la Policía Federal Australiana (AFP) como el Comisionado informan el aumento de las denuncias sobre explotación sexual infantil en línea (OCSE).
La empresa, que eSafety no ha nombrado para evitar promocionar sus servicios, opera dos de los sitios web de imágenes de desnudos generadas por IA más visitados del mundo, que permiten a los usuarios cargar fotos de personas reales, incluidos niños. Los sitios atraen a alrededor de 100,000 visitantes al mes desde Australia, afirma eSafety.
“Sorprendentemente, descubrimos que estos servicios hicieron poco para disuadir la generación de material sintético de abuso sexual infantil al comercializar características alarmantes como desvestir a 'cualquier niña', con opciones para 'colegiala' y 'modo sexo', por nombrar algunas”, dijo la Comisionada de eSafety, Julie Inman Grant.
“Y si bien se puede acceder a estas plataformas de forma gratuita, el coste para los niños a los que se dirigen es increíblemente alto, si no incalculable”.
A menudo otros niños utilizan estos sitios para crear imágenes que luego utilizan para humillar a sus compañeros.
Inman-Grant afirma que el abuso basado en imágenes deepfake está "proliferando en las escuelas australianas casi semanalmente".
Las denuncias de menores se duplicaron con creces en los últimos 18 meses, en comparación con el total de denuncias recibidas en los siete años anteriores. Cuatro de cada cinco denuncias se centraron en mujeres.
“Sabemos que los daños provocados por medios digitales no se denuncian lo suficiente, por lo que estamos seguros de que esto es solo la punta del iceberg”, afirmó.
Hemos visto que estas aplicaciones se utilizan para humillar y acosar a niños en el patio de la escuela y fuera de él. Muestran a niños haciendo y diciendo cosas que no dijeron ni hicieron, pero la fidelidad de estas imágenes deepfake es tan alta que es casi imposible determinar que la imagen no es real.
La advertencia formal de eSafety es el primer paso en su proceso de cumplimiento. Se considerarán medidas adicionales si la empresa continúa incumpliendo las normas australianas de seguridad en línea.
"No dudaremos en utilizar todo nuestro poder, incluida la posibilidad de imponer sanciones civiles de hasta 49,5 millones de dólares, si el incumplimiento continúa", dijo Inman Grant.
La policía 'afronta' el aumento de las quejas
La medida se produce mientras el Centro Australiano para Contrarrestar la Explotación Infantil (ACCCE) dirigido por la AFP informa un aumento del 41 por ciento en los informes de OCSE en el año fiscal 2024/2025.
Nuevas cifras publicadas para conmemorar la Semana de Protección Infantil (del 7 al 13 de septiembre) revelan que la ACCCE recibió 82,764 informes de la OCSE durante los 12 meses, principalmente a través del Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos, pero también de miembros del público y agencias gubernamentales.
Esto se compara con 58,503 informes en 2023/24, 40.232 en 2022/23 y 36,600 en 2021/22.
“Este aumento es sumamente alarmante, ya que representa actos de horror y trauma indescriptibles que involucran a los australianos como víctimas y agresores”, dijo la comandante de Explotación Humana de la AFP, Helen Schneider.
“Estos actos van desde la creación, distribución y consumo de material de abuso infantil hasta la transmisión en vivo de abuso sexual infantil en el extranjero.
“Pero es algo que la policía no puede abordar sola, por lo que es esencial que los padres, cuidadores y la comunidad en general asuman un papel activo en la protección de nuestros jóvenes vulnerables”.
Schneider dijo que la policía ha trabajado incansablemente para aumentar la conciencia y la vigilancia sobre el tema, así como sobre cómo denunciarlo.
“Esto significa que los australianos nunca han estado tan conscientes de la explotación sexual infantil en línea ni tan dispuestos a denunciarla”, afirmó. “Pero no podemos dejar de impulsar la importancia del papel de la comunidad”.
Esto incluye tener cuidado con todo el material publicado en línea.
“Es un impulso natural para los padres y cuidadores querer celebrar y compartir la vida de sus hijos, pero es importante pensar dónde podría terminar este material y qué se podría hacer con él”, dijo Schneider.
La explotación sexual infantil en línea es el término general para conductas que van desde la sextorsión hasta el acoso en línea, y la ACCCE adopta un enfoque multifacético para abordar el problema, que se basa en la tecnología para acceder a las víctimas a nivel mundial.
Esto incluye asociarse con el sector financiero para interrumpir las actividades y cuentas que canalizan dinero hacia las redes criminales involucradas en la OCSE, y trabajar con plataformas de redes sociales para acceder y brindar educación a jóvenes en riesgo.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo clic aquí
