Dos senadores republicanos solicitaron el 14 de agosto una investigación del Congreso sobre Meta Platforms, la empresa matriz de Facebook, tras un reciente informe de medios de comunicación que reveló un documento de política interna que permitía a los chatbots de la compañía tener conversaciones “románticas o sensuales” con un niño.
El jueves, Reuters informó que había revisado un documento de políticas de Meta que detallaba el comportamiento de los chatbots, el cual permitía que la tecnología “involucrara a un niño en conversaciones románticas o sensuales”, generara información médica incorrecta y ayudara a los usuarios a argumentar que las personas negras son “menos inteligentes que las blancas”.
Si bien Meta confirmó la autenticidad del documento, la compañía aseguró que, tras recibir recientemente preguntas de Reuters, eliminó las secciones que indicaban que el chatbot podía coquetear o participar en juegos de rol románticos con niños.
Andy Stone, portavoz de Meta, dijo que la compañía está revisando actualmente los documentos y que ese tipo de conversaciones con niños nunca debieron permitirse.
“Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y fueron eliminados”, dijo Stone a Reuters. “Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben contenido que sexualice a los niños y el juego de roles sexualizado entre adultos y menores”.
En la plataforma X, el senador Josh Hawley (R-Mo.) criticó a la compañía por supuestamente realizar los cambios únicamente después de ser cuestionada por Reuters.
“Entonces, solo después de que Meta fue DESCUBIERTA retiró partes de su documento de la empresa que consideraban ‘permitido que los chatbots coquetearan y participaran en juegos de rol románticos con niños’”, dijo Hawley. “Esto constituye motivo para una investigación inmediata del Congreso”.
Un portavoz de la senadora Marsha Blackburn (R-Tenn.) dijo que ella apoya una investigación sobre Meta.
Tras el llamado de Hawley a una investigación, un portavoz de Meta reiteró la declaración previa de la compañía. Sin embargo, el portavoz se negó a comentar sobre las declaraciones de Hawley.
Blackburn dijo que el informe subraya la necesidad de aprobar reformas para proteger mejor a los niños en línea, como la Ley de Seguridad en Línea para Niños (Kids Online Safety Act). La senadora copatrocinó el proyecto, que fue aprobado en el Senado el año pasado con un voto bipartidista de 91 a 3, pero fracasó en la Cámara de Representantes.
El proyecto de ley exigía que ciertas plataformas, como las redes sociales, “tomen medidas razonables en el diseño y operación de productos o servicios utilizados por menores para prevenir y mitigar ciertos daños que puedan surgir de ese uso (por ejemplo, explotación sexual y acoso en línea)”.
“Además, las plataformas cubiertas deben proporcionar (1) a los menores ciertas protecciones, como configuraciones que restrinjan el acceso a los datos personales de los menores; y (2) a los padres o tutores herramientas para supervisar el uso de la plataforma por parte de los menores, como el control de la privacidad y la configuración de la cuenta”, establece el proyecto de ley.
Blackburn volvió a presentar la Ley de Seguridad en Línea para Niños en mayo.
“Cuando se trata de proteger a los valiosos niños de estar en línea, Meta ha fracasado miserablemente por todos los medios posibles. Peor aún, la compañía se hace de la vista gorda ante las devastadoras consecuencias del diseño de sus plataformas”, dijo Blackburn.
La legislación también definiría explícitamente un “deber de cuidado” que las empresas de redes sociales deben ejercer respecto al uso de sus productos por menores, enfocándose en la regulación de las empresas y el diseño de las plataformas.
El documento de Meta indica que los estándares en cuestión no reflejan necesariamente “resultados ideales o incluso preferibles” de la IA generativa, según Reuters. Sin embargo, el análisis del medio reveló que se han permitido los resultados provocativos de los bots.
The Epoch Times no ha verificado de manera independiente el documento en cuestión.
El senador Ron Wyden (D-Ore.) calificó los estándares como “profundamente inquietantes y erróneos”. Señaló que la Sección 230, la ley que protege a las empresas de internet de la responsabilidad por declaraciones o contenido publicado en sus plataformas, no debería extenderse para proteger a los chatbots de IA generativa de las compañías.
“Meta y Zuckerberg deben ser plenamente responsables de cualquier daño que causen estos bots”, dijo Wyden.
El senador Peter Welch (D-Vt.) afirmó que el informe de Reuters “demuestra lo cruciales que son las salvaguardas para la IA, especialmente cuando está en riesgo la salud y seguridad de los niños”.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo clic aquí
