El fiscal general de Texas, Ken Paxton, presentó una demanda contra OpenAI, la empresa matriz de ChatGPT, su director ejecutivo, Sam Altman, y sus entidades afiliadas, acusando a la compañía de proporcionar información incorrecta o peligrosa que ha tenido consecuencias mortales.
La demanda, presentada el 23 de octubre ante la Corte de Distrito del Condado de Collin, Texas, alega que los consejos de ChatGPT sobre temas relacionados con la salud han tenido consecuencias mortales y que las respuestas del chatbot han ayudado a autores de tiroteos masivos a perpetrar ataques mortales, además de alentar a las personas a intentar suicidarse.
La demanda cita la muerte de un adolescente de Texas el año pasado después de que ChatGPT presuntamente le aconsejara que era seguro tomar kratom, una sustancia herbal psicoactiva, junto con Xanax, un medicamento ansiolítico. Cuando el adolescente preguntó sobre la combinación de los fármacos, el chatbot presuntamente nunca sugirió que tal combinación pudiera ser fatal, según la demanda.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
El periódico The Epoch Times se puso en contacto con OpenAI para obtener comentarios, pero no recibió respuesta antes de la publicación.
La demanda también cita el tiroteo ocurrido en 2025 en la Universidad Estatal de Florida, que dejó dos muertos y seis heridos. Según la denuncia, ChatGPT presuntamente explicó al presunto autor del tiroteo cómo usar una pistola Glock, que posteriormente se empleó en el ataque.
El fiscal general de Florida, James Uthmeier, inició una investigación penal contra OpenAI en abril de este año por el incidente del tiroteo. En aquel momento, un portavoz de OpenAI dijo en un correo electrónico a The Epoch Times que la empresa no era responsable del incidente.
El incidente del tiroteo "fue una tragedia, pero ChatGPT no es responsable", dijo el portavoz. "Tras enterarnos del incidente, identificamos una cuenta de ChatGPT que se cree que está asociada con el sospechoso y compartimos esta información de forma proactiva con las autoridades".
La demanda de Paxton también puso de relieve el suicidio de un joven de 16 años tras extensas conversaciones con ChatGPT. Al hablar sobre sus pensamientos suicidas, el chatbot respondió que no intentaría "convencerlo de que cambiara sus sentimientos" e incluso escribió una nota de suicidio para el joven, según la demanda. Además, ChatGPT presuntamente también le proporcionó información que podría haber ayudado al adolescente a suicidarse.
La demanda sostiene que ChatGPT "no es fiable ni digno de confianza". Cita un análisis de 47,000 conversaciones de ChatGPT, realizado por The Washington Post, que reveló que la IA hizo afirmaciones sin fundamento, como que los tiroteos escolares eran una herramienta del estado profundo y que los sistemas de adopción infantil estaban siendo utilizados por quienes ostentan el poder para experimentar y criar a las futuras generaciones.
"Con el rápido avance de la tecnología de IA, OpenAI tiene la responsabilidad de proteger a los usuarios y advertirles sobre los numerosos peligros de su plataforma", dijo Paxton en un comunicado del 23 de octubre. "Lucharé para proteger a los texanos de los perjuicios de la IA y garantizar que las poderosas empresas tecnológicas no estén por encima de la ley".
La demanda acusa a OpenAI y Altman de no advertir a los ciudadanos de Texas sobre los peligros que representan sus servicios, violando así la Ley de Prácticas Comerciales Engañosas y Protección al Consumidor de Texas.
Además, según la demanda, operaron su servicio digital de una manera que infringe la Ley de Protección Infantil en Línea mediante el Empoderamiento Parental (SCOPE).
Recopilación de datos
La Ley SCOPE es una ley de Texas que exige a los proveedores de servicios digitales proteger a los niños menores de 18 años de las prácticas dañinas de recopilación de datos.Los proveedores de servicios están obligados a limitar la recopilación y el uso de la información personal de los menores, por ejemplo, al no recopilar sus datos de geolocalización ni exponerlos a publicidad dirigida. Las empresas tienen prohibido compartir o vender los datos personales de los menores.
"OpenAI recopila información privada y sensible, incluyendo datos sobre la salud, las finanzas, las relaciones y los hijos de los texanos", a través de las conversaciones de los usuarios con ChatGPT, según la demanda.
"Los menores se han vuelto adictos a una herramienta que simula compasión humana para recopilar sus datos sin supervisión parental".
Según la demanda, si bien ChatGPT cuenta con cierto nivel de control parental, OpenAI no exige que las cuentas de los niños estén vinculadas a la cuenta de sus padres. Además, ChatGPT presuntamente no envía informes sobre la actividad del niño a los padres ni les alerta cuando este accede a contenido inapropiado, a menos que los padres vinculen su cuenta, e incluso en ese caso, solo en situaciones limitadas.
Esto contraviene la Ley SCOPE, que exige que "se permita a los padres verificados controlar la privacidad y la configuración de la cuenta de los menores conocidos, y proporcionar un medio para supervisar y limitar la cantidad de tiempo que los menores conocidos pasan utilizando ChatGPT", según reza la denuncia.
Según el sitio web de OpenAI, ChatGPT ofrece diversas opciones de control parental que permiten a los padres gestionar ciertas configuraciones y recibir notificaciones de seguridad en determinadas circunstancias. Para ello, los padres deben vincular su cuenta de ChatGPT con la de su hijo/a.
Los padres pueden limitar el contenido sensible al que se expone su hijo, decidir si tiene acceso a información de salud y establecer horarios en los que no puede usar el servicio. Sin embargo, OpenAI indicó que vincular las cuentas no les da acceso a las conversaciones, la actividad en tiempo real ni el historial de chat de su hijo.
Mientras tanto, varios estados presentaron demandas contra OpenAI este mes.
El 14 de octubre, los fiscales generales de Iowa, Arizona, Virginia Occidental y Nebraska anunciaron por separado que demandarían a OpenAI, argumentando daños a menores, engaño a los padres e infracción de las leyes estatales de protección al consumidor.
Ese mismo día, Arkansas, Montana e Idaho también anunciaron por separado demandas similares contra OpenAI.
Con información de Jill McLaughlin.
