Un nuevo informe advierte que los sistemas de inteligencia artificial utilizados en las consultas médicas pueden introducir información falsa en los historiales clínicos de los pacientes, lo que puede derivar en diagnósticos erróneos.
Esta herramienta se utiliza a menudo para grabar las conversaciones entre médico y paciente, transcribir el intercambio y, posteriormente, crear notas clínicas.
"Si bien estas herramientas pueden ofrecer ventajas administrativas para los centros médicos y los profesionales de la salud, su uso se está extendiendo a entornos de alta sensibilidad, como por ejemplo, a psiquiatras, psicólogos y otros profesionales de la salud", afirma Digital Rights Watch en su informe "Sistemas de IA en la salud australiana".
"El marco regulatorio actual en Australia es inadecuado en relación con la gravedad del caso de uso, y los riesgos sistémicos de la tecnología no se han considerado ni abordado".
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
En algunos casos, los médicos han informado que los transcriptores omitieron, tergiversaron e incluso "alucinaron" información clínica.
En un ejemplo descrito en el informe, un transcriptor informó que el cáncer de mama de una paciente se encontraba en el lado equivocado del cuerpo.
En otro caso, se omitió la palabra "no" de la frase "no tiene epilepsia", dando a entender que el paciente padecía la enfermedad cuando no era así.
Un médico informó que un asistente registró un examen neurológico incluso cuando no se realizó.
Otro problema importante es dónde se almacenan los datos de los pacientes y si estos podrían utilizarse para entrenar modelos de IA.
El informe se publica en un momento en que la adopción de sistemas de transcripción con IA se dispara entre los médicos de cabecera australianos: el 40 por ciento declaró utilizar estas herramientas en noviembre de 2025, el doble que en agosto de 2024 (22 por ciento).
Actualmente, los sistemas de transcripción con IA no están regulados si solo ofrecen servicios de transcripción.
Un portavoz de la Administración de Productos Terapéuticos declaró a The Epoch Times que la tecnología se regularía "si cuenta con capacidades que van más allá de la transcripción y el resumen".
"Por ejemplo, analizar o interpretar conversaciones clínicas generando un diagnóstico, un diagnóstico diferencial o una recomendación de tratamiento que el profesional de la salud no haya indicado explícitamente", declaró el portavoz.
"La Administración de Productos Terapéuticos (TGA) está intensificando sus esfuerzos para garantizar que los dispositivos médicos basados en software cumplan con los requisitos reglamentarios de Australia", publicó la TGA el 29 de agosto de 2025 en su sitio web.
Mientras tanto, el Real Colegio Australiano de Médicos Generales (RACGP) emitió su propia declaración sobre los riesgos de esta tecnología.
"Una herramienta de IA puede proporcionar consejos poco fiables debido a una programación deficiente, a que se ha entrenado con datos inadecuados o no representativos (sesgados), o a que es vulnerable a los ataques informáticos", afirmó el RACGP en su declaración.
"También existe el riesgo de que una herramienta de IA se utilice en un entorno o contexto inapropiado, lo que puede distorsionar su capacidad de toma de decisiones con el tiempo".
Mientras tanto, el colegio afirma que los médicos deben obtener el consentimiento del paciente, actualizar las políticas de privacidad e investigar dónde se almacenan los datos de los pacientes.
La Asociación Médica Australiana (AMA) expresó opiniones similares, señalando que, si bien la IA puede reducir la ineficiencia, no puede reemplazar la toma de decisiones clínicas.
"La regulación debe garantizar que las decisiones clínicas se tomen con puntos de intervención humana específicos durante el proceso de toma de decisiones", declaró la AMA a The Epoch Times, citando una declaración de posición anterior.
La organización también solicitó que los derechos de los pacientes sean el eje central del desarrollo de la IA y pidió un organismo de gobernanza nacional que involucre a políticos y profesionales médicos y jurídicos.
