Antes de la IA generativa, Amazon incorporaba el pensamiento profundo directamente en la forma en que se realizaba el trabajo.
En 2017, Jeff Bezos describió una cultura de reuniones basada en el razonamiento lento y por escrito: sin presentaciones de PowerPoint, sin listas de puntos clave, solo un texto narrativo de seis páginas que a menudo tardaba una semana en redactarse y que exponía un producto o proyecto de principio a fin.
Durante 20 a 30 minutos, todos los presentes en la sala —desde el personal de menor rango hasta los líderes de alto nivel— se sentaban a leer antes de que alguien hablara.
El objetivo, dijo Bezos, era forzar la claridad a través de la escritura y la lectura. Los razonamientos débiles salían a la luz de inmediato. Las lagunas no podían ocultarse en listas con viñetas ni en diapositivas pulidas. Pensar tomaba tiempo, y ese era el punto.
Una creciente deferencia hacia la IA
Hoy en día, sin embargo, en gran parte del mundo empresarial estadounidense —incluidos algunos departamentos de Amazon— los empleados se enfrentan cada vez más a la presión de usar herramientas de IA para redactar memorandos, propuestas, informes e incluso código. Los incentivos son claros: mayor productividad, menores costos, resultados más rápidos.Pero la velocidad conlleva sacrificios.
El trabajo que antes agudizaba el pensamiento en el proceso ahora se está delegando a la IA, y con esa delegación viene una pérdida de autonomía.
El uso de indicaciones puede darte la sensación de que eres el autor. Sin embargo, gran parte de la estructura —el marco, las opciones, incluso la lógica— ya ha sido establecida por el sistema de IA. El usuario puede dirigir el proceso, pero dentro de límites que no definió, lo que gradualmente traslada la autonomía del usuario al modelo de IA.
"Crees que tienes autonomía al dar indicaciones", dijo a The Epoch Times Zhivar Sourati, un científico de la computación de la Universidad del Sur de California que estudia cómo los grandes modelos de lenguaje (LLM) influyen en el razonamiento, "pero en comparación con hace dos años, tienes mucha menos".
Hace dos años, la IA era simplemente algo a lo que le dabas indicaciones; hoy en día, se ha convertido en algo que te da indicaciones a ti, y ese cambio puede hacer que las personas tengan menos confianza en sus propias ideas.
"Cuando la IA hace el trabajo, sentimos menos sentido de propiedad sobre el resultado", explicó el psicólogo Michael Inzlicht, profesor de la Universidad de Toronto que investiga cómo la tecnología cambia la motivación, el autocontrol y el esfuerzo, a The Epoch Times en un correo electrónico. "El trabajo no es realmente nuestro, y lo sabemos".
En el lugar de trabajo se está produciendo una creciente deferencia hacia la IA. Una investigación de la Universidad Carnegie Mellon y Microsoft reveló que los trabajadores del conocimiento que confiaban en los resultados de la IA a menudo no los analizaban con detenimiento —una tendencia conocida como sesgo de automatización.
Este tipo de deferencia se vuelve riesgosa porque, aunque la IA suele producir respuestas convincentes, esas respuestas pueden ser erróneas, incompletas o carecer de un contexto importante.
La ilusión del consenso
La dependencia de las herramientas de IA se vuelve más difícil de cuestionar cuando los resultados de la IA comienzan a parecerse entre sí.Una docena de colegas podrían consultar el mismo sistema de IA y recibir borradores con una estructura similar, redactados en un lenguaje claro, neutral y bien formado. Las ideas pueden comenzar a converger —a menudo antes de que se forme completamente un juicio independiente—. El acuerdo comienza a parecer natural, incluso cuando no lo es.
"Ahora la gente simplemente habla con la IA y obtiene ideas", dijo Sourati.
En la práctica, el uso de la IA acorta las primeras etapas del proceso de pensamiento. Un gerente que redacta un memorándum estratégico puede comenzar con un conjunto de recomendaciones similar al de otros que utilizan las mismas herramientas. Un estudiante de doctorado que antes identificaba las brechas de investigación de manera manual ahora puede pedirle a un modelo que las genere al instante —y lo mismo pueden hacer todos los demás en su campo.
El efecto va más allá del trabajo técnico. Las herramientas de IA se utilizan cada vez más en la escritura personal —notas de ruptura, votos matrimoniales, incluso autobiografías—, formas de escritura que antes estaban estrechamente ligadas a la experiencia y la voz individuales. A una escala de mil millones de usuarios semanales, incluso pequeños cambios en cómo surgen las ideas pueden homogeneizarse rápidamente, señaló Sourati.
Las presiones para ajustarse al lenguaje y al pensamiento existentes son muy anteriores a la IA. Lo que cambia con la IA es el momento en que la convergencia entra en el proceso: no al final del pensamiento, sino cada vez más al principio.
Eso es importante, señaló Sourati en un artículo publicado en Trends in Cognitive Sciences, porque las personas aportan diversas formas de escribir y razonar a su trabajo. "Cuando esas diferencias se filtran a través de los mismos modelos de lenguaje grande (LLM)", le dijo a The Epoch Times, "sus estilos lingüísticos, perspectivas y estrategias de razonamiento distintivos se homogeneizan".
La IA hace más que simplemente hacernos sonar similares; la preocupación es que pueda reducir los límites del debate aceptable. Cuando el lenguaje se suaviza y las opciones se enmarcan repetidamente de la misma manera, el desacuerdo o la disidencia pueden parecer menos respaldados de lo que realmente están.
Con el tiempo, sugirió Sourati, el encuadre repetido puede producir una "ilusión de consenso": la sensación de que las personas están llegando de manera independiente a conclusiones o soluciones similares a los problemas cuando, de hecho, los mismos patrones generados por máquinas están suavizando ideas, perspectivas e incluso posturas críticas distintas, convirtiéndolas en algo que se percibe como más unificado de lo que realmente es.
Incluso en sus propios escritos, nota el efecto. La suavización de la IA hace que todo sea más convencional —y menos distintivamente suyo—. "De repente me doy cuenta de que… esto ya no soy yo".
Cuando el acuerdo surge de puntos de partida compartidos, se percibe como algo más orgánico de lo que realmente es. En ese sentido, la IA invierte lo que sistemas como el proceso de memorandos de Amazon fueron diseñados para hacer —donde la redacción y la lectura atenta ayudaban a las personas a desarrollar su propia perspectiva antes de encontrarse con la de los demás, de modo que el acuerdo tenía que ganarse.
Menos fricción, menos comprensión
La creciente dependencia de la IA —y la sensación de acuerdo que la acompaña— no surge de manera aislada. Se ve reforzada por algo más difícil de percibir: la gente suele creer que entiende más de lo que realmente entiende.Cuando las personas usan la IA, a menudo confunden las respuestas rápidas y fluidas de la herramienta con las propias.
Un experimento realizado por Anthropic, una empresa dedicada a la seguridad y la investigación en IA, ayuda a explicar por qué. Los participantes que se apoyaron en la asistencia de la IA obtuvieron una puntuación aproximadamente un 17 por ciento más baja en un cuestionario de comprensión sobre material con el que habían trabajado apenas unos minutos antes. La tarea se completó, pero la comprensión se quedó rezagada.
"La comprensión profunda podría requerir fricción: cierto grado de esfuerzo para resolver las cosas", dijo Inzlicht. "La IA elude [ese esfuerzo] por completo, por lo que terminas con un producto pulido y una persona que realmente no comprende lo que contiene".
Para Inzlicht, el problema comienza cuando desaparece la fricción. Pensar implica comienzos en falso, incertidumbre y la lenta construcción de ideas. En un artículo publicado en Communications Psychology, él y sus coautores sugieren que el esfuerzo mental involucrado en ese proceso ayuda a las personas a aprender y desarrollar habilidades.
"Cuando nos cuesta entender algo, nos vemos obligados a conectarlo con lo que ya sabemos; esa conexión es lo que hace que se nos quede grabado", dijo Inzlicht. "Piensa en las matemáticas de la preparatoria. Resolver un problema por tu cuenta, por más difícil que fuera, te enseñó mucho más que ver primero la solución y deducirla a la inversa. La lucha es lo importante".
La IA, dependiendo de cómo se utilice, puede acortar ese proceso, fomentando la descarga cognitiva. Con el tiempo, eso puede debilitar la perseverancia y hacer que las personas sean más propensas a rendirse ante problemas difíciles una vez que se retira la IA.
Las investigaciones descubrieron que incluso 15 minutos de uso de la IA pueden hacer que las personas se sientan menos concentradas e incapaces de superar tareas difíciles por sí mismas.
Por qué importa el esfuerzo
El esfuerzo hace más que generar comprensión; también genera significado. Cuando las personas se esfuerzan por completar una tarea, tienden a valorar más el resultado."Valoramos menos nuestro trabajo cuando la IA ayudó a producirlo", dijo Inzlicht. "Se siente menos significativo, menos nuestro, menos valioso".
"Incluso pedimos menos dinero por ello", dijo, refiriéndose al arte y los videos generados por la IA. "Eso es revelador. En cierto nivel, reconocemos que lo que hizo la IA no es exactamente lo que hicimos nosotros".
Los beneficios de la fricción no son ilimitados; un exceso puede resultar abrumador.
El riesgo no es la IA en sí misma, sino perder ese tipo de esfuerzo que da forma no solo a lo que logramos, sino a quienes nos convertimos.
