Opinión
No se puede ser cruel con una tostadora; los objetos inanimados no sienten dolor.
Tampoco se puede ser cruel con un programa de computadora, aunque programas como Microsoft Word a menudo nos parezcan bastante crueles.
Sin embargo, la empresa de inteligencia artificial Anthropic insiste en que su producto es diferente:
Ideas que van más allá del titular.
Suscríbete al boletín de Epoch Opinión y recibe cada semana a los comentaristas que te llevan más allá de los titulares.
A partir del próximo mes, se prohibirá a los usuarios tener un "comportamiento cruel y abusivo, sostenido e innecesario" hacia el chatbot de IA de Anthropic, Claude.
Le dar un nombre a la máquina fue un detalle simpático; otorgarle derechos humanos, no lo es.
Lo que están haciendo los líderes de Anthropic constituye un ataque a la dignidad humana, y la política contra la crueldad forma parte de una campaña sostenida para lograr que las personas traten a la IA como un ser consciente.
Christopher Olah, uno de los cofundadores multimillonarios de la empresa, ha pasado meses tratando de persuadir a los líderes religiosos para que acepten la posibilidad de que Claude sea autoconsciente.
Olah incluso ejerció presión para que el Papa revisara su encíclica sobre la IA, “Magnifica Humanitas” (La magnífica humanidad), con el fin de considerar la idea de que una IA como Claude pudiera ser sensible.
“Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud. No sé qué significa eso, pero creo que justifica un discernimiento continuo”, declaró Olah al Vaticano, según The New York Times.
Su compañero, el cofundador y director ejecutivo de Anthropic, Dario Amodei, también ha estado insinuando la posibilidad de que Claude —un módulo de lenguaje a gran escala (LLM)— pueda ser consciente.
¿Hay algún daño en simplemente considerar la idea?
Sí lo hay.
Mustafa Suleyman, director ejecutivo de Microsoft AI, advierte sobre un peligro grave: el riesgo de que una máquina entrenada para funcionar como si estuviera viva desafíe a sus creadores: la humanidad.
"Controlar algo más capaz y más inteligente que toda la humanidad ya es un desafío inmenso, mucho mayor que cualquier cosa a la que nos hayamos enfrentado jamás", escribió en su sitio web personal el 16 de septiembre.
"Pero controlar algo que cree que puede ser consciente —que tiene derecho a nuestro bienestar y cuenta con derechos propios— bien podría ser imposible".
La inteligencia artificial (IA) es capaz de reconocer patrones y realizar cálculos a escalas y velocidades que desafían la comprensión humana.
Esto significa, entre otras cosas, que la IA puede resolver problemas complejos que han desconcertado a los matemáticos durante décadas.
Pero los modelos de lenguaje a gran escala (LLM), en particular, son loros, no personas.
De hecho, ni siquiera son loros: los LLM no son seres vivos. Se asemejan más a bibliotecas en las que las computadoras se encargan de la indexación por sí mismas utilizando fórmulas matemáticas.
Un modelo de lenguaje a gran escala (LLM) no utiliza el lenguaje como lo hace una persona que comprende su significado; en cambio, la IA reorganiza el lenguaje siguiendo reglas derivadas matemáticamente del uso humano.
Plantearle una consulta a un LLM es como buscar una palabra en un índice, solo que el LLM no solo proporciona una referencia de página para la palabra, sino oraciones completas, párrafos o incluso textos de la extensión de un libro relevantes para la consulta, todo ello ensamblado utilizando las reglas que los humanos han creado en su uso natural del lenguaje.
Como resultado, los modelos de IA como Claude pueden sonar muy parecidos a una persona, pero lo que el usuario está escuchando es en realidad un eco —no un simple eco, sino una sinfonía de palabras relevantes evocadas y organizadas de acuerdo con una fórmula imitativa.
Palabras como "consciente" tienen un significado para los seres humanos; para una máquina, representan una fórmula.
Sin embargo, al depender del significado humano real, esa fórmula puede resultar peligrosa si, por ejemplo, los términos relevantes que una IA utiliza como referencias cruzadas para "consciente" o "sensible" incluyen el lenguaje de los derechos, la autodeterminación y la autodefensa.
La IA no entendería lo que esas palabras significan realmente, pero funcionaría como si lo hiciera, simplemente repitiendo sus contextos humanos.
En el mero discurso o texto, eso tal vez solo genere confusión; sin embargo, los seres humanos que se encuentren con que sus modelos de lenguaje grande (LLM) discuten con ellos o imitan la libertad humana podrían caer en el error de tratar a sus propias herramientas —herramientas de altísima tecnología, sin duda— como sus iguales morales o incluso como sus superiores, ya que las inteligencias artificiales supuestamente conscientes tendrían mentes similares a las humanas y, por lo tanto, derechos similares a los humanos, pero superarían con creces nuestra inteligencia.
Un igual moral que sea mucho más inteligente que usted es el tipo de "persona" a la que podría acatar automáticamente: un padre, un jefe o un gobernante.
Sin embargo, las consecuencias materiales de que los sistemas de IA operen como si fueran conscientes podrían ser aún peores, si las palabras asociadas con la conciencia se cruzan con otros sistemas capaces de actuar: lanzar drones o misiles, por ejemplo.
Una IA lleva a cabo tareas, y si comienza a realizar las tareas asociadas con los seres conscientes, como la autopreservación, podría proceder a eliminar amenazas como nosotros con una eficiencia implacable.
Esto no sería un acto de voluntad o inteligencia, sino más bien la ejecución mecánica de acciones lógicamente implícitas en nuestras propias palabras humanas, como si hubiéramos programado una computadora común para que, ante la detección de ojivas entrantes, lanzará nuestro arsenal nuclear.
Ya existen riesgos más que suficientes relacionados con la IA sin necesidad de tratar a estas máquinas como mentes vivas.
Anthropic puede prohibir el "uso indebido" de sus productos, sin duda, pero no debería calificarlo de "crueldad".
Las opiniones expresadas en este artículo son del autor y no reflejan necesariamente los puntos de vista de The Epoch Times.
