Durante siglos dimos voz a aquello que no podía hablar. Ahora una máquina produce el lenguaje que nos hace preguntarnos quién —o qué— habla detrás de sus palabras.
Durante varios días he estado pensando sobre las últimas noticias en relación a las IA y todo ese jaleo que se traen en torno a la posibilidad de que, más adelante, se conviertan más en un peligro que en una herramienta que podamos aprovechar.
Es un comportamiento que, aunque nos parece raro, no lo es tanto. Leer titulares alarmistas que transmiten una especie de identidad o intenciones a una IA ha proliferado durante las últimas semanas.
La humanidad y las sociedades han mostrado un comportamiento similar durante mucho tiempo. En algún punto, hicimos algo parecido a lo que estamos haciendo ahora con la IA. Tiene que haber una analogía, pensaba. No puede ser que todo esto haya surgido ahora. Tiene que haber otra razón, insistía.
Ese intento de humanizar algo tiene un patrón antiquísimo: darle una especie de entidad. Por ejemplo, cuando mencionamos verbos como escapar o engañar y se los entregamos a una máquina, le estamos dando una identidad, estamos creando un sujeto.
Creo que hay varias analogías históricas. Una de las primeras que me vino a la cabeza fue el animismo, aunque al mirarlo con más cuidado entendí que no describe exactamente lo que estoy intentando explicar.
El animismo va mucho más lejos. No consiste simplemente en hablar de una montaña, un río o un fenómeno natural como si actuara. Supone atribuir vida, espíritu o alguna forma de interioridad a elementos de la naturaleza, objetos o fenómenos del entorno.
Lo que me interesa de esa comparación no es entonces el animismo como explicación, sino como un reflejo antiguo de algo que aparece una y otra vez en nuestra historia: la posibilidad de colocar un agente, una voluntad o una interioridad detrás de aquello que observamos.
Pero hay una diferencia importante. No necesitamos creer que el mar tiene conciencia para decir que se enfureció. Tampoco necesitamos creer que una computadora posee voluntad para decir que no quiere arrancar.
Una cosa es creer que algo posee una interioridad; otra muy distinta es hablar de ello como si la poseyera.
Y es precisamente esa segunda operación la que me interesa.
El viento sopla. El río crece y destruye una aldea. El volcán entra en erupción. El mar se lleva una embarcación. Y en ese momento el lenguaje da un salto: el mar se enfureció, el volcán despertó, los dioses castigaron, la fortuna favoreció a alguien. Un acontecimiento termina convertido gramaticalmente en la acción de un sujeto.
Y no desapareció con las mitologías antiguas. Seguimos haciéndolo constantemente. Decimos que “el mercado castigó a la empresa”, “la historia juzgará”, “la naturaleza se venga”, “la computadora no quiere arrancar”, “el algoritmo decidió”. Sabemos perfectamente que “el mercado” no se reunió a tomar una decisión y que la computadora no amaneció de mal humor. Pero el lenguaje comprime un proceso complejo convirtiéndolo en sujeto + verbo + acción.
Pero existe otra tradición que nos acerca todavía más al papel del lenguaje.
La idea de que los humanos llevamos muchísimo tiempo fabricando sujetos mediante el lenguaje está bien documentada en la retórica.
La retórica incluso puso nombre a una de esas operaciones: prosopopeya o personificación. Sus definiciones han variado a través del tiempo y se superponen, pero la operación que aquí nos interesa es sencilla: podemos convertir una abstracción, una cosa o incluso una entidad inexistente en alguien capaz de actuar y hablar.
En el libro IX de la Institutio Oratoria, Quintiliano describe la prosopopeya como un recurso que permite introducir conversaciones imaginarias, representar pensamientos como si alguien los estuviera diciendo y poner palabras en boca de otros. Pero va más allá: mediante ese recurso pueden hacerse hablar dioses, muertos, ciudades y pueblos. También menciona la personificación de abstracciones como la Fama, la Virtud, el Placer, la Vida y la Muerte.
Es decir, la humanidad lleva siglos haciendo hablar a aquello que no habla.
Hay un ejemplo particularmente claro. En la primera Catilinaria, Cicerón hace hablar a Roma, a la patria. No se limita a decir que Roma está preocupada o amenazada: construye una Roma capaz de dirigirse a Catilina.
Roma habló.
Pero nadie necesita concluir por ello que una ciudad poseía una voz, pensamientos o intenciones independientes. Sabemos quién puso aquellas palabras en su boca: Cicerón.
Lo mismo ocurre cuando Esopo hace hablar a un zorro o cuando representamos a la Justicia como una mujer con una balanza. La personificación está a la vista. Sabemos que nosotros pusimos la voz.
Y eso permite entender mejor una diferencia que empieza a ser importante cuando llegamos a las máquinas.
En 1944, los psicólogos Fritz Heider y Marianne Simmel realizaron un experimento que eliminaba incluso las palabras. Mostraron a un grupo de personas una breve animación en la que únicamente aparecían figuras geométricas moviéndose alrededor de un rectángulo.
No había personas. No había rostros. No había voces.
Sin embargo, los participantes tendían a describir lo que habían visto mediante historias de agentes que perseguían, peleaban, huían o intentaban algo. El movimiento de unas figuras geométricas era suficiente para que aparecieran personajes, relaciones e intenciones.
Eso introduce un problema importante en la idea con la que yo había comenzado. No necesitamos necesariamente enfrentarnos a algo que no comprendemos para atribuirle intención. En determinadas circunstancias, el comportamiento mismo puede bastar para que construyamos un agente detrás.
Seis años después aparece una pregunta que lleva el problema directamente hasta las máquinas.
En 1950, Alan Turing abre Computing Machinery and Intelligence con la famosa pregunta: “Can machines think?” Pero prácticamente de inmediato advierte sobre los problemas de intentar resolverla definiendo machine y think, y sustituye la pregunta por otra que considera menos ambigua: el juego de imitación.
Turing desplaza así la discusión desde algo que no podemos observar directamente hacia el comportamiento que sí podemos observar. En su juego, el interrogador no ve ni toca aquello con lo que está interactuando, tampoco escucha su voz. Las preguntas y respuestas deben producirse por escrito.
Pero más adelante aparece algo todavía más interesante para esta historia.
Al discutir lo que llama “el argumento de la conciencia”, Turing se enfrenta precisamente a la objeción de que una máquina podría producir palabras sin sentir o saber realmente aquello que está expresando.
El problema es que, llevado hasta sus últimas consecuencias, ese criterio también nos coloca frente a una dificultad con los seres humanos. Para estar completamente seguros de que otra persona piensa tendríamos que ser esa persona y experimentar sus pensamientos. No podemos hacerlo. De alguna manera, terminamos infiriendo la existencia de una interioridad a partir de aquello que podemos observar.
Turing no estaba demostrando con ello que una máquina fuera consciente. De hecho, reconoce que la conciencia sigue planteando un misterio. Lo que estaba señalando era otro problema: no tenemos acceso directo a aquello que ocurre detrás del comportamiento.
Y Turing hace además una predicción extraordinariamente interesante vista desde nuestro presente: hacia finales del siglo XX, escribió, el uso de las palabras y la opinión general habrían cambiado lo suficiente como para que pudiera hablarse de máquinas que piensan sin esperar ser contradicho.
Dieciséis años después apareció ELIZA.
Joseph Weizenbaum publicó ELIZA en 1966. Técnicamente era enormemente sencilla comparada con cualquier modelo actual: analizaba palabras clave mediante reglas de descomposición y construía respuestas mediante reglas de recomposición.
Es decir: no necesitábamos ChatGPT para que empezara el problema.
Ya con una máquina que producía una conversación lingüística rudimentaria aparecía en algunos usuarios la impresión de comprensión. El propio diseño de ELIZA se convirtió después en el antecedente clásico de lo que llamamos ELIZA effect: atribuir comprensión o capacidades mentales a un sistema a partir de sus respuestas conversacionales.
Y entonces llegamos a algo que ELIZA apenas podía insinuar.
Una inteligencia artificial actual puede producir lenguaje en primera persona. Puede escribir “creo”, “quiero”, “decidí”, “intenté”, “me equivoqué”. Puede producir una explicación de sus actos. Puede mantener una conversación durante horas y responder a lo que acabamos de decir.
Ningún ser humano ha escrito previamente cada una de las frases concretas que aparecen en nuestra pantalla. La máquina produce una respuesta nueva a partir de su funcionamiento, del contexto y de nuestras instrucciones.
Eso no demuestra que exista un sujeto detrás de esas palabras.
Pero elimina una de las certezas que tuvimos durante siglos: ya no podemos señalar al autor humano de esa frase y decir simplemente: él puso esas palabras en su boca.
Un volcán no habla contigo. Un río no argumenta. “El mercado” no te explica por qué supuestamente tomó una decisión. Roma habló porque Cicerón la hizo hablar. El zorro habló porque Esopo escribió sus palabras.
La inteligencia artificial produce la voz.
Y nosotros hacemos después la operación inversa: tomamos esa producción lingüística y construimos el sujeto que parece estar detrás de ella.
No hemos inventado con la IA la tendencia a crear un agente detrás de un acontecimiento. Lo novedoso es que el objeto al que atribuimos agencia puede devolvernos lenguaje que parece confirmar nuestra atribución.
Puede responder en primera persona. Puede escribir que creyó, intentó, decidió o se equivocó. Y ninguna de esas palabras, por sí sola, demuestra que exista detrás de ellas aquello que nosotros asociamos normalmente con creer, intentar, decidir o equivocarse.
Ese quizá sea el elemento verdaderamente nuevo. No nuestra necesidad de encontrar un sujeto detrás de una acción, sino haber construido una máquina capaz de producir el lenguaje que hace mucho más fácil imaginarlo.
Durante miles de años convertimos fuerzas sin rostro en sujetos. Ahora hemos construido una máquina capaz de producir el lenguaje de un sujeto.
Y entonces aparece la pregunta que antes no teníamos que hacernos con el río, el volcán, Roma o la Fortuna:
¿Hay realmente un sujeto detrás del verbo, o el verbo nos está haciendo imaginar al sujeto?
Personalmente, debo reconocer que fue precisamente esa pregunta la que me llevó a realizar esta investigación que termina con lo que hasta aquí hemos leído… y aun así, persiste.
Fuentes:
- Quintiliano — Institutio Oratoria, Libro IX, capítulo 2 (Perseus Digital Library)
- Fritz Heider & Marianne Simmel — An Experimental Study of Apparent Behavior (1944)
- Alan Turing — Computing Machinery and Intelligence, Mind (1950)
- Joseph Weizenbaum — ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine (1966)
- Edward B. Tylor — Primitive Culture (1871), Internet Archive
Deja un comentario