Cómo (no) piensan los chatbots. Entrevista con Julio Gonzalo

Acabáis de publicar el libro Pron vs Prompt (Delirio, 2025). Es el resultado del experimento de poner a competir ChatGPT y al escritor Patricio Pron, premio Alfaguara 2019 por la novela Mañana tendremos otros nombres y considerado por la revista Granta como uno de los veinte mejores escritores en castellano de su generación. ¿Y quién es mejor escribiendo, la inteligencia artificial o el humano?

Depende. No es lo mismo un humano promedio que un buen escritor profesional. ¿Quién se acuerda de cuándo las máquinas empezaron a ganar al ajedrez a un humano promedio? Lo que todo el mundo recuerda es el día que un ordenador derrotó a Kasparov. El hito fue la victoria de Deep Blue frente al campeón mundial. Así que nos planteamos buscar a un Shakespeare. Por suerte, encontramos a Patricio, que era lo suficientemente inconsciente para prestarse y lo más parecido a un Shakespeare que teníamos a nuestro alcance. Lo enfrentamos con el mejor escritor automático que había en ese momento: una variante del GPT4, los modelos de lenguaje de OpenIA.

Hubo un tiempo en el que la IA era tan mala que nos bastábamos y nos sobrábamos los informáticos. Ahora, por la calidad de sus resultados y el altísimo espectro de tareas y problemas que presenta, no queda más remedio que evaluarla, medirla y desarrollarla junto con gente de todas las disciplinas, en particular de las humanísticas, con las que la IA está empezando a interaccionar.

Nuestra primera conversación recuerdo que fue en un episodio del podcast Pausa que coincidió con la salida de la primera versión del ChatGPT, en el otoño de 2022. Recuerdo tu sorpresa, como experto en lenguaje natural, por la revolución que supuso.

Fue una sorpresa para el mundo, pero para los que trabajamos en ese campo la sorpresa fue mayúscula. Fue un salto muy brusco. Ya estábamos viendo una enorme aceleración respecto a la capacidad de la máquina a la hora de hablar con fluidez, pero no para dialogar e interaccionar con un humano, entender lo que este pregunta, cuáles son sus motivaciones, qué quiere que le conteste… Esa fluidez a la hora de interaccionar con los humanos nos dejó a los informáticos con la boca abierta. Nunca habíamos visto una capacidad de diálogo semejante.

Es cierto que es una tecnología asombrosa, con capacidades muy superiores a las de hace tres años, pero también lo es que muchas tecnologías se lanzan con un hype tremendo. Pensemos en el metaverso: es el 90% hype y el 10% progreso real. En este caso, aunque el progreso real es enorme, el hype se ha disparado de tal forma que supera incluso las grandes capacidades de estas máquinas. Esto lo han promovido quienes están al mando de empresas como OpenIA, que comenzó siendo una compañía sin ánimo de lucro. Ahora es la que más busca la monetización, entre otras cosas, por su necesidad ingente de inversión. Se supone que su fin era construir la IA general, no crear un producto para lanzarlo al mercado. Llevan años anunciando que la IA general está a la vuelta de la esquina, pero estos cacharros asombrosos a veces dicen unas tonterías estupendas. Objetivamente, aún no están a la altura de los humanos. Nos superan en muchas cosas, pero no en todas.

En el campo de la IA, las máquinas hacen muchísimas cosas mejor que los humanos. El mayor progreso se ha dado en las tareas relacionadas con la intuición. Hace quince años era impensable que hubiera robots capaces de ubicarse en el espacio o de reconocer información visual. Muchas tareas asociadas a nuestro pensamiento intuitivo acerca de la información que tenemos alrededor y cómo reaccionamos e interactuamos con ella han avanzado de forma prodigiosa. En particular, en el lenguaje; al ser algo formal, no estaba claro que se pudiera aprender como algo intuitivo.

La tecnología de IA dominante es el aprendizaje automático, que emula nuestra capacidad de aprendizaje intuitivo y ha conseguido crear cacharros que hablan y dialogan con nosotros. Otra cosa es lo que entienden realmente. Reconozcámoslo, estas empresas llevan tres años anunciando que los modelos de lenguaje iban a ser inteligencias de verdad, pero eso aún no se ha producido. De hecho, por fin los escépticos empiezan a ver reconocido su escepticismo. Incluso popes de las tecnológicas que nos vendían la moto de la IA general, como Sam Altman, ahora dicen que estaba sobrevalorada y que hay que hacer cosas útiles.

Personalmente, soy escéptico y creo que una mayoría de quienes se dedican a la IA también lo son. Lo del marketing es indiscutible. Cuando estás al mando de empresas que necesitan inyecciones de inversión de cientos de billones de dólares, necesitas llamar la atención. No podemos fiarnos de ninguno de los jefazos de estas compañías, porque tienen que vender y conseguir inversión. Los que no trabajamos en ellas sí podemos opinar sin tener que vender ninguna moto, pero tampoco nos estamos enterando bien de lo que está pasando. Siempre nos queda la duda de si OpenIA tiene ya algo muy potente que aún no nos ha contado. Tampoco disponemos de músculo económico para hacer nuestra propia investigación. La situación es complicada: de unos no te puedes fiar y los demás no sabemos qué está pasando.

Me llama la atención que donde más escépticos hay sea precisamente en el lado puro de la IA, entre quienes trabajan en su investigación y desarrollo, y que el hype esté en aquellos que nos acercamos a este campo desde fuera. ¿Cómo se vive desde los ámbitos de las humanidades y de las ciencias de la computación lo que ocurre con la IA?

Yo esperaba que, desde las humanidades, hubiera mucho más escepticismo y una valoración sesgada a la baja de estos chats, porque amenazan con quitarnos el trabajo. El campo de la traducción, donde la IA ha mejorado enormemente, quizá sea uno de los mejores ejemplos. Si bien se sigue necesitando a los humanos, entre otras cosas porque a alguien hay que echarle la culpa cuando un texto está mal traducido, tengo la impresión de que ya empieza a pagarse peor.

Otra cosa es que las máquinas escriban cuentos y que a la gente le gusten. Esperaba de las humanidades una actitud a la defensiva que sacara la bandera de lo humano, pero veo en mucha gente una fascinación excesiva, una fe absoluta en las máquinas. También hay una fe catastrofista. La fauna aquí se divide en escépticos y creyentes. Y dentro de estos últimos, en optimistas y catastrofistas. Entre los humanistas hay muchos más creyentes de los que imaginaba.

Es verdad que andamos tan obsesionados con que si esa inteligencia nos puede dominar que pueden pasar inadvertidos otros aspectos de la IA que nos afectan en el día a día, que sí se pueden controlar y están modificando nuestra sociedad a toda pastilla. El ejemplo más claro es el de los algoritmos de recomendación, que se basan en los mismos principios que los chatbots y también aprenden de forma intuitiva. Consumimos constantemente información y, cuando entramos en una red social o hacemos una búsqueda en Google, detrás de cada información, hay un algoritmo de IA que nos recomienda cosas. Lo primero que vemos, a veces lo único, son sus recomendaciones. Ese algoritmo está modificando nuestras mentes, sobre todo las más vulnerables, las que están en formación, como las de los preadolescentes y los adolescentes. Los más jóvenes, y no solo ellos, sufren en sus carnes, de manera completamente medible, el efecto de que la información que consumen esté absolutamente mediada por una IA que es quien decide lo que vamos a ver. Y no lo decide sola: lo decide con nosotros pero sin que nos demos cuenta. Esas máquinas aprenden a darnos cosas que nos enganchen. En función de lo que consumimos, enseguida saben a qué grupo poblacional pertenecemos y nos recomienda lo que les ha gustado a otros como nosotros. En principio, parece algo inocente, pero no lo es. Ese algoritmo conoce muy bien a los humanos porque optimiza el conocimiento que tiene de ellos.

Una de las claves de la IA es que se dedica a optimizar; cada sistema ha aprendido a optimizar un único objetivo. Un chatbot ha aprendido a optimizar cuál es la siguiente palabra, y un sistema de recomendación ha aprendido a optimizar el tiempo que te quedas viendo o escuchando lo que te recomienda.

Es un proceso inconsciente. No sabes si te has radicalizado o no. De hecho, el algoritmo recomienda vídeos terraplanistas, aunque no conoce su contenido. Solo sabe que ese tipo de vídeos enganchan.

Llevamos ya mucho tiempo con las redes como para habernos aprendido esa lección, pero de repente nos pillan por sorpresa los chatbots conversacionales, como ChatGPT, Pilot, etcétera. La gente habla con ellos creyendo que lo que le cuentan tiene algún atisbo de verdad, pero la verdad no entra dentro de lo que le habéis pedido los informáticos al chat.

Porque no sabemos cómo. Es algo muy curioso de los chatbots. Como decíamos, todo sistema inteligente artificial está diseñado para aprender a optimizar un objetivo. Sin embargo, los chatbots los crearon investigadores que estaban buscando sistemas que se hicieran inteligentes de verdad, y eso no resuelve ninguna tarea. Es un objetivo de investigación equivalente al del doctor Frankestein, que lo que quería era dar vida. En este caso, los investigadores buscaban alcanzar la inteligencia artificial general, pero la gente empezó a usar los chatbots de formas inesperadas.

Se convierte en un oráculo al que muchísima gente hace caso, como si fuera la forma infinita de sabiduría, pero sabemos que es un supercuñado.

Es un concepto muy importante (risas). Cuando surgieron los «modelos de lenguaje», es decir, los chatbots, en Estados Unidos se acuñó el término de «loro estocástico». Lo del loro es porque repite palabras sin saber qué está diciendo. Y lo de estocástico viene porque se trata de máquinas que, en principio, tienen un componente aleatorio: si le preguntas lo mismo cuatro veces, te puede dar cuatro respuestas distintas. Pero esa metáfora se queda muy corta para describirlos. En España hemos acuñado la del cuñado, que es parecida pero más elaborada (risas).

Efectivamente, los chatbots dominan el lenguaje y son capaces de manipularlo, de escuchar cosas y repetirlas de una forma muy coherente en el contexto de conversaciones, pero tienen en común con los loros que no las han asimilado. La característica del cuñado es que habla de oídas. En el caso de los chatbots, es un hablar de oídas de un robot que lo ha escuchado prácticamente todo con una capacidad memorística que le hace parecer listo.

El concepto de patrones estadísticos se queda corto. Al usarlo, pensamos en algoritmos que te completan palabras en el WhatsApp en función de cuál es la más probable. Las palabras no son más que secuencias de letras, y el algoritmo las completa a partir de las que suelen aparecer en tu móvil. Estos algoritmos tienen una idea de la semántica, en el sentido de cómo se relacionan las palabras entre ellas. Lo que aprenden tratando de predecir la siguiente palabra es una representación del lenguaje. Esto es muy importante y apenas se habla de ello.

Un problema de crear una herramienta que sirve para todo y para nada es que no tienes ni idea de cómo la va a usar la gente. Cuando lanzaron el ChatGPT, fue como si una empresa farmacéutica lanzara una píldora que no sabe para qué sirve y la regalara por todo el mundo para ver cuáles son sus efectos. Y han visto que tiene usos asombrosos y consecuencias que nunca se les hubieran ocurrido. Me pareció muy revelador el problema de fricción que ha habido con el chat GPT5. Era como el santo grial. Desde el lanzamiento del GPT4, unos meses después del primer ChatGPT, en el campo de la investigación esperábamos la llegada de esa anunciada IA general con la sensación de que sería el siguiente gran modelo de IA y que la llamarían GPT5. Salió finalmente este verano de 2025, después de tres años, pero no era la IA general. Entonces, nos empezamos a preguntar qué era eso de la IA general.

Es el gran bluf. Está por ver cuáles son sus capacidades, puede que tenga mejoras incrementales respecto al anterior, pero lo más gracioso es que habían hecho un modelo más inteligente que GPT4, que daba menos información falsa, mejores respuestas y más rápidas y era capaz de «razonar», al menos de emular el razonamiento, pero gran parte de los usuarios que habían jubilado el ChatGPT4 para pasarse al GPT5 estaban absolutamente soliviantados, por- que habían establecido con GPT4 una relación muy cercana y lo utilizaban para pedirle consejos de todo tipo sobre cómo manejar su vida privada, sus relaciones con amistades y parejas, etcétera. Los de OpenIA pensaban que el nuevo modelo iba a ser genial porque era un poco más listo; también más brusco y menos empático, lo cual a mí me parece adecuado. El problema del GPT4 era el exceso de adulación, lo habían entrenado para darle la razón al usuario en todo. Los de OpenIA sabían que se habían pasado, pero no pudieron prever que al rebajar la adulación y hacerlo más útil los usuarios se enfadarían. De hecho, han tenido que reponer los modelos de GPT4.

Personalmente y sin ningún criterio científico, lo que más miedo me da es el uso de un chatbot como sustituto de lo que necesitas como ser humano. Y está pasando. Hay situaciones de soledad extrema en las que puede mejorar la calidad de vida y el bienestar mental. Pero tener tan a mano algo que sustituye en un 80% lo que buscas en una persona y que no te cuestiona nada, a la larga, como especie, puede ocasionarnos enormes problemas de relación, incluso llegar a cambiar la forma en la que nos interrelacionamos los humanos.

De todas las casuísticas, la que más miedo me da es hasta qué punto nos está alejando de la realidad. Convivimos con una tecnología con capacidad de crear vídeos asombrosos, que pueden ser divertidos o terroríficos, a un coste nulo y a una velocidad pasmosa y cada vez más indistinguibles de la realidad. Ya no sabemos si lo que vemos es cierto o no, y las respuestas de los chatbots salen de fuentes cada vez más dudosas. En internet proliferan los textos escritos por máquinas que desconocen los conceptos de verdad y de mentira. Estamos entrando en un territorio donde la realidad no se encuentra entre los parámetros para los que ha sido programado el algoritmo.

El eslogan que utilizamos para vender el libro con las historias escritas por Patricio Pron y el chat GPT4 es: «Cómpratelo ahora que están en oferta los libros escritos por humanos». Dentro de poco será inalcanzable encontrar un libro escrito cien por cien por un humano.

Pero quería aclarar algo. Antes has dicho que se trata de una herramienta. Sin embargo, creo que es un error referirse a esta tecnología como «herramienta», incluso llamarla «tecnología».

Sí, pero no podemos referirnos a ella como «herramienta», porque las herramientas están diseñadas con un propósito. Sin embargo, esta tecnología no ha sido creada para cumplir ningún propósito específico, sino para crear inteligencia. ¿El monstruo de Frankenstein es tecnología? Yo creo que no. La tecnología son todos los aparatos que diseñó el doctor Frankenstein para conseguir darle vida al monstruo. Y podemos discutir si son neutros o no y cuál es su uso. Pero el monstruo no es tecnología, sino hijo de la tecnología. Aquí sucede lo mismo. La tecnología es la que permite simular redes neuronales parecidas a las humanas, los algoritmos de utilización, el hardware que hace entrenamientos sobre datos inmensos. El ChatGPT es un hijo de esa tecnología que, además, se ha entrenado leyéndose todo lo que hemos escrito los humanos que está disponible online. De ahí queherede nuestros sesgos, por lo que no es neutro. Aparte, está diseñado con el propósito de ver si lo importante es darnos la razón, si una información es más relevante que otra, etc. No es neutro en absoluto. Por eso, llamarlo tecnología es un error.

Sí. Y como tal hay que tratarlo. Jaime García Cantero, director de contenidos de El País Retina, dice con acierto que es la primera máquina que no solo cuestiona cómo hacemos las cosas, sino también quiénes somos. Como se asemeja a nosotros, parece inteligente; una inteligencia alienígena que nos hace preguntarnos en qué consiste ser inteligente, ser humano. Eso implica que sea radicalmente distinta a la tecnología. Cuando decimos «es una herramienta más y hay que aprender a usarla», creo que intentamos tranquilizarnos, pero nadie está muy seguro de que sea así.

No existe ninguna limitación para que la IA deje de mentir. Ahora bien, la tecnología fundamental de los chatbots siguen siendo los modelos de lenguaje. Y estos aprenden a representar el lenguaje imitándonos y luego van soltando palabras que sean fluidas, naturales y esperadas. Por su diseño, no están preparados para contarte la verdad, sino para decirte lo que esperas oír, lo que te resulta más natural. Con la tecnología de los modelos de lenguaje, no creo que sea posible. Se necesitarían otros desarrollos tecnológicos. Sin embargo, personas muy autorizadas, como el Nobel Geoffrey Hinton, piensan que las redes neuronales de estos cerebros artificiales se parecen lo suficientemente a los nuestros como para que, cambiando su entrenamiento o haciéndolos más grandes, aparezcan propiedades emergentes que les hagan ser inteligentes y saber distinguir el bien del mal y la verdad de la mentira. Yo soy muy escéptico. Como he dicho, hace falta una tecnología distinta. Ahora, a finales de 2025, esta es una opinión predominante entre la comunidad científica.

Es la copia de la copia de la copia de la llave que al final no abre la puerta… A estos algoritmos les puede pasar lo que a las vacas locas, que les daban pienso con carne de vaca y se volvieron tarumbas. Los algoritmos captan la envolvente, lo generalizable, la tendencia, mientras que desprecian aquello que sucede rara vez. Al buscar los patrones e ignorar lo raro, en sus contenidos hay mucha menos diversidad que en los generados por humanos.

Efectivamente, ahora empiezan a imitarse a sí mismos, por lo que se va generalizando y eliminando información. El resultado, tanto en generación de imágenes como de texto, es que, al cabo de cinco o seis ciclos de aprendizaje, producen imágenes inutilizables y textos ilegibles. Quizá, en un par de años, echaremos la vista atrás y recordaremos lo listo que era ChatGPT dos años antes… No es muy probable que esto suceda, porque hay gente a los mandos pensando cómo alimentarlo y se pueden poner contramedidas, pero ese escenario no es descartable. Según para qué los uses, parecen más tontos que el primer ChatGPT de 2022.

Hay uno muy básico, que viene al hilo de lo que hablamos. Durante muchos años, la IA se dedicó a crear máquinas en las que les pudiéramos meter el conocimiento y dotarlas de la capacidad de razonar. El conocimiento se les introducía a través de un cartuchito, como en Matrix. En aquella época, sabíamos representar conocimiento para que la máquina lo pudiera leer. También sabíamos que las máquinas pensaban de manera muy limitada, pero tenían un pensamiento racional; es decir, a partir de un conocimiento y aplicando reglas lógicas, llegarían a cosas nuevas. Aquello funcionaba de forma restringida. Era muy difícil generalizar e imposible pensar en una IA general que supiera de todo y fuera capaz de hacer lo que un humano. Ese campo está muy abandonado, excepto para cosas muy específicas.

La IA ha adoptado el paradigma de aprender intuitivamente, como los bebés aprenden a llevarse la cuchara a la boca, y ha funcionado de maravilla. Tenemos máquinas que sirven para casi todo, que han aprendido de forma intuitiva, pero no saben pararse a pensar, es decir, no han asimilado lo leído. El gran reto, que me parece fascinante, es cómo crear una inteligencia que, al igual que los humanos, tenga las dos formas de aprendizaje. Estas máquinas son únicamente intuitivas. Necesitamos una forma de combinar el pensamiento racional, el aprendizaje obtenido al estudiar unos contenidos y asimilarlos, con el aprendizaje intuitivo. Podría parecer que no es tan difícil, sin embargo, a pesar de ser una de las tecnologías donde más dinero ha invertido la humanidad, de momento nadie ha sabido cómo hacerlo.

Creo que la IA no va a mejorar mucho más, porque no es lo que queremos los humanos. Ha pasado con OpenIA: después de invertir miles de millones de dólares en desarrollo y hacer un bicho más listo, el ChatGPT5, resulta que a la gente no le gusta. Entonces, OpenIA ha echado el freno y ha vuelto atrás.

Patricio Pron le pegó una paliza a la máquina brutal: en todas las dimensiones de cualidad que analizamos, la diferencia era abismal; el estilo de Patricio era un 400% más creativo que el de la máquina. Pero, en ese caso, eso era así cuando lo evaluaban expertos y no un humano random.

Muy, muy lejos. Como decía, en nuestro experimento contábamos con la opinión de los expertos. Pero GPT4 escribía lo que le gusta a la gente: bestsellers, con títulos que suenan a bestseller, donde todo es muy natural, fluido y esperable. No creo que lleguemos a la IA general y tampoco que una máquina pueda escribir como Patricio Pron, porque ¿quién invertiría dinero en algo así? Patricio Pron no es un bestseller, es un escritor de prestigio y muy premiado, pero sus libros no están en la estantería de los títulos que se sabe de antemano que venderán ejemplares a porrillo.

Tengo la desesperanza de que no vamos a progresar mucho, porque ya hemos llegado al límite en el que la IA sabe hacer lo que le gusta a la gente. Por otro lado, está mi parte optimista: si puedes decirle a un chatbot «haz un bestseller» y te lo escribe al momento, inevitablemente, bajará el valor de este tipo de libros. Al perder valor el producto comercial, quizá la gente se fije más en el arte de verdad y el tipo de literatura de Patricio Pron despierte más interés. Igual soy demasiado optimista, pero para mí tiene sentido.

No sería la primera vez que la tecnología cambia lo que consideramos arte o el valor que le damos, y ya sé que estoy usando la palabra tecnología, pero la fotografía lo fue. Para los pintores naturalistas fue una ruina que, de repente, se pudieran fotografiar los paisajes.

Sin embargo, todavía hay artistas muy reputados que hacen cuadros hiperrealistas, que son casi fotográficos, y los venden por una millonada.

Seguro. Nos hemos centrado en los chatbots, pero existen otros tipos de IA. A mí me fascina en particular el tema del desarrollo de los medicamentos a partir del conocimiento de la estructura de las proteínas. La IA ha sido capaz de predecir la estructura de prácticamente todas las proteínas relevantes del mundo animal y vegetal; eso abre la posibilidad de desarrollar medicamentos con tiempos y costes muy inferiores a los que veníamos manejando. Las posibilidades son infinitas. Lo malo de las posibilidades es que, cuando uno desarrolla una tecnología poderosa y, por lo tanto, peligrosa, la cuestión no es tanto cómo se puede usar para el bien, sino cómo se va a usar, y a veces no es la mejor de las maneras.

La mayor parte de las cosas en la vida son imprevisibles, impredecibles y borrosas.