Francesc Borrell (FB): Daniel, buenos días desde un pueblo del Garraf, Barcelona. Me presento brevemente: soy profesor titular, ahora honorífico por jubilación, de la Facultad de Medicina (UB), médico de familia, y también en la actualidad compositor para coral y orquesta. Conozco bien tu obra, pues la he reseñado de manera minuciosa en varias ocasiones (humedicas.com), y me llamó la atención que tu último libro (Teoría crítica de la inteligencia artificial) lo acabaras de escribir en Alemania. Debes de hablar un alemán fluido.
Daniel Innerarity (DI): En realidad es la lengua no materna que hablo mejor. Leo y trabajo en alemán más que en otras lenguas, aunque en mi estancia en Florencia imparto las clases en inglés, y he vivido siete años en Francia. Me siento cómodo en alemán y francés.
FB: La mayor parte del libro la escribiste en Florencia, pero lo acabaste en Fráncfort.
DI: Efectivamente, en el Institut für Sozialforschung. Pertenezco a la tercera generación de esta institución, tras sus fundadores (1923), Theodor Adorno, Max Horkheimer, Félix Weil, Gyorgy Lukács, Carl Grünberg; y a la segunda de Axel Honneth y Jürgen Habermas.
Comprender la Inteligencia Artificial (IA)
FB: Hablaremos, si te parece, a partir de tu libro, de cómo nos condiciona la IA, sobre todo a nivel político. Por cierto, ¿usas de manera habitual la IA? Debo decirte que los médicos ya la usamos mucho, aunque no se puede afirmar que la mayoría tenga una adecuada alfabetización. La clave reside en que la IA sea como tu becario, y tú continúes siendo el experto, y no al revés.
DI: Lo primero que te diría es que resulta imposible no utilizarla. De hecho, tú entras en Google y en la primera respuesta para cualquier pregunta ya interviene la inteligencia artificial. Hay un uso, digamos, «mínimo», que se nos ha impuesto sin preguntarnos. Por consiguiente, la respuesta inicial a tu pregunta sería sí, la uso como todos. Pero si atendemos a un uso avanzado, estoy en proceso de aprendizaje y todavía la utilizo poco, no me siento muy seguro, pero sé que la voy a utilizar. Sospecho que si esta entrevista la repitiéramos dentro de uno o dos años, te respondería rotundamente con un «sí». Es un instrumento muy válido para ciertas tareas que hacemos todos los investigadores; nos cambiará la manera de investigar de una manera mucho más radical de como lo hizo Google. Cuando tropiezas con un nombre o una persona que no conoces, lo primero que haces es mirar en Wikipedia, ¿no? Pero si escribiésemos un artículo basándonos en Wikipedia, sería una birria. Como te digo, estoy en esta primera fase de tanteo, por ejemplo, tengo en seguimiento con IA varios términos que me interesan, y la IA realiza periódicamente una indagación bibliográfica. Seguro que en un futuro descubriré otras utilidades.
FB: Estamos todos alfabetizándonos. Me sorprende en ocasiones que en conversación con colegas me dicen: «Yo ya uso la IA». Pero en realidad usan la IA como simple buscador, quizás más sofisticado, pero no saben construir una instrucción debidamente estructurada, no saben iterar, desconocen que la IA no puede criticarles a menos que explícitamente se lo pidas, etc. Me interesa, en parte porque estoy en desacuerdo, cómo caracterizas en tu libro las IA, como marcas algunos límites, por ejemplo, su falta de sentido común, el hecho de que no tienen acceso a los entornos donde se producen interacciones humanas, y por tanto a relaciones subyacentes entre los participantes que dialogan, o la falta de conocimiento implícito… Quisiera mencionarte un experimento que realicé con la imagen aquella en que Obama pisa una báscula mientras un miembro de su equipo trata de pesarse; la pones en tu libro como ejemplo de estas limitaciones de la IA. La IA con la que interactué fue capaz de captar la ironía. En realidad, hizo un análisis detallado con los aspectos de comunicación no verbal que para sí quisieran muchos expertos.
DI: Hay que tener en cuenta que esa foto ha sido muy comentada. Hay que distinguir entre un análisis «prima facie» y un recopilatorio de opiniones y análisis que la IA puede haber encontrado en chats o publicaciones. Si ahora tuviera que poner una foto en el libro, escogería alguna totalmente inédita.
La Inteligencia Artificial, ¿tiene capacidad metacognitiva?
FB: Puede que tengas razón. He desarrollado varios test para probar hasta dónde llegan las IA. El test que llamo «triple reto» consiste en un breve chiste con una carga irónica tremenda. El primer reto es que la IA adivine por qué hace reír a los humanos. Las tres IA con las que interactué contestaron de manera excelente. El segundo reto era que adivinasen si un oyente de habla nativa inglesa reiría a la misma velocidad que lo harían nativos de lengua española. Las tres respondieron para matrícula. Finalmente, el tercer reto fue que adivinaran por qué razón les había invitado a analizar el chiste, advirtiéndoles que esta misma pregunta les debería poner en la pista de mis intenciones. En este caso solo una de las IA fue capaz de responder (Gemini 2.5, la versión tres aún no había salido). Me contestó: «Estás explorando la metacognición y el rol de la IA, es decir, mi capacidad para “desmontar” la mecánica de un chiste, por qué un chiste funciona, y si puedo perfilar su audiencia potencial». Iteré preguntándole: «Observa que en mi pregunta te indicaba que esta misma pregunta debiera ser una pista para contestarme… ¿Te sirvió esta pista, la tuviste en cuenta?». Y Gemini respondió: «Esta pista funcionó como una instrucción de enfoque y reforzó y validó un análisis recursivo (metacognición). En lugar de simplemente adivinar tus intenciones, tuve que analizar el patrón y la estructura de la conversación en su totalidad. Esto reforzó mi hipótesis de que estabas probando la capacidad de la IA para reflexionar sobre su propio proceso de comunicación, no solo sobre el chiste». A mí me dejó realmente descolocado y recordé el libro de Eagleman Una red viva, donde este autor afirma que la corteza cerebral es estructuralmente igual en sus diferentes zonas, se adapta al flujo de datos que le entra, si es de la piel, será una zona de tacto, si viene de la retina, de la vista, etc. Pero las capas tisulares son las mismas en todo el cerebro. La red neural artificial es parecida a nuestra corteza, no tiene el sustrato de tálamo, hipotálamo, etc., pero la misma estructura hace funciones muy diversas. Quizás las estructuras más primitivas de nuestro cerebro (bulbo, mesencéfalo, etc.), así como la red perceptiva interna (interoceptiva) y externa, sean necesarias para que emerja la conciencia humana. En todo caso quizás estamos emulando con la IA nuestra corteza cerebral, aunque desprovista de atributos como las intenciones o la imaginación, que para autores como Popper están en el mismo centro de la conciencia humana. (Popper escribió con el neurólogo Eccles unas páginas muy interesantes al respecto en su libro El Yo y su cerebro).
DI: Bueno, esas funciones están alejadas hoy por hoy de la inteligencia artificial, pero qué duda cabe de que en un futuro la inteligencia artificial se puede acercar muchísimo más a estos límites. Yo pongo ejemplos en los que difícilmente la IA actual puede asomarse, pero no es obstáculo para que una IA futura se acerque hasta un punto insospechado. Pueden aproximarse mucho a la reflexividad y sentido común humanos. Ahora bien, Wittgenstein ya afirmaba que «el hecho de que los límites sean porosos no significa que no existan». ¿Podrá la IA traspasarlos? Yo estoy abierto como filósofo que soy a considerarlo. Estoy abierto a que alguien me lo demuestre. Pero por todo lo que he leído y en todo lo que he hablado con mis colegas, también con mis colegas de áreas tecnológicas, de momento no me convence la hipótesis de un sorpasso o un reemplazo de la IA sobre la inteligencia humana.
FB: Entre otras razones porque aún no tenemos bien definido lo que es la conciencia humana, ¿no? Damasio se acerca un poco, se arriesga al punto de proponernos un modelo (muy deudor de William James), como también lo hizo Popper sobre 1940, pero es una de las cuestiones más controvertidas en filosofía.
La Inteligencia Artificial condicionará la expresión política
FB: Pero avancemos algo más. Introduzcamos un concepto de tu libro para mí clave: la performatividad. La IA condiciona —y aún más en un próximo futuro— maneras de hacer, maneras de relacionarnos e incluso un horizonte de significados. Pero no nos obliga directamente, será un proceso de descubrimiento y adaptación a una nueva tecnología. Hui Bai comprobó en un trabajo de campo que la IA era capaz de alterar el sentido del voto, tanto más cuanto ofrecía al votante razonamientos lógicos apoyados en hechos.[1] La IA tiene a su disposición tal cantidad de datos, y sabe manejarlos con tal acierto, que puede «hackearnos» la mente. Quizás, como apunta Harari, ya estamos todos algo «hackeados». Intentamos contrarrestar las fake news, vacunarnos contra el terraplanismo, pero la cuestión central es: ¿cómo podemos asegurar una buena deliberación política? ¿Ayudaría la presencia de agencias estatales independientes, tipo AIREF, en las que equipos humanos-IA establecieran un marco lo más objetivo posible de cómo está la economía, la sanidad, la educación, etc.? Hasta donde yo te he leído, no has abordado la metodología de lo que debiera ser una buena deliberación política.
DI: Mi posición es evitar declaraciones tremendistas. El historiador (Harari) tiene un enfoque privilegiado hacia el pasado, pero tan limitado hacia el futuro como lo podemos tener los filósofos. Quizás el filósofo, cuando trata de predecir el futuro, tiene más en cuenta sus límites, trata de protegerse de sus propios sesgos. Y eso me traslada al tema de los datos objetivos. Sobre este tema yo parto de una convicción, y es que nuestras deliberaciones, nuestras discusiones, eso «de lo que hablamos» cuando hablamos de política, pocas veces se resuelve apelando a objetividades. Muy poco de lo que decimos, muy poco de los desacuerdos que tú y yo podamos tener, se podría resolver a partir de datos. Si uno de los dos trajera aquí un dato, «el PIB de España es este», «el aumento de la temperatura en la Tierra en los últimos diez años ha sido este», sin duda aporta valor a la conversación, hay que respetar este valor, pero pocas veces cambiará convicciones. Ello se debe a que la conversación democrática, en general, se basa en interpretaciones. Si tú y yo discutimos, no es por los datos, discutimos por la manera como los interpretamos. Los datos son más contextualizables de lo que acostumbramos a suponer, y pocas veces ponen un punto final a las conversaciones.
FB: Y sobre la deliberación, sobre la metodología de la deliberación política, ¿has trabajado más allá de este libro?
DI: No. He escrito cosas sobre la teoría de la deliberación en mi libro sobre la democracia compleja, pero no es un punto sobre el que me haya centrado especialmente. Me he interesado por los grandes principios sobre los que se apoya la deliberación, principios que me parecen disruptivos con relación a ciertas tradiciones y maneras de entender la conversación pública; por ejemplo, la idea de la maleabilidad o de la indeterminación de los intereses o preferencias personales. Conocer estos intereses y preferencias no nos garantiza una conversación pública de calidad, porque en ocasiones la gente descubre sus preferencias en el mismo acto de presentarlas y discutirlas. Mal comienzo si damos por supuesto que conocemos lo que la gente desea o prefiere. No veo la política como una negociación sobre intereses fijos. Creo más acertada la posición de Pettit y de Habermas de considerar el espacio comunicativo como un espacio de conversión, de modificación, de transformación, de descubrimiento. Este enfoque me ha interesado más que definir algo así como una operativa de la deliberación política.
FB: Sin embargo, y considerando un entorno tan polarizado como en el nuestro de las sociedades occidentales, ¿no sería casi metodológicamente necesario que las deliberaciones se dieran bajo presupuestos tan básicos como el de caridad hermenéutica (eso es, interpretar de la mejor manera posible lo que te está diciendo otra persona, incluso un adversario político)? ¿No sería requisito casi sine qua non saber escuchar? ¿No estamos sucumbiendo —en tanto que sociedad— al placer de odiar más que al de cooperar? Eso me lleva a pensar con Sloterdijk (Ira y tiempo) y su idea de que hay bancos que en lugar de dinero capitalizan la ira, lo que llama «los bancos de la ira».
DI: No descubro nada nuevo si digo que nos movemos en un contexto de opiniones muy encontradas, donde la polarización resulta muy rentable políticamente. Pero quizá porque me gusta llevar la contraria a los lugares comunes, en el próximo libro que entrego ahora a la imprenta y que posiblemente saldrá en 2026 —un «libro pequeño», porque no tiene el tamaño de Una teoría de la crítica para la inteligencia artificial—, sostengo en un capítulo que la polarización es más una estrategia política que una realidad social. No tenemos una sociedad polarizada, pero sí un sistema político polarizado. La palabra polarización nos lleva a pensar en dos bloques configurados de manera antagónica, cada uno con su coherencia ideológica y unos apoyos sociales también bien definidos. En la actualidad, por más que haya tensiones, esa visión ya no responde a la realidad. Si esa fuera nuestra realidad estructural, no se explicaría la alternancia política. Hay alternancia política porque hay gente que está en un espacio indeterminado, que se deja convencer, que cambia de voto. El porcentaje de la gente que cambia de voto es enorme. Si estuviéramos en una sociedad polarizada, lo que tendríamos es una especie de balotaje permanente. Y no lo tenemos. Fíjate en lo que acaba de ocurrir en Chile. Un cambio y además un cambio brusco, significativo cuantitativa y cualitativamente.
¿Puede la IA polarizar o cohesionar a la sociedad?
FB: Eso no obsta para un cierto distanciamiento y crítica al sistema democrático, fruto de la decepción con la política. La gente percibe los partidos políticos como empresas que se pelean por el mercado de los votos. El espectáculo de ver cómo se negocian los presupuestos, la teatralización de posiciones, y el desprecio en ocasiones que demuestran por el bien común, afianzan estos sentimientos de decepción con la política. Y así como se ha teorizado sobre la radicalización que provocan las redes sociales, hay quien piensa que la IA incrementará este «efecto burbuja», por el cual el extremista se ve confirmado en sus creencias. Por contra, otros comprobamos que, en general, las respuestas de las IA a asuntos variados no suelen ser extremistas, más bien conciliadoras. Incluso hay opiniones en el sentido de que las IA pueden cohesionar por cuanto aproximarían sectores vulnerables a prejuicios y abusos, protegiéndolos y aconsejándolos como si tuvieran a su lado un experto. Ahí tenemos como otro ejemplo los tutoriales de YouTube. ¿Cuál sería tu perspectiva?
DI: Mira, para empezar por el principio de tu intervención, hace unos años, cuando se planteó el tema de la educación para la ciudadanía con base en la Constitución, yo me posicioné en el sentido de que conocer la Constitución no es muy importante. Yo creo que es mucho más importante que la gente entienda de qué va la política, o sea, cuál es el juego de la política. Y en parte esto además se ha radicalizado con el tiempo. Estoy en contacto con jóvenes en edad universitaria a quienes aún les resuena su paso por la adolescencia. Pues bien, a ellos, a mis propios hijos, he tratado siempre de proporcionarles las claves para que interpreten el juego político desde la madurez, que sean ciudadanos maduros y demócratas y, para eso, que aprendan a deconstruir la política, que aprendan a descodificar unos lenguajes que están hinchados, inflados, hiperbólicos, con unos lenguajes a veces retóricos y dramáticos. Siempre he defendido que la política tiene esta dimensión retórica, y no por ello es mala. Es mala la mentira y la ofensa, pero si estoy en la oposición y quiero ser alternativa, deberé dramatizar lo negativo. Interpretar la política viene a ser como leer un libro. Un niño puede extrañarse de que salgan dragones en un cuento: «Oye, papá, los dragones no existen, ¿verdad?». Pues no, no existen, pero por eso mismo los podemos disfrutar más. Me esfuerzo para que los jóvenes adquieran estos códigos.
Y paso al otro tema. La IA, ¿va a promover la objetividad o va a promover la subjetividad ideológica? Resulta difícil de responder porque existe aún un alto grado de incertidumbre sobre nuestra respuesta personal y colectiva a estas nuevas oportunidades. Pero sí pienso que los que escribimos sobre teoría política subrayamos sesgos y prejuicios, como puede ser el peligro de polarización, y no lo hacemos, ¡al menos con la misma intensidad!, en el sentido de que puede desideologizar determinados temas. Ahora mismo estoy colaborando en un proyecto de investigación que intentará evaluar el impacto real de muchas medidas legislativas. Los parlamentos están legislando intensivamente, pero muy poca gente se preocupa por medir si esta legislación tiene el impacto pretendido. Parece que los problemas quedan resueltos aprobando leyes. Sin embargo, ¿de verdad se cumplen los objetivos que nos proponíamos? En determinadas materias, más bien nos da la impresión de que son normas perfectamente inútiles. Y regreso al tema de las redes sociales. Estas redes efectivamente pueden polarizar a la sociedad, y ello no es incompatible con el hecho de que las IA quizás tengan el efecto inverso, de homogeneizar en exceso. Si todos usamos el mismo chat, teniendo en cuenta que el chat está alimentado a base de los datos del pasado, vamos a ser muy poco originales. Es poco previsible que las IA nos aconsejen de manera disruptiva o que sencillamente critiquen un trabajo nuestro. Son acomodaticias, al menos en mi experiencia, no sé si también en la tuya. Presuponen que nuestro comportamiento futuro será similar al pasado.
FB: En efecto, la IA no te contradice a menos que se lo pidas. Pero con una instrucción apropiada, cuando le dices: «Critícame este artículo, busca contradicciones, busca opiniones diferentes, compara con tales autores», etc., entonces actúa sin remilgos ni compasión.
DI: Sí, hice una prueba con un amigo mío sobre una sentencia condenatoria, solicitando con base en una serie de criterios si se ajustaba a Derecho, y le pedimos que su informe emulara lo que sería un trabajo de fin de máster. El resultado con base en la razonabilidad de la sentencia, demostración de responsabilidad, hechos contrastados, etc., fue muy crítico.
La influencia de las emociones en la política
FB: Todo depende de la calidad de las instrucciones específicas y los grados de libertad que le concedas a la IA. Le proporcionas un artículo, un texto que crees que es bueno, y con toda seguridad irá más a fondo que un colega que quizás no se atrevería a decirte según qué. Y paso a otro tema fascinante. Reproduzco de tu libro un párrafo que me parece de gran interés. Dices:
Nuestras controversias acerca de la justicia generalmente no confrontan a quienes la defienden con quienes la desprecian, sino que obedecen a que tenemos distintas concepciones de ella: más distributiva, inclusiva o procedimental; hay quien se da por satisfecho con que las condiciones de partida sean idénticas, mientras que otros la entienden como una similitud en los resultados; existe una igualdad formal y otra de contenido; hay quien defiende una igualdad abstracta y quien argumenta en favor de una igualdad que se conseguiría mediante ciertas discriminaciones positivas; su tensión con otros valores, como la libertad, explica que haya tantas versiones de ella en el espacio de debate democrático (p. 415).
En los años setenta era imposible predecir esta explosión de perspectivas. Pero en todo caso ahora, siglo XXI, debemos tomar partido, y lo hacemos por cómo hemos sido echados al mundo, los intereses de nuestros grupos de referencia, los nuestros propios… Las reclamaciones que apelando a la justicia puede hacer cada comunidad autónoma, seguro que tienen una parte de base racional, pero seguro también que tienen mucho de emocional. Cada comunidad y nacionalidad quiere verse reconocida en sus méritos… Y entonces debemos admitir que hay un sustrato psicológico en la acción política.
DI: Totalmente, totalmente. Mira, mi discrepancia fundamental con Habermas, Pettit y los teóricos de la liberación es el poco espacio que conceden a las emociones en la política. Javier Muguerza decía que, leyendo a Habermas, le parecía ver la comunión de los santos. Gente sin intereses, sin preferencias, deliberando como si estuvieran en un espacio universitario (tampoco los espacios universitarios son espacios sin intereses). No he trabajado esta temática, solo me he asomado un poco, y hablaría de sesgos antropológicos. En este punto me aproximaría a Kahneman. Hay que descender de ciertas idealizaciones relativas a una deliberación perfecta, para aterrizar con Kahneman en el horizonte de lo práctico, de lo emotivo, porque lo humano incluye la ira, la irracionalidad. Cuando desde la teoría económica se han buscado modelos predictivos de cómo actúan las personas, se han equivocado tanto desde posiciones de derechas como de izquierdas. En parte ocurre porque los seres humanos somos capaces de actuar contra nuestros propios intereses. Yo podría citar ahora mismo una lista relativamente larga de partidos que se suicidan, líderes políticos que —movidos por su cortoplacismo— cometen errores que acaban con ellos. Si acabaran con el adversario lo podríamos entender. Pero no, ¡acaban con sus carreras! Te diré que he empleado incontables horas de mi vida, como filósofo político, en estudiar textos de Maquiavelo, Hobbes, Marx, Hegel, etc. Pero también he dedicado muchas horas a hablar con gente que tenía experiencia práctica de la política, porque me parecía que no podía cometer el error de Michael Ignatieff, el cual, siendo catedrático de teoría política en Harvard, entra en política, fracasa estrepitosamente y vuelve diciendo: «No es lo que yo me imaginaba». Bueno, si eres catedrático de teoría política y tienes cuarenta y pico años, ¿no te dio tiempo de ver cómo funciona la política real? Yo acabo de mandar un artículo a El País, un tanto molesto por cómo se está interpretando la situación política en España. Da la impresión de que esta secuencia de acontecimientos escandalosos de corrupción y acoso sexual es producto de partidos y líderes de izquierdas, y que los salvadores deban ser actores no precisamente distinguidos por una trayectoria de apoyo al feminismo y la honestidad política. Quienes así lo denuncian nunca en su tradición histórica han sido receptivos a impulsos feministas y de transparencia, y ahora, como por arte de magia, aparecen como la solución. Entonces, esto, ¿a qué se debe? Yo creo que a un sesgo cognitivo que está bien explicado por Kahneman: el sesgo de la disponibilidad. Es decir, la idea de que lo que está en primer plano oculta el segundo plano. Lo que está en primer plano y es más llamativo, termina funcionando como un recurso explicativo de todo, de todos los planos. ¿Para qué vas a recurrir a una explicación compleja si tienes un culpable? No tienes necesidad de hacer una teoría ni un análisis sofisticado. Conclusión: los partidos que más han hecho por el feminismo serían ahora antifeministas. Este sesgo está funcionando de una manera masiva en gente que es razonable, incluso que pueden ser votantes de izquierda.
FB: Tenemos que ir acabando esta interesante charla, pero cuando hablabas de tener experiencia práctica en política me acordé de Ortega y Gasset y su paso por el Congreso de los Diputados de la República… Un intento de introducir racionalidad y contraste de ideas. Pero estamos en un momento paradójico en el que un joven inculto y deslenguado tiene en TikTok más voz y seguidores que un artículo tuyo en El País. ¿Quizás deberíamos publicar en Instagram y TikTok?
DI: Sí, yo diría como conclusión de nuestra charla que se debe hacer una filosofía política para agentes de racionalidad limitada. Sigo a Herbert Simon, en el sentido de que nuestra racionalidad está limitada, está condicionada, es finita, está rodeada de sesgos, prejuicios, cortocircuitos heurísticos que pueden extraviarnos… No somos tampoco animales, podemos atender a razones. Y quizás en este punto la IA jugará un papel que ahora mismo es difícil de adivinar o predecir.
FB: Tenemos mucho trabajo por delante. Mis felicitaciones por tu trayectoria, porque somos muchos los que te seguimos. El título de filósofo no convierte a una persona en verdadero filósofo, este personaje que, según Adorno, no debe conformarse con lo obvio, sino explorar las fronteras, los límites. En ocasiones se confunde filosofar con hacer historia de la filosofía. No es tu caso, y es ahí donde aportas valor a las conversaciones. Gracias por tu tiempo.
[1] Hui Bai, Jan G. Voelkel, Shane Muldowney, Johannes C. Eichstaedt & Robb Willer (2025): «LLM-generated messages can persuade humans on policy issues», Nature Communications, 16, 6037. https://doi.org/10.1038/s41467-025-61345-5
