Una teoría crítica de la inteligencia artificial
Francesc Borrell (FB): Daniel, buenos días desde un pueblo del Garraf, Barcelona. Me presento brevemente: soy profesor titular, ahora honorífico por jubilación, de la Facultad de Medicina (UB), médico de familia, y también en la actualidad compositor para coral y orquesta. Conozco bien tu obra, pues la he reseñado de manera minuciosa en varias ocasiones (humedicas.com), y me llamó la atención que tu último libro (Teoría crítica de la inteligencia artificial) lo acabaras de escribir en Alemania. Debes de hablar un alemán fluido.
Daniel Innerarity (DI): En realidad es la lengua no materna que hablo mejor. Leo y trabajo en alemán más que en otras lenguas, aunque en mi estancia en Florencia imparto las clases en inglés, y he vivido siete años en Francia. Me siento cómodo en alemán y francés.
FB: La mayor parte del libro la escribiste en Florencia, pero lo acabaste en Fráncfort.
DI: Efectivamente, en el Institut für Sozialforschung. Pertenezco a la tercera generación de esta institución, tras sus fundadores (1923), Theodor Adorno, Max Horkheimer, Félix Weil, Gyorgy Lukács, Carl Grünberg; y a la segunda de Axel Honneth y Jürgen Habermas.
Comprender la Inteligencia Artificial (IA)
FB: Hablaremos, si te parece, a partir de tu libro, de cómo nos condiciona la IA, sobre todo a nivel político. Por cierto, ¿usas de manera habitual la IA? Debo decirte que los médicos ya la usamos mucho, aunque no se puede afirmar que la mayoría tenga una adecuada alfabetización. La clave reside en que la IA sea como tu becario, y tú continúes siendo el experto, y no al revés.
DI: Lo primero que te diría es que resulta imposible no utilizarla. De hecho, tú entras en Google y en la primera respuesta para cualquier pregunta ya interviene la inteligencia artificial. Hay un uso, digamos, «mínimo», que se nos ha impuesto sin preguntarnos. Por consiguiente, la respuesta inicial a tu pregunta sería sí, la uso como todos. Pero si atendemos a un uso avanzado, estoy en proceso de aprendizaje y todavía la utilizo poco, no me siento muy seguro, pero sé que la voy a utilizar. Sospecho que si esta entrevista la repitiéramos dentro de uno o dos años, te respondería rotundamente con un «sí». Es un instrumento muy válido para ciertas tareas que hacemos todos los investigadores; nos cambiará la manera de investigar de una manera mucho más radical de como lo hizo Google. Cuando tropiezas con un nombre o una persona que no conoces, lo primero que haces es mirar en Wikipedia, ¿no? Pero si escribiésemos un artículo basándonos en Wikipedia, sería una birria. Como te digo, estoy en esta primera fase de tanteo, por ejemplo, tengo en seguimiento con IA varios términos que me interesan, y la IA realiza periódicamente una indagación bibliográfica. Seguro que en un futuro descubriré otras utilidades.
FB: Estamos todos alfabetizándonos. Me sorprende en ocasiones que en conversación con colegas me dicen: «Yo ya uso la IA». Pero en realidad usan la IA como simple buscador, quizás más sofisticado, pero no saben construir una instrucción debidamente estructurada, no saben iterar, desconocen que la IA no puede criticarles a menos que explícitamente se lo pidas, etc. Me interesa, en parte porque estoy en desacuerdo, cómo caracterizas en tu libro las IA, como marcas algunos límites, por ejemplo, su falta de sentido común, el hecho de que no tienen acceso a los entornos donde se producen interacciones humanas, y por tanto a relaciones subyacentes entre los participantes que dialogan, o la falta de conocimiento implícito… Quisiera mencionarte un experimento que realicé con la imagen aquella en que Obama pisa una báscula mientras un miembro de su equipo trata de pesarse; la pones en tu libro como ejemplo de estas limitaciones de la IA. La IA con la que interactué fue capaz de captar la ironía. En realidad, hizo un análisis detallado con los aspectos de comunicación no verbal que para sí quisieran muchos expertos.
DI: Hay que tener en cuenta que esa foto ha sido muy comentada. Hay que distinguir entre un análisis «prima facie» y un recopilatorio de opiniones y análisis que la IA puede haber encontrado en chats o publicaciones. Si ahora tuviera que poner una foto en el libro, escogería alguna totalmente inédita.
La Inteligencia Artificial, ¿tiene capacidad metacognitiva?
FB: Puede que tengas razón. He desarrollado varios test para probar hasta dónde llegan las IA. El test que llamo «triple reto» consiste en un breve chiste con una carga irónica tremenda. El primer reto es que la IA adivine por qué hace reír a los humanos. Las tres IA con las que interactué contestaron de manera excelente. El segundo reto era que adivinasen si un oyente de habla nativa inglesa reiría a la misma velocidad que lo harían nativos de lengua española. Las tres respondieron para matrícula. Finalmente, el tercer reto fue que adivinaran por qué razón les había invitado a analizar el chiste, advirtiéndoles que esta misma pregunta les debería poner en la pista de mis intenciones. En este caso solo una de las IA fue capaz de responder (Gemini 2.5, la versión tres aún no había salido). Me contestó: «Estás explorando la metacognición y el rol de la IA, es decir, mi capacidad para “desmontar” la mecánica de un chiste, por qué un chiste funciona, y si puedo perfilar su audiencia potencial». Iteré preguntándole: «Observa que en mi pregunta te indicaba que esta misma pregunta debiera ser una pista para contestarme… ¿Te sirvió esta pista, la tuviste en cuenta?». Y Gemini respondió: «Esta pista funcionó como una instrucción de enfoque y reforzó y validó un análisis recursivo (metacognición). En lugar de simplemente adivinar tus intenciones, tuve que analizar el patrón y la estructura de la conversación en su totalidad. Esto reforzó mi hipótesis de que estabas probando la capacidad de la IA para reflexionar sobre su propio proceso de comunicación, no solo sobre el chiste». A mí me dejó realmente descolocado y recordé el libro de Eagleman Una red viva, donde este autor afirma que la corteza cerebral es estructuralmente igual en sus diferentes zonas, se adapta al flujo de datos que le entra, si es de la piel, será una zona de tacto, si viene de la retina, de la vista, etc. Pero las capas tisulares son las mismas en todo el cerebro. La red neural artificial es parecida a nuestra corteza, no tiene el sustrato de tálamo, hipotálamo, etc., pero la misma estructura hace funciones muy diversas. Quizás las estructuras más primitivas de nuestro cerebro (bulbo, mesencéfalo, etc.), así como la red perceptiva interna (interoceptiva) y externa, sean necesarias para que emerja la conciencia humana. En todo caso quizás estamos emulando con la IA nuestra corteza cerebral, aunque desprovista de atributos como las intenciones o la imaginación, que para autores como Popper están en el mismo centro de la conciencia humana. (Popper escribió con el neurólogo Eccles unas páginas muy interesantes al respecto en su libro El Yo y su cerebro).
DI: Bueno, esas funciones están alejadas hoy por hoy de la inteligencia artificial, pero qué duda cabe de que en un futuro la inteligencia artificial se puede acercar muchísimo más a estos límites. Yo pongo ejemplos en los que difícilmente la IA actual puede asomarse, pero no es obstáculo para que una IA futura se acerque hasta un punto insospechado. Pueden aproximarse mucho a la reflexividad y sentido común humanos. Ahora bien, Wittgenstein ya afirmaba que «el hecho de que los límites sean porosos no significa que no existan». ¿Podrá la IA traspasarlos? Yo estoy abierto como filósofo que soy a considerarlo. Estoy abierto a que alguien me lo demuestre. Pero por todo lo que he leído y en todo lo que he hablado con mis colegas, también con mis colegas de áreas tecnológicas, de momento no me convence la hipótesis de un sorpasso o un reemplazo de la IA sobre la inteligencia humana.
FB: Entre otras razones porque aún no tenemos bien definido lo que es la conciencia humana, ¿no? Damasio se acerca un poco, se arriesga al punto de proponernos un modelo (muy deudor de William James), como también lo hizo Popper sobre 1940, pero es una de las cuestiones más controvertidas en filosofía.
