Política humana condicionada por la inteligencia artificial

Innerarity, D. (2026): Una teoría crítica de la inteligencia artificial, Barcelona, Galaxia Gutenberg. [552 pp., 24 €].

El propósito central de Daniel Innerarity en su último libro (1) es muy ambicioso: sostiene que la tecnología, hoy, es filosofía encubierta. Si se acepta esta premisa, la tarea es hacer que esta tecnología sea abiertamente filosófica. ¿Cuál puede ser una filosofía de la tecnología, y concretamente de la inteligencia artificial (IA)?

Innerarity lo desmenuza en este libro de 600 páginas, merecedor sin duda del Premio Eugenio Trías en su 3.ª edición. Vamos a condensar lo fundamental de su pensamiento a través de diez ideas clave.

1. Hemos creado una máquina de inteligencia artificial y estamos desconcertados —perplejos, diría yo—, ante sus prestaciones

La solicitud de una moratoria digital —por parte de autoridades académicas e informáticos— en 2023 evidenció que una tecnología más sofisticada conlleva mayores riesgos. Esta pausa buscaba establecer un enfoque regulador y ético. Sin embargo, detener la investigación no tiene sentido, según Innerarity. Una moratoria describe un mundo ficticio porque, por un lado, cree posible que la IA gane a la inteligencia humana, y por otro, sugiere que solo se necesitarían unas pocas actualizaciones técnicas para que la IA deje de ser peligrosa. Innerarity concluye que la reflexión profunda sobre la lógica algorítmica debe hacerse al mismo tiempo que el desarrollo tecnológico.

Por otro lado, la apelación a criterios éticos, como la creación de códigos de conducta, no frena el desarrollo tecnológico y corre el riesgo de excusar responsabilidades o ser ingenua. Se necesita un análisis político además de un criterio moral.

2. Los límites intrínsecos de la inteligencia artificial (IA)

Aunque la IA es extraordinariamente potente en el cálculo, es inherentemente limitada en la comprensión, ya que su lógica es puramente instrumental. Los grandes modelos de lenguaje procesan grandes cantidades de datos preexistentes, pero carecen de la capacidad de generar verdadera novedad o nuevo conocimiento, según nuestro autor.

Innerarity sostiene, además, que la IA únicamente simula algunos aspectos concretos de la inteligencia humana, como el cálculo y la rapidez, pero no lleva a cabo tareas completas como la comprensión y la reflexión. Las IA, especialmente los grandes modelos de lenguaje, tienen limitaciones inherentes: son potentes procesando datos preexistentes, pero no produciendo nuevas visiones o conocimiento. La verdad no es una propiedad intrínseca para la IA, porque no se mueve en un contexto físico y de relaciones humanas.

3. La redefinición de la inteligencia humana

La inteligencia humana, por el contrario, se distingue por su capacidad para manejar la novedad, gestionar la incertidumbre y la capacidad crítica. Innerarity afirma que el peligro de la IA no es que nos supere, sino que cometamos el error de competir con ella.

En resumen: la IA es inteligente, pero carece de sabiduría. Es buena descubriendo patrones, analizando datos masivos y manejando casos rutinarios. Los humanos comprendemos, contextualizamos y decidimos reflexivamente con pocos datos, e incluso de manera creativa. Poseemos entendimiento básico (sentido común) y conocimiento no escrito (implícito). La diferencia fundamental entre la inteligencia natural y la artificial es la corporalidad. Los humanos podemos alucinar, pero nuestros sentidos están en permanente contacto con el mundo físico. Es la inteligencia que siente o percibe la realidad (inteligencia sentiente, podemos añadir, bien explicada por Zubiri).

4. La crítica a los «mitos de los Big Data»

Vivimos bajo la ilusión de que un gran volumen de datos objetivos y transparentes hará innecesario el debate político (una política basada en la evidencia, en lugar de la opinión). Innerarity identifica tres mitos asociados a esta adoración de los datos:

a) El mito de la cantidad

La recopilación masiva de datos (datificación) se presenta como un procedimiento para descubrir la realidad. El sueño es que, si se tienen todos los datos, estos coincidirán exactamente con la realidad. Sin embargo, las cantidades no hablan por sí mismas; la cantidad no resuelve el problema de la interpretación.

b) El mito de la neutralidad

Los datos se presentan con la idea de que son imparciales y ciertos, sugiriendo que no puede haber discrepancia en su interpretación. Se promete que esta neutralidad dará credibilidad a la acción política. No obstante, los datos no son algo «dado» sino ideas o estructuras creadas para entender la realidad (construcciones epistémicas); su relatividad es el punto de partida que justifica la crítica.

c) La necesidad de interpretación

Sin interpretación, los datos no revelan si son válidos o verdaderos en un contexto dado. El análisis se basa en el reconocimiento de patrones, pero la inferencia no es un paso único; la inducción debe combinarse con la deducción. Personalmente diría más: tenemos la sensación de conocimiento sólido cuando modelizamos los eventos más diversos, y aún más si estos modelos son predictivos. Modelos fuertes toleran datos discrepantes. Datos discrepantes cuestionan modelos provisionales. La magia humana estriba en cuestionar modelos fuertes por una pequeña discrepancia en los datos (la precesión del perihelio de Mercurio se desajustaba 43 segundos por siglo, con el modelo gravitatorio newtoniano, un fracaso que impulsó el modelo de relatividad general de Einstein, cuya primera gran victoria fue la predicción exacta de esta anomalía).

5. El carácter conservador y asimétrico del poder de los datos

Por todo lo que venimos diciendo, los algoritmos y los datos no son neutros, asevera Innerarity, sino que están inscritos en estructuras de poder y las reproducen. Los sistemas algorítmicos se entrenan basándose en el comportamiento pasado, lo que perpetúa automáticamente las desigualdades y discriminaciones sociales existentes. Esto conduce a un conservadurismo implícito que reduce la capacidad de elección individual y de cambio social. El análisis de datos clasifica a los individuos en categorías homogéneas, lo que lleva a la desindividualización y al refuerzo de estereotipos. Como ejemplo Innerarity menciona la pandemia de COVID-19, en que el uso de datos excluyó a las personas más vulnerables (sin documentación, trabajadores precarios) de las estrategias de mitigación.

6. La privacidad como un asunto de bien público

La defensa de la privacidad en la era digital no debe ser entendida solo como un derecho individual de propiedad. Cuando aceptamos cookies, por lo general ignoramos las consecuencias de esta cesión. Es muy fácil engañarnos para acceder a nuestra privacidad y venderla a terceros. Por ello, la privacidad solo puede defenderse plenamente desde el ámbito público.

7. La limitación de la analítica predictiva para la acción humana

Los algoritmos buscan patrones en el pasado, lo que los inhabilita para anticipar eventos disruptivos, tan típicos de la acción humana. Las predicciones de la IA corren el riesgo de despojar a las acciones humanas del elemento de autodeterminación, ya que se basan únicamente en el comportamiento registrado. Y a la hora de analizar sucesos, es crucial diferenciar entre la propensión estadística y la causalidad real. Por ejemplo, el consumo de un determinado tipo de bebida alcohólica puede ser más acusado en una franja determinada de la población que vota a un determinado partido extremista, pero indudablemente no hay relación causal, beber esta marca de cerveza no me hace extremista (el ejemplo es mío).

Innerarity concluye que las predicciones serán más exactas en cuanto las IA consideren sus propios límites, la dependencia de contextos que cambian rápidamente y la necesidad de complementarse con una interpretación (humana).

8. El ecosistema híbrido y la condicionalidad de la tecnología

La relación entre humanos y máquinas es un sistema sociotecnológico híbrido, donde la idea de sustitución humana —el miedo a un sorpasso— pierde sentido. La solución no es oponer humanos a máquinas, sino buscar la complementariedad entre sus lógicas diferentes, respetando que las máquinas son más útiles precisamente porque son distintas a nosotros. Es también la idea de trabajar la «co-inteligencia» (2). La tecnología digital no es neutra ni es un mero instrumento; más bien, condiciona el entorno social y político, posibilitando o inhibiendo ciertos comportamientos. Por lo tanto, se debe rechazar la creencia de que la tecnología lo resuelve todo (tecnosolucionismo), como el tecnodeterminismo (inevitabilidad) y el tecnoneutralismo (mera herramienta).

9. La explicabilidad como alternativa a la transparencia total de las IA

Aunque es crucial, la exigencia de transparencia total es irrealista debido a la complejidad de los sistemas de aprendizaje profundo y su opacidad inherente. La apertura del código fuente no garantiza la comprensión del sistema, ya que la complejidad es abrumadora y las respuestas de la IA cambian en cada contexto. El enfoque debe moverse hacia la IA explicable (XAI), cuyo objetivo es suministrar justificaciones comprensibles de las decisiones, sin exigir una «autopsia» completa del proceso. El valor de la explicabilidad radica en su capacidad para generar confianza, legitimidad y permitir la contestación social o política de las decisiones.

La IA funciona privilegiando el automatismo y debilitando la reflexión. El ejemplo paradigmático es el médico que acepta sin crítica las propuestas diagnósticas de una IA, a diferencia del que lo contrasta con su propio criterio (nuevamente el ejemplo es mío). Pero no resulta inevitable. El mejor ajedrez se juega hoy en día por equipos mixtos humano-ordenador, nos recuerda Innerarity. La clave es aprovechar la capacidad de la IA para analizar grandes datos, mientras el humano se hace insustituible por su visión de contexto y la disrupción creativa.

10. La democracia como deliberación, no como optimización de preferencias

La gobernanza algorítmica es adecuada para optimizar medios y objetivos predefinidos, pero es escasamente útil para el momento genuinamente político: decidir sobre los fines y los valores de la sociedad. La siguiente cita me parece muy clarificadora:

Es política aquel tipo de decisión que tomamos cuando, incluso tras un largo proceso de deliberación y precedida por todos los análisis objetivos a nuestro alcance, la opción óptima sigue sin estar del todo clara. Quien no entienda esto interpretará que la política es arbitraria y oportunista, y será especialmente seducible por cualquier promesa de exactitud formulada por los expertos, las máquinas o los algoritmos, pero no habrá entendido de qué va la política, especialmente de qué va la política en una sociedad democrática. Un mundo humano tiene que ser un mundo negociable (pág. 456).

En definitiva, la política democrática requiere discusión abierta, pluralismo y controversia (3), elementos que la lógica algorítmica no puede suplir. La legitimidad final de la democracia es decisional, basada en la autorización popular, y no en la corrección o eficacia de sus resultados. La democracia deliberativa es el modelo idóneo para asegurar que los intereses y preferencias se configuren reflexivamente y en diálogo, en lugar de ser meramente agregados como datos de consumo.

Una primera aproximación crítica al libro de Innerarity

Estamos analizando un libro extenso y sistemático sobre la temática de la IA y su impacto sociopolítico. Un libro de lenguaje muy filosófico, y, por consiguiente, alejado del gran público, que sigue la estela de otro libro suyo, donde anunciaba la necesidad de una ética de sistemas (4). El libro que nos ocupa cumple en parte este propósito.

Innerarity trata de contrarrestar cierto aire catastrofista, y trata de restablecer la autoestima del ser humano marcando límites a la IA. Acierta en sus críticas al tecnosolucionismo, como al tecnocatastrofismo, pero podemos cuestionar su caracterización de las IA como incapaces de analizar contextos, o incapaces de asimilar lo que llama el conocimiento implícito. Las IA más recientes (posteriores a la elaboración de este libro) analizan perfectamente una imagen jocosa, un vídeo o un chiste. Su análisis puede ser semántico, pragmático y abarca tanto la comunicación verbal como la no verbal. La evolución de estas máquinas resulta sorprendente y exponencial.

Innerarity parece empeñado en desmitificar el poder de los datos. En un mundo cada día más complejo, los datos parecen ser un asidero para las certezas. Sin embargo, son manipulables, o simplemente pueden mostrarnos parcelas de realidad. El aviso es pertinente. Pero sin ellos, sin datos, ni siquiera sospecharíamos aspectos que desmienten nuestros prejuicios. Juzgaríamos la marcha de la economía por «cómo me va a mí». Personalmente me preocupan los malos datos, ¡por supuesto!, pero los «buenos» datos… ¡bienvenidos sean! En medicina nos vale el aforismo: «solo con buenos datos tenemos buenos diagnósticos». Posiblemente debamos entender la crítica de Innerarity en la línea de que la arquitectura desde la que definimos indicadores, tasas, índices, etc., debe someterse a una permanente reflexión.

Otras afirmaciones de Innerarity apuntalan el valor de lo «humano», pero son susceptibles de revisión. Por ejemplo: las IA no son confiables cuando se trata de predecir, pues se basan en datos siempre del pasado. En efecto, la ventaja humana a la hora de predecir es que usamos modelos, modelizamos. Un modelo supone comprender cómo se relacionan diversas variables, sopesarlas, incluso matematizarlas. Las IA más recientes creo que lo hacen incluso mejor que nosotros. Los Cisnes Negros (véase Taleb) nadie los predice, ni nosotros, los humanos, ni las máquinas. Pero el discurrir un tanto anárquico de las IA puede aportarnos visiones disruptivas. Ya ocurre en física y bioquímica (por ejemplo, determinar la estructura 3D de las proteínas, o recientemente el cálculo de la amplitud de la dispersión de los gluones, ecuación que se ha verificado experimentalmente). Para Taleb los sucesos del mundo se dividen en Mediocristán y Extremistán (5). Estos últimos son sucesos que saldrán de la curva de Gauss, sucesos que forzosamente nos asustarán o maravillarán, como las explosiones volcánicas, o la venta de libros «Best Sellers» (ejemplos de Taleb). En contra de lo que postula Innerarity, un análisis de los últimos modelos de IA nos hace sospechar (sin que la sospecha llegue a grado de creencia) que, en ambos mundos, estas IA se mueven con cierta comodidad (véase por ejemplo su uso en meteorología).

Esos «peros» no afectan a ideas centrales del libro, con las que coincido. Destaco dos:

1. La tecnología es «performativa», esto es, no obliga, pero sí predispone a una serie de efectos a largo plazo que resultan casi imposibles de determinar.
2. Coherentemente con la idea anterior, me parece un acierto hablar de «condicionamiento» de la política por las IA (y no de «desaparición» de la política). Imaginemos un futuro en que antes de las elecciones generales sea obligatorio un diagnóstico «objetivo» de variables económicas y sociales. Equipos IA-humanos —como los equipos que menciona de ajedrez— acuerdan una radiografía de cómo tenemos el país, una base de deliberación que evite que unos partidos hablen de unas tasas de paro, y otros partidos hablen de cifras muy distintas. Demarcaríamos con mayor claridad los valores enfrentados, las decisiones genuinamente políticas.

Parecería que Innerarity en su libro reclama el derecho de los humanos a equivocarnos, a no ser desplazados de la deliberación de los valores que se dilucidan en el ágora pública. Así somos los humanos, creemos ser más libres si las decisiones las percibimos como nuestras. Pienso en excolonias europeas, lo libres que sus ciudadanos han sido tras los procesos de descolonización con sus Macías, Mugabes, Obiangs, etc. O, por el contrario: ¡lo bien que le ha ido a España ceder soberanía en favor de Europa!

Si aprendiéramos de estas experiencias, y sopesando el avance increíble de las IA…, ¿no sería mejor que nos aconsejaran en este proceso de deliberar valores y tomar decisiones en incertidumbre? ¿No podríamos encontrar algún tipo de equilibrio futuro IA-humanos que evitara polarizaciones irracionales, o esta manía tan carpetovetónica de dispararnos a los pies? Un fenomenal reto para generaciones futuras: establecer las condiciones para una deliberación racional de las prioridades, las metas, los valores. Quizás una utopía a tenor de una de las afirmaciones de Innerarity en La sociedad del desconocimiento: «En una sociedad avanzada el amor a la verdad es menor que el temor a los administradores de la verdad» (p. 42).

Bibliografía

1. Innerarity, D. (2025): Una teoría crítica de la inteligencia artificial, Barcelona, Galaxia Gutenberg.
2. Mollick, E. (2024): Co-inteligencia. Vivir y trabajar con la IA, Barcelona, Conecta.
3. Innerarity, D. (2020): Una teoría de la democracia compleja, Barcelona, Galaxia Gutenberg.
4. Innerarity, D. (2022): La sociedad del desconocimiento, Barcelona, Galaxia Gutenberg.
5. Taleb, N. (2010): The Black Swan. The Impact of the Highly Improbable, Londres, Penguin.