Inteligencia artificial y algoritmos, el reto formidable de las democracias

Un primer error común es comparar la inteligencia artificial con la inteligencia propia de los seres humanos o creer que todas las inteligencias consisten en lo mismo.

Se ha escrito mucho sobre la carrera por desarrollar nuevas generaciones de chips cada vez más avanzados. Sin embargo, la disputa por los semiconductores no es un fin en sí mismo, sino un medio para alcanzar hardware específicos más eficientes y con mayores capacidades de cómputo, con el objetivo principal de crear sistemas de inteligencia artificial más sofisticados.

Empresas como TSMC o NVIDIA resultan fundamentales para ganar ventaja en este terreno, pero la reflexión que aquí queremos plantear va en otro sentido: estas tecnologías que cambian paradigmas, ¿qué impacto tendrán sobre los sistemas con los que organizamos nuestra vida en sociedad?, ¿cómo deberán adaptarse nuestras estructuras democráticas a estas novedades?

Bien es sabido que el recorrido de las democracias ha tenido innumerables obstáculos en su evolución. Por otro lado, como cualquier artificio humano, ha acompañado las realidades sociales de cada tiempo, por lo que no podría ser de otra manera. Desde la singularidad del método democrático como organización colectiva de las sociedades, cualquier ligera pérdida de equilibrios y contrapesos ha supuesto siempre un riesgo exponencial para su supervivencia.

La actual década de los años veinte ha traído consigo una novedad que las democracias liberales modernas deben afrontar y asimilar para que los márgenes de libertades civiles que consolidan para la ciudadanía no se estrechen. La era de los algoritmos y la irrupción de la inteligencia artificial están transformando el paradigma y cuestionando pilares del sistema democrático.

La velocidad y eficiencia de estas tecnologías contrastan con los tiempos que exige el debate, la reflexión, la libertad de pensamiento, la gestión de éxitos y decepciones y la permanente insatisfacción por ceder y acordar entre diferentes posiciones, propios de la democracia.

Asimismo, atributos que, a simple vista, parecen inherentes a los seres humanos –como el sesgo– contrastan con la aparente infalibilidad y objetividad del procesamiento masivo de datos que sustenta sistemas de inteligencia artificial.

Poner puertas al campo

La incertidumbre y el miedo que a veces producen los avances de carácter transformador generan propuestas de todo tipo para establecer cierto tipo de control sobre estos.

En todo caso –y dejando de lado las tecnologías con evidentes problemas éticos–, nunca ha tenido mucho sentido, por inútil, restringirlos o ralentizarlos artificialmente y, habitualmente, las medidas que se ponen en marcha para controlarlos, con el tiempo, se vuelven ridículas.

Si en Inglaterra la Locomotive Act de 1865 obligaba a que una persona caminara delante de las locomotoras con una bandera roja para advertir de su proximidad, con la inteligencia artificial se han planteado distintas opciones para intentar controlar su desarrollo: desde moratorias hasta acuerdos internacionales o códigos de conducta a los que las grandes empresas, se supone, deberían adherirse.

Todas ellas, y algunas otras, se han propuesto en distintos momentos como intentos de que el desarrollo de la inteligencia artificial no escape al control humano –suponiendo que tal cosa fuera posible–.

Pocas han llegado a ser más que una declaración de intenciones, ya que la fragmentación del poder global –incapaz de generar algo parecido a una autoridad supranacional que tenga poder efectivo para imponer cualquier tipo de regulación– y la feroz competición entre Pekín y Washington por la hegemonía no hacen sino aumentar la inversión de recursos en el desarrollo de estas tecnologías.

Por lo tanto, las iniciativas para ralentizar el desarrollo de la inteligencia artificial no parecen plausibles; ni siquiera existe un mínimo consenso acerca de si ello fuese deseable.

¿Qué es y qué no es la inteligencia artificial?

Un primer error común es comparar la inteligencia artificial con la inteligencia propia de los seres humanos o creer que todas las inteligencias consisten en lo mismo. La realidad es que la definición de inteligencia ha evolucionado a lo largo del tiempo y seguirá haciéndolo, de modo que ahora es tarea de antropólogos y filósofos continuar perfilándola para precisar en qué consiste el intelecto propio de los humanos y diferenciarlo de las nuevas capacidades tecnológicas.

Puede servir de ejemplo la aritmética, que fue considerada un elemento singular de la inteligencia humana hasta que aparecieron las calculadoras, obligando así a redefinir el concepto. Por lo tanto, podemos suponer que la inteligencia artificial tendrá un efecto similar, quizás con mayor profundidad.

Es imposible saber cuál será el límite de la inteligencia artificial, pero esto no significa que los estudiosos no puedan trazar ciertos marcos. Los actuales modelos de lenguaje y herramientas como ChatGPT, DeepSeek o Gemini son extraordinarios sistemas capaces de procesar datos e información –siempre preexistente– y extraer conocimiento del material con el que han sido entrenados.

La capacidad de computación permite a estos artificios informáticos ser herramientas tremendamente eficientes desde el punto de vista estadístico, aunque esto no impide que sigan cometiendo errores.

En todo caso, mientras no se demuestre lo contrario, son herramientas que siempre miran hacia el pasado para entrenarse, elaborar sus respuestas y estimar un futuro acorde, y lo hacen de una manera ciertamente sorprendente, manejando big data, estadística y una gran capacidad de imitación humana.

Un buen ejemplo es el estudio publicado recientemente, en el que un modelo de inteligencia artificial llamado Delphi-2M es capaz de aprender la progresión natural de las enfermedades humanas a partir de millones de registros médicos, identificando patrones estadísticos que permiten predecir la aparición de futuras enfermedades y simular trayectorias de salud.

Por ello, comparar el intelecto humano con la inteligencia artificial equivaldría a reducirlo a solo ciertas formas de inteligencia, en las que los objetivos siempre están previamente marcados y, a través de la capacidad de computación y la gestión supereficiente de enormes cantidades de datos recopilados, se logra calcular con un alto nivel de probabilidad respuestas plausibles.

Por lo tanto, cabe preguntarse en qué consiste la inteligencia humana. La filosofía plantea ciertos atributos propios de esta que parecen ser inalcanzables para los actuales sistemas de inteligencia artificial.

La inteligencia humana se caracteriza por capacidades difíciles de replicar: el sentido común, que permite intuir situaciones con información incompleta; la reflexión, que posibilita cambiar de opinión y reconocer lo que sabemos o ignoramos; el conocimiento implícito, que ayuda a manejar contextos inciertos y con valores morales en conflicto; la gestión de la inexactitud mediante prudencia y empatía; y la inteligencia corporal, con la cual aprendemos a través de nuestro cuerpo y construimos criterio.

El populismo tecnológico

Una vez establecido el marco en torno al consenso actual sobre qué es la inteligencia artificial, y considerando sus diferencias respecto a las capacidades del intelecto humano, puede analizarse qué la hace sugerente como posible sustituto del método democrático.

Se argumenta que, en teoría, permitiría superar las desviaciones inherentes a este sistema, corregir su lentitud, eliminar la corrupción y ahorrarnos la incomodidad de debatir y decidir sobre cuestiones complejas que desafían nuestra moral o confrontan nuestros intereses.

Sin duda, las democracias liberales en Europa atraviesan tiempos convulsos y se encuentran en muchos casos devaluadas y desprestigiadas, hasta el punto de que una parte considerable de la sociedad las percibe en peligro. Surgen, así, movimientos que promueven sistemas alternativos de “democracias iliberales”, bajo la premisa de que los regímenes actuales resultan ineficientes y no responden a las verdaderas necesidades de la población.

Estos movimientos se benefician del hecho de que, en un mundo incierto y acelerado, las democracias deben seguir sosteniendo sus mecanismos de debate constante, deliberación y acuerdo para avanzar en la definición de los problemas y en la implementación de medidas que los resuelvan.

De este modo, ganan terreno discursos que presentan al autoritarismo camuflado de neutralidad de los datos como un método altamente eficiente, precisamente porque no requiere que todos participemos y alcancemos consensos.

Como destaca el filósofo vasco Daniel Innerarity –cuya obra inspira varias reflexiones de este artículo–, se perfila una nueva forma de populismo tecnológico que podría expandirse bajo la promesa de una mayor eficiencia. En busca de métodos eficaces que respondan a las realidades cambiantes, puede resultar atractiva la aparente objetividad que ofrecen los datos y la inteligencia artificial como fuente de verdad incontestable y no debatible.

Las democracias liberales pueden verse acorraladas por discursos que proponen sustituir las decisiones colegiadas y consensuadas de los representantes políticos por la supuesta eficacia, objetividad, ausencia de sesgo y aparente desideologización de la inteligencia artificial y el big data. Los datos pueden ser utilizados para satisfacer el deseo de seguridad y certidumbre en un mundo altamente volátil.

Una primera idea que se debe asumir es que, en ningún caso, bastaría con disponer de la información correcta para que todos los problemas pudieran solucionarse sin tener que recurrir a valores políticos. La afirmación de que los datos son siempre neutros y objetivos es también una falacia. Una mala calidad de los datos puede ofrecer una representación errónea de la realidad. Y lo que es más importante: los datos, en ningún caso, son algo dado, sino manufacturado.

El diseño, la configuración y el proceso de producción de los datos revelan cómo están hechos. Es decir, el discurso de los movimientos políticos de corte iliberal que promueven el uso –y solo el uso– de los datos y la inteligencia artificial como un mejor método que la deliberación democrática para gobernar omite que los datos son creados de cierta manera, por determinados actores y con fines específicos.

Por esta razón, los datos, los algoritmos y la inteligencia artificial no pueden aplicarse como elemento central de un sistema de gobierno supuestamente desideologizado, neutral o tecnocrático, porque no son independientes del pensamiento que ha dado lugar a su producción.

Reconocer que los datos se producen a partir de ciertas formas de pensar debe alejar a los sistemas democráticos de las supuestas bondades de modelos donde el big data se usa como excusa para afirmar que podemos ahorrarnos la incomodidad de pensar, porque todo estaría ya dado en los datos.

Las democracias deben beneficiarse de la producción y gestión de datos, así como de la inteligencia artificial, pero siempre deben ser capaces de explicar a los ciudadanos cómo se generan esos datos, con qué finalidad y en qué condiciones. De lo contrario, las conclusiones extraídas se convertirán en una versión moderna del acto de fe utilizado para imponer intereses en contra de la mayoría.

Inteligencia artificial y democracia

La retórica puramente tecnófila no hace sino reducir la capacidad de los ciudadanos de decidir libremente y de corregir aquello que consideren inadecuado dentro de un sistema que se pretenda democrático. La automatización, los datos y la inteligencia artificial deben estar subordinados al debate y a las decisiones colegiadas de la ciudadanía; han de ser una herramienta y no un sistema opaco de “caja negra” que sirva como excusa.

Recientemente, el gobierno de Albania anunció el nombramiento de una inteligencia artificial como ministra de Contrataciones Públicas. Según sus impulsores, gracias a su supuesta objetividad, esta inteligencia artificial luchará contra la corrupción en los procesos públicos.

Sin embargo, un problema común a muchas democracias, como es la corrupción, se convierte así en argumento para desplegar sistemas de inteligencia artificial que sustituyen a ciudadanos en cargos de responsabilidad; un buen ejemplo de cómo la promesa de neutralidad tecnológica puede utilizarse para diluir la responsabilidad humana y limitar la capacidad de debate.

En todo caso, podría decirse que solo en sistemas democráticos existe la posibilidad de que la mayoría decida para qué objetivos deben emplearse estas herramientas, porque únicamente politizando y socializando la transformación digital podrán establecerse mecanismos que permitan a la ciudadanía comprender y rebatir. En términos democráticos, ni la tecnología es neutra ni la inteligencia artificial va a solucionar todos nuestros problemas.

Estos artificios son construcciones sociales y, sin la intervención humana, no podrían seguir evolucionando. Por lo tanto, no podemos fiar ni delegar el debate ni nuestros objetivos como sociedad únicamente a las conclusiones estadísticas que la inteligencia artificial extrae de los datos recopilados, entre otras cosas, porque no es capaz de hacerlo.

La complejidad de estas tecnologías para la comprensión del común de los ciudadanos, unida a su potencial, puede resultar devastadora en manos de regímenes iliberales o autoritarios, dado su alcance y efectividad para el control social y para tejer realidades paralelas con apariencia de incuestionabilidad.

Un capítulo aparte sería su utilización en el desarrollo de conflictos, donde, por ejemplo, en el genocidio de Israel contra el pueblo palestino la inteligencia artificial se emplea para llevar a cabo la limpieza étnica de manera acelerada y automatizada.

La promesa de objetividad e igualdad basada en el big data y en la inteligencia artificial atenta contra la pluralidad, en la medida en que las respuestas ofrecidas por estos sistemas se consideran incontrovertibles y no sujetas a debate. El mecanismo democrático se pregunta por las soluciones a los problemas –el objetivo–, pero lo que realmente define al sistema es que también se pregunta permanentemente cuáles son esos problemas –reflexionar y definir–.

A lo largo del tiempo, las democracias han considerado problemas de orden social asuntos que, vistos hoy, nos parecen disparatados. En cambio, la inteligencia artificial y la automatización necesitan definiciones y objetivos claros, con un juego de reglas completo, para poder encontrar la solución. El problema es que la democracia, por su naturaleza de organización social abierta a las novedades y a las contingencias, nunca va a disponer de esos parámetros en una descripción definitiva.

En todo caso, descubriendo la razón de ser de la política en sistemas democráticos frente a la de la inteligencia artificial y la automatización, podremos ver hasta qué punto una no podrá sustituir a la otra y deberán ser complementarias.

La política es gestionar incertidumbres y desacuerdos, ponderar valores, conducir situaciones inéditas e imprecisas y aceptar éxitos y fracasos, pero siempre en base a principios y objetivos sobre los que todos podamos opinar, aceptando, en un momento dado, nuestra derrota democrática.

En cambio, la lógica algorítmica reduce la realidad a un mundo objetivo, cuantificable y no contingente, en el que todos los elementos son binarios, sin ambigüedad alguna, sin matices, y donde los objetivos son lineales, sin margen para reflexionar sobre los fines morales.

Un potencial que debe ser aprovechado

La inteligencia artificial y la automatización son tremendamente superiores a la capacidad humana en muchos ámbitos y se deben aprovechar, sin duda. Su potencia de cálculo, junto con la cantidad de datos que pueden manejar y los nuevos sistemas capaces de aprender patrones del lenguaje humano, resultarán de gran ayuda en multitud de terrenos.

Ayudarán a los médicos a detectar enfermedades con antelación y a personalizar los tratamientos, pero no serán capaces de tomar la decisión de aumentar o reducir el presupuesto destinado a la sanidad.

La toma de decisiones en las democracias liberales se basa en objetivos comunes que tienen como referencia los valores, la empatía, la generosidad y la inteligencia emocional de la sociedad en su conjunto: cualidades plenamente humanas.