Giulia Sandri, de la Universidad libre de Bruselas, y Claudio Novelli, de la Universidad de Yale, publicaron en junio de 2026 un paper titulado How to Detect and Measure the AI Dangers to Democracy (Cómo detectar y medir los peligros de la IA para la democracia).
Hipótesis inicial
El punto de partida del trabajo es que la incorporación de sistemas de IA en la esfera política introduce un problema clásico de delegación: cuando ciudadanos, gobiernos, partidos o funcionarios delegan tareas en sistemas de IA y en sus proveedores, lo hacen sin contar con una capacidad efectiva para supervisar su funcionamiento ni para comprender plenamente los resultados que generan.
De esta asimetría se derivan tres problemas estructurales: brechas de rendición de cuentas, opacidad algorítmica y desalineación entre los objetivos democráticos y el comportamiento de la IA.
Tres ámbitos donde la IA reconfigura el poder
Los autores identifican tres ámbitos en los que la IA puede alterar las dinámicas de poder:
1. Ecosistemas de información
La IA está transformando la forma en que se produce, distribuye y consume la información. Se ha pasado de un modelo basado en la búsqueda activa en motores de búsqueda como Google a otro en el que los usuarios consumen respuestas y resúmenes generados por la IA en lugar de localizar las fuentes por sí mismos. Entre los riesgos destacan la reducción de la pluralidad informativa, la proliferación de contenidos sintéticos y la erosión de los medios periodísticos al desviar la atención y los ingresos publicitarios.
2. Competencia electoral
Los partidos políticos emplean la IA para el microtargeting, la predicción del comportamiento electoral, el uso de chatbots y la gestión de campañas. Estas herramientas reducen costes y aumentan la capacidad de personalización, pero también abren la puerta a formas sofisticadas de manipulación selectiva.
3. Administración pública
En el ámbito administrativo, la IA promete mejoras sustanciales en el análisis de datos, la eficiencia en la prestación de servicios y la toma de decisiones. No obstante, también plantea riesgos relevantes, como la introducción de sesgos en modelos predictivos, la dependencia tecnológica de proveedores externos y la creciente dificultad para motivar y explicar decisiones automatizadas ante la ciudadanía.
Advertencias y soluciones
Los autores reconocen que la IA no destruye la democracia por sí sola, pero puede amplificar las vulnerabilidades democráticas, socavar la resiliencia institucional y desestabilizar el funcionamiento de los sistemas políticos.
Como soluciones, los investigadores proponen crear nuevas instituciones de control, implementar auditorías continuas, fortalecer la capacidad técnica de las administraciones públicas para evitar la dependencia de proveedores externos y aplicar marcos, para evaluar de forma sistemática la confiabilidad de la IA en contextos democráticos, como el del NIST que identifica siete características de la IA confiable: Valid and Reliable (Válida y confiable), Safe (Segura), Secure and Resilient (Segura y resiliente), Accountable and Transparent (Responsable y transparente), Explainable and Interpretable (Explicable e interpretable), Privacy-enhanced (Con privacidad mejorada), Fair with harmful bias managed (Justa con sesgos dañinos gestionados).
Conclusión
En un contexto en el que cada vez más decisiones públicas dependen de algoritmos, las democracias afrontan un reto esencial: mantener un control efectivo sobre estas herramientas. Sin embargo, permanece una duda: ¿Quién controla a los que controlan?
