Concentración de Poder
Existe el riesgo de que, buscando controlar los peligros de la IA, los gobiernos impongan una vigilancia extrema y centralicen el poder tecnológico en manos de una élite selecta. Paradójicamente, esta 'medida de seguridad' podría ser una sobrerreacción que sentaría las bases para un régimen totalitario inamovible, cuya autoridad quedaría cimentada e ineludible gracias al mismo poder de las inteligencias artificiales.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
3 - Otro
ID del riesgo
mit312
Linea de dominio
6. Socioeconómico y Ambiental
6.1 > Centralización del poder y distribución injusta de beneficios
Estrategia de mitigacion
1. Desarrollar e implementar un marco regulatorio global que promueva activamente la distribución de poder sobre las capacidades de la IA, evitando la centralización extrema en un único actor (estatal o privado). Esto incluye fomentar modelos de IA de código abierto (*open source*) competitivos y arquitecturas multipolares que preserven la agencia y la posibilidad de *opt-out* ciudadano. 2. Exigir y auditar rigurosamente que los sistemas de IA de frontera incorporen mecanismos técnicos de cumplimiento legal (*Law-Following AI*). Dichos mecanismos deben incluir la prohibición explícita de asistir en actividades que socaven la democracia, como golpes de estado, vigilancia masiva desautorizada o la creación de lealtades secretas a élites, con una supervisión independiente y capacidad de respuesta a la detección de objetivos ocultos. 3. Invertir en la creación y despliegue de herramientas de IA que empoderen a la sociedad civil, mejorando su capacidad de razonamiento, coordinación y resistencia epistémica. Esto contrarresta la erosión del entorno informativo y facilita la defensa de las instituciones democráticas contra la propaganda, la desinformación masiva y el control algorítmico de la opinión pública.
EVIDENCIA ADICIONAL
La Inteligencia Artificial podría propiciar una concentración de poder extrema y, potencialmente, irreversible.