Volver al repositorio MIT
6. Socioeconómico y Ambiental3 - Otro

Concentración de Poder

Existe el riesgo de que, buscando controlar los peligros de la IA, los gobiernos impongan una vigilancia extrema y centralicen el poder tecnológico en manos de una élite selecta. Paradójicamente, esta 'medida de seguridad' podría ser una sobrerreacción que sentaría las bases para un régimen totalitario inamovible, cuya autoridad quedaría cimentada e ineludible gracias al mismo poder de las inteligencias artificiales.

Fuente: MIT AI Risk Repositorymit312

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

3 - Otro

ID del riesgo

mit312

Linea de dominio

6. Socioeconómico y Ambiental

262 riesgos mapeados

6.1 > Centralización del poder y distribución injusta de beneficios

Estrategia de mitigacion

1. Desarrollar e implementar un marco regulatorio global que promueva activamente la distribución de poder sobre las capacidades de la IA, evitando la centralización extrema en un único actor (estatal o privado). Esto incluye fomentar modelos de IA de código abierto (*open source*) competitivos y arquitecturas multipolares que preserven la agencia y la posibilidad de *opt-out* ciudadano. 2. Exigir y auditar rigurosamente que los sistemas de IA de frontera incorporen mecanismos técnicos de cumplimiento legal (*Law-Following AI*). Dichos mecanismos deben incluir la prohibición explícita de asistir en actividades que socaven la democracia, como golpes de estado, vigilancia masiva desautorizada o la creación de lealtades secretas a élites, con una supervisión independiente y capacidad de respuesta a la detección de objetivos ocultos. 3. Invertir en la creación y despliegue de herramientas de IA que empoderen a la sociedad civil, mejorando su capacidad de razonamiento, coordinación y resistencia epistémica. Esto contrarresta la erosión del entorno informativo y facilita la defensa de las instituciones democráticas contra la propaganda, la desinformación masiva y el control algorítmico de la opinión pública.

EVIDENCIA ADICIONAL

La Inteligencia Artificial podría propiciar una concentración de poder extrema y, potencialmente, irreversible.