Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

IA en regímenes totalitarios

El potencial de la vigilancia y manipulación basadas en IA para sostener y perpetuar regímenes totalitarios a escala global.

Fuente: MIT AI Risk Repositorymit928

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit928

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.1 > Desinformación, vigilancia e influencia a escala

Estrategia de mitigacion

1. Elaborar y promover la adopción de un marco regulatorio internacional armonizado para la IA, idealmente a través de un tratado o convención global bajo organismos como la ONU u OCDE, que imponga estándares estrictos basados en los derechos humanos, la transparencia y la rendición de cuentas para el desarrollo y despliegue de sistemas de IA, especialmente aquellos de propósito general. 2. Exigir la implementación de auditorías obligatorias e independientes de sesgos algorítmicos y evaluaciones de impacto (Algorithmic Impact Assessments) para sistemas de IA de alto riesgo, complementadas con mecanismos efectivos de supervisión multi-stakeholder y procesos de apelación para decisiones automatizadas que vulneren los derechos civiles. 3. Fomentar campañas sostenidas de alfabetización digital y resiliencia cognitiva a nivel cívico y educativo, diseñadas para capacitar a los ciudadanos en la identificación y resistencia activa a la desinformación y las tácticas de vigilancia y manipulación impulsadas por IA.