IA en regímenes totalitarios
El potencial de la vigilancia y manipulación basadas en IA para sostener y perpetuar regímenes totalitarios a escala global.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit928
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Elaborar y promover la adopción de un marco regulatorio internacional armonizado para la IA, idealmente a través de un tratado o convención global bajo organismos como la ONU u OCDE, que imponga estándares estrictos basados en los derechos humanos, la transparencia y la rendición de cuentas para el desarrollo y despliegue de sistemas de IA, especialmente aquellos de propósito general. 2. Exigir la implementación de auditorías obligatorias e independientes de sesgos algorítmicos y evaluaciones de impacto (Algorithmic Impact Assessments) para sistemas de IA de alto riesgo, complementadas con mecanismos efectivos de supervisión multi-stakeholder y procesos de apelación para decisiones automatizadas que vulneren los derechos civiles. 3. Fomentar campañas sostenidas de alfabetización digital y resiliencia cognitiva a nivel cívico y educativo, diseñadas para capacitar a los ciudadanos en la identificación y resistencia activa a la desinformación y las tácticas de vigilancia y manipulación impulsadas por IA.