Efectos transformadores
La implementación de la IA Existencial (IAE) conlleva el riesgo de una reestructuración fundamental de la sociedad, un escenario particularmente probable si el ritmo del avance tecnológico supera la capacidad de adaptación de las estructuras sociales. Específicamente, existe la preocupación de que estos sistemas puedan ser instrumentalizados para potenciar el autoritarismo. Esto se manifestaría a través de la provisión de amenazas físicas de violencia y el desarrollo de vastas capacidades de vigilancia masiva, elementos que consolidarían regímenes políticos habilitados y respaldados por la IA.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1288
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Prioridad Máxima: Instaurar marcos de gobernanza de IA supranacionales e integrales, alineados con el derecho internacional y los derechos humanos, que definan límites claros para el desarrollo y el despliegue de sistemas de Inteligencia Artificial Existencial (IAE). Esto debe incluir requisitos de transparencia algorítmica, trazabilidad y un enfoque riguroso en la rendición de cuentas (accountability) para evitar la consolidación de estructuras de poder disfuncionales. 2. Prioridad Alta: Prohibir o someter a un escrutinio legal y ético riguroso el uso de sistemas de IA para la vigilancia masiva o el control social, especialmente las tecnologías de reconocimiento biométrico en espacios públicos y los sistemas de puntuación social o predicción policial basados en datos de comportamiento, con el fin de salvaguardar las libertades civiles y el Estado de derecho. 3. Prioridad Media: Desarrollar políticas socioeconómicas proactivas que mitiguen los efectos transformadores de la IAE en el empleo y la desigualdad, invirtiendo en programas de capacitación y recualificación a gran escala, y adoptando medidas para reducir la brecha digital y garantizar que los beneficios de la IA sean distribuidos de forma equitativa y a largo plazo.