Disrupción de Cohesión Social y Equidad:
El despliegue sistémico de sistemas de inteligencia artificial que replican o amplifican sesgos tiene el potencial de exacerbar la discriminación y los prejuicios sociales preexistentes, escalándolos a niveles inéditos. Paralelamente, la distribución desigual del acceso a las capacidades más avanzadas de la IA podría ensanchar las brechas socioeconómicas y catalizar la formación de nuevas estructuras de estratificación social, poniendo en tensión los cimientos del orden establecido.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1312
Linea de dominio
6. Socioeconómico y Ambiental
6.2 > Aumento de la desigualdad y disminución de la calidad del empleo
Estrategia de mitigacion
1. Establecer un Marco de Gestión de Riesgos de IA (AI RMF) riguroso que aborde la equidad y el sesgo algorítmico de manera continua. Esto incluye la validación de conjuntos de datos diversos y representativos a lo largo del ciclo de vida y la aplicación sistemática de auditorías de sesgo con técnicas de mitigación *in-processing* (como *Fair Representation Learning* o *reweighting*). 2. Priorizar políticas de Inclusión Digital para contrarrestar la brecha de acceso a las capacidades de la IA. Se debe invertir en infraestructura universal y asequible, a la par que se fomenta el desarrollo y la adopción de modelos de código abierto y transparentes, mitigando así la concentración de poder y oportunidades en pocas entidades. 3. Instituir mecanismos obligatorios de Supervisión Humana (*Human-in-the-Loop*) y Transparencia Algorítmica (XAI) para decisiones de alto riesgo. Estos procesos deben permitir la trazabilidad, la justificación de los resultados y la capacidad de anulación por parte de un operador humano capacitado para corregir resultados potencialmente discriminatorios.