Riesgos de Acceso y Oportunidad
El riesgo más crítico asociado a la disponibilidad y acceso de asistentes avanzados de Inteligencia Artificial radica en la potencialización de las brechas de equidad. Este peligro se materializa bien a través de la consolidación y exacerbación de desigualdades socioeconómicas ya establecidas (un fenómeno que la Base de Datos Mundial sobre la Desigualdad ayuda a mapear), o mediante la emergencia de nuevas y desconocidas estructuras de inequidad. La evidencia de los sistemas de IA contemporáneos (Bommasani et al., 2022a) indica que, sin intervenciones de diseño explícitas, es altamente probable que continúen manifestando estas disparidades, reflejando patrones de acceso diferencial ya documentados en la investigación.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit392
Linea de dominio
6. Socioeconómico y Ambiental
6.1 > Centralización del poder y distribución injusta de beneficios
Estrategia de mitigacion
1. Implementar un marco de gobernanza de IA que exija el diseño por equidad (fairness-by-design) y la integración de métricas de justicia, incluyendo la curación de conjuntos de datos diversos y representativos. Esta medida fundamental previene la consolidación y exacerbación de desigualdades socioeconómicas preexistentes desde la concepción del sistema. 2. Establecer auditorías de equidad (fairness audits) obligatorias y continuas post-despliegue, utilizando validación prospectiva y métricas de sesgo apropiadas para el contexto social de aplicación. La vigilancia constante y la trazabilidad de los resultados son esenciales para identificar y mitigar las brechas de equidad que puedan emerger en el uso real. 3. Desarrollar políticas de acceso y estándares técnicos de interoperabilidad que promuevan una distribución justa de los beneficios y capacidades de los asistentes avanzados de IA. Esto incluye modelos para gobernar recursos críticos (ej. capacidad de cómputo) con el fin de equilibrar la innovación con la disponibilidad equitativa y evitar la centralización excesiva del poder tecnológico.