Distribución injusta de beneficios por acceso al modelo
Exclusión Digital Algorítmica: Se refiere a la distribución o retención no equitativa de beneficios esenciales hacia grupos poblacionales específicos. Esta disparidad se fundamenta en las restricciones impuestas por el entorno tecnológico (hardware, software), la capacitación del usuario (habilidades digitales), o las condiciones de despliegue del sistema (tales como la velocidad de conexión o la ubicación geográfica), amplificando así la brecha digital preexistente.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit279
Linea de dominio
6. Socioeconómico y Ambiental
6.1 > Centralización del poder y distribución injusta de beneficios
Estrategia de mitigacion
1. Implementar un marco de Gobernanza de IA (AI Governance Framework) que asegure la transparencia, la rendición de cuentas y, primordialmente, la equidad en el despliegue de sistemas, con directrices explícitas para la priorización y asignación de recursos tecnológicos y de capacitación hacia grupos poblacionales con menor acceso, minimizando la brecha digital algorítmica. 2. Adoptar metodologías de diseño ético y 'equidad por diseño' (Fairness-by-Design) que incorporen la explicabilidad (explainability) del sistema. Esto debe enfocarse en asegurar que el rendimiento del modelo y el acceso a sus beneficios sean consistentes a través de diferentes contextos socioeconómicos y geográficos, evaluando los sesgos inherentes al diseño. 3. Desarrollar un proceso de monitoreo continuo y auditoría post-despliegue para evaluar el impacto real del sistema en la distribución de beneficios. Las métricas deben enfocarse en la identificación proactiva de grupos subrepresentados o excluidos por restricciones de hardware, software o habilidades, permitiendo el ajuste de las estrategias de despliegue.
EVIDENCIA ADICIONAL
Ejemplo: Mejores trayectorias de contratación y promoción para personas con acceso a modelos de IA generativa (Gmyrek et al., 2023)