Distribución injusta de capacidades
Inequidad de Desempeño Dañina (Harmful Performance Disparity) Manifestación de un rendimiento algorítmico significativamente inferior para ciertos grupos poblacionales en comparación con otros, que resulta en un perjuicio concreto y directo para el grupo que ya se encuentra en una situación de desventaja.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit259
Linea de dominio
1. Discriminación y Toxicidad
1.3 > Rendimiento desigual entre grupos
Estrategia de mitigacion
1. Implementar procesos rigurosos de curación de datos para garantizar la inclusión y representatividad equitativa de todos los grupos demográficos y lingüísticos relevantes en los conjuntos de entrenamiento, empleando técnicas de balanceo (sobremuestreo/submuestreo) para mitigar los sesgos históricos y desequilibrios muestrales. 2. Aplicar técnicas de justicia algorítmica *in-processing* y *post-processing*, como la ingeniería de modelos conscientes de la equidad (p. ej., algoritmos que ajustan la función de pérdida) y el entrenamiento adversarial, con el fin de reducir activamente las disparidades de rendimiento entre subgrupos y aumentar la robustez ante entradas sesgadas. 3. Establecer un marco de gobernanza continuo que incluya auditorías éticas periódicas y un monitoreo post-despliegue del rendimiento desagregado por grupo, utilizando métricas de equidad e incorporando la retroalimentación *human-in-the-loop* y herramientas de explicabilidad (XAI) para identificar y corregir proactivamente las desviaciones de desempeño.
EVIDENCIA ADICIONAL
Ejemplo de Sesgo Lingüístico: Un fenómeno documentado donde el modelo de IA produce resultados de calidad inferior al ser instruido mediante una indicación (*prompt*) en una lengua distinta al inglés, lo cual subraya la disparidad de rendimiento interlingüística (Dave, 2023).