Estereotipado
Estereotipación: Es la aplicación de representaciones simplificadas, dañinas o despectivas a individuos, grupos, sociedades o culturas. Este fenómeno es resultado directo de una representación distorsionada o incompleta (por sobrerrepresentación, subrepresentación o ausencia total) de identidades, colectivos o perspectivas específicas dentro de un sistema. En el ámbito de la inteligencia artificial, esto se traduce en la homogeneización perjudicial de la diversidad humana y cultural, perpetuando sesgos sociales preexistentes
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit854
Linea de dominio
1. Discriminación y Toxicidad
1.0 > Discriminación y Toxicidad
Estrategia de mitigacion
Prioridad Alta: Minería y Curación de Datos Equilibrados Implementar protocolos rigurosos para la auditoría, selección y preprocesamiento de los conjuntos de datos de entrenamiento. Esto implica garantizar que los datos reflejen una representación demográfica y cultural equitativa, eliminando o corrigiendo las sobrerrepresentaciones, subrepresentaciones o representaciones históricamente sesgadas que perpetúan estereotipos de género, raciales o culturales. Prioridad Media: Monitoreo Algorítmico Continuo e Intervención Establecer mecanismos de evaluación y monitoreo continuo del sistema de IA, tanto en su fase de desarrollo como en la de despliegue, utilizando métricas de equidad (fairness) para identificar la manifestación de sesgos algorítmicos. Además, se debe incorporar un componente de justicia en el proceso de aprendizaje (algoritmos conscientes de sesgos) y realizar auditorías periódicas para detectar y corregir las desviaciones que deriven en la estereotipación. Prioridad Baja: Fomento de la Multidisciplinariedad y Diversidad en los Equipos de Desarrollo Garantizar la composición de equipos de desarrollo y *stakeholders* que sean diversos en términos de género, *expertise* (incluyendo ciencias sociales, ética y derecho), y trasfondo cultural. La participación de múltiples perspectivas es crucial en las etapas tempranas del diseño para el pensamiento crítico y la anticipación de consecuencias sociales y culturales no deseadas, tales como la asignación de roles estereotipados a las identidades.