Estereotipos sociales y discriminación injusta

Estrategia de mitigacion

1. **Prioridad 1: Curación y Diversificación Rigurosa del Corpus de Entrenamiento** La principal estrategia es abordar el sesgo en su origen. Esto implica auditar, curar y diversificar activamente los datos de entrenamiento del Modelo de Lenguaje (ML) a gran escala, asegurando que el corpus sea completo, equilibrado y representativo de la diversidad demográfica real. Es crucial evitar la perpetuación de patrones históricos de injusticia sistémica y estereotipos que se encuentran en textos masivos no curados. 2. **Prioridad 2: Aplicación de Técnicas de Justicia Algorítmica (Algorithmic Fairness)** Implementar métodos de mitigación de sesgos directamente en el algoritmo de aprendizaje, como las técnicas de regularización (MinDiff o Penalización de Coherencia Contrafactual - CLP), para ajustar la función de optimización. Estas técnicas buscan penalizar explícitamente las discrepancias en la distribución de las predicciones o en el rendimiento del modelo entre diferentes subgrupos sensibles asociados a la discriminación (e.g., género, raza). 3. **Prioridad 3: Monitoreo Continuo y Auditorías de Equidad Post-implementación** Establecer un proceso de supervisión humana y auditoría técnica continua, incluso después de la implementación. Esto requiere realizar pruebas de equidad exhaustivas y periódicas con datos de prueba diversos para detectar y diagnosticar sesgos emergentes o nuevos patrones de discriminación. La falta de transparencia (opacidad) de los modelos de ML hace que este monitoreo sea esencial para la rendición de cuentas y la búsqueda de recursos para las víctimas.