Algoritmo y datos
Más del 20% de las contribuciones se focalizan en la dimensión ética de los algoritmos y los datos. Este eje temático se subdivide en dos conceptos fundamentales: el binomio entre el sesgo de datos y la necesidad de equidad algorítmica, y la problemática de la opacidad algorítmica.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit545
Linea de dominio
1. Discriminación y Toxicidad
1.1 > Discriminación injusta y tergiversación
Estrategia de mitigacion
1. Implementar la auditoría y depuración rigurosa de los conjuntos de datos de entrenamiento para identificar y neutralizar sesgos históricos y garantizar la representatividad equitativa de todos los subgrupos demográficos y protegidos. 2. Integrar técnicas de aprendizaje automático conscientes de la equidad (fairness-aware machine learning) y mecanismos de detección de sesgos in design y ex post para prevenir la amplificación de patrones discriminatorios y monitorear el impacto dispar en subpoblaciones. 3. Adoptar metodologías de Inteligencia Artificial Explicable (XAI), como LIME o SHAP, para garantizar la transparencia, interpretabilidad y trazabilidad algorítmica, facilitando la supervisión humana y la capacidad de impugnar o justificar decisiones.