Riesgos por Mal funcionamiento

Estrategia de mitigacion

1. Implementar prácticas de mitigación de sesgos algorítmicos mediante la curación de conjuntos de datos de entrenamiento diversos y representativos y la realización sistemática de auditorías de equidad para prevenir resultados discriminatorios. 2. Garantizar la solidez y fiabilidad del sistema a través de pruebas de validación exhaustivas (incluidas las pruebas adversas) y la aplicación de métodos de IA Explicable (XAI) para incrementar la transparencia y la trazabilidad de las decisiones. 3. Establecer mecanismos de supervisión y control humano efectivos, como procesos 'Human-in-the-Loop' y la funcionalidad de anulación/desactivación del sistema, para permitir la intervención inmediata ante fallos operativos o comportamientos inesperados.