Documentación insuficiente del desarrollo de IA
A lo largo del desarrollo de un sistema de IA, resulta crucial registrar meticulosamente cada decisión y acción emprendida. Esta documentación no solo es fundamental para la optimización del proceso, sino que constituye un requisito indispensable para garantizar la auditabilidad del sistema.
ENTIDAD
1 - Humano
INTENCIÓN
3 - Otro
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit877
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.4 > Falta de transparencia o interpretabilidad
Estrategia de mitigacion
1. Implementación de un Marco de Documentación Estructurada (Prioridad Alta): Establecer un sistema de gobernanza que obligue a la generación de artefactos documentales estandarizados, como *Model Cards* y *Datasheets for Datasets*, a lo largo de todo el ciclo de vida de desarrollo. Esto crea una base verificable y asegura la trazabilidad de las decisiones críticas para la auditabilidad del sistema. 2. Integración de Procesos de Auditoría Continua y Repositorio Centralizado: Diseñar e implementar auditorías periódicas y rigurosas que rastreen el entrenamiento, la implementación y la utilización del sistema. Los resultados y *logs* de decisión deben ser almacenados en un repositorio centralizado, funcionando como la única fuente de verdad para la rendición de cuentas. 3. Adopción de Principios de IA Explicable (XAI): Priorizar el desarrollo o la integración de mecanismos de IA Explicable para garantizar la transparencia. Esto permite a los usuarios y auditores comprender la lógica y el razonamiento detrás de los resultados del sistema, mitigando así el riesgo de opacidad operativa.