Falta de transparencia en datos de entrenamiento
La ausencia de una documentación rigurosa sobre el origen, la curación y el empleo de los datos utilizados en el entrenamiento de un modelo de IA complica significativamente la tarea de explicar su comportamiento. En esencia, sin un registro transparente de la procedencia de los datos, resulta extremadamente difícil justificar de forma satisfactoria por qué el modelo actúa de una determinada manera en relación con la información que ha procesado.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit1141
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Desarrollar e implementar una política integral de gobernanza de IA y transparencia de datos que defina directrices claras sobre la recopilación, curación y empleo de los conjuntos de datos de entrenamiento. 2. Mantener registros de auditoría y bitácoras detalladas e inmutables de todos los datos utilizados a lo largo del ciclo de vida del sistema de IA, asegurando la trazabilidad y facilitando la explicación del comportamiento del modelo. 3. Aumentar la explicabilidad y transparencia del sistema informando a todas las partes interesadas pertinentes sobre las prácticas de recolección de datos, la composición del conjunto de datos de entrenamiento y las medidas implementadas para la mitigación de sesgos.