Reproducibilidad
El concepto fundamental es la **reproducibilidad** de un modelo de aprendizaje, es decir, la capacidad de obtener consistentemente el mismo resultado final al ejecutar el proceso de entrenamiento. La dificultad se magnifica debido a dos factores críticos: la variación intrínseca en los conjuntos de datos y el vasto espacio de parámetros que define el modelo. Este desafío se agrava en procedimientos de aprendizaje basados en datos que carecen de la transparencia de instrucciones claras, dificultando la auditoría y la verificación de la robustez del sistema.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit571
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.4 > Falta de transparencia o interpretabilidad
Estrategia de mitigacion
1. Implementación de un sistema de control de versiones riguroso (código, datos, dependencias y artefactos del modelo) junto con la estandarización del entorno de ejecución mediante tecnologías de contenedorización (e.g., Docker, Conda). Esta medida garantiza la encapsulación determinista de las configuraciones de software y hardware, permitiendo la replicación exacta del estado del entrenamiento. 2. Creación de documentación exhaustiva y de alta fidelidad que registre metódicamente todos los hiperparámetros, semillas de aleatoriedad, configuraciones de entrenamiento y los métodos de preprocesamiento de datos utilizados. Dicha documentación es fundamental para establecer la trazabilidad del proceso de desarrollo y validar la robustez del modelo. 3. Integración de prácticas MLOps que prioricen la supervisión continua y la auditoría algorítmica, incluyendo la adopción de técnicas de **Inteligencia Artificial Explicable (XAI)**. Esto permite desentrañar y justificar los procesos de decisión del modelo, abordando directamente la falta de transparencia que magnifica el desafío de la reproducibilidad.