Predecibilidad
La **predictibilidad de la decisión** de un agente de Inteligencia Artificial. Este concepto aborda el riesgo de que el comportamiento del sistema no sea completamente determinista, cuestionando si su resultado puede preverse en la totalidad de los contextos operacionales posibles.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit568
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Refuerzo de la Robustez Técnica y la Resiliencia del Modelo: Implementar pruebas de solidez (robustez) rigurosas, incluyendo el "stress testing" y las pruebas de evasión adversariales. El objetivo es asegurar que el agente de IA mantenga un rendimiento estable y predecible ante la presencia de datos anómalos o manipulados, mitigando así la variabilidad inherente al comportamiento no determinista. 2. Establecimiento de Mecanismos de Trazabilidad y Explicabilidad (XAI): Integrar marcos de Inteligencia Artificial Explicable (XAI) para documentar y rastrear rigurosamente los datos de entrada y los procesos algorítmicos que fundamentan cada decisión. Esto mejora la auditabilidad del sistema y permite a los operadores diagnosticar la causa raíz de un resultado impredecible, lo cual es esencial para el refinamiento continuo. 3. Implementación de Monitoreo Continuo Post-Despliegue y Gestión de Anomalías: Desplegar sistemas de monitoreo en tiempo real que rastreen métricas clave de rendimiento y detecten patrones de comportamiento inusuales o desviaciones del resultado esperado. Esta vigilancia constante es crítica en la fase post-despliegue para identificar y contener rápidamente los riesgos derivados de la predictibilidad limitada del agente de IA.