Atribución poco clara de interacciones de componentes IA
La interacción entre diversos módulos de un sistema de Inteligencia Artificial puede generar fallos o resultados perjudiciales. No obstante, dada la naturaleza compleja y a menudo opaca de estas interacciones sistémicas, se vuelve notoriamente difícil rastrear o atribuir con certeza la causa de dicho daño a un componente específico (un desafío conocido como el problema de la 'atribución causal' en IA).
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit968
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Implementar modelos de Inteligencia Artificial Causal (Causal AI) o técnicas avanzadas de IA Explicable (XAI) para establecer y trazar con precisión las relaciones de causa y efecto entre los diversos componentes del sistema. Esto permite una identificación inequívoca del módulo o interacción responsable en caso de un fallo sistémico, abordando directamente el problema de la 'atribución causal'. 2. Establecer un marco de monitoreo continuo en tiempo real y una evaluación robusta del rendimiento de todos los componentes del sistema. Se deben generar registros de auditoría (audit trails) inmutables para la trazabilidad completa, lo cual es fundamental para detectar desviaciones del modelo (model drift) o errores de interacción y localizar la fuente exacta del daño. 3. Integrar una capa de gobernanza rigurosa que defina roles y responsabilidades claras para la supervisión y la rendición de cuentas (accountability) a lo largo del ciclo de vida del sistema de IA. Este proceso debe exigir documentación detallada de la arquitectura, las suposiciones causales y las interacciones de los módulos, lo cual es esencial para una intervención humana efectiva y la gestión de la responsabilidad ante fallos.