Complejidad
Los sistemas de inteligencia artificial contemporáneos están construidos sobre arquitecturas modulares, integrando numerosos modelos de aprendizaje para gestionar la percepción y la toma de decisiones. El desafío fundamental para su seguridad y fiabilidad reside en la creciente complejidad, impulsada por lo que se denomina la "explosión del espacio de parámetros". Esto ocurre cuando la interconexión de las variables internas de cada módulo individual se multiplica, resultando en un número de configuraciones posibles para el sistema total que crece de manera exponencial. Esta multiplicación combinatoria dificulta drásticamente la capacidad de verificar, predecir y auditar el comportamiento global del sistema.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit574
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Implementar rigurosamente principios de diseño modular, estableciendo contratos de interfaz y acoplamiento flexible entre los módulos de aprendizaje. Esto es crucial para simplificar las pruebas, mejorar el aislamiento de fallas y garantizar una trazabilidad clara, mitigando el riesgo de la explosión del espacio de parámetros. 2. Aplicar técnicas de Verificación Formal asistida por Inteligencia Artificial y de Análisis de Impacto Algorítmico (AIA) para traducir requisitos ambiguos en especificaciones formales rigurosas. Esto permite demostrar matemáticamente la robustez del sistema y el cumplimiento de las especificaciones en entornos de alta complejidad. 3. Establecer un marco de Gobernanza y Auditoría Continua que incorpore la Revisión Crítica Humana (RCH) y la Validación Cruzada de resultados, especialmente en tareas críticas. Se debe realizar un monitoreo en tiempo real para clasificar y remediar fallas emergentes, manteniendo el cumplimiento normativo continuo.