Accidentes
Riesgos inherentes a fallas operativas, errores de discernimiento del modelo de IA o una manipulación humana inadecuada de sistemas de inteligencia artificial desplegados en infraestructuras de seguridad crítica, en los que un punto único de fallo puede catalizar una reacción en cadena con consecuencias catastróficas a nivel sistémico.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1305
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Prioridad Alta: Establecimiento de arquitecturas resilientes con redundancia y defensas multicapa. 2. Prioridad Media: Implementación de un régimen de pruebas pre-despliegue riguroso y certificación de seguridad. 3. Prioridad Media-Baja: Desarrollo de una cultura organizacional de seguridad y capacitación sobre operación humana de los sistemas.