Implementación
Este riesgo se define como la posibilidad de un fallo sistémico provocado directamente por decisiones subóptimas en la arquitectura del código o por errores no detectados introducidos durante la fase de implementación y desarrollo del sistema
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit194
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.0 > Seguridad, fallos y limitaciones del sistema de IA
Estrategia de mitigacion
1. Establecimiento de un marco riguroso para la revisión e integración del código Implementar políticas de revisión de código por pares obligatoria y estandarizada, complementada con el uso de herramientas de análisis estático y dinámico, para asegurar la adhesión a las guías de arquitectura y reducir la probabilidad de introducir vulnerabilidades o fallos sistémicos durante la fase de desarrollo e implementación. 2. Implementación de un sistema de gestión y monitoreo de dependencias de código abierto Adoptar soluciones tecnológicas para el escaneo continuo de vulnerabilidades y la trazabilidad de los paquetes de software de código abierto utilizados, con el fin de identificar y mitigar proactivamente los riesgos de seguridad o funcionalidad no intencionales introducidos por componentes externos. 3. Desarrollo de programas de formación especializada en codificación segura y arquitectura de sistemas Capacitar de manera periódica y formal al personal técnico en las mejores prácticas de codificación segura, en el manejo de riesgos de ciberseguridad y en protocolos de respuesta a incidentes, fortaleciendo así la competencia y la cultura de prevención organizacional frente a fallos de implementación.
EVIDENCIA ADICIONAL
La materialización de un diseño puede ser imperfecta debido a las prácticas de codificación, revisión o integración del código dentro de una organización, lo que inevitablemente genera fallos en la implementación del sistema. A esto se suma el auge de paquetes de software de código abierto mantenidos por voluntarios (como PyTorch), que introducen una probabilidad considerable de que se incorporen errores al sistema sin que los desarrolladores sean conscientes de ello.