Cyberspace risks (Risks of security flaw transmission caused by model reuse)
El uso de modelos fundamentales como base de desarrollo (a través de reingeniería o ajuste fino) genera un riesgo sistémico: cualquier vulnerabilidad de seguridad presente en el modelo original se transmite inevitablemente a todos los modelos derivados o subsecuentes.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit659
Linea de dominio
2. Privacidad y Seguridad
2.2 > Vulnerabilidades y ataques a la seguridad del sistema de IA
Estrategia de mitigacion
1. Implementación de evaluaciones exhaustivas: Implementar evaluaciones de seguridad y análisis de vulnerabilidades exhaustivos en los modelos fundamentales (FM) antes de su liberación o adopción, con el fin de identificar y remediar proactivamente las fallas que podrían propagarse sistémicamente a los modelos derivados. 2. Gobernanza del ciclo de vida de los modelos derivados: Establecer un marco de gobernanza que exija la aplicación de controles de seguridad en todas las etapas del ciclo de vida (AI DevSecOps) de los modelos subsecuentes, incluyendo la revalidación obligatoria de las propiedades de seguridad y la mitigación de riesgos tras cualquier proceso de ajuste fino (fine-tuning). 3. Endurecimiento de la infraestructura de despliegue: Reforzar la infraestructura de entrenamiento y despliegue del modelo con principios de Confianza Cero (Zero Trust) y segmentación de red, asegurando la integridad de los artefactos del modelo y previniendo el acceso no autorizado o la manipulación de los componentes que puedan albergar fallas de seguridad.