Cadenas de Suministro de Software
La complejidad inherente al ecosistema de desarrollo de software (o *toolchain*) de los Modelos de Lenguaje Grandes (LLM) introduce una superficie de ataque significativamente ampliada, lo que conlleva riesgos de seguridad y vulnerabilidades que comprometen el modelo final resultante.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit22
Linea de dominio
2. Privacidad y Seguridad
2.2 > Vulnerabilidades y ataques a la seguridad del sistema de IA
Estrategia de mitigacion
1. Priorizar la Evaluación Rigurosa de Proveedores y Componentes. Esto incluye la verificación meticulosa de la procedencia de los modelos pre-entrenados, los conjuntos de datos y las librerías de terceros, así como el uso obligatorio de firmas digitales y comprobaciones de integridad (hashing) para garantizar la autenticidad y la ausencia de manipulaciones. 2. Implementar la Gestión Integral de Inventarios (SBOM). Mantener un Software Bill of Materials (SBOM) detallado y actualizado de todos los artefactos y dependencias de la toolchain del LLM para proporcionar una visibilidad continua que es esencial para la detección y respuesta rápida a nuevas vulnerabilidades. 3. Establecer una Política Proactiva de Gestión de Vulnerabilidades y Parches. Aplicar de forma sistemática las directrices de mitigación, especialmente las relativas a componentes vulnerables y obsoletos (ej. OWASP Top Ten A06:2021), ejecutando escaneos de seguridad periódicos y asegurando que las API y modelos dependan de versiones activamente mantenidas.