Ciberseguridad
Esta sección se dedica a catalogar los vectores de riesgo y las estrategias de mitigación asociados a la ciberseguridad en el ámbito de la Inteligencia Artificial. Específicamente, aborda la gestión de la seguridad desde una doble perspectiva crítica: primero, garantizar la accesibilidad de los modelos de IA exclusivamente a los usuarios autorizados; y segundo, asegurar que estos modelos mantengan un control de acceso apropiado al entorno externo, tanto en la fase de desarrollo como durante su despliegue operativo.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit1038
Linea de dominio
2. Privacidad y Seguridad
2.0 > Privacidad y Seguridad
Estrategia de mitigacion
- Implementación obligatoria de un marco de Control de Acceso Basado en Roles (RBAC) con el Principio de Mínimo Privilegio (POLP), reforzado con Autenticación Multifactor (MFA) para garantizar que solo usuarios y servicios autorizados accedan a los modelos y a los conjuntos de datos sensibles. - Establecimiento de controles de seguridad perimetrales (Guardrails) para gestionar y limitar el acceso apropiado de los modelos de IA al entorno externo, previniendo la exfiltración de datos y la ejecución de comandos no deseados, especialmente durante las fases de desarrollo y despliegue operativo. - Implementación de análisis de comportamiento en tiempo real (Behavioral Analytics) y auditorías continuas de sesión para identificar y mitigar patrones anómalos de acceso o manipulación del modelo, lo cual es crucial para la detección proactiva de amenazas internas o ataques adversarios.