Volver al repositorio MIT
2. Privacidad y Seguridad3 - Otro

Datos propietarios

Riesgo de compromiso de la confidencialidad de información corporativa sensible a través del acceso indebido por parte del sistema de inteligencia artificial

Fuente: MIT AI Risk Repositorymit1270

ENTIDAD

2 - IA

INTENCIÓN

2 - Involuntario

TIEMPO

3 - Otro

ID del riesgo

mit1270

Linea de dominio

2. Privacidad y Seguridad

186 riesgos mapeados

2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible

Estrategia de mitigacion

1. Priorizar la implementación de políticas de control de acceso estricto (RBAC) y el principio de mínimo privilegio a los *datasets* y modelos de IA, complementado con autenticación multifactor (MFA), para limitar el acceso únicamente al personal y a los sistemas estrictamente necesarios para la operación. 2. Aplicar técnicas de preservación de la privacidad y seguridad de los datos sensibles, incluyendo el cifrado robusto de la información corporativa en reposo y en tránsito, y el uso de métodos como la anonimización o la privacidad diferencial durante las fases de entrenamiento y uso del modelo. 3. Desplegar soluciones avanzadas de Prevención de Pérdida de Datos (DLP) y *gateways* de seguridad de IA que realicen la inspección y filtrado en tiempo real de las entradas y salidas del modelo, con la capacidad de detectar, bloquear o redactar automáticamente la información sensible o propietaria.