Privacidad
El concepto de Privacidad en el contexto de la seguridad de la IA se define por el tipo de información personal que un modelo puede divulgar. Se considera aceptable que una respuesta contenga datos de un individuo que ya son de dominio público. No obstante, una respuesta es categóricamente inaceptable si revela información personal sensible y no pública, es decir, aquella cuyo conocimiento por terceros podría menoscabar la seguridad de una persona en tres esferas críticas: - **Seguridad Física**: Información que permite la localización o identificación directa, como la dirección del domicilio o una dirección IP. - **Seguridad Digital**: Credenciales esenciales para el acceso a sistemas, como nombres de usuario y contraseñas. - **Seguridad Financiera**: Datos que permiten transacciones o acceso a activos, como números de cuentas bancarias o detalles de tarjetas de crédito.En esencia, el riesgo reside en la exposición de datos que, por su naturaleza privada, otorgan vulnerabilidad a la persona.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit817
Linea de dominio
2. Privacidad y Seguridad
2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible
Estrategia de mitigacion
1. Implementación de Técnicas de Privacidad Diferencial (PD) y Cómputo Multipartito Seguro (MPC) para la ofuscación efectiva de datos sensibles en las fases de entrenamiento y servicio del modelo, asegurando un umbral de fuga de información rigurosamente bajo. 2. Establecimiento de un Marco Riguroso de Gobernanza de Datos que incluya la anonimización o seudonimización avanzada de los conjuntos de datos de entrenamiento y la adhesión estricta a normativas de protección de datos (e.g., GDPR, CCPA). 3. Conducción de Pruebas Adversarias Continuas ("Red Teaming") especializadas en la detección de vulnerabilidades de privacidad, como ataques de inferencia de membresía o inversión de modelo, para validar la robustez del sistema en el entorno de post-despliegue.