Datos confidenciales en el prompt
Existe el riesgo inherente de que información sensible o confidencial sea incorporada en el *prompt* (la instrucción de entrada) que se transmite al modelo, lo que plantea una seria vulnerabilidad en la gestión de la privacidad de los datos.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1164
Linea de dominio
2. Privacidad y Seguridad
2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible
Estrategia de mitigacion
- Implementación de controles de Prevención de Pérdida de Datos (DLP) en el flujo de entrada, utilizando técnicas de desidentificación, enmascaramiento o tokenización de información sensible (PII, SPI o IP) contenida en el *prompt* antes de su transmisión al modelo generativo. - Establecimiento de una política de gobernanza clara y obligatoria que prohíba de forma explícita el uso de datos sensibles o confidenciales en las interacciones con sistemas de IA, complementada con programas de capacitación continua para los usuarios, haciendo énfasis en la responsabilidad y las consecuencias de la filtración involuntaria. - Ejecución periódica de evaluaciones de riesgo y auditorías de *logs* de *prompts* para identificar patrones de uso anómalo o la inclusión accidental de información confidencial, garantizando la detección proactiva de incumplimientos y la calibración del sistema DLP.