Información personal en prompt
En el contexto de la seguridad y privacidad de la Inteligencia Artificial, el concepto se define como la **Exposición de Datos Sensibles en la Solicitud (Prompt)**. Esta es una vulnerabilidad crítica que se materializa cuando el usuario introduce, de forma inadvertida o deliberada, información de carácter personal o sensible—como identificadores, datos médicos o financieros—directamente en el campo de texto (el *prompt*) que interactúa con el modelo de IA. El riesgo inherente radica en que dicha información confidencial puede ser almacenada, utilizada para el entrenamiento futuro del modelo o quedar expuesta a terceros, comprometiendo así los principios fundamentales de la privacidad de los datos.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1163
Linea de dominio
2. Privacidad y Seguridad
2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible
Estrategia de mitigacion
1. Saneamiento y Redacción Dinámica de Entradas Implementar mecanismos de detección y enmascaramiento de Información de Identificación Personal (PII) o datos sensibles en tiempo real, aplicando técnicas de redacción o anonimización que preserven el contexto de la consulta antes de que el *prompt* sea procesado por el modelo de lenguaje. Esto incluye el uso de *tokens* de sustitución y campos enmascarados en lugar de la transmisión de datos en texto claro. 2. Implementación de Controles de Acceso Rigurosos y Políticas de Minimización de Datos Aplicar el principio de "mínimo privilegio" mediante controles de acceso basados en roles (*RBAC*) para restringir la visibilidad del contenido sensible en las conversaciones de IA. Concomitantemente, se deben diseñar arquitecturas que solo recopilen y procesen la cantidad mínima indispensable de datos para el propósito definido del modelo, alineándose con el principio de limitación de finalidad del RGPD. 3. Establecimiento de Programas de Capacitación en Higiene de Prompts y Monitoreo Continuo Desarrollar programas de concientización para los usuarios sobre los riesgos de exponer información confidencial en los *prompts*. De forma complementaria, implementar la supervisión continua (*Continuous Monitoring*) y algoritmos de detección de anomalías para rastrear interacciones con la IA, alertando sobre patrones de uso anómalos o la exposición inadvertida de datos sensibles en tiempo real.