Divulgación
La divulgación de datos personales se define como la revelación o el intercambio indebido de información individual. En el contexto de la inteligencia artificial, este riesgo se intensifica y diversifica significativamente: por un lado, la IA introduce nuevas vulnerabilidades de divulgación al ser capaz de inferir información sensible adicional no capturada de forma explícita en los datos de origen; por otro lado, la práctica de compartir datos personales para el entrenamiento de modelos acelera y exacerba los riesgos de exposición.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1233
Linea de dominio
2. Privacidad y Seguridad
2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible
Estrategia de mitigacion
1. Implementación de Técnicas de Preservación de la Privacidad (TPPs): Aplicar marcos formalmente definidos como la **Privacidad Diferencial** durante el entrenamiento de modelos de IA para limitar la contribución de muestras de datos individuales y mitigar el riesgo de ataques de inferencia. Alternativamente, utilizar la **Generación de Datos Sintéticos** para crear conjuntos de datos artificiales que repliquen las propiedades estadísticas originales, eliminando el riesgo de reidentificación. 2. Gobernanza de Datos y Controles de Acceso Granulares: Establecer políticas estrictas de **minimización de datos** y **retención limitada**, asegurando que solo se recoja y procese la información estrictamente necesaria. Complementariamente, implementar **Controles de Acceso Basados en Roles (RBAC)** y **cifrado de extremo a extremo** para proteger la infraestructura de la IA y los datos sensibles en reposo y en tránsito. 3. Monitoreo Continuo y Trazabilidad Forense: Desarrollar un sistema de **monitoreo en tiempo real** de las entradas, salidas y logs de la IA para detectar comportamientos anómalos o la filtración inadvertida de información sensible. Esto debe ir acompañado de la habilitación de **registros de auditoría** detallados y la **gestión forense** para asegurar la trazabilidad y la rendición de cuentas ante cualquier uso indebido o incidente de divulgación.