Riesgos para la privacidad
Los sistemas de inteligencia artificial de propósito general (IAPG) constituyen un vector de riesgo significativo para la privacidad de los usuarios. Las vulneraciones se manifiestan de dos maneras: la primera, de forma *inadvertida*, ocurre accidentalmente durante las fases de entrenamiento o uso del sistema, como resultado del procesamiento no autorizado de datos sensibles o la filtración no intencionada de registros (por ejemplo, de salud) utilizados en su capacitación. La segunda, de modo *deliberado*, surge cuando actores maliciosos explotan activamente la IAPG para inferir información privada o hechos ocultos sobre los usuarios, o para ejecutar ataques que comprometen la seguridad de los sistemas.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit910
Linea de dominio
2. Privacidad y Seguridad
2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible
Estrategia de mitigacion
1. Prioridad Máxima: Adopción de Principios de Privacidad por Diseño (Privacy by Design) Implementar técnicas avanzadas de privacidad diferencial y anonimización/seudonimización en los conjuntos de datos sensibles utilizados para el entrenamiento de los sistemas IAPG. Esto garantiza que la información personal, como los registros de salud, no pueda ser filtrada o reconstruida inadvertidamente, minimizando el riesgo desde la fase de desarrollo. 2. Prioridad Alta: Refuerzo de Controles de Acceso y Mecanismos Anti-Inferencia Establecer filtros de salida robustos y entornos de ejecución seguros (como Trusted Execution Environments) para monitorear y bloquear activamente los intentos maliciosos de inferir hechos privados u ocultos a partir de las respuestas del IAPG. Esto reduce el vector de ataque deliberado. 3. Prioridad Continua: Gobernanza y Auditoría de Cumplimiento Normativo Desarrollar un marco de gobernanza de la IA que exija la realización sistemática de Evaluaciones de Impacto en la Protección de Datos (EIPD/DPIA) antes del despliegue. Se debe asegurar la trazabilidad y la auditoría continua del procesamiento de datos para mantener la conformidad con regulaciones como el GDPR y la Ley de IA.