Privacidad y seguridad
La privacidad y la seguridad se centran en la protección del derecho fundamental a la privacidad y en la implementación de las salvaguardias necesarias para resguardar los datos individuales de un acceso externo no autorizado. Un punto crítico en este ámbito es la creciente utilización de tecnologías de inteligencia artificial por parte de diversas organizaciones para la recolección de datos, un proceso que frecuentemente se ejecuta sin la notificación o el consentimiento explícito de los ciudadanos implicados.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
3 - Otro
ID del riesgo
mit292
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementar el principio de Privacidad desde el Diseño (PbD) y la Minimización de Datos. Esto implica integrar salvaguardias de privacidad en la arquitectura del sistema de IA desde la fase inicial de diseño, limitando estrictamente la recolección y el procesamiento de datos personales a lo esencial para el propósito especificado, y privilegiando el uso de datos anonimizados o sintéticos. 2. Asegurar el Consentimiento Informado y la Transparencia Algorítmica. Establecer mecanismos de aviso de privacidad explícitos y comprensibles para obtener el consentimiento informado de los individuos, detallando el uso de la IA en la recolección de datos. Garantizar los derechos de acceso, rectificación e impugnación de las personas sobre sus datos y las decisiones algorítmicas que les afecten. 3. Reforzar la Robustez, Ciberseguridad y Gobernanza de Datos. Aplicar medidas técnicas como el cifrado, arquitecturas Zero Trust y controles de acceso rigurosos para proteger los datos individuales de un acceso externo no autorizado o de ataques adversarios. Paralelamente, establecer un inventario claro de los conjuntos de datos y realizar auditorías y pruebas de solidez periódicas.
EVIDENCIA ADICIONAL
A modo de ejemplo, consideremos dos aplicaciones que requieren un acceso constante a datos sensibles: un sistema de navegación que demanda la ubicación actual del usuario para optimizar una ruta de vuelta a casa, o el uso gubernamental de servicios de IA para la vigilancia de espacios públicos con el fin de prevenir actividades delictivas (Power, 2016). Al prescindir del consentimiento informado de las personas afectadas, estas aplicaciones y servicios basados en inteligencia artificial comprometen gravemente el derecho fundamental a la privacidad.