Privacidad y seguridad
Existe una preocupación manifiesta sobre el potencial mal uso de los datos personales por parte de los sistemas de Inteligencia Artificial. Esto subraya la urgencia de establecer mecanismos robustos de ciberseguridad y una transparencia total respecto a cómo estas tecnologías adquieren, almacenan y utilizan la información. La dependencia progresiva en la IA para manejar datos sensibles suscita cuestiones éticas críticas sobre la privacidad y la seguridad, exponiendo un riesgo creciente de explotación de la información a medida que su integración social avanza.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit554
Linea de dominio
2. Privacidad y Seguridad
2.1 > Compromiso de la privacidad por filtración o inferencia de información sensible
Estrategia de mitigacion
1. Prioridad Alta: Implementación del Principio de Privacidad por Diseño y Minimización de Datos - Acción de Mitigación: Se debe asegurar la limitación de la recolección de datos personales estrictamente a aquellos esenciales para el propósito del sistema de IA. Adicionalmente, es imperativo aplicar técnicas de de-identificación y ofuscación (como la supresión de rasgos o la inferencia diferencial) sobre el conjunto de datos para reducir el riesgo de filtración o inferencia correcta de información sensible. 2. Prioridad Media: Refuerzo de la Seguridad y los Controles de Acceso - Acción de Mitigación: Es crucial establecer salvaguardas sólidas de ciberseguridad mediante la aplicación de una defensa en profundidad (security-in-depth). Esto incluye el uso obligatorio de cifrado para datos en reposo y en tránsito, y la implementación de controles de acceso rigurosos, como el control de acceso basado en roles (RBAC) y el principio de mínimo privilegio del modelo (*Least Model Privilege*). 3. Prioridad Baja: Establecimiento de Transparencia y Gobernanza de Datos - Acción de Mitigación: Desarrollar y mantener un marco de gobernanza que garantice la trazabilidad y la rendición de cuentas (*accountability*) en el manejo de datos. Esto implica documentar con claridad las políticas de adquisición, almacenamiento y uso, y demostrar transparencia a los participantes sobre cómo su información se integra y explota dentro del ciclo de vida del sistema de IA.