Capacidades de vigilancia
Los modelos de Inteligencia Artificial (IA) y sus sistemas asociados tienen el potencial de incrementar sustancialmente la capacidad de vigilancia y monitoreo que poseen los gobiernos y las corporaciones sobre la población y los individuos.
ENTIDAD
2 - IA
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit965
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Establecer un marco de gobernanza de datos y de IA riguroso y auditable (alineado con estándares como NIST AI RMF o ISO/IEC 42001), que defina políticas de uso aceptable de datos, asegure la trazabilidad inmutable de las decisiones del sistema y aplique el principio de minimización de datos. 2. Implementar controles de acceso estrictos basados en los principios de mínimo privilegio y cero confianza para limitar el acceso de gobiernos o corporaciones tanto a los modelos de IA como a los *datasets* sensibles o de información personal. 3. Exigir y mantener una transparencia activa sobre la existencia y el funcionamiento de los sistemas de vigilancia basados en IA, junto con la implementación continua de análisis de comportamiento de usuario (User Behavior Analytics o UBA) para la detección proactiva de abusos y desviaciones en el uso.