Uso no consensuado
Los sistemas de Inteligencia Artificial Generativa pueden ser empleados de forma deliberada para suplantar la identidad de individuos a través de la creación de "deepfakes", utilizando diversas modalidades de datos, como material audiovisual, imágenes o audio, sin el consentimiento explícito de las personas afectadas.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1171
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Implementar protocolos de autenticidad y trazabilidad de contenido generado (e.g., marcas de agua digitales y metadatos del estándar C2PA) y establecer salvaguardas semánticas rigurosas en los modelos de IA Generativa para prevenir, desde la fase de creación, la generación de contenido no consensuado. 2. Adoptar un enfoque de Confianza Cero ("Zero Trust") e implementar medidas de autenticación robustas (e.g., autenticación multifactor y biometría conductual) junto con herramientas de detección de "deepfakes" basadas en IA, para verificar la autenticidad de toda interacción y comunicación digital en tiempo real. 3. Desarrollar e implementar un Plan de Respuesta a Crisis detallado para incidentes de "deepfake" y llevar a cabo programas regulares de formación en alfabetización mediática y ciberseguridad para el personal, enfocados en la identificación de inconsistencias visuales, auditivas y conductuales.