Privacidad y consentimiento
Aun cuando la víctima de un perjuicio dirigido y generado por IA consiga identificar al creador malicioso de un deepfake, la reparación del daño resulta compleja. Esto se debe a que la imagen o video generado no es una representación directa de la víctima, sino una composición ficticia y verosímil creada a partir de elementos procedentes de múltiples fuentes. En su núcleo, estas creaciones de IA eluden los conceptos tradicionales de privacidad y consentimiento: al basarse en imágenes y videos de dominio público, como los publicados en redes sociales, su creación no suele depender de información de carácter privado
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit486
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Prioridad Alta: Marco Regulatorio Específico Establecer un marco legal que penalice explícitamente la creación y distribución de contenido deepfake que manipule la imagen o voz de un individuo sin su consentimiento, superando la ambigüedad sobre la naturaleza pública o privada de los datos de origen para garantizar la reparación efectiva del daño. 2. Prioridad Media: Tecnologías de Autenticación y Trazabilidad Implementar soluciones de aseguramiento de contenido, como el uso de marcas de agua digitales criptográficas (hybrid watermarking) y la tecnología blockchain, para dotar al contenido auténtico de trazabilidad innegable (non-repudiation) y facilitar la distinción entre material verídico y contenido sintético manipulado. 3. Prioridad Baja: Control de Exposición de Datos Personales Promover la educación y la ciberhigiene para que los individuos limiten proactivamente la exposición de su material audiovisual de alta calidad en plataformas públicas y refuercen los ajustes de privacidad, minimizando así la disponibilidad de datos utilizables para el entrenamiento de modelos de deepfake maliciosos.