Deepfakes multimodales
Los deepfakes son contenidos multimedia sintéticos que representan a personas o sucesos, sean estos reales o inexistentes, mediante la manipulación de múltiples modalidades (como imágenes, audio y video). Específicamente, estas creaciones digitales pueden replicar de forma convincente el habla o los movimientos corporales de individuos concretos. El potencial de los deepfakes multimodales constituye un riesgo sociotécnico significativo, dado que pueden emplearse para fines maliciosos como acosar, desacreditar, intimidar o extorsionar a individuos.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1057
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Implementación de Sistemas de Detección Multimodal Avanzada Implementar modelos de *Deep Learning* que integren y analicen de manera concurrente diversas modalidades (visual, auditiva y contextual) para la detección de anomalías inherentes a la síntesis digital. La evidencia técnica sugiere que los enfoques multimodales superan a los unimodales al abordar la complejidad de los *deepfakes* sofisticados. 2. Fomento de la Alfabetización Digital y la Cultura de Verificación Diseñar e impartir programas de capacitación específicos para usuarios y entidades que promuevan la *evaluación crítica* del contenido multimedia, fortalezcan la higiene de la seguridad digital para prevenir el acceso a los datos fuente (entrenamiento) y establezcan protocolos internos de verificación de la autenticidad de la información antes de su difusión. 3. Establecimiento de Marcos Regulatorios y Tecnologías de Procedencia Promover la creación de *marcos regulatorios y legislativos* que aborden las responsabilidades y consecuencias del uso malicioso de contenido generado por IA. Paralelamente, evaluar y adoptar tecnologías de *verificación de la procedencia* del contenido, como los sistemas basados en *blockchain*, para asegurar la inmutabilidad y trazabilidad de los medios digitales auténticos.