IA usada para escalar la producción de información falsa y engañosa
En paralelo, se observa cómo la inteligencia artificial está siendo empleada para escalar la producción de contenido digital convincente, aunque intrínsecamente falso o engañoso, en plataformas online (por ejemplo, a través de modelos de síntesis de imagen, audio y texto como BigGAN [6] y GPT-3 [7]).
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit791
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementación Mandatoria de Mecanismos de Procedencia Digital Establecer y exigir el uso de tecnologías de autenticación, como la marca de agua criptográfica (cryptographic watermarking), firmas digitales y sistemas de trazabilidad de metadatos (digital provenance), para identificar de manera inequívoca y verificable el origen y las modificaciones de todo contenido generado o manipulado por inteligencia artificial. Esto permite la detección proactiva y la no-repudiación del contenido sintético. 2. Desarrollo de Marcos Regulatorios de Transparencia y Responsabilidad Crear marcos legales que obliguen a los proveedores de modelos de IA generativa a divulgar y etiquetar de forma clara y accesible el contenido producido por sus sistemas, en línea con las normativas de riesgo sistémico. Adicionalmente, impulsar la cooperación internacional para armonizar los requisitos de evaluación de riesgos de engaño (deception risks) e influencia a gran escala. 3. Fomento Estratégico de la Alfabetización Mediática y Digital Promover a gran escala programas educativos y campañas de concientización para mejorar la alfabetización mediática y digital (MIL) de la población. Estas iniciativas deben capacitar a los individuos para evaluar críticamente las fuentes, identificar sesgos, reconocer las características del contenido sintético y cultivar la resiliencia cognitiva frente a las tácticas de desinformación asistidas por IA.