Desinformación
Agentes malintencionados tienen la capacidad de utilizar herramientas de inteligencia artificial generativa para producir contenido maleable, diseñado específicamente para respaldar una campaña, impulsar una agenda política o legitimar una postura de odio. La ventaja de esta tecnología radica en la posibilidad de propagar dicho material de forma rápida y con un coste mínimo a través de múltiples plataformas digitales.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit480
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementación de Sistemas Avanzados de Detección y Verificación Desplegar herramientas de **verificación de hechos (fact-checkers)**, **análisis de sentimientos** y **monitoreo de redes** para identificar el origen, la autenticidad y los patrones de propagación coordinada del contenido sintético generado por IA. Esto incluye la verificación de la autenticidad de imágenes, videos y texto, y el rastreo de nodos y cuentas influyentes asociados a la desinformación, con el fin de activar estrategias de contención y mitigación en tiempo real. 2. Fortalecimiento de Políticas de Gobernanza y Respuesta a Incidentes Establecer y hacer cumplir políticas organizacionales que regulen el uso de IA generativa para evitar la producción y difusión de contenido que respalde agendas políticas o posturas de odio. Se requiere incorporar la **respuesta a ultrafalsos (deepfakes)** o medios artificiales que afecten a la organización en el plan de respuesta a incidentes, garantizando la **aclaración rápida** y oficial en canales legítimos, así como la promoción de la **denuncia activa** del contenido sospechoso. 3. Desarrollo de Programas de Alfabetización Mediática y Digital (AMD) Promover la **alfabetización mediática, informativa y digital** en la sociedad para fomentar el **pensamiento crítico** de los usuarios. Esto capacitará a las audiencias para **verificar la fuente**, **contrastar la información** con múltiples fuentes fiables y **evaluar la credibilidad** del contenido (como titulares sensacionalistas o lenguaje engañoso) antes de su difusión, construyendo así la resiliencia contra la manipulación informativa.