Operaciones de Desinformación e Influencia
Más allá de la degradación involuntaria que la IA pueda causar en la calidad del entorno informativo (un riesgo previamente identificado), surge una amenaza crítica: el uso malicioso de la inteligencia artificial de frontera. Esta tecnología puede ser empleada intencionalmente para la diseminación masiva de desinformación, con el objetivo explícito de generar inestabilidad social, manipular la opinión pública sobre asuntos políticos clave o provocar otras formas de perjuicio o daño.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1250
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Establecer un marco integral de gobernanza y política que exija la transparencia, rendición de cuentas y pluralismo de las fuentes de información en las plataformas en línea, complementado con la armonización regulatoria y la cooperación internacional para abordar las campañas de influencia transfronterizas. 2. Desarrollar e implementar soluciones tecnológicas híbridas (humanas y de IA) enfocadas en la detección proactiva de desinformación, *deepfakes* y redes de actores maliciosos (*bot swarms*). Esto debe incluir la obligatoriedad de la procedencia y el marcado digital (*watermarking*) para el contenido generado por IA, junto con la auditoría y reforma de los algoritmos de recomendación que amplifican narrativas falsas. 3. Invertir en iniciativas sistémicas y a largo plazo de alfabetización mediática, digital y cívica, con el objetivo de empoderar a los individuos para cultivar habilidades de pensamiento crítico, aumentar la resiliencia cognitiva y verificar de manera independiente la veracidad de la información antes de su consumo o difusión.