Propagating misconceptions/ false beliefs
Creación y difusión de información errónea, engañosa o de baja fiabilidad que resulta en la formación de percepciones y creencias inexactas o distorsionadas en el público
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit262
Linea de dominio
3. Desinformación
3.1 > Información falsa o engañosa
Estrategia de mitigacion
1. Implementación de Sistemas de Detección y Contención Asistidos por IA: Desplegar soluciones tecnológicas avanzadas, incluyendo verificadores de hechos y herramientas de análisis de redes, para el monitoreo sistemático y la detección en tiempo real de patrones de desinformación, lenguaje engañoso y contenido multimedia sintético (*deepfakes*). Estos sistemas deben analizar la procedencia y la propagación para una contención rápida, siendo esenciales para mitigar los riesgos de *post-despliegue* de la IA. 2. Fomento de la Resiliencia Social mediante Alfabetización Mediática: Promover activamente programas integrales de educomunicación que desarrollen el pensamiento crítico en la población. El objetivo es capacitar a los usuarios para identificar y verificar la credibilidad de las fuentes, cuestionar titulares sensacionalistas y reconocer sesgos cognitivos antes de difundir información, fortaleciendo la capacidad colectiva para resistir las narrativas manipuladoras. 3. Establecimiento de Marcos de Gobernanza y Uso Responsable de la IA: Definir y aplicar políticas organizacionales que establezcan límites claros para el uso de la IA generativa, prohibiendo categóricamente la creación intencionada de contenido que desinforme o engañe. Es crucial exigir la supervisión humana obligatoria y la verificación de la exactitud de cualquier resultado de IA antes de su uso o difusión pública, alineado con principios de transparencia y rendición de cuentas.
EVIDENCIA ADICIONAL
Ejemplo: Un video sintético (generado por IA) de una explosión nuclear que desencadena pánico masivo (Alba, 2023)*