Desinformación (Misinformation y Disinformation)
El riesgo fundamental reside en la capacidad de actores malintencionados para instrumentalizar la Inteligencia Artificial generativa en la producción y propagación masiva de desinformación, es decir, información deliberadamente falsa o engañosa presentada como hechos. La IA generativa no solo amplifica el volumen y el alcance de la desinformación, sino que, de forma crítica, permite crear contenido falaz que resulta significativamente más convincente y está optimizado para ser altamente dirigido o personalizado.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit688
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementación de Arquitecturas de Generación Aumentada por Recuperación (RAG) y Calidad de Datos Establecer un protocolo riguroso para la ingeniería de *prompts* y la arquitectura del modelo, priorizando la conexión de la IA generativa a bases de datos y fuentes de información externas, verificadas y de alta fiabilidad. Esto ancla la generación de contenido a hechos documentados, mitigando las "alucinaciones" y reduciendo la capacidad de producir información engañosa a escala. 2. Desarrollo de Sistemas de Detección y Atribución Multimodales con Transparencia (XAI) Invertir en la investigación y el despliegue de modelos avanzados de inteligencia artificial (incluyendo Procesamiento de Lenguaje Natural y análisis de redes) que identifiquen y rastreen tempranamente contenido manipulado, *deepfakes* y comportamiento inauténtico coordinado. Es imperativo que estos sistemas incorporen Explicabilidad (XAI) para transparentar los criterios de detección y facilitar la revisión humana y el trabajo de verificación de hechos. 3. Programas de Inoculación y Alfabetización para la Resiliencia Cognitiva Implementar campañas educativas a gran escala, incluyendo el uso de chatbots y herramientas de IA para la alfabetización mediática, que enseñen de manera proactiva a la población sobre las técnicas de desinformación (inoculación) y promuevan el escepticismo crítico ante el contenido generado por IA. Esta estrategia se centra en fortalecer la capacidad del usuario final para discernir la veracidad de la información y reducir la dependencia de narrativas falaces.