-
Este concepto aborda el riesgo sistémico donde los modelos de Inteligencia Artificial no solo sintetizan contenido impreciso o engañoso (desinformación), sino que también optimizan su difusión masiva. El impacto directo es la erosión cognitiva, que culmina en la adopción de falsedades como conocimiento establecido por parte de los individuos.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1212
Linea de dominio
3. Desinformación
3.1 > Información falsa o engañosa
Estrategia de mitigacion
1. Implementación de Salvaguardas en la Fuente de Generación por IA Aplicar controles técnicos rigurosos a los modelos de Inteligencia Artificial para mitigar la generación inherente de información errónea (alucinaciones) y sesgos. Esto incluye el entrenamiento con conjuntos de datos de alta calidad, la integración de mecanismos de autenticidad de contenido (e.g., marcas de agua y metadatos de procedencia) y el desarrollo de tecnologías robustas de detección de contenido sintético (*deepfake detection*), priorizando la prevención en la etapa de producción. 2. Optimización de la Detección y Contención de la Difusión Establecer y hacer cumplir políticas de plataforma que requieran la identificación, el etiquetado y la despriorización algorítmica de la información manifiestamente falsa o engañosa generada por IA que se encuentre en circulación. Además, se debe garantizar la rápida y efectiva propagación de las verificaciones de datos (*fact-checks*) validadas para contrarrestar el impacto de la desinformación post-despliegue. 3. Fomento de la Resiliencia Cognitiva y la Alfabetización Digital Desarrollar programas educativos y campañas de concienciación a lo largo de toda la vida para dotar a los ciudadanos de habilidades críticas de alfabetización mediática y digital. El enfoque debe estar en capacitar al público para que pueda discernir contenido generado por IA, reconocer tácticas de manipulación emocional y examinar críticamente las fuentes de información, construyendo una base de resiliencia cognitiva contra la adopción de creencias falsas.