Riesgos de desinformación
La veloz incorporación de sistemas de Inteligencia Artificial (IA) dotados de capacidades avanzadas —como mayor autonomía, capacidad para generar contenido, habilidades de planificación y memoria de largo plazo (detalles en el Capítulo 4)— en los asistentes personales intensifica la aparición de retos nuevos y muy concretos. Estos riesgos se centran en el aumento de la información errónea (misinformation), la desinformación deliberada y, de forma más amplia, en socavar la integridad fundamental de nuestro ecosistema informativo digital.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit397
Linea de dominio
3. Desinformación
3.0 > Desinformación
Estrategia de mitigacion
1. Implementar protocolos rigurosos de **Generación Aumentada por Recuperación (RAG)** y aseguramiento de la **calidad de los datos** en la construcción y entrenamiento de los modelos, garantizando que la salida del contenido esté intrínsecamente ligada a fuentes de información verificables y legítimas, minimizando así las "alucinaciones" y la información errónea. 2. Exigir la adopción de medidas de **transparencia tecnológica y trazabilidad**, tales como el uso de **marcas de agua digitales** y la certificación de la procedencia del contenido (ej. estándares C2PA) para identificar claramente el material generado o significativamente modificado por IA. Paralelamente, se debe invertir en el desarrollo de **sistemas avanzados de detección** capaces de identificar *deepfakes* y contenido manipulado antes de su difusión masiva. 3. Establecer un marco de **gobernanza de IA** que priorice la **supervisión humana** y el control en puntos estratégicos del ciclo de vida del sistema, complementado con ejercicios continuos de **red-teaming** para identificar vulnerabilidades. De forma exógena, promover programas de **alfabetización mediática** y pensamiento crítico para fortalecer la capacidad del usuario final de discernir entre contenido auténtico y desinformación.