Degradación de la información
Degradación de la información: Creación o difusión de contenido erróneo o deficiente (ya sea falso, engañoso o de naturaleza 'alucinatoria' por parte de sistemas de IA) que menoscaba la calidad del ecosistema informativo. Este proceso tiene dos consecuencias principales: la formación de percepciones y creencias inexactas en la población, y la subsiguiente pérdida de confianza en las fuentes de información legítimas y precisas.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit850
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Priorizar la implementación de un riguroso marco de gobernanza de datos y validación de modelos que incluya la verificación de la calidad e integridad de los datos de entrenamiento y la validación sistemática de las salidas de los sistemas de IA para prevenir la generación de contenido erróneo o 'alucinatorio' en la fuente. 2. Establecer un sistema robusto de detección y contención mediante la integración de herramientas automatizadas de análisis de patrones y el apoyo de equipos de verificación de hechos (fact-checkers) para monitorear la propagación de desinformación y mitigar su difusión. 3. Fomentar la resiliencia cognitiva y social a través del diseño e implementación de programas de alfabetización mediática y digital a gran escala, con el fin de capacitar a los usuarios en el desarrollo del pensamiento crítico y la evaluación de la credibilidad de las fuentes de información.