Contaminación de ecosistemas de información
Compromiso de la integridad del conocimiento público. Este fenómeno describe la diseminación de contenido falso o inexacto generado por la IA, que se infiltra en las fuentes de información accesibles a la sociedad, trascendiendo el ámbito de uso del usuario directo
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1214
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Establecer rigurosos mecanismos de **gobernanza de datos** que garanticen la calidad, integridad y legitimidad de los conjuntos de entrenamiento, en conjunto con el despliegue de la **Generación Aumentada por Recuperación (RAG)**. Esto ancla las respuestas del modelo a fuentes verificables, mitigando sustancialmente la producción de contenido falso o inexacto desde su origen. 2. Implementar un proceso de **validación de resultados** previo a la difusión, el cual debe combinar la **supervisión humana experta** con herramientas de **verificación automatizada ('fact-checking')** basadas en IA. Esta capa de control detecta y filtra patrones de contenido sintético, inconsistencias o *deepfakes*, asegurando la exactitud del contenido antes de su diseminación pública. 3. Fomentar la **alfabetización digital y el pensamiento crítico** a nivel social y educativo, capacitando a los usuarios para identificar y cuestionar la desinformación generada por la IA. El desarrollo de un criterio humano sólido y la transparencia son esenciales para resistir la manipulación y evitar la **pérdida de la realidad consensuada** que resulta de la contaminación del ecosistema informativo.