Volver al repositorio MIT
3. Desinformación2 - Post-despliegue

Contaminación de ecosistemas de información

Compromiso de la integridad del conocimiento público. Este fenómeno describe la diseminación de contenido falso o inexacto generado por la IA, que se infiltra en las fuentes de información accesibles a la sociedad, trascendiendo el ámbito de uso del usuario directo

Fuente: MIT AI Risk Repositorymit1214

ENTIDAD

3 - Otro

INTENCIÓN

3 - Otro

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1214

Linea de dominio

3. Desinformación

74 riesgos mapeados

3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada

Estrategia de mitigacion

1. Establecer rigurosos mecanismos de **gobernanza de datos** que garanticen la calidad, integridad y legitimidad de los conjuntos de entrenamiento, en conjunto con el despliegue de la **Generación Aumentada por Recuperación (RAG)**. Esto ancla las respuestas del modelo a fuentes verificables, mitigando sustancialmente la producción de contenido falso o inexacto desde su origen. 2. Implementar un proceso de **validación de resultados** previo a la difusión, el cual debe combinar la **supervisión humana experta** con herramientas de **verificación automatizada ('fact-checking')** basadas en IA. Esta capa de control detecta y filtra patrones de contenido sintético, inconsistencias o *deepfakes*, asegurando la exactitud del contenido antes de su diseminación pública. 3. Fomentar la **alfabetización digital y el pensamiento crítico** a nivel social y educativo, capacitando a los usuarios para identificar y cuestionar la desinformación generada por la IA. El desarrollo de un criterio humano sólido y la transparencia son esenciales para resistir la manipulación y evitar la **pérdida de la realidad consensuada** que resulta de la contaminación del ecosistema informativo.