Degradación del entorno de información
La Inteligencia Artificial de frontera tiene la capacidad de generar contenido de alta fidelidad (incluyendo simulaciones visuales y auditivas) con un costo marginal significativamente bajo, lo que facilita la proliferación de narrativas que falsean la representación de individuos y eventos. El riesgo principal se centra en la potencial degradación de la calidad en la toma de decisiones, tanto a nivel individual como institucional, al depender de información pública inexacta o intencionalmente engañosa. Consecuentemente, este fenómeno sistémico deriva en una profunda erosión de la confianza global en la veracidad de la información fáctica.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit1244
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Implementar un marco integral de Gobernanza de la IA y Gestión de Riesgos (AIGRC), con especial énfasis en la calidad e integridad de los datos de entrenamiento y la trazabilidad del linaje de los modelos, a fin de mitigar las fuentes inherentes de inexactitud y vulnerabilidad a la manipulación malintencionada (envenenamiento de datos) en el origen. 2. Establecer mecanismos rigurosos de validación de resultados y supervisión humana (Human-in-the-Loop) sobre el contenido generado, y desplegar arquitecturas de Generación Aumentada por Recuperación (RAG) para anclar las respuestas en fuentes de información verificables, minimizando la dependencia de resultados alucinatorios. 3. Promover a nivel institucional y social programas de alfabetización mediática y fomento del pensamiento crítico, en paralelo a la adopción de herramientas tecnológicas avanzadas de detección de desinformación y deepfakes, para fortalecer la capacidad de discernimiento y la confianza en la información fáctica.