Erosión epistémica
La Inteligencia Artificial Avanzada tiene el potencial de catalizar campañas de desinformación personalizadas a escala masiva. Esta tecnología podría generar argumentos hiper-persuasivos que apelan a respuestas humanas primarias, incitando o polarizando a las multitudes. Las consecuencias directas incluyen el socavamiento de la toma de decisiones colectiva, la radicalización acelerada de individuos, el estancamiento del progreso moral y, fundamentalmente, la erosión de la realidad consensuada.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit538
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Implementar medidas rigurosas de calidad e integridad de los datos de entrenamiento, junto con sistemas de validación y control de la salida de los modelos (incluyendo la detección de alucinaciones), para mitigar la generación de contenido hiper-persuasivo e inexacto en la fuente. 2. Desarrollar y desplegar herramientas de verificación de hechos automatizada (fact-checking) y sistemas avanzados de moderación de contenidos basados en IA que permitan la detección y el filtrado rápido de la desinformación masiva y los deepfakes. 3. Promover la alfabetización mediática y algorítmica entre la ciudadanía, fomentando el pensamiento crítico, para aumentar la resiliencia individual y colectiva ante las campañas de desinformación personalizadas y la potencial erosión de la realidad consensuada.