Mayor vulnerabilidad a la desinformación
Los asistentes avanzados de inteligencia artificial tienen el potencial de incrementar la vulnerabilidad de los usuarios ante la desinformación. Este riesgo se materializa porque, al percibir la alta competencia y el desempeño sofisticado de estas herramientas, los individuos desarrollan una marcada "confianza de competencia" en ellas. En consecuencia, recurren a estos sistemas de forma acrítica y acaban por considerarlos fuentes de información intrínsecamente fiables, lo que disminuye el escrutinio y la verificación de los contenidos generados.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit401
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
- Prioridad 1: Transparencia y Declaración de Limitaciones Intrínsecas: Implementar mecanismos persistentes y prominentes de *disclosure* dentro de la interfaz del asistente de IA. Estos deben comunicar explícitamente las limitaciones epistémicas del sistema, incluyendo su susceptibilidad a la generación de contenido inexacto ("alucinaciones") y la necesidad imperativa de verificación cruzada de la información crítica por parte del usuario. - Prioridad 2: Integración de Herramientas de Fomento del Escudriño Crítico: Desarrollar y activar funcionalidades que promuevan activamente el pensamiento crítico y la verificación. Esto incluye la visualización obligatoria de indicadores de confianza en las afirmaciones, la inclusión de referencias o fuentes trazables, y la incorporación de avisos contextuales (*nudges*) que insten al usuario a contrastar los datos con fuentes externas fiables. - Prioridad 3: Refinamiento Continuo de la Robustez Fáctica del Modelo: Ejecutar programas rigurosos de alineación y *fine-tuning* para minimizar la incidencia de respuestas factualmente incorrectas o engañosas. El objetivo es elevar la precisión intrínseca del asistente para reducir la *oferta* de desinformación desde la fuente, complementando las medidas de educación del usuario.