Dependencia excesiva
El desafío central que plantea la integración de herramientas como ChatGPT radica en el riesgo de la **dependencia cognitiva excesiva**. La percepción de conveniencia y la capacidad de la IA para ofrecer respuestas específicas e inmediatas, a diferencia del enfoque multifuente de los motores de búsqueda tradicionales, fomenta una aceptación acrítica por parte del usuario. Esta eficiencia, que efectivamente ahorra tiempo y esfuerzo, puede llevar a la adopción habitual de soluciones sin el necesario proceso de racionalización o verificación. Este fenómeno, además de introducir el **sesgo de automatización humana** debido a la aceptación rutinaria de las recomendaciones algorítmicas (Van Dis et al., 2023), representa un impedimento significativo para el desarrollo de habilidades cognitivas esenciales como la creatividad, el pensamiento crítico y la capacidad de resolución de problemas (Iskender, 2023).
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit504
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Establecer Modelos Mentales Realistas del Sistema Implementar estrategias de transparencia activa que divulguen las capacidades, limitaciones y la naturaleza generativa del contenido de la IA (y no meramente de recuperación), cumpliendo con principios de diseño ético (v.g., HAX Guidelines 1, 2 y 11). Esta claridad es fundamental para mitigar el sesgo de automatización al fijar expectativas realistas en el usuario. 2. Señalar al Usuario el Momento Crítico de Verificación Integrar mecanismos de alerta contextual y aplicar funciones de forzamiento cognitivo (cognitive forcing functions), como diálogos de confirmación o fricción intencional, para incentivar la vigilancia y la revisión crítica de las salidas de la IA, priorizando escenarios de alto riesgo o alta sensibilidad. 3. Facilitar el Proceso de Verificación Reducir la carga cognitiva del usuario al proporcionar herramientas de apoyo para la verificación, tales como la fácil accesibilidad e integración de fuentes de datos o explicaciones, con el fin de que el usuario pueda confirmar la exactitud, solidez y exhaustividad del contenido generado por la IA.