Elección humana de dependencia excesiva en sectores críticos
El uso intensivo de la Inteligencia Artificial en ámbitos cruciales, como el financiero o el sanitario, no solo incrementa la exposición a fallos, sino que magnifica los riesgos inherentes al sistema. Esta dependencia acelera o agrava cuatro factores sistémicos críticos: la **escala** de las operaciones, la **velocidad** con la que se propagan los errores, la **interconectividad** entre subsistemas y la **complejidad** intrínseca del sistema, dificultando enormemente su auditoría y corrección.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit950
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Implementar mecanismos rigurosos de supervisión humana (human-in-the-loop) con capacidad explícita de anulación del sistema, diseñando la interfaz para fomentar modelos mentales realistas sobre las capacidades y limitaciones de la IA. 2. Integrar funciones de transparencia y explicabilidad (XAI) para facilitar la verificación de los resultados, incluyendo la expresión de incertidumbre del modelo y la provisión de las fuentes de información utilizadas, con el fin de reducir la carga cognitiva del usuario para la detección de errores. 3. Establecer programas de formación continua en Alfabetización de IA dirigidos a usuarios en sectores críticos para la calibración de la confianza, enfatizando la mitigación del sesgo de automatización y promoviendo la reflexión activa sobre las recomendaciones del sistema.