Autonomía/Responsabilidad Reducida
La Inteligencia Artificial no solo optimiza la velocidad y precisión en actividades complejas, sino que su avance está permitiendo que decisiones, antes consideradas responsabilidad exclusiva del ser humano, sean ahora ejecutadas por sistemas algorítmicos. Esto representa una transferencia de agencia en la toma de decisiones.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit131
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Implementar mecanismos de supervisión humana robustos (Human-in-the-Loop o Human-on-the-Loop) con una clara definición de los puntos de intervención y veto obligatorio, asegurando que la autoridad final y la responsabilidad ética permanezcan inequívocamente asignadas a un ser humano competente. 2. Garantizar la explicabilidad (Explainability) y transparencia algorítmica mediante el desarrollo de interfaces y métricas accesibles que permitan a los usuarios comprender el razonamiento subyacente del sistema de IA para auditar y, si es necesario, impugnar sus decisiones y recomendaciones. 3. Adoptar un enfoque de diseño de IA centrado en el ser humano que se enfoque en el aumento de las capacidades cognitivas y de toma de decisiones del usuario, en lugar de la automatización total, para preservar y fomentar la agencia y autonomía profesional.