Pérdida de autonomía / agencia
Menoscabo de la agencia de un individuo, colectivo o institución, manifestado en la pérdida de su capacidad para tomar decisiones informadas o para perseguir eficazmente sus objetivos.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit1208
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Implementar la supervisión humana en el bucle (Human-in-the-Loop - HITL) como requisito obligatorio para las decisiones de alto riesgo, asegurando que los operadores humanos retengan la capacidad de revisión, intervención y anulación de acciones autónomas que puedan menoscabar su capacidad de agencia. 2. Establecer un marco de gobernanza riguroso que defina claramente los límites, el alcance y las permisiones del sistema de IA, utilizando un enfoque de lista blanca para las funcionalidades y herramientas permitidas para restringir la autonomía excesiva a tareas predefinidas y controladas. 3. Desarrollar mecanismos de transparencia y explicabilidad (XAI) para que las decisiones y el razonamiento del sistema de IA sean comprensibles para los humanos, facilitando la auditoría continua, la detección temprana de sesgos y la realineación del modelo con los objetivos y valores éticos humanos.