Pérdida de autonomía/agencia
Pérdida de Autonomía y Agencia: Disminución o anulación de la facultad de un individuo, grupo u organización para tomar decisiones informadas o para perseguir sus objetivos.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit822
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Implementar un Marco de Gobernanza de la IA que establezca explícitamente los estándares y principios éticos que dirijan el diseño, desarrollo y despliegue de sistemas de IA, con un enfoque primordial en la preservación de la autonomía humana y la agencia individual o colectiva. 2. Diseñar y aplicar mecanismos de control humano en el circuito de toma de decisiones ("Human-over-the-Loop") para todo sistema de IA que tenga potencial de influir significativamente en las decisiones críticas, garantizando que el individuo o grupo afectado conserve la capacidad final de anular, modificar o consentir la recomendación del sistema. 3. Fomentar la transparencia y la explicabilidad del sistema (XAI) para asegurar que los usuarios comprendan el propósito, las limitaciones y el nivel de certeza de las salidas de la IA, permitiendo así una toma de decisiones genuinamente informada y consciente por parte del individuo para mitigar la pérdida de agencia.