Impacto en agencia humana
La Inteligencia Artificial (IA) podría menoscabar la autonomía de los individuos, afectando su capacidad para tomar decisiones y actuar de forma independiente en la búsqueda de su propio interés.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1204
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Establecer mecanismos de Supervisión Humana Significativa (SHS) rigurosa para sistemas de IA, especialmente en contextos de alto riesgo. Esto requiere un diseño de sistema que permita al supervisor humano comprender adecuadamente las capacidades y limitaciones, evitar el sesgo de automatización y poseer la capacidad técnica para intervenir, anular o detener el sistema de manera segura. 2. Implementar Principios de Diseño de IA Centrado en la Agencia. Esto implica desarrollar sistemas de "inteligencia híbrida" que estén explícitamente diseñados para aumentar y preservar el juicio humano en lugar de reemplazarlo, por ejemplo, mediante la presentación de múltiples opciones o la incorporación de puntos de control estratégicos para la intervención y validación humana en flujos de trabajo. 3. Fomentar programas integrales de Alfabetización en IA y Transparencia. Es crucial educar a los usuarios sobre los mecanismos de "decadencia de la agencia" (agency decay), los sesgos cognitivos (ej. sesgo de automatización) y la importancia del pensamiento crítico. De manera complementaria, los sistemas deben proveer explicaciones claras y accesibles (explicabilidad) sobre cómo se derivan sus resultados.