Daños por Distanciamiento
La sustitución de la observación e interacción humana por la Inteligencia Artificial conlleva el riesgo de descuidar intereses o matices que, aunque cruciales para el bienestar humano, no están programados en el sistema.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit639
Linea de dominio
6. Socioeconómico y Ambiental
6.6 > Daño ambiental
Estrategia de mitigacion
1. Establecer un requisito estricto de "humano en el circuito" (Human-in-the-Loop) y supervisión experta para todas las decisiones o interacciones asistidas por IA en contextos de alto riesgo, especialmente aquellos que demanden juicio ético, empatía o la interpretación de matices interpersonales. Esto garantiza que la validación y la discreción humana prevalezcan sobre la automatización completa, mitigando el riesgo de descuidar intereses no programados. 2. Implementar un marco de diseño centrado en el ser humano que posicione a la IA como una herramienta de apoyo, aumento de capacidades y no de sustitución de roles críticos para la cohesión social o el bienestar psicológico. Se debe garantizar la transparencia en cuanto a las limitaciones de la IA para gestionar las expectativas del usuario y prevenir la dependencia digital o el aislamiento. 3. Desarrollar programas de capacitación y una cultura organizacional que refuercen y valoren las capacidades exclusivamente humanas (como la inteligencia emocional y el juicio contextual) en los roles laborales que interactúan con la IA. Esto asegura la resiliencia de la fuerza laboral y mitiga la erosión de las habilidades humanas esenciales para detectar y abordar intereses sutiles.