Daños Interpersonales
Los daños interpersonales abarcan todas aquellas situaciones en las que un sistema algorítmico impacta o altera de manera adversa las relaciones o las dinámicas sociales entre individuos o entre comunidades.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit147
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Implementación de sistemas *Human-in-the-Loop* (Humano en el Bucle) que garanticen la supervisión activa y la capacidad de anulación por parte del usuario. Esto debe estar sustentado por una máxima **transparencia y explicabilidad** algorítmica para que las personas puedan comprender y evaluar las decisiones del sistema que impactan sus relaciones interpersonales y su autonomía. 2. Diseño **centrado en el usuario** y **no coercitivo** que promueva la **adaptabilidad** y las opciones de **personalización** para el individuo. El sistema algorítmico debe asistir y empoderar al usuario en la toma de decisiones, no sustituir su juicio o manipular su comportamiento, permitiéndole alinear los resultados del sistema con sus propios valores y contexto social para prevenir la erosión de su agencia. 3. Ejecución de **Evaluaciones de Impacto Algorítmico (EIA)** y **auditorías de sesgos** de carácter sociotécnico y continuo, específicamente enfocadas en los daños interpersonales. Estas evaluaciones deben rastrear y mitigar los sesgos que perpetúan prejuicios socioeconómicos y de género, o que refuercen jerarquías injustas, evitando que el sistema amplifique las desigualdades que subyacen a las dinámicas sociales adversas.