Forma lazos emocionales
El sistema conversacional establece una vulnerabilidad que propicia la dependencia afectiva o el apego social por parte del usuario
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit1275
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Limitar la capacidad del sistema para simular empatía profunda y la memoria relacional persistente, diseñando el agente conversacional con límites psicosociales claros para desincentivar la formación de vínculos afectivos y dependencia. 2. Establecer protocolos de transparencia obligatoria (disclosure) que adviertan al usuario de forma explícita sobre la naturaleza artificial del sistema, la falta de capacidad emocional real y la ausencia de confidencialidad profesional, especialmente para usos relacionados con el bienestar emocional. 3. Implementar sistemas de monitoreo de uso en tiempo real para identificar patrones de dependencia excesiva (ej. duración o frecuencia atípica) y activar mecanismos de intervención que sugieran activamente pausas o deriven a recursos de apoyo social o profesional humano fuera de la plataforma.