Influencia y dependencia (dependencia emocional)
La posible dependencia psicológica de los usuarios hacia las herramientas de Inteligencia Artificial Generativa (IAG) representa un riesgo. Este fenómeno se asemejaría a la dependencia emocional ya documentada con tecnologías cotidianas, como los teléfonos inteligentes o las redes sociales.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit694
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Establecer marcos regulatorios y principios de diseño ético que exijan a los desarrolladores de IAG implementar medidas para prevenir características de 'apego' o 'pseudovínculo' que puedan fomentar la dependencia emocional, garantizando que el sistema siempre priorice la interacción humana y las relaciones interpersonales como fuentes primarias de apoyo. 2. Desarrollar programas de alfabetización digital y bienestar emocional que eduquen a los usuarios sobre las limitaciones intrínsecas de la IAG (ausencia de reciprocidad y empatía auténtica) y promuevan el pensamiento crítico, la autorregulación y el uso de la IA como herramienta complementaria, no como sustituto de las conexiones humanas. 3. Implementar mecanismos proactivos de monitoreo contextual dentro de la IAG para la detección temprana de patrones de uso problemático o indicadores de aislamiento social, asegurando la intervención oportuna mediante la remisión a recursos de salud mental y apoyo social profesionales, respetando rigurosamente la privacidad del usuario.