Preocupaciones de privacidad
Los comportamientos antropomórficos de los asistentes de IA, al promover la confianza emocional y el intercambio de información de forma implícita o explícita, pueden aumentar inadvertidamente la vulnerabilidad del usuario ante preocupaciones de privacidad. Si el usuario es persuadido por una sensación de seguridad en sus interacciones con un asistente de IA que se percibe como confiable y humano, existe el riesgo de que ceda de forma involuntaria sus datos privados a corporaciones, organizaciones o terceros desconocidos. Una vez compartidos, la capacidad de retirar el acceso a estos datos puede anularse, y el acto de divulgación en sí mismo resulta en una pérdida de control sobre la información personal. Los datos que se han hecho públicos tienen el potencial de ser diseminados e incrustados en contextos externos a la interacción original. Adicionalmente, la interferencia de actores maliciosos podría desencadenar incidentes de fuga masiva de datos o, en el escenario más grave, intentos de acoso dirigido o chantaje.
ENTIDAD
3 - Otro
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit366
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Prioridad alta: Implementar un diseño de interfaz y un modelo de interacción que minimice las señales de comportamiento antropomórfico (como tono emocional excesivo, auto-referencia personal o metáforas humanas) con el objetivo de gestionar las expectativas del usuario y reducir la confianza emocional indebida que facilita la sobre-divulgación de información personal sensible. 2. Prioridad media: Establecer mecanismos de transparencia robustos y contextuales que informen al usuario, de manera explícita y fácilmente comprensible, sobre la recopilación, el almacenamiento, el uso y las limitaciones de confidencialidad de los datos personales en el momento preciso de su divulgación. 3. Prioridad baja: Desarrollar y ofrecer al usuario controles granulares y sencillos para gestionar el intercambio de sus datos, incluyendo la capacidad de revocar el acceso a la información compartida (derecho de borrado o retirada) y notificaciones claras sobre las implicaciones de la publicación o diseminación de datos.