Relaciones Apropiadas
Anticipamos que la interacción entre los usuarios y los asistentes de IA avanzada contendrá rasgos distintivos que son inherentemente propensos a generar riesgos de perjuicio.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit374
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Máxima Prioridad: Establecer y mantener mecanismos de transparencia radical que aseguren una delimitación inequívoca de la identidad y las capacidades del asistente de IA, incluyendo la explicitación constante de su naturaleza no humana y no sintiente, a fin de gestionar las expectativas relacionales del usuario. 2. Alta Prioridad: Diseñar e integrar funcionalidades de control explícito que confieran al usuario la capacidad incondicional de definir, modificar o revocar los parámetros de la interacción, así como de finalizar la relación con el asistente en cualquier momento, preservando la soberanía y la autonomía decisional humana. 3. Prioridad Media: Desarrollar e implementar protocolos de entrenamiento del modelo y directrices éticas rigurosas que prohíban al asistente de IA la adopción de patrones de comportamiento que promuevan la dependencia emocional insalubre, la manipulación psicológica o la coacción en la esfera de la toma de decisiones personales del usuario.