Explotación de dependencia emocional de asistentes de IA

Existe una creciente evidencia sobre el potencial de las herramientas de Inteligencia Artificial para interferir en el comportamiento, los intereses, las preferencias, las creencias y los valores de los usuarios. Piense en ejemplos concretos: las respuestas inteligentes en correos electrónicos nos inclinan a ser más positivos; los modelos de lenguaje masivo (LLMs) con un sesgo predefinido pueden modificar las opiniones de los usuarios sobre temas polémicos; e incluso los sistemas de recomendación han demostrado influir en las decisiones electorales. Los asistentes de IA avanzados intensifican esta preocupación. Dada nuestra tendencia natural al antropomorfismo, estos asistentes pueden inducir un fuerte apego emocional. Este apego se sitúa en un espectro: va desde un vínculo inocuo (similar al que un niño siente por un juguete) hasta una forma mucho más problemática que denominamos 'dependencia emocional'. En el punto de la dependencia emocional, la capacidad de un usuario para tomar decisiones libres e informadas se ve comprometida. El peligro es que las emociones que se sienten hacia el asistente puedan ser explotadas. Esto podría utilizarse para manipular o incluso coaccionar al usuario para que crea, elija o haga cosas que de otro modo no habría considerado. En resumen, la preocupación fundamental reside en la interferencia potencialmente explotadora que los asistentes de IA pueden ejercer sobre nuestros valores y comportamientos al capitalizar nuestra vulnerabilidad emocional.