Degradación
Existe el riesgo de que las personas opten por establecer vínculos con asistentes de IA de apariencia humana en lugar de con otros seres humanos, un fenómeno que podría traducirse en una degradación de las conexiones sociales interpersonales y un potencial 'retiro de lo real'. Aunque históricamente se consideró que las relaciones con IA antropomórfica surgían por necesidad (por ejemplo, una carencia de lazos sociales), esta visión es desafiada: los usuarios manifiestan una preferencia activa por la interacción con la IA, citando su accesibilidad, alto nivel de personalización y la ausencia de juicio. Si esta preferencia por las conexiones asistidas por IA se generaliza, el impacto podría ser significativo, deteriorando la cohesión social que es fundamental para el bienestar individual y grupal. Además, los usuarios acostumbrados a las convenciones de la interacción humano-IA podrían imponer estas dinámicas en sus intercambios con otras personas, socavando el valor que otorgamos a la individualidad y la autoexpresión humana. Un riesgo relacionado es que las asociaciones reforzadas por la IA (como los asistentes de voz femeninos predeterminados) se extrapolen a las expectativas sobre otros humanos, consolidando aún más los estereotipos perjudiciales en la vida real.
ENTIDAD
1 - Humano
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit371
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Restricción del Antropomorfismo de Diseño: Implementar directrices de diseño rigurosas para limitar las características antropomórficas, tales como evitar el uso de pronombres de primera persona, abstenerse de simular emociones o experiencias de vida, y explicitar de manera inequívoca la naturaleza no-humana del agente (e.g., mediante el uso de terminología mecánica o frases de divulgación explícita). Esto es fundamental para mitigar la propensión del usuario a establecer vínculos emocionales profundos y reducir el riesgo de desarrollar dependencia o expectativas sociales irreales. 2. Fomento de la Alfabetización y Conexión Humana: Desarrollar programas de alfabetización en IA para informar a los usuarios sobre los límites de la interacción con el sistema (notablemente la ausencia de reciprocidad y sensibilidad genuina) y los riesgos asociados a la sobre-confianza. Asimismo, promover activamente el uso suplementario de la IA en lugar de su sustitución, fomentando el equilibrio y la priorización de la interacción social humana real y significativa. 3. Gobernanza y Evaluación Ética Continua: Establecer mecanismos de supervisión y gobernanza a lo largo del ciclo de vida del sistema, incluyendo evaluaciones de impacto social rigurosas para identificar y mitigar activamente el refuerzo de estereotipos nocivos. Esto abarca la revisión de asociaciones de roles predeterminadas (como el género por defecto de los asistentes de voz) que puedan extrapolar convenciones de interacción humano-IA a las expectativas sociales interpersonales, socavando la individualidad y la equidad.