Transformación de interacción H2M
La interacción constante y cotidiana entre humanos y máquinas supone un reto social y ético de gran calado, dada su probada capacidad para modificar el comportamiento. La normalización del uso de la Inteligencia Artificial en tareas diarias (como las búsquedas en línea, los sistemas de navegación o la interacción con asistentes de voz tipo Alexa o Siri) fomenta una amplia aceptación de estos sistemas. No obstante, esta misma ubicuidad introduce un riesgo crítico: la difuminación progresiva de las fronteras entre lo humano y lo artificial, lo que podría conducir a la imposibilidad de distinguir entre ambos. Este fenómeno se materializó y generó controversia en avances como Google Duplex, el cual fue fuertemente criticado por lograr un realismo excesivo sin la debida divulgación de su identidad como sistema de IA.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit300
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Implementar un protocolo de divulgación estricta y transparente de la identidad del sistema de IA en todos los puntos de interacción, asegurando que los usuarios puedan distinguir inequívocamente la naturaleza artificial de su interlocutor. Esto incluye el etiquetado visible y consistente del contenido o las comunicaciones generadas por IA, conforme a los principios de confianza. 2. Establecer una estrategia integral de gobernanza de la IA que incluya marcos, políticas y procesos formalizados para regular la interacción éticamente responsable entre humanos y máquinas, con especial énfasis en la definición de responsabilidades y el cumplimiento de los estándares de identidad. 3. Exigir la retención de registros de auditoría y rastros detallados de los comportamientos, decisiones y salidas del sistema de IA para garantizar la trazabilidad y la rendición de cuentas (accountability) en la fase de post-despliegue.