Grado inapropiado de transparencia para usuarios
La transparencia del sistema de Inteligencia Artificial para el usuario final es un factor determinante en el aumento de la confianza en la aplicación. No obstante, si el diseño no integra esta claridad de forma rigurosa, se puede obstaculizar el funcionamiento adecuado del sistema e, incluso, propiciar un uso potencialmente indebido de la aplicación.
ENTIDAD
1 - Humano
INTENCIÓN
3 - Otro
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit878
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.4 > Falta de transparencia o interpretabilidad
Estrategia de mitigacion
1. Integrar la Transparencia por Diseño y la Notificación Proactiva: Implementar principios de "Transparencia por Diseño" en el ciclo de vida del sistema, priorizando la comunicación inequívoca al usuario final de que está interactuando con una aplicación de IA y marcando claramente el contenido generado o manipulado artificialmente. 2. Proveer Mecanismos de Explicabilidad Comprensible: Desarrollar documentación accesible y en lenguaje no técnico que detalle el propósito, la lógica de funcionamiento, los datos utilizados y las bases de las decisiones críticas del sistema de IA, permitiendo la comprensión y mitigando el potencial uso indebido. 3. Establecer Marcos de Gobernanza y Rendición de Cuentas: Crear un marco de gobernanza que exija la auditabilidad del sistema y asigne responsabilidades humanas explícitas para la revisión y validación de los resultados de la IA, haciendo de la transparencia el pilar para la responsabilidad ética y legal.