Volver al repositorio MIT
7. Seguridad, Fallos y Limitaciones del Sistema de IA2 - Post-despliegue

No divulgación

Opacidad en la atribución del contenido: Existe el riesgo de que el origen algorítmico (IA) de un contenido no se divulgue de forma clara y explícita.

Fuente: MIT AI Risk Repositorymit1167

ENTIDAD

1 - Humano

INTENCIÓN

3 - Otro

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1167

Linea de dominio

7. Seguridad, Fallos y Limitaciones del Sistema de IA

375 riesgos mapeados

7.4 > Falta de transparencia o interpretabilidad

Estrategia de mitigacion

Implementar sistemas de procedencia de medios y marcas de agua digitales (digital watermarking) para etiquetar de forma inequívoca y permanente el contenido generado o manipulado por IA, facilitando la autenticación y trazabilidad de su origen algorítmico Establecer un marco de transparencia algorítmica multinivel y exigir auditorías externas periódicas para verificar que la atribución del contenido se realice de manera clara y explícita, asegurando la rendición de cuentas del sistema Desarrollar e implementar políticas organizacionales internas, junto con programas de formación continua para el personal, que enfaticen la obligatoriedad de divulgar el origen algorítmico (IA) del contenido como parte de una cultura de uso ético y responsable del sistema