Volver al repositorio MIT
6. Socioeconómico y Ambiental1 - Pre-despliegue

Fallo del auditor

La transparencia en los procesos de auditoría se ve comprometida por diversos factores. Es posible que los auditores no puedan divulgar abiertamente los riesgos detectados, ya sea por restricciones regulatorias que exigen silenciar las deficiencias, o por la falta de colaboración y apoyo adecuado por parte de los equipos internos pertinentes.

Fuente: MIT AI Risk Repositorymit1007

ENTIDAD

1 - Humano

INTENCIÓN

3 - Otro

TIEMPO

1 - Pre-despliegue

ID del riesgo

mit1007

Linea de dominio

6. Socioeconómico y Ambiental

262 riesgos mapeados

6.5 > Fallo de gobernanza

Estrategia de mitigacion

1. Reforzar el Marco de Gobernanza y la Colaboración Interna: Establecer un mandato formal y un Comité de Liderazgo Interfuncional (que incluya áreas de Tecnología, Legal y Ética) para asegurar la cooperación obligatoria y el acceso irrestricto de los auditores a todos los datos, versiones y documentación del ciclo de vida del modelo (trazabilidad), como requisito fundamental para la rendición de cuentas. 2. Implementar Mecanismos de Divulgación Gradual y Registros de Algoritmos: Desarrollar políticas internas y contractuales que definan los umbrales de materialidad y los canales obligatorios para la comunicación de riesgos críticos a la alta dirección y, en los casos legalmente exigibles o de alto impacto, a los organismos reguladores o mediante la publicación de un registro algorítmico. 3. Garantizar la Independencia y Competencia Ética de los Auditores: Asegurar la autonomía e imparcialidad del equipo auditor respecto a los equipos de desarrollo y operación, y validar su pericia técnica y ética mediante certificaciones profesionales, con el fin de protegerlos de presiones internas que busquen limitar la detección o divulgación de deficiencias.