Desajuste de capacidad del auditor
El desafío de la auditoría en la IA: La complejidad de los sistemas de inteligencia artificial supera, en ocasiones, la capacidad de los auditores para evaluar exhaustivamente todos los requisitos de seguridad, rendimiento y validación. Por ello, un informe que declara el éxito de una auditoría puede proyectar un nivel de confianza injustificado. Esta sobrestimación se debe a dos factores principales: o bien los auditores carecen del conocimiento específico sobre los riesgos concretos que deben someterse a prueba, o bien no disponen de la infraestructura o capacidad para ejecutar un régimen de pruebas suficientemente riguroso.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit1006
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Prioridad Alta: Fortalecimiento de la Competencia Técnica y Ética del Equipo Auditor Establecer un programa de capacitación continua y certificación especializado para el personal de auditoría interna, enfocado en las competencias críticas para la revisión de sistemas de IA, incluyendo la comprensión de algoritmos (explicabilidad y trazabilidad), el análisis de grandes volúmenes de datos, la ciberseguridad y el marco regulatorio-ético (detección y mitigación de sesgos). 2. Prioridad Alta: Implementación de un Modelo de Capacidad Híbrida y Tecnológica Adoptar un modelo de capacidad resiliente que integre talento especializado externo (multidisciplinario, incluyendo perfiles de datos, legal y tecnológico) y la implementación de plataformas de auditoría basadas en la nube y herramientas de monitoreo continuo. Esto permite automatizar la detección de desviaciones y libera al personal senior para concentrarse en el análisis estratégico y la validación de riesgos complejos. 3. Prioridad Media-Alta: Mandato de Metodologías de Auditoría Basadas en Escenarios Establecer como requisito la aplicación de metodologías de auditoría rigurosas, tales como las evaluaciones basadas en escenarios simulados (scenario-based audits) o pruebas de equidad (fairness testing) que utilicen comparaciones controladas. Esto garantiza que la evaluación del modelo trascienda las métricas agregadas, permitiendo la identificación precisa de sesgos sistémicos y la justificación objetiva del nivel de confianza en el sistema.