Verificabilidad

Estrategia de mitigacion

1. Implementar un Marco de Verificabilidad y Trazabilidad Criptográfica (AIBOM) Establecer un sistema que registre y certifique criptográficamente cada etapa del proceso de desarrollo y entrenamiento del modelo de IA, asegurando la integridad, el origen y la autenticidad del código y los pesos del modelo. Esto permite que terceros y usuarios verifiquen las propiedades y la no manipulación del sistema, un imperativo en entornos de criticidad extrema. 2. Adoptar Métodos de Inteligencia Artificial Explicable (XAI) Intrínsecos y Post-hoc Integrar técnicas de XAI para generar explicaciones claras y comprensibles sobre la lógica que subyace a las predicciones y decisiones de los modelos de "caja negra". En sistemas de alto riesgo, se debe priorizar el uso de modelos intrínsecamente interpretables o aplicar métodos post-hoc (como LIME o SHAP) para demistificar la opacidad algorítmica y permitir la validación humana. 3. Exigir la Publicación de Fichas de Transparencia Algorítmica (Model Cards) Formalizar la divulgación proactiva y estandarizada de información relevante del sistema de IA a través de documentos como Fichas de Transparencia Algorítmica. Esta documentación debe detallar el diseño del modelo, los datos de entrenamiento utilizados, el análisis de riesgos asociado, las limitaciones operacionales y los criterios de rendimiento, facilitando la auditoría y fomentando la confianza de los reguladores y el público.