Algoritmo
Este riesgo se refiere a la potencial inadecuación o selección subóptima de los componentes fundamentales del sistema de Machine Learning, lo que incluye el algoritmo, la arquitectura del modelo y la técnica de optimización del entrenamiento, respecto a los objetivos específicos de la aplicación prevista. Dado que estas decisiones de ingeniería son clave y determinan el rendimiento final del sistema de IA, sus riesgos inherentes se gestionan de forma separada de los riesgos de diseño más amplios, a pesar de estar intrínsecamente ligados a la etapa de concepción del proyecto.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit190
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
- Realizar un análisis de idoneidad técnica exhaustivo (benchmarking) para comparar múltiples algoritmos y arquitecturas de Machine Learning con los objetivos de la aplicación y la tolerancia al riesgo, justificando la selección mediante documentación técnica rigurosa. - Incorporar técnicas de robustez algorítmica desde la fase de entrenamiento y aplicar pruebas de resiliencia rigurosas (e.g., pruebas de estrés y adversariales) para validar la capacidad y el desempeño estable del modelo en entornos de producción variables o con datos ruidosos. - Establecer un proceso de revisión y auditoría independiente (interna o externa) del diseño del modelo y la estrategia de optimización, asegurando la verificación de la alineación entre las decisiones algorítmicas clave y los requisitos de seguridad y capacidad del sistema de IA.