Mala precisión del modelo
La baja precisión del modelo se define como la insuficiencia en el rendimiento del sistema de inteligencia artificial, es decir, cuando su capacidad para cumplir la tarea para la que fue diseñado resulta comprometida. Este déficit funcional puede deberse fundamentalmente a dos causas principales: un diseño algorítmico y estructural defectuoso del modelo en sí mismo, o una alteración o cambio significativo e inesperado en la naturaleza de los datos de entrada que el modelo está obligado a procesar.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1166
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Optimización de la Calidad y Cantidad de Datos de Entrenamiento Implementar estrategias rigurosas de preprocesamiento, incluyendo la imputación efectiva de valores faltantes y el tratamiento de valores atípicos, a fin de minimizar el sesgo y el ruido. Adicionalmente, se debe asegurar un volumen de datos de entrenamiento estadísticamente significativo y representativo de los escenarios de operación esperados. 2. Selección, Ingeniería y Ajuste Fino del Modelo Realizar un proceso sistemático de comparación de múltiples arquitecturas y algoritmos (como *Ensemble Methods*), y aplicar técnicas de ingeniería y selección de características (*feature engineering/selection*) para aumentar la capacidad predictiva. Posteriormente, se debe proceder al ajuste exhaustivo de hiperparámetros para optimizar el rendimiento. 3. Monitoreo Post-despliegue y Reentrenamiento Periódico Establecer métricas de rendimiento con umbrales definidos y mecanismos de monitoreo continuo para detectar desviaciones en los datos de entrada o una degradación en la exactitud. En respuesta a estas desviaciones, se debe ejecutar un protocolo de revalidación y reentrenamiento periódico del modelo para mantener su capacidad predictiva a lo largo del tiempo.