Especificación errónea del modelo
Un modelo mal especificado o incorrectamente formulado genera una cadena de fallos técnicos: estimaciones paramétricas imprecisas, términos de error inconsistentes y predicciones erróneas. En conjunto, estos problemas se traducen en un bajo rendimiento predictivo ante datos que el modelo nunca ha visto y, consecuentemente, en la aplicación de sesgos o consecuencias injustas al tomar decisiones basadas en dichos resultados.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit306
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
- Implementar metodologías de modelos múltiples o de conjunto (ensemble methods) que combinen predicciones de diversas arquitecturas o supuestos de especificación, o emplear ponderaciones robustas múltiples, con el fin de mitigar la dependencia en una única especificación paramétrica y mejorar la robustez predictiva ante datos no observados. - Realizar un análisis diagnóstico exhaustivo de los residuos del modelo para la detección de incumplimiento de supuestos (ej., heterocedasticidad o endogeneidad), y emplear metodologías de validación cruzada rigurosa (como k-Fold o *Leave-One-Out Cross-Validation*) para asegurar una capacidad de generalización fiable fuera de la muestra de entrenamiento. - Adoptar marcos de optimización que incorporen explícitamente la preocupación por la especificación errónea (como el *robust control* o el *Integrated Learning and Optimization*), priorizando la solidez de las decisiones finales sobre la precisión predictiva absoluta, mediante el uso de funciones de pérdida subrogadas que garanticen la optimización de la métrica de decisión relevante.