Volver al repositorio MIT
7. Seguridad, Fallos y Limitaciones del Sistema de IA3 - Otro

Deriva de concepto (Concept drift)

La deriva conceptual (concept drift) describe un fenómeno crítico en la Inteligencia Artificial donde la relación subyacente entre los datos de entrada y el resultado predicho por el modelo cambia con el tiempo. Si no se aborda de forma apropiada, esta variación puede comprometer significativamente la precisión y la fiabilidad operativa de los sistemas de IA.

Fuente: MIT AI Risk Repositorymit896

ENTIDAD

3 - Otro

INTENCIÓN

3 - Otro

TIEMPO

3 - Otro

ID del riesgo

mit896

Linea de dominio

7. Seguridad, Fallos y Limitaciones del Sistema de IA

375 riesgos mapeados

7.4 > Falta de transparencia o interpretabilidad

Estrategia de mitigacion

1. Monitoreo Riguroso y Detección Temprana (AI Observability) Implementar un marco de Observabilidad de IA para el seguimiento continuo de indicadores clave de rendimiento (KPIs) y métricas de distribución de datos. Esto incluye la vigilancia del rendimiento del modelo (precisión, *recall*, *F1 score*) y la aplicación de pruebas estadísticas (ej. Kolmogorov-Smirnov, PSI) o el uso de modelos sombra (*Shadow Models*) para comparar las distribuciones de los datos de entrada y de las predicciones recientes con los datos de referencia utilizados en el entrenamiento. La detección de una degradación significativa o un cambio estadísticamente relevante debe actuar como el *trigger* primario para la intervención. 2. Protocolo de Reentrenamiento Adaptativo y Continuo (CT) Establecer un proceso de *Continuous Training* (CT) que se active inmediatamente tras la detección confirmada de la deriva. Este proceso debe asegurar la adquisición oportuna de nuevos datos etiquetados (*ground truth*) que reflejen el concepto actual. El modelo debe ser reentrenado o ajustado utilizando estos nuevos datos para recalibrar la relación cambiante entre las variables de entrada y la variable objetivo, restaurando así la precisión y fiabilidad operativa del sistema. 3. Empleo de Arquitecturas de Modelado Avanzadas y Adaptativas Utilizar activamente modelos de Aprendizaje en Línea (*Online Learning*) o arquitecturas de Ensamble (*Ensemble*) que estén diseñados inherentemente para responder a la deriva. Estos sistemas, como los clasificadores de ventanas deslizantes o los modelos que emplean Descenso de Gradiente Estocástico (SGD) para actualizaciones incrementales, permiten que el modelo se adapte a los cambios en la distribución de datos sin requerir un reentrenamiento completo, manteniendo la vigencia y relevancia predictiva de manera proactiva.