Incertidumbre de predicción del modelo
La incertidumbre inherente a las predicciones de los modelos de inteligencia artificial es un factor decisivo en la toma de decisiones. Cuantificar este nivel de desconocimiento del modelo es intrínsecamente necesario para una correcta evaluación de riesgos, ya que permite establecer los límites de la fiabilidad. Este concepto es especialmente vital cuando hablamos de aplicaciones críticas, donde la seguridad humana o la vida están en juego, pues la solidez de la predicción sustenta cada juicio crucial.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit307
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. **Implementar Metodologías Rigurosas de Cuantificación de la Incertidumbre (UQ)** Establecer y aplicar técnicas de UQ (como modelos probabilísticos, intervalos de predicción, o el uso de redes bayesianas) para caracterizar de forma cuantitativa la incertidumbre de la predicción, transformando la variabilidad potencial en información medible sobre la fiabilidad del resultado. 2. **Garantizar la Reducción de la Incertidumbre Epistémica Mediante Recolección Estratégica de Evidencia** Adoptar un enfoque basado en el Valor Esperado de Información Perfecta (EVPI) para justificar la inversión en la obtención de datos experimentales o de simulación adicionales. Esto permite reducir la incertidumbre inherente a la falta de conocimiento o de cobertura de datos en el dominio del modelo, lo cual es esencial para mejorar la solidez del sistema. 3. **Integrar la Métrica de Incertidumbre en los Protocolos de Toma de Decisiones y Contingencia** Definir umbrales operativos para el nivel de incertidumbre de la predicción. Cuando una salida exceda el umbral de tolerancia al riesgo, el sistema debe activar automáticamente un plan de contingencia (evitación del riesgo o intervención humana), o iniciar un análisis de escenarios/sensibilidad dinámico para evaluar la robustez de las posibles acciones.