Volver al repositorio MIT
7. Seguridad, Fallos y Limitaciones del Sistema de IA2 - Post-despliegue

Exactitud

La métrica fundamental que evalúa el desempeño de un sistema de inteligencia artificial, específicamente midiendo la proporción de predicciones realizadas que resultan ser correctas. En el ámbito técnico, se denomina Exactitud (Accuracy).

Fuente: MIT AI Risk Repositorymit597

ENTIDAD

2 - IA

INTENCIÓN

2 - Involuntario

TIEMPO

2 - Post-despliegue

ID del riesgo

mit597

Linea de dominio

7. Seguridad, Fallos y Limitaciones del Sistema de IA

375 riesgos mapeados

7.3 > Falta de capacidad o robustez

Estrategia de mitigacion

1. Implementar un protocolo riguroso de curación y preprocesamiento de datos para asegurar la diversidad, representatividad y ausencia de sesgos en el conjunto de entrenamiento. Esto es fundamental para mitigar la tendencia de los modelos a favorecer clases mayoritarias, un factor que compromete la fiabilidad de la métrica de Exactitud. 2. Establecer un marco de evaluación del desempeño basado en un conjunto de métricas adecuadas a la tarea (p. ej., Balanced Accuracy, F1 Score o AUC), evitando la dependencia exclusiva de la Exactitud, especialmente en conjuntos de datos desbalanceados. Paralelamente, implementar sistemas de monitoreo continuo para detectar y mitigar la deriva del modelo (model drift) y el deterioro de la Exactitud en entornos de producción. 3. Integrar mecanismos de supervisión humana cualificada que permitan la revisión sistemática y la validación final de las decisiones asistidas por la IA, manteniendo la capacidad de anular resultados que contravengan estándares éticos, normativos o técnicos, y que verifiquen los resultados generados por la IA con códigos y estándares vigentes.