Técnico
Los *riesgos técnicos de la IA* (Technical AI hazards) son, fundamentalmente, las causas originales de las deficiencias internas en el sistema de inteligencia artificial. Un ejemplo canónico de este tipo de riesgo es el *sobreajuste* (*overfitting*), el cual describe una adaptación excesiva y poco generalizable del modelo a su conjunto de datos de entrenamiento. Para abordar estos riesgos técnicos, la investigación ha establecido métodos cuantitativos que permiten su evaluación (mediante métricas) y su corrección (a través de medios de mitigación), procesos que a menudo se ejecutan automáticamente dentro del ciclo de vida del desarrollo. Concretamente en el caso del sobreajuste, las métricas se articulan en la comparación del rendimiento entre los conjuntos de datos de entrenamiento y de validación, mientras que las estrategias de mitigación incluyen, notablemente, el uso de técnicas de *regularización* para penalizar la complejidad excesiva del modelo.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit897
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Implementación de Mecanismos de Regularización Rigurosa Aplicar técnicas de regularización paramétrica (L1, L2, Elastic Net o Dropout en redes neuronales) al inicio del desarrollo para introducir un término de penalización en la función de pérdida. Esto desalienta que los parámetros del modelo adquieran valores excesivamente grandes, limitando intrínsecamente la complejidad del modelo y su propensión a memorizar el conjunto de entrenamiento. 2. Aplicación de Validación Cruzada Sistemática y Detención Temprana Utilizar esquemas de validación cruzada (k-fold) para obtener una estimación robusta e imparcial del rendimiento del modelo en datos no vistos, asegurando la generalización. De forma concomitante, integrar la detención temprana (Early Stopping) mediante el monitoreo continuo del rendimiento en un conjunto de validación para finalizar el proceso de entrenamiento en el punto óptimo, previniendo el deterioro de la capacidad predictiva. 3. Reducción de la Complejidad y Aumento de la Diversidad de Datos En caso de que el sobreajuste persista, se debe optar por una simplificación estructural del modelo (e.g., menor número de capas o nodos) y/o aplicar técnicas de selección de características para eliminar variables irrelevantes. Paralelamente, se recomienda la expansión del conjunto de entrenamiento a través de la adquisición de más datos o mediante técnicas de aumento de datos (Data Augmentation), incrementando la variabilidad de la muestra y dificultando la memorización.