Riesgos de Segundo Orden
Los riesgos de segundo orden emergen como las secuelas o consecuencias sistémicas de los riesgos de primer orden. En esencia, describen los peligros que surgen cuando un sistema de aprendizaje automático (ML) comienza a interactuar e integrarse con el entorno real, afectando ámbitos más amplios. Esto incluye impactos significativos en los derechos humanos, la estabilidad de una organización o incluso el equilibrio del medio ambiente natural.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit197
Linea de dominio
6. Socioeconómico y Ambiental
6.0 > Socioeconómico y Ambiental
Estrategia de mitigacion
1. Prioridad Alta: Evaluación Holística y Stress-Testing Sistémico Ejecutar ejercicios de stress-testing con escenarios plausibles de cola que simulen la propagación de riesgos de primer orden a lo largo de toda la cadena de valor (cascadas de riesgo), a fin de anticipar y modelar las consecuencias sistémicas del sistema de ML en el ámbito socioeconómico y ambiental (Derechos Humanos, Organización, Entorno Natural). 2. Prioridad Media: Monitoreo y Reevaluación Continua Post-Despliegue Establecer un mecanismo de monitoreo continuo (cercano a tiempo real) para el riesgo de segundo orden, enfocándose en métricas de impacto real y adaptando la estrategia de mitigación de manera iterativa, reconociendo que el perfil de riesgo y las necesidades del negocio evolucionan con la interacción en el mundo real. 3. Prioridad Operacional: Fortalecimiento del Marco de Gobernanza y Transparencia Integrar explícitamente los riesgos de segundo orden en el Marco de Gestión de Riesgos de Modelos (MRM), definiendo un umbral de apetito de riesgo e implementando un estándar elevado de interpretabilidad y explicabilidad (explainability) para las decisiones post-despliegue que puedan generar consecuencias a nivel de derechos humanos o estabilidad organizacional.