Volver al repositorio MIT
7. Seguridad, Fallos y Limitaciones del Sistema de IA2 - Post-despliegue

Inestabilidad financiera por homogeneidad de modelos

Este concepto, crucial para la seguridad de la inteligencia artificial, describe el **riesgo sistémico por homogeneidad algorítmica** en el sector financiero. Se refiere a que el uso generalizado de modelos de *trading* o algoritmos de inversión con fundamentos matemáticos esencialmente idénticos, por parte de múltiples instituciones, conduce a **reacciones perfectamente sincronizadas** ante cualquier evento o señal del mercado. La consecuencia es una peligrosa "monocultura de la IA" que suprime la diversificación natural de la toma de decisiones humana. Esta uniformidad amplifica las disrupciones, provocando: - **Volatilidad amplificada**: Las reacciones idénticas magnifican las oscilaciones de precios. - **Colapsos relámpago (*flash crashes*)**: Se desencadenan cascadas de órdenes de venta automáticas en milisegundos, colapsando brevemente los precios. - **Iliquidez de mercado**: Una retirada sincronizada puede hacer que los compradores desaparezcan de golpe, paralizando el comercio.En resumen, lo que se percibe como eficiencia individual se traduce en una **fragilidad estructural** para el sistema financiero en su conjunto.

Fuente: MIT AI Risk Repositorymit1065

ENTIDAD

3 - Otro

INTENCIÓN

3 - Otro

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1065

Linea de dominio

7. Seguridad, Fallos y Limitaciones del Sistema de IA

375 riesgos mapeados

7.6 > Riesgos multi-agente

Estrategia de mitigacion

1. Promover la Diversificación Algorítmica y Estratégica Fomentar la descentralización en el desarrollo de modelos de *trading* e inversión. Esto implica que las instituciones entrenen y afinen sus modelos utilizando datos propietarios y perfiles de riesgo específicos, evitando la dependencia de modelos "de caja negra" homogéneos provistos por terceros. Esta estrategia busca mitigar el riesgo sistémico inherente a una "monocultura de la IA" que suprime la diversificación natural en la toma de decisiones. 2. Implementar Requerimientos Estrictos de Explicabilidad (XAI) y Auditabilidad Establecer la obligatoriedad de integrar tecnologías de Inteligencia Artificial Explicable (XAI), como los valores SHAP, en los modelos de alto impacto financiero. El objetivo es garantizar la trazabilidad completa y la transparencia del modelo, facilitando la auditoría regulatoria y la mitigación de sesgos. La explicabilidad es esencial para que los supervisores comprendan la lógica del modelo y anticipen fallos antes de que escalen a un riesgo sistémico. 3. Fortalecer la Gobernanza del Riesgo de Terceros y la Vigilancia Algorítmica Continua Diseñar un marco de gobernanza que gestione de manera rigurosa la dependencia de proveedores de sistemas de IA, exigiendo una documentación exhaustiva y la validación independiente y periódica de los modelos externos. Además, implementar sistemas de **vigilancia algorítmica** para monitorear el rendimiento en el entorno operativo (*post-despliegue*), identificando y corrigiendo de forma proactiva la pérdida de robustez, sesgos emergentes o cualquier comportamiento de sincronización no deseado que pueda amplificar la volatilidad del mercado.