Impacto en Estabilidad Financiera
La introducción de la Inteligencia Artificial de propósito general en ámbitos críticos como el *trading* de alta frecuencia, la creación de liquidez (*market-making*) o la gestión del riesgo financiero podría aumentar significativamente el riesgo sistémico. Esto se debe a que la IA podría manifestar patrones de comportamiento impredecibles, especialmente en situaciones de estrés en el mercado. Un factor adicional de preocupación es la convergencia: si un número reducido de modelos de IA, esencialmente homogéneos, se concentra en distintas instituciones financieras, se incentiva una toma de decisiones correlacionada, un 'efecto rebaño' algorítmico. Además, la interacción de múltiples agentes de IA podría generar fenómenos emergentes imprevistos que amplifiquen drásticamente la volatilidad. En conjunto, estos mecanismos tienen el potencial de desencadenar una inestabilidad financiera global y en cascada, con estimaciones de pérdidas económicas que podrían superar el billón de dólares a escala mundial.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1307
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.6 > Riesgos multi-agente
Estrategia de mitigacion
1. Implementar marcos regulatorios y políticas macroprudenciales que incentiven activamente la diversidad algorítmica y la heterogeneidad de los modelos de IA (Inteligencia Artificial) empleados en el *trading* de alta frecuencia y la gestión del riesgo sistémico, mitigando el riesgo de toma de decisiones correlacionada y el "efecto rebaño" algorítmico. 2. Establecer protocolos rigurosos de pruebas de estrés (*stress testing*) dinámicas y una supervisión estratificada (*layered monitoring*) de las interacciones multi-agente, diseñados para evaluar y predecir patrones de comportamiento inesperados y la aparición de fenómenos emergentes en escenarios de tensión o disrupción del mercado. 3. Desarrollar y aplicar marcos de gobernanza y transparencia que exijan la explicabilidad (*XAI*) de las decisiones de los agentes de IA, asegurando la trazabilidad, la rendición de cuentas y la supervisión efectiva por parte de las entidades financieras y los organismos reguladores.