Capacidad de reconocimiento de patrones
Los sistemas de inteligencia artificial tienen el potencial de exacerbar burbujas financieras al reforzar las tendencias dominantes del mercado, creando un peligroso mecanismo de retroalimentación positiva que amplifica la volatilidad
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit960
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.6 > Riesgos multi-agente
Estrategia de mitigacion
1. Reforzar los marcos regulatorios y de gobernanza (SR-11-7, Ley de IA de la UE) con un enfoque específico en la **monitorización de la concentración** de estrategias algorítmicas similares entre múltiples entidades financieras, a fin de mitigar el riesgo sistémico derivado del "comportamiento de masas" inducido por la IA. 2. Implementar requerimientos obligatorios de **Explicabilidad (XAI)** y **auditoría continua** para los modelos de IA utilizados en la toma de decisiones financieras críticas, asegurando la identificación y corrección de sesgos pro-cíclicos inherentes que podrían reforzar peligrosamente las tendencias dominantes del mercado. 3. Establecer **protocolos de supervisión humana** y **mecanismos de interrupción de emergencia** (kill switches) para sistemas de trading y gestión de activos automatizados, garantizando la capacidad de intervención inmediata ante la detección de retroalimentación positiva descontrolada o movimientos de mercado anómalos amplificados por los algoritmos.