Plataformas centralizadas desplegadas a escala
La dependencia extendida en un número limitado de plataformas de inteligencia artificial hegemónicas introduce un riesgo sistémico. Esta centralización tecnológica crea puntos únicos de vulnerabilidad, lo que significa que un fallo o ataque dirigido a una plataforma común puede propagarse a través de múltiples sistemas y sectores simultáneamente, amplificando drásticamente la escala del impacto negativo.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit934
Linea de dominio
2. Privacidad y Seguridad
2.2 > Vulnerabilidades y ataques a la seguridad del sistema de IA
Estrategia de mitigacion
1. Promover la diversificación arquitectónica de los sistemas de IA para reducir la dependencia de plataformas centralizadas hegemónicas, fomentando el uso de arquitecturas federadas, distribuidas o de múltiples proveedores a fin de fragmentar el riesgo sistémico y evitar puntos únicos de fallo catastrófico. 2. Implementar mecanismos de resiliencia y aislamiento operacional rigurosos, incluyendo pruebas de robustez adversaria (red-teaming) y microsegmentación, con el objetivo de limitar la propagación de un fallo o ataque dirigido a una plataforma común hacia sistemas críticos interconectados. 3. Establecer un marco de gobernanza de la cadena de suministro de IA que obligue a la evaluación y monitoreo continuo de las dependencias críticas de plataformas de propósito general, incluyendo la adhesión a estándares de seguridad y continuidad operativa estrictos para los proveedores de servicios de IA a gran escala.