Manipulación no autorizada de IA
Un riesgo latente reside en la subversión deliberada de sistemas de inteligencia artificial mediante ciberataques, lo que facilitaría su uso indebido. Un ejemplo crítico es la manipulación de sistemas automatizados de control de equipaje aeroportuario para el contrabando de armamento o materiales peligrosos.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit122
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Establecer un marco de **Confianza Cero (Zero Trust)** y el principio de mínimo privilegio para el acceso a modelos y datos, complementado con la **monitorización continua en tiempo real** de los flujos de datos y el comportamiento de las aplicaciones para la detección proactiva de actividades anómalas o uso no autorizado. 2. Aplicar técnicas de **entrenamiento adversarial** y **validación de entradas** para incrementar la robustez del modelo de IA frente a las manipulaciones deliberadas y las cargas maliciosas, asegurando la integridad de su proceso de toma de decisiones en entornos críticos. 3. Implementar el **cifrado y la anonimización de datos** sensibles en todo el ciclo de vida de la IA, y ejecutar **auditorías rigurosas a proveedores** para garantizar la seguridad de la cadena de suministro y la integridad de los conjuntos de datos de entrenamiento.