Seguridad (Security)
Las implicaciones de la integración de la Inteligencia Artificial con fines bélicos para la defensa. El despliegue sistémico de capacidades basadas en IA a través de los dominios terrestre, aéreo, naval y espacial plantea una alteración potencial en la doctrina y ejecución de las operaciones militares conjuntas.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit605
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Promover la negociación y la adopción urgente de un instrumento legalmente vinculante a nivel internacional que prohíba el desarrollo y despliegue de sistemas de armas autónomas letales (SAAL) que carezcan de un control humano significativo en la selección y ataque de objetivos, asegurando la preservación del principio de control humano en el uso de la fuerza. 2. Desarrollar e implementar marcos de gobernanza de la IA en el sector de seguridad y defensa que exijan la aplicación rigurosa de principios de IA responsable, incluyendo la transparencia, la equidad y la explicabilidad (XAI), para mitigar los riesgos de sesgo algorítmico y garantizar la rendición de cuentas por las decisiones automatizadas. 3. Fortalecer la ciberseguridad mediante el desarrollo de sistemas de IA intrínsecamente resistentes a ataques adversarios, como el envenenamiento de datos y la manipulación de modelos, e implementar protocolos de cifrado avanzado y mecanismos de detección de amenazas en tiempo real para proteger la infraestructura crítica militar y los canales de datos de entrenamiento.