Violencia/conflicto armado
Riesgo de violencia y conflicto armado: Esto describe la explotación deliberada de sistemas tecnológicos (incluyendo sistemas de IA) para propósitos maliciosos. Dichos usos pueden manifestarse como la incitación a la violencia, la facilitación de ciberataques y brechas de seguridad a gran escala, o incluso el desarrollo y la proliferación de armamento no convencional (armas letales, biológicas o químicas), culminando en escenarios de conflicto armado y desestabilización social
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit857
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Implementación de un Marco Normativo Global y Auditoría: Establecer un marco regulatorio internacional, con estándares de seguridad obligatorios, que exija la evaluación rigurosa y las pruebas adversariales de modelos de IA de alto riesgo para prevenir su uso en el desarrollo o proliferación de armamento no convencional (CBRN) y mitigar el riesgo de desestabilización social intencional. 2. Garantía de Control Humano y Responsabilidad Legal: Consolidar principios jurídicos y éticos que aseguren un control humano significativo (*meaningful human control*) y la rendición de cuentas inequívoca en la toma de decisiones que impliquen el uso de la fuerza o de sistemas de armas autónomas letales, en cumplimiento estricto del Derecho Internacional Humanitario (DIH). 3. Desarrollo de Capacidades de Defensa Activa (Defensive AI): Acelerar la investigación y la adopción de herramientas defensivas potenciadas por la Inteligencia Artificial (Defensive AI) para monitorear, detectar y responder en tiempo real a ciberataques sofisticados e ingeniería social impulsada por IA, fortaleciendo la ciberresiliencia de las infraestructuras críticas.