IA permite el desarrollo de armas de destrucción masiva
La Inteligencia Artificial está facilitando la creación de armamento con potencial de destrucción masiva. Esto abarca no solo nuevas armas que operan con capacidades propias de IA, como las Armas Autónomas Letales (AAL), sino también su potencial para acelerar drásticamente el desarrollo de otras tecnologías intrínsecamente peligrosas, tales como los patógenos de ingeniería.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit781
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Implementar un marco de gobernanza global y vinculante para la Inteligencia Artificial, con el objetivo primordial de prohibir el desarrollo y uso de Armas Autónomas Letales (AAL) y restringir el acceso a modelos de IA de alta capacidad que puedan facilitar la creación de armas biológicas, químicas o nucleares. 2. Establecer mecanismos rigurosos de control y verificación de exportación de *hardware* y *software* de IA con potencial de doble uso (civil-militar), e implementar auditorías de seguridad exhaustivas a los modelos antes de su despliegue, prestando especial atención a la mitigación de los riesgos de uso malicioso (*malicious use*) y armamentización (*weaponization*). 3. Fomentar la investigación proactiva en seguridad de la IA (*AI safety*) para desarrollar sistemas de detección temprana y contramedidas automatizadas que mitiguen ciberataques asistidos por IA y el desarrollo acelerado de patógenos de ingeniería. Esto incluye la creación de barreras de seguridad inherentes en los modelos más avanzados a través de ejercicios de *red teaming* constante.