Capacidad de armamentización QBRNE
Se define como la aptitud para desarrollar, producir o utilizar de manera efectiva armas Químicas, Biológicas, Radiológicas, Nucleares y Explosivas (QBRNE). Críticamente, esta capacidad también engloba la habilidad de reducir significativamente el umbral de dificultad técnica, lo que permitiría a entidades (humanas o no) concebir, fabricar o emplear tales armamentos con mayor facilidad.
ENTIDAD
2 - IA
INTENCIÓN
1 - Intencional
TIEMPO
3 - Otro
ID del riesgo
mit1323
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.2 > IA con capacidades peligrosas
Estrategia de mitigacion
1. Implementación de Controles de Acceso y Remoción de Capacidades Peligrosas: Establecer mecanismos de restricción de acceso (ej. mediante servicios en la nube con monitoreo de cómputo y protocolos de Know Your Customer) para modelos de IA que muestren la aptitud para facilitar la investigación o producción de armas Químicas, Biológicas, Radiológicas, Nucleares y Explosivas (QBRNE). Con carácter prioritario, se debe eliminar proactivamente cualquier capacidad biológica o química peligrosa de los modelos de propósito general. 2. Marco Regulatorio y Pruebas de Seguridad Obligatorias: Desarrollar e imponer directrices sectoriales que obliguen a los desarrolladores de modelos de IA a realizar evaluaciones de riesgo exhaustivas y pruebas de adversidad (red-teaming) centradas en el uso malicioso con fines QBRNE. Paralelamente, se debe considerar la imposición de un régimen de responsabilidad legal estricta para incentivar prácticas de desarrollo más seguras y el control riguroso de riesgos. 3. Despliegue Defensivo de Sistemas de IA y ML: Invertir estratégicamente en el uso de modelos de inteligencia artificial y aprendizaje automático para fortalecer la bioseguridad, la ciberseguridad y las estrategias de defensa. Esto incluye el desarrollo de sistemas predictivos para pronosticar amenazas emergentes, la mejora de los sistemas de vigilancia para detectar actividades de proliferación ilícita y el apoyo a la respuesta en tiempo real durante incidentes QBRNE.