Riesgos Biológicos y Químicos
La naturaleza de "doble uso" de la inteligencia artificial (IA) representa un riesgo de seguridad crítico. La IA tiene el potencial de reducir drásticamente las barreras técnicas, permitiendo que actores no estatales maliciosos puedan diseñar, sintetizar, adquirir o desplegar armas CBRNE (químicas, biológicas, radiológicas, nucleares y explosivas) con mayor facilidad. Esta nueva capacidad no solo desafía de manera inédita la seguridad nacional, sino que también ejerce una presión extrema sobre los regímenes internacionales de no proliferación y la gobernanza global de la seguridad.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1299
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Armonización Regulatoria y Cooperación Global en Control de Exportaciones: Instaurar un marco de gobernanza internacional ágil que promueva la armonización de las listas de control de bienes de doble uso (incluyendo software y tecnología de IA) y de los mecanismos de control de exportaciones. Esto es crucial para mantener la agilidad regulatoria ante el rápido avance tecnológico, dificultando la adquisición de capacidades de IA por parte de actores no estatales maliciosos para el desarrollo de armas CBRNE. 2. Estandarización de Evaluaciones Adversarias y Controles de Seguridad (Red-Teaming): Exigir y estandarizar la realización de ejercicios rigurosos de "red-teaming" y evaluaciones independientes por parte de terceros a los modelos de IA de frontera, especialmente aquellos con potencial de doble uso en el dominio CBRNE. Estas evaluaciones deben enfocarse en identificar y mitigar proactivamente las vulnerabilidades de diseño que puedan disminuir los umbrales técnicos para la síntesis o despliegue de armas. 3. Establecimiento de Marcos de Responsabilidad Demostrable y Transparencia: Implementar marcos de responsabilidad organizacional demostrable a lo largo del ciclo de vida de la IA, asegurando que los desarrolladores y usuarios finales apliquen programas de gobernanza robustos. Adicionalmente, impulsar la transparencia y la rendición de cuentas, particularmente mediante mecanismos de información compartida sobre riesgos de doble uso, para fortalecer los regímenes de no proliferación.