Ataques biológicos y químicos
Evidencia creciente indica que, si bien la IA de propósito general impulsa avances notables en la investigación científica, simultáneamente reduce las barreras para el desarrollo de armas químicas y biológicas, afectando tanto a personas sin experiencia como a especialistas. Modelos de lenguaje avanzados ya son capaces de generar instrucciones técnicas detalladas para la creación de patógenos y toxinas; la calidad de estas instrucciones puede incluso superar los planes redactados por expertos con doctorado y desvelar información que a los especialistas les cuesta hallar en la web. No obstante, su utilidad práctica para un novato aún es incierta. Además, existen otros modelos con la capacidad de diseñar proteínas con propiedades mejoradas y de analizar con precisión la potencial peligrosidad de distintos patógenos o toxinas. En manos de expertos, estas tecnologías representan una doble capacidad: desarrollar armamento más avanzado o, crucialmente, diseñar medidas de defensa y contramedidas más sofisticadas.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit902
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. **Implementación de Gobernanza Adaptativa y Regulación de Doble Uso** Establecer urgentemente un marco regulatorio internacional, ágil y de evaluación continua para las herramientas de IA de propósito general con potencial de doble uso en biotecnología. Esto debe incluir la monitorización proactiva de las capacidades de los modelos de lenguaje avanzados para la generación de instrucciones peligrosas y la aplicación de un control de acceso estricto (gating) o un licenciamiento responsable para los modelos de alta capacidad que puedan reducir significativamente las barreras para la creación de armas biológicas o químicas. 2. **Refuerzo Estratégico en Biodefensa e I+D con IA** Incrementar la inversión en investigación y desarrollo (I+D) enfocada en el uso de la IA para la bioseguridad y la defensa. Se priorizará el desarrollo de modelos de IA especializados en la detección, prevención y mitigación de amenazas, tales como sistemas avanzados de biovigilancia para la identificación temprana de patógenos diseñados, y la aceleración en el descubrimiento de contramedidas médicas (fármacos y vacunas) capaces de neutralizar agentes nocivos creados o modificados con asistencia de la IA. 3. **Aseguramiento del Ciclo de Vida de Desarrollo de Modelos Biológicos** Integrar prácticas de seguridad por diseño en todo el ciclo de vida de los modelos de IA relevantes para la biotecnología. Esto requiere la selección y curación estratégica de los datos de entrenamiento para mitigar la introducción de información que facilite el mal uso, así como la realización de ejercicios de "red teaming" y pruebas adversarias exhaustivas para identificar y corregir vulnerabilidades que puedan ser explotadas para el diseño de toxinas o la modificación de la virulencia de patógenos existentes.