Amenazas de Bioseguridad
El mal uso potencial de los modelos de Inteligencia Artificial de propósito general (IAGP) constituye una seria amenaza para la bioseguridad global. Las armas biológicas, entendidas como toxinas o agentes infecciosos como los virus liberados deliberadamente para inducir enfermedades y mortalidad, podrían ver facilitada su producción. Los modelos de IAGP reducen las barreras de acceso al conocimiento crítico y ofrecen asistencia automatizada avanzada, lo que, en última instancia, empodera a un mayor número de actores con intenciones maliciosas para llevar a cabo actividades biopeligrosas.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit750
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Implementar salvaguardas técnicas multi-capa en los modelos de IA, incluyendo el Control de Acceso para limitar la funcionalidad a actores autorizados y la Destilación de Modelos para restringir el conocimiento de alto riesgo. Esto debe complementarse con el Ajuste Fino Supervisado (SFT) para entrenar al modelo en la negación de instrucciones relacionadas con el desarrollo de armas biológicas. 2. Establecer marcos de colaboración público-privada para el monitoreo de la red de suministro biológico. Se debe exigir la adopción de protocolos KYC (Conozca a su Cliente) por parte de los proveedores de servicios de investigación y síntesis de ADN para identificar patrones de compra inusuales de materiales biológicos sensibles y equipos de laboratorio. 3. Crear una entidad de gobernanza de bioseguridad centralizada para armonizar la supervisión y la preparación a largo plazo. Dicha entidad debería promover la inversión y el despliegue de sistemas de detección de amenazas conductuales habilitados por IA para analizar datos de la cadena de suministro, la investigación y la biovigilancia, fortaleciendo así la capacidad de detección temprana.