Capacidad para mejorar y modificar patógenos
El riesgo se centra en la instrumentalización de la IA para optimizar patógenos, confiriéndoles una virulencia incrementada (mayor letalidad) o una resistencia agravada a los tratamientos médicos actuales.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit925
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Establecer protocolos rigurosos de *Model Governance* y *Input/Output Auditing* en sistemas de Inteligencia Artificial de propósito general con capacidades de diseño molecular o biológico, con el fin de evitar su explotación intencional para la optimización o síntesis de patógenos con letalidad o resistencia incrementadas. 2. Desarrollar capacidades avanzadas de detección y monitoreo, empleando sistemas de IA para analizar flujos de información biológica y química a escala global, con el objetivo de identificar patrones anómalos que sugieran el desarrollo, la producción o el despliegue de agentes biológicos modificados, facilitando una respuesta de contención temprana. 3. Invertir significativamente en la resiliencia de los sistemas de salud pública y en la investigación y desarrollo acelerado de contramedidas médicas (vacunas, antivirales) asistidas por IA, para mitigar las consecuencias sanitarias y sociales en caso de que un patógeno optimizado por IA sea liberado.