Mal uso de modelos de descubrimiento de fármacos
Existe una preocupación significativa sobre la aplicación de doble uso de los modelos de inteligencia artificial diseñados para el descubrimiento de fármacos, especialmente aquellos que predicen la afinidad entre un compuesto y su diana molecular. Estos sistemas, en lugar de identificar candidatos terapéuticos, podrían ser desviados para la identificación o el desarrollo de novo de toxinas peligrosas. Este riesgo se amplifica considerablemente cuando la base de datos de entrenamiento subyacente incluye información detallada sobre proteínas o secuencias virales con potencial patógeno.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1072
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
1. Implementación de Salvaguardas Técnicas y Control de Acceso Integrar salvaguardas de seguridad en el *software* de diseño de moléculas (por ejemplo, filtros de toxicidad y funcionalidad limitada) y aplicar protocolos rigurosos para restringir el acceso a los modelos de IA y a las bases de datos sensibles. El objetivo es detectar y prevenir automáticamente la generación *de novo* de compuestos con alto potencial patógeno o de toxinas peligrosas. 2. Expansión y Armonización de Marcos Regulatorios Extender los marcos regulatorios de Investigación de Doble Uso de Preocupación (DURC) para incluir explícitamente los sistemas de Inteligencia Artificial utilizados en el desarrollo farmacéutico. Esto debe requerir una evaluación de riesgos sistemática, planes de mitigación obligatorios y la trazabilidad continua del ciclo de vida del modelo, alineándose con un enfoque basado en el riesgo. 3. Gobernanza y Curación Rigurosa de Datos Establecer una gobernanza estricta de los datos de entrenamiento mediante su curación, auditoría y documentación de procedencia. Se debe mitigar activamente la inclusión de información detallada no esencial sobre secuencias virales o proteicas con alto potencial patógeno, y considerar el uso de técnicas de privacidad como el cifrado homomórfico para proteger datos sensibles durante el procesamiento.