Riesgos de ciencia de doble uso

Los sistemas de Inteligencia Artificial (IA) de propósito general están llamados a acelerar una amplia gama de esfuerzos científicos, optimizando procesos desde la formación de nuevos investigadores hasta la ejecución de flujos de trabajo más rápidos. No obstante, a pesar de sus vastas aplicaciones beneficiosas, existe una preocupación fundada entre la comunidad experta respecto a su potencial uso malicioso, un riesgo que se exacerba si las nuevas capacidades se desarrollan sin las contramedidas de seguridad apropiadas. Específicamente en el contexto de las ciencias biológicas, la IA podría facilitar acciones perjudiciales a través de dos mecanismos: Primero, al democratizar y aumentar el acceso a información y conocimiento técnico sensible que es relevante para la creación de amenazas. Segundo, al elevar el límite superior de lo que es posible tecnológicamente, lo que no solo permitiría el diseño de versiones más potentes de amenazas existentes, sino que también podría catalizar la aparición de riesgos biológicos completamente inéditos (404, 405).