Uso malicioso de la IA
La naturaleza dual de la inteligencia artificial (IA) implica que, además de sus múltiples usos constructivos, también puede potenciar la ciberdelincuencia. Actualmente, el desarrollo de malware y ataques informáticos asistidos por IA ya constituye una realidad palpable.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit95
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.0 > Uso malicioso
Estrategia de mitigacion
1. Fomentar el desarrollo seguro de la IA, incorporando la seguridad por diseño desde las etapas iniciales del ciclo de vida del sistema, e implementando metodologías rigurosas como el *red teaming* y la verificación formal para identificar y mitigar vulnerabilidades derivadas del uso malicioso. 2. Establecer controles de acceso estrictos y mecanismos de monitoreo continuo (*compute monitoring*, *know-your-customer screenings*) para limitar el uso de modelos de IA de propósito general o con capacidades de alto riesgo, como las de investigación biológica, reservando su acceso a interacciones controladas. 3. Articular marcos regulatorios y políticas de gobernanza que asignen responsabilidad legal a los desarrolladores (*strict liability regime*) por el mal uso potencial o fallas de los sistemas de IA, promoviendo simultáneamente la coordinación internacional y la aplicación de principios éticos.