Real-world risks (Risks of using AI in illegal and criminal activities)
La Inteligencia Artificial (IA) presenta un riesgo significativo de ser instrumentalizada para amplificar o facilitar actividades criminales tradicionales ya establecidas. Este fenómeno abarca la potenciación de ilícitos vinculados al terrorismo, la violencia, el juego ilegal o el narcotráfico. El peligro radica en la capacidad de la IA para el adiestramiento en metodologías delictivas, la asistencia en la ocultación de actos ilegales, o el desarrollo de herramientas tecnológicas especializadas para optimizar la ejecución de dichos crímenes.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit661
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Implementar Controles de Acceso Rigurosos para Modelos de IA de Alto Riesgo Aplicar mecanismos de gobernanza técnica, como protocolos de verificación de identidad (KYC) y la restricción del acceso mediante APIs o plataformas controladas, para modelos de IA con capacidades demostradas de doble uso que puedan facilitar la creación de herramientas criminales, agentes biológicos o la amplificación de ataques a gran escala. 2. Desarrollo Proactivo de Medidas de Contramedida y Detección de Abuso Invertir en ejercicios continuos de "red teaming" ético y en el diseño de clasificadores robustos que detecten y mitiguen patrones de uso malicioso, como la generación de código para actividades criminales, la creación de deepfakes fraudulentos o el adiestramiento en técnicas delictivas, actualizando los parámetros del modelo para fortificarlo. 3. Establecimiento de un Marco de Responsabilidad y Monitoreo Post-Despliegue Definir estructuras de responsabilidad legal claras para los desarrolladores de sistemas de IA que se utilicen en aplicaciones críticas o de propósito general, junto con la exigencia de auditorías externas periódicas y la monitorización constante del rendimiento y el impacto real de los sistemas desplegados para identificar y neutralizar usos no autorizados.