Herramientas de pre-procesamiento
Las herramientas de preprocesamiento son fundamentales en el contexto de los Modelos de Lenguaje Grandes (LLMs). Estas herramientas, a menudo empleadas en tareas de Visión por Computadora (CV), presentan una vulnerabilidad crítica: son susceptibles a ataques que buscan explotar fallas de seguridad en software ampliamente utilizado, como por ejemplo, OpenCV.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit23
Linea de dominio
2. Privacidad y Seguridad
2.2 > Vulnerabilidades y ataques a la seguridad del sistema de IA
Estrategia de mitigacion
1. Implementación rigurosa de una política de gestión de parches y dependencias que asegure la actualización inmediata de todas las bibliotecas de pre-procesamiento (ej. OpenCV) a versiones que mitiguen vulnerabilidades conocidas (CVEs), verificando continuamente la cadena de suministro del software. 2. Establecimiento de validación y verificación de integridad de entradas rigurosas para todo dato externo (ej. imágenes, archivos de configuración) previo a su procesamiento por herramientas como OpenCV, incluyendo la comprobación del formato, la normalidad de la estructura de datos y la aplicación de mecanismos de integridad (ej. SHA256). 3. Aplicación de un principio de defensa en profundidad mediante la ejecución de las herramientas de pre-procesamiento dentro de entornos de aislamiento (sandboxing) con privilegios mínimos, restringiendo su acceso a recursos sensibles del sistema y a la red para limitar el impacto de una potencial explotación.