Esteganografía
La esteganografía, en el contexto de la Inteligencia Artificial Generativa (IAG), se define como el método de incrustar mensajes cifrados o datos ocultos dentro del contenido generado por el modelo. Este mecanismo representa un vector de riesgo significativo, ya que facilita que actores maliciosos establezcan canales de comunicación clandestinos y no detectables.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1137
Linea de dominio
2. Privacidad y Seguridad
2.2 > Vulnerabilidades y ataques a la seguridad del sistema de IA
Estrategia de mitigacion
1. Implementar soluciones avanzadas de estegoanálisis y filtrado destructivo para la detección y mitigación proactiva de contenido esteganográfico incrustado en las salidas del sistema de IAG, incluyendo la manipulación de metadatos o la transcodificación de medios. 2. Fortalecer los controles de acceso y aplicar el Principio de Mínimo Privilegio (PoLP) para restringir la capacidad de actores maliciosos o internos de incrustar o exfiltrar datos sensibles a través de canales de IAG. 3. Desarrollar programas de formación y concienciación sobre ciberseguridad para el personal, enfocados en los riesgos de la esteganografía y el phishing, con énfasis en la precaución al interactuar con archivos multimedia o documentos procedentes de fuentes no verificadas.