Engaño - Identidades sintéticas
La Inteligencia Artificial Generativa (GenAI) posee la capacidad de sintetizar imágenes de personas con un realismo fotográfico notable, lo que les permite mimetizarse perfectamente con el contenido que se encuentra en plataformas sociales como Facebook, X (Twitter) o Tinder. A pesar de que estos individuos son completamente ficticios —carecen de existencia real—, la creación de estas identidades sintéticas representa una vulnerabilidad crítica, ya que están siendo activamente instrumentalizadas para ejecutar actividades maliciosas en el ecosistema digital (véase Tabla 1D).
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit669
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Implementar un marco de verificación de identidad robusto y multicapa que trascienda las comprobaciones estáticas de documentos. Este sistema debe integrar analíticas de comportamiento, inteligencia de dispositivos y técnicas de biometría con *liveness check* (prueba de vida) para contrarrestar la suplantación avanzada generada por GenAI (*deepfakes*) y garantizar la autenticidad del individuo en tiempo real. 2. Adoptar modelos de *Machine Learning* y redes neuronales específicamente entrenados para identificar anomalías y patrones sutiles asociados con identidades sintéticas, como la creación reciente de expedientes crediticios o la correlación de dispositivos (huella digital) a través de múltiples solicitudes, lo cual es ineficaz de detectar con reglas de fraude tradicionales. 3. Fortalecer los protocolos *Know Your Customer* (KYC) y de *Anti-Money Laundering* (AML) mediante una migración desde la verificación documental simple hacia un análisis de riesgo contextual y dinámico. Es crucial asumir que la capacidad de GenAI para generar documentos falsificados de alta calidad hace insuficiente cualquier proceso que dependa únicamente de la inspección visual o la comprobación estática.