Ciberseguridad
Los Modelos de Lenguaje de Gran Escala (LLM) representan una nueva dimensión en la exacerbación de los riesgos de ciberseguridad. Su capacidad principal reside en la amplificación sustancial de la efectividad de las operaciones de engaño diseñadas para inducir a las personas a divulgar información sensible o a otorgar acceso a recursos críticos. Un ejemplo paradigmático es el *phishing*: los LLM demuestran ser excepcionalmente eficientes en la creación masiva de correos electrónicos o mensajes personalizados, lo que dificulta notablemente que el usuario promedio identifique el intento como fraudulento. Es crucial entender que estos ataques de 'ingeniería social', más allá del daño individual, constituyen frecuentemente el punto de partida de operaciones de *hacking* de mayor envergadura.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1343
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Priorizar la implementación de programas de *Security Awareness Training* continuo y avanzado, diseñados específicamente para entrenar al personal en la identificación y resistencia a las técnicas de ingeniería social hiper-personalizadas (como *phishing*, *vishing* y *deepfakes*) generadas por LLMs, y establecer protocolos de verificación rigurosa para solicitudes críticas (ej. transferencias financieras o acceso a sistemas). 2. Fortalecer las defensas de identidad mediante la adopción obligatoria de mecanismos de autenticación multifactor (MFA) resistentes al *phishing*, como *passkeys* o FIDO2, para contrarrestar el riesgo de robo de credenciales facilitado por la escalabilidad y persuasión de los ataques de suplantación de identidad. 3. Desplegar soluciones de *AI-Driven Threat Detection* (Detección de Amenazas asistida por IA) integradas en los Sistemas de Gestión de Eventos e Información de Seguridad (*SIEM*), con el objetivo de monitorear en tiempo real los patrones anómalos de comunicación y comportamiento en la red que pudieran indicar la presencia de campañas de *phishing* automatizadas o el inicio de operaciones de *hacking* de mayor envergadura.