Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

Violación de integridad personal

Apropiación ilícita de la identidad o la imagen de un individuo. Este concepto se refiere al uso, sin el consentimiento explícito y fundado del titular, de sus atributos personales —como su apariencia, voz, o huella digital— con fines que exceden la autorización original o que son directamente no permitidos. Un ejemplo paradigmático de esta transgresión es la explotación comercial no autorizada de la identidad digital de una persona.

Fuente: MIT AI Risk Repositorymit274

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit274

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.3 > Fraude, estafas y manipulación dirigida

Estrategia de mitigacion

1. Establecer un sistema de autenticación de identidad robusto y multi-capa que incorpore la Autenticación Multifactor (MFA) y la detección de vivacidad (liveness detection). Esta integración técnica es crítica para mitigar la suplantación de identidad biométrica avanzada mediante deepfakes de video o voz. 2. Desarrollar e implementar herramientas de análisis forense digital y detección asistida por IA que sean capaces de identificar anomalías a nivel de píxel, texturas y sincronización audio-visual en el contenido sintético. Es imperativo actualizar estos modelos algorítmicos de forma continua para contrarrestar la evolución de la tecnología de generación de deepfakes. 3. Diseñar e impartir programas de formación continua y concienciación que permitan a los usuarios y al personal identificar y reportar señales de alerta de ataques de ingeniería social habilitados por deepfakes. La alfabetización mediática y la verificación de comunicaciones a través de canales secundarios son esenciales como línea de defensa humana.

EVIDENCIA ADICIONAL

Este ejemplo ilustra el riesgo de la creación de contenido deepfake o ultrafalso, que consiste en generar una imagen, un vídeo o un audio sintético de una persona sin su consentimiento. El deepfake es un medio manipulado (audio, visual o textual) creado con inteligencia artificial generativa (GenAI) y métodos de aprendizaje profundo, capaz de producir falsificaciones de un alto realismo. El caso citado de la política Cara Hunter (Hunter, 2023) se ha convertido en un ejemplo clave de la amenaza social y política que representan estos contenidos. En su experiencia, la difusión no consentida de un vídeo pornográfico deepfake durante su campaña electoral demostró el potencial de esta tecnología para socavar la reputación individual, facilitar el ciberacoso y erosionar la confianza en la información veraz, señalando uno de los dilemas legales y de ciberseguridad más urgentes en el panorama digital.