Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

Semejanza Apropiada

Manipulación de la Identidad Digital: Empleo o alteración sintética de la imagen, voz u otros rasgos distintivos que permitan identificar a un individuo.

Fuente: MIT AI Risk Repositorymit1124

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1124

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.3 > Fraude, estafas y manipulación dirigida

Estrategia de mitigacion

1. Implementación de soluciones avanzadas de verificación de identidad con detección de vivacidad (Liveness Biometric Verification) y análisis biométrico (como el análisis de movimiento facial, audio y textura) para contrarrestar suplantaciones y deepfakes generados por IA en tiempo real, asegurando la autenticidad del usuario. 2. Establecimiento de un marco legal y contractual robusto que regule el uso de la identidad (derecho de publicidad), incluyendo la obligación de registrar marcas y utilizar acuerdos de licencia (licensing agreements) y acuerdos de confidencialidad (NDAs) para delimitar el alcance y las limitaciones del uso comercial de la imagen, voz u otros rasgos distintivos. 3. Desarrollo e implementación de sistemas de monitoreo continuo (por ejemplo, Google Alerts y herramientas de 'social listening') para la detección proactiva de usos no autorizados de la imagen y la persona. Esto debe complementarse con el marcado (watermarking) obligatorio del contenido generado por GenAI para facilitar la trazabilidad y la rendición de cuentas.