Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

Sockpuppeting (Títeres)

Creación de identidades o perfiles virtuales sintéticos.

Fuente: MIT AI Risk Repositorymit1125

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1125

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.1 > Desinformación, vigilancia e influencia a escala

Estrategia de mitigacion

1. Establecer e imponer la adopción de estándares de procedencia y autenticidad del contenido digital (e.g., C2PA, *watermarking* invisible) para crear un registro histórico verificable que permita identificar con precisión las identidades y el contenido de origen sintético generado por IA. 2. Implementar mecanismos de detección avanzados, basados en la analítica de biometría conductual y sistemas de autenticación multi-factor adaptativos, con el fin de reconocer y mitigar las actividades maliciosas (ej. manipulación o exfiltración) ejecutadas por cuentas o perfiles sintéticos. 3. Desarrollar e integrar salvaguardias técnicas proactivas en los modelos de GenAI, como filtros de seguridad robustos y métodos de *jailbreaking* resistentes, para restringir la capacidad de la herramienta de generar perfiles humanos realistas con fines de suplantación o *sockpuppeting*.