Sexualización
La generación, manipulación o difusión de contenido de naturaleza sexual que involucra a un individuo o colectivo, realizada mediante el uso de tecnologías o aplicaciones y sin su consentimiento expreso.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1227
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Integración de la Seguridad en el Diseño ("Safety by Design") Incorporar salvaguardas técnicas y controles preventivos en la arquitectura del sistema de IA para imposibilitar la creación de contenido sexualizado no consensuado ("deepfakes" o herramientas de sexualización no consensuada - NSTs), priorizando la mitigación del riesgo en la fase de ingeniería. 2. Implementación de Trazabilidad y Detección Proactiva Exigir el uso de credenciales de contenido verificables (metadatos o marcas de agua robustas, p. ej., estándares C2PA) en todo el material sintético para asegurar su procedencia. Esto debe complementarse con tecnologías de detección algorítmica para identificar y bloquear de manera proactiva la difusión de imágenes sexuales ilícitas. 3. Fortalecimiento de la Respuesta y la Responsabilidad Establecer mecanismos de denuncia accesibles y eficaces para las víctimas que garanticen la eliminación expedita del contenido ilícito. Además, se debe sancionar de manera rigurosa a los usuarios que generen o diseminen dicho material, cooperando activamente con las autoridades judiciales.