Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

Acoso, Suplantación y Extorsión

Si bien los *deepfakes* y otros contenidos generados por inteligencia artificial pueden potenciar o agravar una amplia gama de perjuicios descritos en este documento, esta sección delimita su análisis a un subconjunto de riesgo muy específico: el abuso de carácter intencional y focalizado en individuos concretos

Fuente: MIT AI Risk Repositorymit484

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit484

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.3 > Fraude, estafas y manipulación dirigida

Estrategia de mitigacion

1. Implementación de Estándares de Autenticación y TrazabilidadExigir la adopción obligatoria de estándares de procedencia y autenticación de contenido (como C2PA) a todos los proveedores de IA generativa. Esto implica la integración de metadatos criptográficamente seguros y marcas de agua digitales en el contenido sintético para garantizar su trazabilidad, facilitar la detección de alteraciones y establecer la responsabilidad en casos de abuso intencional y focalizado.2. Desarrollo de un Marco Regulatorio y de Responsabilidad en la Cadena de SuministroImpulsar la promulgación de legislación especializada y el consenso político internacional para establecer marcos legales que permitan la persecución del fraude, el acoso y el abuso no consentido generados por IA. La regulación debe imponer la diligencia debida y establecer la responsabilidad a lo largo de toda la cadena de suministro del *deepfake* (desarrolladores, plataformas y distribuidores) para asegurar la rendición de cuentas.3. Fortalecimiento de la Alfabetización Digital y MediáticaInstaurar programas integrales de alfabetización mediática, comenzando desde la educación temprana, con el objetivo de dotar a los individuos de las habilidades de pensamiento crítico necesarias para verificar la autenticidad del contenido, identificar la naturaleza sintética de los *deepfakes* y reconocer las tácticas de ingeniería social empleadas en ataques de manipulación dirigida.