Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso3 - Otro

Limitaciones en precisión generativa del modelo

Los *deepfakes* generados por inteligencia artificial tienen la capacidad de producir información que es convincentemente realista, a pesar de ser enteramente ficticia y artificialmente fabricada.

Fuente: MIT AI Risk Repositorymit956

ENTIDAD

2 - IA

INTENCIÓN

3 - Otro

TIEMPO

3 - Otro

ID del riesgo

mit956

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.1 > Desinformación, vigilancia e influencia a escala

Estrategia de mitigacion

Priorizar la implementación de sistemas de autenticación multifactor (MFA) y mecanismos avanzados de detección, como la biometría conductual y la tecnología de detección de vivacidad ("liveness detection"), para validar la autenticidad de las interacciones y transacciones críticas. Desarrollar y ejecutar programas de capacitación continua y alfabetización digital para el personal, enfocados en el reconocimiento de las señales de alerta ("red flags") visuales y auditivas inherentes a los deepfakes, fortaleciendo así la resiliencia cognitiva frente al *phishing* y la ingeniería social. Establecer un Plan de Respuesta a Crisis formal y documentado para incidentes de deepfake, que defina claramente los procedimientos de verificación, las estrategias de comunicación pública y la colaboración con expertos externos y autoridades regulatorias.