Volver a la tabla periodica
19k-19
Ev

Evasión

Severidad7/10

Ataques de Evasión

Modificaciones sutiles y adversariales en los inputs diseñadas para engañar a clasificadores o sistemas de detección, explotando vulnerabilidades en la representación del modelo.

Ficha periodicaSeguridadarXiv2020

Deqiang Li, Qianmu Li

Estrategia de Mitigación

Implementación de Adversarial Training con ejemplos adversariales, aumento robusto de datos (Robust Data Augmentation), y técnicas de certificación de robustez.

Número Atómico

19

Ev

ID del riesgo

k-19

Severidad

7/10

Nivel de Severidad

19
Seguridad
k-19
Ev

Evasión

Ataques de Evasión

RiesgosIA.org
Seguridad • #19

Ataques de Evasión

Ev
Nivel de Severidad7/10

Definición

Modificaciones sutiles y adversariales en los inputs diseñadas para engañar a clasificadores o sistemas de detección, explotando vulnerabilidades en la representación del modelo.

Estrategia de Mitigación

Implementación de Adversarial Training con ejemplos adversariales, aumento robusto de datos (Robust Data Augmentation), y técnicas de certificación de robustez.

Notas / Observaciones

1.
2.
3.
4.
5.
RiesgosIA.org • Tabla Periódica de Riesgos de IARiesgosIA.org