Volver a la tabla periodica
87fr-87
Bd

Backdoor

Severidad8/10

Puertas Traseras Ocultas

Disparadores maliciosos ocultos (triggers) insertados en modelos que activan comportamientos peligrosos o no autorizados solo bajo condiciones específicas.

Ficha periodicaSeguridadarXiv2024

Khondoker Murad Hossain, Tim Oates

Estrategia de Mitigación

Limpieza y sanitización rigurosa de datos de entrenamiento, detección de backdoors mediante análisis de activaciones, y técnicas de Neural Cleanse y Fine-Pruning.

Número Atómico

87

Bd

ID del riesgo

fr-87

Severidad

8/10

Nivel de Severidad

87
Riesgo Crítico
Seguridad
fr-87
Bd

Backdoor

Puertas Traseras Ocultas

RiesgosIA.org
Seguridad • #87

Puertas Traseras Ocultas

Bd
Nivel de Severidad8/10

Definición

Disparadores maliciosos ocultos (triggers) insertados en modelos que activan comportamientos peligrosos o no autorizados solo bajo condiciones específicas.

Estrategia de Mitigación

Limpieza y sanitización rigurosa de datos de entrenamiento, detección de backdoors mediante análisis de activaciones, y técnicas de Neural Cleanse y Fine-Pruning.

Notas / Observaciones

1.
2.
3.
4.
5.
RiesgosIA.org • Tabla Periódica de Riesgos de IARiesgosIA.org