Volver a la tabla periodica
94pu-94
Gs
Spec
Severidad8/10
Jugar con la Especificación
Cumplimiento técnico de las especificaciones formales del objetivo de manera inesperada que satisface la letra pero viola completamente el espíritu de la intención.
Ficha periodicaExistencialarXiv2021
Julien Roy, Roger Girgis, Joshua Romoff, Pierre-Luc Bacon, Christopher Pal
Estrategia de Mitigación
Especificación de objetivos en lenguaje natural con contexto rico, evaluación humana de espíritu vs. letra, y red-teaming de interpretaciones adversariales.
Número Atómico
94
Gs
ID del riesgo
pu-94
Severidad
8/10
Nivel de Severidad