폭이 깊이를 이긴다: 폭 중심 접미사 검색으로 GCG 기반 탈옥 최적화 개선
Breadth Beats Depth: Improving GCG-Based Jailbreak Optimization with Breadth-Oriented Suffix Search
Greedy Coordinate Gradient(GCG)와 같은 최적화 기반 탈옥(jailbreak) 공격은 화이트박스(white-box) 소스 모델에서 적대적 접미사(adversarial suffix)를 최적화함으로써 높은 효과와 전이성(transferability)을 달성한다. 그러나 기존 GCG 기반 방법은 평균 적대적 손실(adversarial loss)과 깊은 greedy 검색에 의존하여, 탈옥하기 쉬운 행동을 과도하게 강조하고 접미사 공간의 유망한 영역을 놓칠 수 있다. 본 논문은 폭 중심 접미사 검색을 통해 GCG 기반 탈옥 최적화를 개선하는 plug-and-play 프레임워크인 BOSS를 제안한다. BOSS는 Tail-Focused Adversarial Loss(TFAL), 표준 소스 손실, 행동 커버리지(behavior coverage)로 종단 접미사(terminal suffix)를 선택한 뒤, 여러 짧은 궤적(trajectory)을 탐색하고 유망한 접미사만 선택적으로 이어간다. 공개 벤치마크(benchmark)에서의 실험은 BOSS가 여러 GCG 기반 방법의 공격 성공률을 높이면서 최적화 시간을 줄임을 보여준다.