폭이 깊이를 이긴다: 폭 중심 접미사 검색으로 GCG 기반 탈옥 최적화 개선
Breadth Beats Depth: Improving GCG-Based Jailbreak Optimization with Breadth-Oriented Suffix Search
한국어 초록
Greedy Coordinate Gradient(GCG)와 같은 최적화 기반 탈옥(jailbreak) 공격은 화이트박스(white-box) 소스 모델에서 적대적 접미사(adversarial suffix)를 최적화함으로써 높은 효과와 전이성(transferability)을 달성한다. 그러나 기존 GCG 기반 방법은 평균 적대적 손실(adversarial loss)과 깊은 greedy 검색에 의존하여, 탈옥하기 쉬운 행동을 과도하게 강조하고 접미사 공간의 유망한 영역을 놓칠 수 있다. 본 논문은 폭 중심 접미사 검색을 통해 GCG 기반 탈옥 최적화를 개선하는 plug-and-play 프레임워크인 BOSS를 제안한다. BOSS는 Tail-Focused Adversarial Loss(TFAL), 표준 소스 손실, 행동 커버리지(behavior coverage)로 종단 접미사(terminal suffix)를 선택한 뒤, 여러 짧은 궤적(trajectory)을 탐색하고 유망한 접미사만 선택적으로 이어간다. 공개 벤치마크(benchmark)에서의 실험은 BOSS가 여러 GCG 기반 방법의 공격 성공률을 높이면서 최적화 시간을 줄임을 보여준다.
원문 초록
Optimization-based jailbreak attacks such as Greedy Coordinate Gradient (GCG) achieve strong effectiveness and transferability by optimizing adversarial suffixes on white-box source models. However, existing GCG-based methods rely on averaged adversarial loss and deep greedy search, which can over-emphasize easy-to-jailbreak behaviors and overlook promising regions of the suffix space. We propose BOSS, a plug-and-play framework that improves GCG-based jailbreak optimization through breadth-oriented suffix search. BOSS uses Tail-Focused Adversarial Loss (TFAL), standard source loss, and behavior coverage to select terminal suffixes, then explores multiple short trajectories and selectively continues promising suffixes. Experiments on public benchmarks show that BOSS improves attack success rates across multiple GCG-based methods while reducing optimization time.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.02172v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.