수축 제약 상태 공간 모델을 통한 유계 도달 가능성 및 탈옥 탐지
Bounded Reachability & Jailbreak Detection via Contraction-Constrained State Space Models
안전 헤드(safety head)는 생성 전에 유해한 입력을 감지하기 위해 사전학습(pre-training)된 언어 모델에 부착되는 경량 분류기입니다. 이들의 실증적인 탐지 성능은 연구되었으나, 정형화된 강건성(robustness) 특성은 여전히 거의 탐구되지 않은 상태입니다. 본 연구에서는 상태 공간 모델(State Space Model, SSM) 기반 안전 헤드가 유계 임베딩(embedding) 공간 섭동(perturbation) 내의 모든 입력에 대해 동일한 예측을 생성함을 언제 보증할 수 있는지 묻습니다. 우리는 그 답이 단 하나의 조건에 달려 있음을 증명합니다. 즉, 상태 전이 행렬의 $l_\infty$ 노름이 $\norm{A}_\infty<1$(수축 조건, contraction condition)을 만족해야 하며, 이는 선형 시불변 분류기에 대한 정확한 구간 경계 전파(interval bound propagation, IBP) 보증을 가능하게 합니다. 수축 조건이 성립할 때 도달 가능한 출력 구간은 유계의 정상 상태(steady-state) 너비를 가지며 예제들이 강건하게 분류된 것으로 보증될 수 있습니다. 반면 조건이 성립하지 않으면 구간이 시퀀스 길이에 따라 지수적으로 증가하여 실용적인 섭동 반경에서는 보증이 불가능해집니다. 우리는 힌지 페널티(hinge penalty)로 수축을 강제하며, 유해 댓글 데이터에서 보증 비율이 41%에서 59%로 향상되고 이론과 일치하게 $\norm{A}_\infty=1$에서 뚜렷한 실증적 상전이(phase transition)가 나타남을 보입니다. JailbreakBench의 탈옥(jailbreak) 탐지에 수축 정규화된 S4 헤드를 적용하여, AdvBench(탐지율 DR=0.994) 및 HarmBench(DR=0.988)로의 제로샷(zero-shot) 전이를 달성했습니다. 평균 풀링(mean-pooled)된 Mamba-130M 임베딩에 대한 로지스틱 회귀는 모든 탐지 지표에서 S4 헤드와 대등하거나 이를 능가하여, 유해한 의도가 임베딩 공간에서 이미 선형적으로 분리 가능함을 확인해 줍니다. S4 안전 헤드의 기여는 더 뛰어난 구별 능력이 아니라, 프로브(probe) 기반 접근법에서는 제공할 수 없는 정형 보증(formal certification)을 제공한다는 점입니다.