Keep It CALM: 텍스트-이미지 생성에서 전역적 비안전성 가정의 한계 분석
Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation
텍스트-이미지 생성 모델을 위한 학습 없는(training-free) 안전장치는 여러 프롬프트에 걸쳐 광범위하게 적용되는 비안전 방향(unsafe direction)이나 전역 유해 부분공간(global toxic subspace)과 같은 재사용 가능한 안전 신호에 의존하는 경우가 많습니다. 본 논문에서는 이러한 전역적 비안전성(global-unsafety) 가정에 대한 통제된 기하학적 분석을 제공하고, 일관된 커버리지-선택도 트레이드오프(coverage-selectivity trade-off)를 밝혀냅니다. 즉, 컴팩트한 비안전 부분공간은 이질적인 비안전 의미를 포괄하지 못하는 반면, 더 넓은 집계는 안전에 인접한 양성 프롬프트를 점점 더 왜곡합니다. 이러한 발견에 착안하여, 본 연구는 획일적인 전역 제거 대신 프롬프트 국소적 반사실적 보정(prompt-local counterfactual correction)을 적용하는 학습 없는 안전장치인 CALM(Counterfactual Adaptive Local Modulation)을 제안합니다. 매칭된 비안전-양성 앵커를 활용하는 CALM은 각 프롬프트를 활성 비안전 범주로 라우팅하고, 위반하는 토큰 표현만을 안전한 방향으로 최소한으로 편집하며, 양의 방향으로 정렬된 비안전 잔차 성분을 억제합니다. 광범위한 평가를 통해, CALM은 양성 프롬프트의 효용성을 보존하면서도 비안전 콘텐츠 억제를 크게 개선함을 보이며, 국소적 반사실적 보정이 전역적 비안전 신호 제거에 비해 더 선택적인 대안을 제공함을 입증합니다.