PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25049v2cs.CL

동적 의미론적 라우팅 보정(Dynamic Semantic Routing Calibration)을 통한 LLM 과도 거부 완화

Mitigating LLM Over-Refusal via Dynamic Semantic Routing Calibration

안전성을 위해 정렬(alignment)된 대규모 언어 모델(LLM)은 종종 과도 거부(over-refusal) 문제를 겪으며, 악의적이지 않지만 안전과 관련된 지시를 잘못 거부한다. 기존 연구는 주로 정적 표현 중첩(static representation overlap)에 그 원인을 두었고, 근본적인 동적 메커니즘은 대체로 간과해 왔다. 본 논문에서는 트랜스포머 어텐션 내부의 라우팅 충돌 관점에서 과도 거부에 대한 기계론적 분석을 제시한다. Hypersensitive Safety Heads의 희소 부분집합이 Hard-Safe 프롬프트에서 오작동하여, 무해한 대상 개체를 거부 의미론에 강제로 결합시키는 비정상적인 어텐션 얽힘(attention entanglement)을 보인다는 것을 발견했다. 이는 대상 개체가 필요한 어텐션을 박탈당하는 심각한 고엔트로피(high-entropy) 라우팅 충돌을 유발한다. 이에 대응하기 위해 우리는 경량의 학습 없는(training-free) 추론(inference) 프레임워크인 Semantic Routing Calibration(SRC)을 제안한다. SRC는 추론 단계에서 이러한 과민 안전 헤드를 정확히 특정하고 동적으로 억제한다. 후속 디코딩 과정에서 안전성 정규화(safety regularizer) 역할을 하는 이중 분기 로짓(logits) 융합과 결합하여, SRC는 신뢰할 수 있는 추론을 매끄럽게 복원한다. 광범위한 실험을 통해 SRC가 과도 거부를 완화하면서 내재적 안전성 성능을 가능한 한 유지함을 보여준다.