kNNGuard: Turning LLM Hidden Activations into a Training-Free Configurable Guardrail
kNNGuard는 파인튜닝 없이 기존 대규모 언어 모델(LLM)의 숨겨진 활성화(hidden activation) 공간을 활용해 안전하지 않거나 주제를 벗어난 적대적 프롬프트를 탐지하는 가드레일 프레임워크로, 50개의 레이블된 예시만으로 은행을 구성해 다층 kNN 분류를 수행한다. 6개 도메인 평가에서 파인튜닝 기반 최신 가드레일과 동등하거나 우수한 F1 성능을 달성하면서도 추론 속도는 최대 2.7배 빠르고, 새로운 도메인 적응은 10초 이내에 완료된다.