GateWatch: 불리언 회로를 이용한 저오버헤드 LLM 모니터링
GateWatch: Low-Overhead LLM Monitoring with Boolean Circuits
한국어 초록
대규모 언어 모델(LLM)과 LLM 기반 에이전트의 배포가 늘어남에 따라, 안전하지 않거나 의도하지 않은 행동을 탐지하기 위해 이들의 행동을 모니터링하는 것이 중요해지고 있다. 활성화 프로브는 효율적인 접근법이지만, 기존 방법은 정확도, 해석 가능성, 계산 오버헤드 사이의 상충 관계에 직면한다. 원시 활성화에 대한 프로브는 해석 가능한 입력이 없는 반면, 희소 오토인코더(SAE) 프로브는 해석 가능한 특징을 사용하지만 흔히 가법적 분류기와 큰 SAE 인코더에 의존하여 해석 가능성을 제한하고 메모리 오버헤드를 증가시킨다. 본 논문은 소수의 이진화된 SAE 특징에 대한 명시적 불리언 논리로 전체 결정 규칙을 표현하는 간결하고 해석 가능한 분류기인 GateWatch를 소개한다. 지정된 게이트 예산 하에서 이러한 회로를 구성하는 세 가지 접근법을 탐구한다. 효율적인 배포를 위해 GateWatchServe는 선택된 SAE 특징만 계산하고, 추론 중 층 간에 그 이진 값을 스트리밍할 수 있게 하며, 간결한 룩업 테이블을 사용해 여러 GateWatch 분류기를 병렬로 평가한다. Gemma-2-9B의 24개 과제에서 GateWatch는 프로브당 평균 3.8개의 SAE 특징과 3.5개의 논리 게이트만으로 평균 테스트 정확도 80.49%를 달성하였으며, 이는 16K 특징 전체 SAE 프로브보다 단 1.17%p 낮은 수준이면서 10개 과제에서는 동등하거나 더 우수하고 프로브 메모리를 99.98% 감소시킨다. vLLM 내에서 1,000개의 동시 다층·다토큰 GateWatch 분류기는 기준 처리량의 97-98%와 KV 캐시 용량의 99.8%를 유지한다.
원문 초록
As large language models (LLMs) and LLM-based agents are increasingly deployed, monitoring their behavior becomes important for detecting unsafe or unintended actions. Activation probes offer an efficient approach, but existing methods face trade-offs between accuracy, interpretability, and computational overhead. Probes on raw activations lack interpretable inputs, whereas sparse autoencoder (SAE) probes use interpretable features but often rely on additive classifiers and large SAE encoders, limiting interpretability and increasing memory overhead. We introduce GateWatch, a compact, interpretable classifier that expresses its entire decision rule as an explicit Boolean logic over a small number of binarized SAE features. We explore three approaches to constructing these circuits under a specified gate budget. For efficient deployment, GateWatchServe computes only selected SAE features, enables streaming of their binary values across layers during inference, and evaluates multiple GateWatch classifiers in parallel using compact lookup tables. Across 24 tasks on Gemma-2-9B, GateWatch achieves 80.49% mean test accuracy using only 3.8 SAE features and 3.5 logic gates per probe on average, just 1.17 percentage points below full 16K-feature SAE probes, while matching or outperforming them on 10 tasks and reducing probe memory by 99.98%. Inside vLLM, 1,000 concurrent multi-layer, multi-token GateWatch classifiers retain 97-98% of baseline throughput and 99.8% of KV-cache capacity.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24619v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.