대규모 언어 모델을 위한 출력 인지 잔차 스트림 가지치기
Output-aware Residual Stream Pruning for Large Language Models
잔차 스트림(residual stream) 가지치기 기법은 모델의 은닉 차원을 축소하여 추론 비용을 줄이지만, 기존 접근 방식들은 일반적으로 활성화 재구성 오차(activation reconstruction error)를 최소화하는 방식으로 이러한 차원을 선택합니다. 이 기준은 다운스트림 레이어의 민감도를 무시한 채 모든 섭동 방향을 동일하게 중요한 것으로 암묵적으로 취급합니다. 본 논문에서는 이러한 방향 의존적 민감도를 직접 고려하는 잔차 스트림 가지치기용 민감도 인지(sensitivity-aware) 접근 방식을 제안합니다. 출력 KL 발산(KL divergence)에 대한 2차 근사를 사용하여 활성화 공분산과 모델 출력의 국소적 민감도 모두를 통해 잔차 스트림 섭동의 영향을 특성화합니다. 그 결과 도출된 부분공간(subspace) 선택 목적 함수는 이 두 양을 결합하지만 직접 최적화하기는 어렵습니다. 이에 본 연구는 부분공간 선택을 민감도 가중 공분산 행렬의 고유값 분해(eigendecomposition)로 단순화하는 다루기 쉬운 스펙트럼 상한(tractable spectral upper bound)을 도출하여, 회전 기반 가지치기 기법의 효율성과 구조적 단순성을 그대로 유지합니다. 여러 인스트럭션 튜닝(instruction-tuned) 언어 모델 계열 전반에 걸쳐, 본 방법은 활성화 정보만을 사용하는 가지치기에 비해 캘리브레이션 KL 발산을 일관되게 줄이고 다양한 압축 수준에서 퍼플렉서티(perplexity) 및 다운스트림 태스크 성능을 개선합니다. 연구 결과는 잔차 스트림 가지치기에서 활성화 에너지만 보존하는 것으로는 불충분하며, 섭동이 모델 출력으로 전파되는 방식을 명시적으로 고려하는 것이 제거할 차원을 선택하는 데 훨씬 효과적인 기준을 제공함을 보여줍니다.