PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.26177v1cs.CL

크기 프로파일 가지치기: 트랜스포머 압축을 위한 캘리브레이션 없는 구조적 어텐션 헤드 제거

Magnitude Profile Pruning: Calibration-Free Structured Attention Head Removal for Transformer Compression

어텐션(attention) 헤드의 구조적 가지치기(structured pruning)는 트랜스포머(Transformer) 언어 모델을 압축하는 하드웨어 친화적인 방법을 제공합니다. 그러나 헤드 수준의 중요도를 측정하는 기존 방법들은 캘리브레이션(calibration) 데이터, 그래디언트(gradient) 계산 또는 헤시안(Hessian) 추정을 필요로 합니다. 이러한 요구사항은 추가적인 오버헤드를 발생시키고 데이터 의존성을 유발합니다. 본 연구에서는 가중치 행 노름(weight row norm)에 대한 통계적 이상치 탐지를 통해 불필요한 헤드를 식별하는 학습(training) 불필요 헤드 중요도 기준인 크기 프로파일(Magnitude Profile, MP) 스코어링을 제시합니다. 투영 가중치가 전체 분포의 주요 군집(population bulk) 내에 속하는 헤드는 가지치기되고, 불균형적으로 큰 표현 용량을 갖는 이상치 노름을 보이는 헤드는 보존됩니다. 나아가 본 연구는 공유된 키-값(key-value) 그룹 점수를 연관된 쿼리 헤드들에 분배함으로써 그룹 쿼리 어텐션(Grouped Query Attention, GQA)을 처리하는 변형인 MP-G를 제안합니다. 12.5%~50% 헤드 희소성(sparsity)에서 WikiText-2 당혹도(perplexity)로 평가된 5개 모델 전반에서, MP-G는 OPT-6.7B의 모든 희소성 수준(12.5%에서 18.46, 25%에서 27.87, 50%에서 152.0)에서 최고 당혹도를 달성합니다. 또한 MP-G는 RoBERTa-large의 12.5% 및 25% 희소성에서 각각 7.27과 10.28의 당혹도 수치를 기록하며 최고 결과를 보여, Wanda-Head, SparseGPT-Head, Gradient-Head를 포함한 캘리브레이션 의존적 기준 모델들을 능가합니다. 이 방식은 순전파(forward pass), 캘리브레이션 샘플 또는 그래디언트 계산을 전혀 요구하지 않습니다. 50% 희소성에서 헤드 가지치기는 어텐션 FLOP을 50% 절감하면서 최대 16%의 매개변수(parameter) 감소를 달성합니다. 우리의 결과는 가중치 전용 통계적 스코어링이 구조적 헤드 가지치기에서 데이터 의존적 방법들과 대등하거나 그 이상의 성능을 보일 수 있음을 보여주며, 트랜스포머 압축을 위한 실용적이고 비용이 전혀 들지 않는(zero-cost) 기준을 제공합니다.