네이티브 4비트를 지원하는 가속기에서 저비트 추론(inference)을 수행할 때 해당 포맷이 제공하는 전체 처리량 향상을 온전히 달성하려면 가중치(weight)와 활성화(activation)를 모두 양자화해야 합니다. 사후 학습(post-training) 가중치 양자화는 광범위하게 연구되어 왔지만, 활성화 양자화는 여전히 훨씬 더 까다로우며 일반적으로 캘리브레이션 데이터를 필요로 합니다. 본 연구에서는 가중치 재구성 평균 제곱 오차(MSE)를 직접 최소화하고, 그 직접적인 부산물로서 활성화 양자화에 앞서 채널별 활성화 재스케일링을 생성하는 이중 스케일(dual-scale) 캘리브레이션 프리 사후 학습 양자화 프레임워크인 DUALQUANT를 소개합니다. 우리의 핵심 관찰은 가중치 재구성 오차를 최소화하여 얻은 스케일링 팩터가 효과적인 활성화 재스케일링을 제공하여, 캘리브레이션 데이터 없이도 경쟁력 있는 활성화 양자화를 가능하게 한다는 점입니다. 우리는 DUALQUANT를 미분 불가능한 가중치 재구성 문제로 공식화하고, 각 하위 문제가 닫힌 형식의 해(closed-form update)를 갖는 변수 분할(variable splitting) 및 블록 좌표 강하법(block coordinate descent) 기반의 효율적인 솔버를 개발했습니다. DUALQUANT는 전체 MX 패밀리와 NVFP4를 포함한 광범위한 포맷을 지원하는 통합 알고리즘을 제공합니다. 우리가 아는 한, DUALQUANT는 MX 및 NV 블록 포맷을 공식적으로 지원하는 최초의 이중 스케일링 기법입니다. WikiText-2, C4 및 제로샷(zero-shot) 다운스트림 태스크에서 평가된 Llama 및 Qwen 모델 전반에 걸쳐, DUALQUANT는 대부분의 모델 및 포맷에서 캘리브레이션 기반 SmoothQuant의 정확도에 필적하거나 이를 능가하며, 캘리브레이션 프리 베이스라인들을 크게 능가하고 MX 및 NV 블록 포맷에 대해 큰 폭의 향상을 달성했습니다. 우리는 RTX 4090 환경에서 Llama-3.1-8B에 대한 실제 패킹된 W4A4 추론 경로를 통해 이러한 성능 향상을 검증했습니다. 그 결과 구현체는 가상 양자화(fake quantization)의 정확도와 거의 일치하면서도 BF16 대비 최대 2.61배의 메모리 절감과 최대 2.46배의 처리량 속도 향상을 제공합니다.
대규모 언어 모델의 추론이 더 낮은 정밀도로 전환됨에 따라 사후 학습 양자화(PTQ)는 점점 더 취약해지고 있으며, 모델 품질을 보존하기 위해 양자화 인지 학습(QAT)이 필수적이 되었습니다. 그러나 QAT에는 구조적 불일치가 존재합니다. 그래디언트 업데이트는 잠재된 전정밀도 가중치에 적용되는 반면, 손실과 그래디언트는 해당 가중치의 손실성 재구성 값에서 계산됩니다. 이러한 불일치는 차선의 학습 경로와 더 높은 손실 하한(loss floor)으로 이어질 수 있습니다. 2차 PTQ 방식들은 손실 인지 재구성 오차를 최소화하여 유사한 문제를 해결하지만, 가중치가 계속 변화하는 QAT 도중에 이처럼 비용이 큰 재구성을 반복적으로 적용하는 것은 비실용적입니다. 본 논문에서는 경량의 손실 인지 재구성을 학습 루프에 도입한 QAT 방식인 QUASAR를 제안합니다. 매 학습 단계마다 QUASAR는 작은 클리핑 범위 집합을 탐색하고 중요도 가중 최소제곱법을 통해 역양자화 매개변수를 적합함으로써 잠재 가중치를 재구성합니다. 이때 파라미터별 중요도 신호로는 그래디언트 제곱의 지수 이동 평균을 사용합니다. 이론적 분석 결과, QUASAR의 재구성 목적식을 최적화하면 QAT의 수렴 한계와 최종 손실 한계가 모두 엄밀해짐을 보여줍니다. 4가지 모델 계열과 INT4, INT3, INT2 및 NVFP4 양자화 포맷 전반에 걸쳐 QUASAR를 평가했습니다. QUASAR는 경쟁 QAT 방식들보다 지속적으로 더 낮은 학습 및 평가 손실을 달성하며, 다운스트림 벤치마크에서 기존 QAT 및 PTQ 기준선을 능가합니다. INT2에서 QUASAR는 양자화 인지 지식 증류를 적용했을 때 최고 QAT 기준선 대비 평균 정확도를 13.3점 향상시켰고, 수학적 추론 데이터에 대한 QAT에서는 10.9점 향상시켰습니다. 특히 약 6억 개의 토큰만을 대상으로 증류한 후에도 QUASAR의 INT4 Gemma-4 E4B 체크포인트는 Google이 공개한 해당 QAT 체크포인트를 능가하여, KL 발산은 66% 더 낮추고 평균 정확도는 1.8점 더 높은 성과를 거두었습니다.
대규모 언어 모델(LLM)을 위한 그룹별 사후 학습 양자화(quantization)기는 결과로 나오는 정수 코드에 재적합되지 않는 격자 위로 가중치를 반올림합니다. 본 논문에서는 이러한 방식이 정확도 손실을 남긴다는 점을 보입니다. 즉, 최적의 격자는 코드에 따라 달라지고, 입력 상관관계로 인해 서로 다른 그룹의 오차가 결합되며, 유용한 코드 변경은 종종 여러 코드를 한 번에 바꾸는 것과 관련됩니다. 우리는 임의의 그룹별 양자화기에서 출발하여 모든 그룹 스케일의 결합 최소제곱 적합과 현재 격자에서 한 그룹의 여러 코드를 함께 이동시키는 유계 바바이(Babai) 제안을 번갈아 수행하는 플러그인 개선 기법인 JARQ를 제안합니다. 이 문제는 이중선형 상자 제약 혼합 정수 최소제곱 문제이며, 솔버는 역전파(backpropagation)를 사용하지 않고 정확한 스케일 풀이 조건에서 층별 목적 함수를 증가시키지 않으며, 호스트의 비트 폭, 그룹, 제로 포인트 및 추론(inference) 비용을 유지합니다. RTN, GPTQ, OmniQuant, AWQ 호스트를 사용하는 Llama-2, Llama-3, Qwen 모델 전반에서 JARQ는 96개 비교 중 90개에서 퍼플렉서티(perplexity)를 낮추고, 3비트 RTN 퍼플렉서티를 최대 36%까지 줄이며, 24개 구성 중 23개에서 평균 객관식 정확도를 높이고, 7B 블록당 1분 미만의 시간으로 QEP, QuaRot, OJBKQ 출력을 개선합니다.
마이크로스케일링(Microscaling, MX) 포맷은 효율적인 학습(training) 및 추론(inference)을 위한 하드웨어 지원 접근법으로 주목받고 있습니다. 이 방식은 저정밀도(low-precision) 요소와 공유 블록 스케일을 결합하지만, 비전 모델에 미치는 영향은 아직 충분히 연구되지 않았습니다. 본 연구에서는 다양한 비전 모델 및 작업 전반에 걸쳐 사후 학습(post-training) MX 양자화(quantization)를 체계적으로 조사합니다. 직접 변환에 대한 분석을 통해 세 가지 오차 원인을 확인했습니다. 즉, 블록 스케일 표현, 일부 소형 합성곱 가중치(weight) 텐서와 비균일 요소 그리드 간의 불량한 정렬, 그리고 비음수 활성화 값에 의한 부호 있는 코드의 불충분한 활용입니다. 이러한 발견을 바탕으로, 유계 가중치 반올림(bounded weight rounding)을 최적화하고 활성화 값에 접을 수 있는 아핀 보정(foldable affine correction)을 적용하는 사후 학습 MX 양자화 방법인 VisionMX를 제안합니다. 여러 MX 스타일 포맷을 사용하여 이미지 분류(image classification), 객체 검출(object detection), 시맨틱 분할(semantic segmentation), 저조도 이미지 향상 작업 전반에서 VisionMX를 평가했습니다. VisionMX는 직접 변환 및 평가된 사후 학습 양자화 기준 모델들을 개선하며, MX 변환에 가장 민감한 아키텍처에서 가장 큰 폭의 성능 복구를 달성합니다.
비전-언어-행동(Vision-Language-Action, VLA) 모델은 시각적 관측과 언어 지시문을 연속적인 로봇 동작에 매핑하지만, 확산(diffusion) 기반 동작 전문가(Action Expert, AE)는 저비트 사후 학습 양자화(PTQ)에서 핵심적인 난제를 제기합니다. AE는 노이즈 제거(denoising) 단계 및 정책 질의에 걸쳐 반복적으로 호출되는데, 고정된 캘리브레이션 스케일은 노이즈 제거 진행 상황 및 의도된 모션에 따라 변하는 활성화 범위와 불일치할 수 있습니다. 본 논문에서는 정책에서 손쉽게 얻을 수 있는 VLA 고유의 신호인 생성된 동작 청크(실행되지 않은 미래 접미사 포함)를 활용하는 청크 인식 PTQ 방법인 CHASE-VLA를 제안합니다. CHASE-VLA는 AE 레이어에 대한 정적 스케일 매칭에만 의존하는 대신, 이전에 생성된 청크를 인과적 동작 컨텍스트로 노이즈 제거 단계 그룹 정보와 결합하여 AE 활성화 스케일을 적응시킵니다. 이를 통해 사전학습된 정책을 수정하지 않고도 반복 호출되는 AE의 MLP 및 어텐션 프로젝션 모두에 대해 W4A4 양자화를 가능하게 합니다. LIBERO에서 CHASE-VLA는 AE의 MLP 및 어텐션 프로젝션이 모두 W4A4로 양자화되었을 때 $π_{0.5}$에서 97.3%의 평균 성공률을 달성하여 FP16 수준의 성능을 복원합니다. 또한 CHASE-VLA는 양자화된 AE 선형 레이어의 가중치 저장 공간을 73.4% 줄이고, 절약된 저장 공간의 최대 1.26%에 불과한 예측기 오버헤드만으로 $π_{0.5}$ 및 GR00T N1.6에서 단일 청크 메모리 트래픽을 각각 70.9%와 71.2% 감소시킵니다.
대규모 언어 모델(LLM)은 방대한 메모리 사용량과 높은 추론(inference) 비용으로 인해 배포 비용이 많이 듭니다. 가중치-활성화 양자화(quantization)는 이러한 비용을 줄일 수 있지만, 활성화 이상치(outlier)가 큰 양자화 오차를 유발하기 때문에 저비트 활성화 양자화는 여전히 어려운 과제로 남아 있습니다. 최근 회전 기반 방식들은 차원 전반에 걸쳐 활성화 크기를 재분배하는 직교 변환을 적용하여 이 문제를 해결하지만, 기존 접근법들은 비용이 많이 드는 엔드투엔드 회전 학습(training)을 요구하거나 저장된 활성화 말뭉치에 의존하여 상당한 연산 또는 스토리지 오버헤드를 발생시킵니다. 본 논문에서는 LLM 활성화 양자화를 위한 가벼운 사후 학습(post-training) 회전 캘리브레이션 방법을 제안합니다. 제안하는 방법은 정규화된 활성화를 내접 초입방체(hypercube)의 모서리에 정렬하는 직교 회전을 학습하여, 활성화 에너지가 차원 전반에 더욱 고르게 분산되도록 유도합니다. 이 목적 함수는 직교 프로크루스테스 문제(orthogonal Procrustes problem)를 통해 효율적인 닫힌 형태 해(closed-form) 업데이트를 가능하게 하여 직교군(orthogonal group) 상에서의 그래디언트(gradient) 기반 최적화를 피할 수 있습니다. 나아가 캘리브레이션 샘플이 처리됨에 따라 회전을 갱신하는 온라인 캘리브레이션 절차를 도입하여, 디스크에 활성화를 저장할 필요성을 없애고 캘리브레이션 중 양자화된 활성화 분포에 회전이 적응할 수 있도록 합니다. 3B부터 70B 파라미터 규모의 Llama-2 및 Llama-3 모델을 대상으로 한 실험을 통해, 제안하는 방법이 값비싼 엔드투엔드 학습과 대규모 오프라인 활성화 저장을 모두 피하면서도 퍼플렉서티(perplexity) 벤치마크 및 상식 추론 태스크 전반에서 경쟁력 있거나 향상된 성능을 달성함을 보여줍니다.
디퓨전 모델을 위한 사후 학습 양자화(PTQ)는 타임스텝, 특징(feature) 및 층(layer) 구조를 점점 더 적극적으로 활용하고 있습니다. 최근 연구에서 디퓨전 양자화에 분류기 없는 유도(CFG) 구조를 통합하기 시작했으나, 활성화(activation) 양자화는 여전히 조건부 및 무조건부 좌표에 걸쳐 독립적으로 작동하여 교차 활성화 구조를 활용하지 못하고 있습니다. 본 연구에서는 매칭된 CFG 활성화가 강하게 상관된 2차원 소스를 형성하며, 고정된 비트 예산 하에서 브랜치 부호화 기저의 선택이 양자화 충실도에 실질적인 영향을 미침을 보여줍니다. 이러한 관찰에 착안하여, 오프라인에서 유도된 2x2 직교 행렬을 통해 매칭된 CFG 브랜치를 회전시켜 모델 파라미터나 양자화 파이프라인의 수정을 최소화하는 브랜치 공간 변환 부호화(branch-space transform coding)를 소개합니다. 나아가 CFG 유도 방향과 브랜치 간 2차 모멘트를 결합하여 반영하는 유도-상관 브랜치 변환(GCBT)을 도출합니다. 동일 비율 양자화 노이즈 대리 지표 하에서 GCBT는 그래디언트(gradient) 최적화나 각도 탐색 없이 층별 닫힌 형태 해(closed-form solution)를 제공합니다. 기존 디퓨전 PTQ 방법론 위에 적용했을 때, GCBT는 기반이 되는 호스트 양자화 파이프라인을 변경하지 않으면서도 통계적으로 유의미한 성능 저하 없이 대부분의 평가 비교에서 통계적으로 유의미한 충실도 향상을 달성합니다.
가중치 공간 사후 학습(post-training) 양자화(PTQ)는 완성된 양자화 모델이 출력 분포 드리프트를 드러내기 전에 유한 형식, 세분화(granularity), 양자화기(quantizer) 계열, 변환, 비트 수를 정해야 한다. 기존 PTQ 방법은 재구성 오류, 헤시안 민감도, 변환 효과, 하류 손실 등 이러한 성능 저하의 중요한 요소를 예측하지만, 이러한 요소는 보통 양자화 기하(geometry)를 고정한 뒤 또는 서로 다른 구성군(configuration family) 안에서 따로 점수화된다. 우리는 가중치 공간 PTQ를 가격이 매겨진 층 출력 오류를 이용한 배포 전 구성 선택 문제로 형식화한다. 각 허용 가능한 층 구성은 배포 비용을 지닌 오류 생성기로 취급되며, 이는 층 출력 오류 공분산 $\boldsymbol{\Sigma}_l(\alpha_l)$을 유도하고, full-precision 모델은 하류 곡률(curvature)로 그 공분산에 가격을 매긴다, $\widehat{\rho}_l(\alpha_l)=\frac{1}{2}\operatorname{Tr}\left(\widehat{\mathbf{H}}_l\,\widehat{\boldsymbol{\Sigma}}_l(\alpha_l)\right)$. 이 가격은 full-precision에서 양자화 모델로의 순방향 KL에서 유도되며, 1차 항은 기준(reference) 모델에서 상쇄된다. 이를 통해 재구성 및 대각(diagonal) 점수는 가격 인수를 떨어뜨린 축약 프록시가 되고, 유한 형식, 코드북(codebook), 세분화, 동등(equivalent) 변환은 유도하는 공분산과 지불하는 비용을 통해 비교 가능한 후보가 된다. trace 축약(reduction)은 보정(calibration) 시점 가격 테이블과 예산 제약 가격 안내(price-guided) 선택기를 산출하며, 고정 기하 비트 할당을 조직화 문제가 아니라 특수한 경우로 만든다.
대규모 언어 모델(LLM)은 다양한 언어 과제에서 뛰어난 능력을 보여주었으며, 이는 멀티모달 이해를 위한 비전-언어 모델(VLM)로의 확장을 이끌었다. 그러나 수십억 개의 매개변수를 가진 VLM은 상당한 메모리 및 연산 비용을 수반하여 자원이 제한된 환경에서의 배포를 어렵게 한다. 사후 학습 양자화(PTQ)는 재학습 없이 모델을 압축하고 추론을 가속화하지만, VLM에 대해서는 아직 충분히 연구되지 않았다. 우리는 PTQ에서 나타나는 두 가지 고유한 VLM 활성화 특성을 확인하였다: (1) 비전 토큰이 과도하고 종종 중복되는 시각적 과대표현(visual over-representation), (2) 잠재 특징 공간에서 텍스트 토큰과 비전 토큰을 분리하는 모달리티 간극(modality gap)이다. 기존 방법들은 이러한 특성을 대체로 간과하여 양자화 성능 저하를 초래한다. 이러한 불일치를 해결하기 위해, 우리는 캘리브레이션 과정에서 중요한(salient) 토큰을 우선시하고 중복된 비전 토큰을 억제하는 중요도 인식(importance-aware) PTQ 프레임워크인 SalQ-VLM을 제안한다. 우리는 토큰 수준의 중요도 분산을 포착하며 손실 변동, 활성화 오차, 출력 그래디언트 간의 관계에 이론적으로 근거한 그래디언트 기반 중요도 인자(gradient-driven importance factor)를 도출한다. SalQ-VLM은 단일 경량 블록 단위 그래디언트 캐싱(block-wise gradient-caching) 패스를 통해 이 인자를 얻고, 이를 층별(layer-wise) 재구성 목적함수에 통합한다. SalQ-VLM은 캘리브레이션만을 수정하기 때문에 추론 시 추가 연산이 발생하지 않으며 기존의 고성능 커널과도 호환된다. 다양한 벤치마크와 백본에 대한 광범위한 평가 결과, SalQ-VLM은 특히 초저비트(ultra-low-bit) 양자화 환경에서 강력한 PTQ 베이스라인들을 일관되게 능가함을 보여준다. 특히, INT2g128 양자화 환경에서 MME-RealWorld 정확도를 16.45% 향상시켰다.
대규모 언어 모델의 사후 학습 양자화(PTQ)는 4비트 미만의 정밀도에서 성능이 급격히 저하된다. 우리는 그 근본 원인을 잔차 스트림 분포 드리프트로 규명한다: 각 트랜스포머 층에서 주입된 양자화 노이즈가 공유 잔차 표현에 누적되어, FP16 기준선으로부터의 KL 발산이 깊이에 따라 초선형적으로 증가한다(로그 퍼플렉서티와 Pearson r=0.999, p<0.001이며, 테스트된 모든 방법과 비트폭에서 확인됨). 우리는 LLaMA-3-8B 층의 84%가 비가우시안 잔차 분포를 보이며(KS 검정, p≤0.05), 층별 잔차 스트림 분산이 깊이에 걸쳐 6,548배 증가함을 발견하였다. 우리는 RDQ(Residual Distribution Quantization)를 제안한다. 이는 핵심 기여인 Cascaded Error Compensation(CEC)을 갖춘 PTQ 프레임워크로, 이미 양자화된 상위 층을 통해 교정 데이터를 실행하여 각 층이 실제로 수신하는 드리프트된 활성화를 포착하고, 해당 드리프트된 입력에 대해 채널별 AWQ 방식의 스케일을 적합시키며, 추론 오버헤드 없이 정확한 수학적 동등성을 위해 스케일을 선행 RMSNorm 가중치에 접합한다. RDQ는 테스트된 세 가지 아키텍처 모두에서 최첨단 결과를 달성한다: LLaMA-3-8B: 7.55 / 5.62 PPL (W3/W4); Qwen-2.5-7B: 7.46 / 6.38 PPL; Mistral-7B: 6.88 / 5.73 PPL. RDQ는 모든 모델과 비트폭 조합에서 최고의 공개 기준선(LeanQuant/SpinQuant)을 능가하며, LLaMA-3-8B의 W3A16에서 RTN 대비 최대 -46.4%의 성능 향상을 달성한다. 모든 출력은 표준 group-128 비대칭 양자화로, Qualcomm AIMET, GGUF 및 모든 표준 추론 스택에 런타임 오버헤드 없이 배포 가능하다.
층별 사후 학습 양자화는 각 층의 재구성 오차를 독립적으로 최소화하므로, 양자화 오차가 깊이에 걸쳐 누적되어 극저비트 영역에서 심각한 성능 저하를 초래한다. 우리는 양자화를 모든 층의 이산 코드와 스케일에 대한 공동 최적화로 공식화하며, 두 가지 메커니즘으로 구동한다: (i) 층 간 오차 보상으로, 층의 입력 미분에서 유도된 전파 연산자 A_l과 교사 특징에서 평가된 국소 양자화 잔차 q_l을 통해 재귀 e_{l+1} = A_l e_l + q_l로 네트워크 수준의 누적 오차를 유지한다; (ii) 유한 표본 특징 통계 매칭으로, 상대 정규화 하에서 전체 정밀도 네트워크와 양자화 네트워크 간의 평균, 투영 공분산, 중심화된 경험적 커널을 정렬한다. 양자화 네트워크의 유한 차분으로 전파 연산자를 구현하면 임의의 비선형 층에 대해 재귀가 정확해짐을 증명하며, 이를 통해 효율적인 순방향 차분 구현이 가능하다. 이진 가중치는 역온도 annealing과 그룹별 log 스케일을 갖춘 미러 하강 매개변화 u = tanh(beta*z)를 통해 최적화한다. Qwen2.5-1.5B에서 1.125-bit 그룹 이진 가중치로, 오차 보상만으로 FP16 교사 대비 perplexity 비율 9.56 +/- 0.15에 도달하며, 로짓 증류(14.09 +/- 0.53; 상대 32%, 3개 시드에서 8 시그마 이상)와 층-국소 재구성보다 두 차수만큼 우수하다. 동일한 목적 함수는 변경 없이 4-bit 양자화에도 전이되며(층-국소 대비 1.060 vs. 1.088). 도메인 외 평가(C4, CNN/DailyMail)에서 오차 보상의 이점은 도메인 외에서 더 커지는 반면, 통계 매칭은 도메인 외에서도 특징 통계 불일치를 낮게 유지한다(해당 없을 때 1.41-2.99 대비 0.42-0.88), 두 메커니즘 간 상호 보완적 역할 분담을 보여준다.
우리는 ExTernD(Expanded-rank Ternary Decomposition, 확장-랭크 삼원 분해)를 제안한다. 이는 각 LLM 가중치 행렬 $A \in \mathbb{R}^{m \times n}$을 삼원 인수 $B \in \{-1,0,+1\}^{m \times k}$, $C \in \{-1,0,+1\}^{k \times n}$ 및 실수 스케일 벡터 $D \in \mathbb{R}^k$를 갖는 $A \approx B \mathrm{diag}(D) C$ 형태로 사후 학습 분해하는 방법이다. 내부 랭크 $k = μ\min(m,n)$은 의도적으로 full rank($μ> 1$)를 넘어 확장되어, full rank 이후의 성분들이 앞선 성분들의 양자화 오차를 보정한다. 우리는 잔차가 $k$에 대해 단조 감소하며 임의의 $\varepsilon > 0$ 아래로 낮출 수 있음을 증명한다. ExTernD는 bf16 정확도에 임의로 가깝게 접근하며, 고정된 평면 수를 갖는 어떤 삼원 방식도 이를 달성할 수 없다. 메모리와 연산량은 $μ$에 따라 연속적으로 스케일링되고, 인수 희소성은 임계값 $τ$에 따라 연속적으로 변하므로, 정확도 목표를 다음 비트 폭으로 반올림하는 대신 정확히 충족할 수 있다. ExTernD는 Gemma-4-E2B와 Qwen3.5-4B에서 행렬당 5.2–5.5 effective bpw(중요도 가중치 적용 시 5.1–5.5)로 Q4_K의 행렬별 정확도와 일치한다. $μ= 3$에서 Qwen3.5-4B 전체 변환 시 wikitext-2 perplexity는 10.10으로, bf16의 9.78(+3.2%)에 비해 ~5.7 effective bpw에서 Q4_K/Q5_K 정확도 구간에 근접한다.
사후 학습 양자화(PTQ)는 제한된 메모리 및 연산 자원 환경에서의 배포를 위해 심층 신경망을 압축한다. 그러나 저비트(즉, 2비트 또는 4비트) PTQ는 성능 저하가 크다는 문제가 자주 발생한다. 기존 PTQ 방법들의 대부분은 제약 없는 전체 정밀도(FP) 모델을 대상으로 하며, 주로 사후 재구성을 통해 양자화 오류를 처리한다. 본 논문에서는 저비트 PTQ의 정확도가 양자화 후 오류 최소화뿐만 아니라 FP 모델 자체의 양자화 오류 허용 능력에 의해서도 제한된다고 주장한다. 이에 따라, PTQ 이전에 확률적 경사하강법(SGD)으로 최적화된 모델에 적용하는 사전 조건화 튜닝 단계인 ETBQ(Efficient Tuning Before Quantization)를 제안한다. 튜닝 과정에서 FP 모델은 가중치 및 활성화 양자화의 오류 분포에서 샘플링된 섭동 하에 최적화되며, 이를 통해 모델이 이후 PTQ에 덜 민감한 손실 지형 영역으로 유도된다. 양자화 인식 학습(QAT)과 달리, ETBQ는 연산 및 메모리 집약적인 가짜 양자화 배포 모델을 학습하지 않는다. 대신, ETBQ는 임의의 PTQ 백엔드에서 사용 가능한 FP 모델을 출력한다. CIFAR-100, Tiny-ImageNet, ImageNet, Cityscapes에서의 실험은 ETBQ가 다양한 태스크에서 저비트 PTQ를 일관되게 향상시킴을 보여준다. W2A4 설정에서 예를 들어, ETBQ는 Tiny-ImageNet에서 단순 PTQ 대비 top-1 정확도를 2.14% 향상시키고 Cityscapes에서 mIoU를 5.80% 향상시킨다. 코드는 https://github.com/xpxpxp2001xpxpxp/ETBQ에서 확인할 수 있다.
사후 학습 양자화(PTQ)는 재학습 없이 대규모 언어 모델(LLM)을 압축하기 위해 널리 사용되는 기법이다. GPTQ를 포함한 기존의 2차 PTQ 방법들은 입력 활성화 통계만을 이용하여 양자화 목적 함수를 구성하며, 이는 모든 출력 채널이 층별 재구성 목적 함수에 동등하게 기여한다고 가정하는 것과 같다. 우리는 그래디언트 공분산을 양자화 파이프라인에 도입함으로써 이 가정에 도전하는 PTQ 프레임워크인 KronQ를 제안한다. 크로네커 인수 헤시안 근사 하에서 양자화 손실은 활성화 공분산과 그래디언트 공분산 모두에 공동으로 의존하며, KronQ는 이를 두 가지 상호 보완적인 수준에서 활용한다. (1) KronQ는 양방향 비일관성 처리(bidirectional incoherence processing)를 도입하여, 그래디언트 공분산을 이용해 기존의 입력 측 랜덤 회전을 출력 차원으로 확장함으로써 입력 및 출력 차원 모두에서 가중치 크기 분산을 줄인다. (2) KronQ는 그래디언트 및 활성화 헤시안 트레이스(trace)를 기반으로 층 간 혼합 정밀도 할당을 위한 새로운 민감도 지표를 도출한다. 특히, LLaMA-3-70B에 대한 2비트 가중치 전용 양자화의 경우, GPTQ와 GPTAQ가 발산하거나 퇴화된 양자화(WikiText-2에서 퍼플렉서티 2000 초과)를 생성하는 반면, KronQ는 7.93의 퍼플렉서티를 달성한다.
양자화(quantization)가 정확도를 유지하면서도 결정 경계(decision boundary) 형태를 크게 변형할 수 있음을 밝히고, 로짓 마진 반경·경계 마스크 Jaccard 거리·다중 클래스 접합부 수 등 유한 스케일 기하 지표를 제안하여 이를 측정한다. 보정 집합 기반의 경계 인식 조기 종료(boundary-aware stopping) 규칙을 적용하면 CIFAR-10에서 6비트 대비 8비트 선택 시 플립률이 0.0367에서 0.0083으로, 경계 Jaccard가 0.184에서 0.048로 대폭 감소함을 실험으로 확인했다.
UniSVQ는 스칼라 양자화(SQ)의 성능 저하와 벡터 양자화(VQ)의 연산·저장 오버헤드 문제를 동시에 해결하기 위해, 코드워드를 정수 격자의 아핀 변환으로 매개변수화하는 통합 2-bit 양자화 프레임워크를 제안한다. 다수의 대규모 언어 모델(LLM) 패밀리와 제로샷(zero-shot) 벤치마크 실험에서 UniSVQ는 최신 SQ 방법을 일관되게 능가하고, 고성능 VQ 방법과 비슷한 정확도를 유지하면서도 더 높은 추론 처리량을 달성함을 입증했다.
Vision Transformer(ViT)는 많은 분야에서 뛰어난 성과를 거두었지만, 상당한 계산 요구량으로 인해 엣지 디바이스에 배포하는 것은 여전히 어렵다. 사후 학습 양자화(PTQ)는 최소한의 학습 오버헤드로 소규모 보정(calibration) 세트를 사용해 모델을 압축하는 매력적인 해결책을 제공한다. 그러나 기존 PTQ 연구 대부분은 모든 인스턴스에 균일하게 적용되는 정적 양자화(static quantization) 패러다임을 채택한다. 자연 이미지의 상당한 다양성을 고려할 때, 활성화 분포는 샘플마다 크게 달라지므로 이러한 방법은 본질적으로 차선이다. 본 논문에서는 ViT의 정확하고 효율적인 양자화 스케일 학습을 위한 동적 양자화 프레임워크인 ScalePredictor를 제안한다. 먼저 얕은 층 활성화의 분포 범위와 더 깊은 층의 최적 스케일 사이에 숨겨진 상관관계가 있음을 밝힌다. 이를 바탕으로, 얕은 단계에서 강건한 범위 통계를 포착하는 효율적인 범위 추출 접근법을 통합한 스케일 학습 메커니즘을 개발하고, 이를 Taylor 기반 다항식 스케일 투영 모듈에 입력하여 모든 양자화 스케일을 동시에 생성한다. 다항식 근사의 효율성 덕분에 ScalePredictor는 미미한 계산 오버헤드를 도입하면서 비용이 큰 just-in-time 보정을 피한다. ImageNet에 대한 광범위한 실험에서 ScalePredictor는 기존 PTQ 방법들을 일관되게 능가하며, 더 유리한 정확도-효율성 트레이드오프를 달성한다. 코드와 추가 결과는 보충 자료에 제시되어 있다.
혼합 전문가(MoE) 기반 멀티모달 대규모 언어 모델(MoE-MLLMs)은 탁월한 성능을 제공하지만 막대한 GPU 메모리 비용을 초래하여 압축이 필수적입니다. 사후 학습 양자화(PTQ) 방법 중 전문가 단위 혼합 정밀도 양자화는 MoE-LLM에서 효과적인 것으로 입증되었으나, 전문가 중요도 추정에서 간과된 두 가지 편향으로 인해 MoE-MLLM에서는 현저한 성능 저하를 겪습니다. (1) 교차 모달(cross-modal) 수준에서, 비전 토큰의 수적 우세로 인해 전문가 선택 빈도가 비전 토큰에 의해 지배되어 텍스트 모달리티에 중요한 전문가가 가려집니다. (2) 비전 내부(intra-vision) 수준에서, 상당한 비율의 중복 비전 토큰이 빈도 통계를 더욱 왜곡하여 정보성 있는 시각적 콘텐츠에 중요한 전문가를 모호하게 만듭니다. 이러한 격차를 해소하기 위해 우리는 MoE-MLLM을 위한 모달리티 분해 기반 전문가 단위 혼합 정밀도 양자화 프레임워크인 MODE를 제안합니다. MODE는 모달리티별로 전문가 선택 빈도를 분해하고, 중복 비전 토큰을 필터링하여 잡음이 제거된 시각적 빈도를 얻으며, 빈도 기반 추정에 대한 보완 신호로 모달리티별 양자화 민감도를 추가로 평가합니다. 이러한 신호들은 정수 선형 계획법(Integer Linear Programming) 공식에 통합되어 주어진 예산 내에서 전문가별 비트 폭을 할당합니다. 광범위한 실험 결과 MODE가 MoE-MLLM에 특히 적합하다는 것을 보여주며, W3A16에서 평균 성능 손실을 2.9% 이내로 제한하고 극단적인 2비트 설정에서 더 큰 이득을 보입니다.
대규모 언어 모델(LLM)의 활성화 분포 문제를 해결하여 1.58비트 가중치와 4비트 활성화 양자화를 달성하는 사후학습 양자화(PTQ) 프레임워크인 TWLA를 제안한다. 가중치를 3진 분포로 재구성하고 활성화 이상치를 억제하는 최적화 기법을 통해 높은 정확도를 유지하면서 추론 속도를 크게 향상시킨다.
재학습 없이 대규모 언어 모델(LLM)의 가중치 정밀도를 유연하게 조절할 수 있는 다중 비트폭 사후학습 양자화 프레임워크인 Drop-by-Drop를 제안한다. 가산 코드북과 마트료시카 스타일 감독을 통해 단일 모델로 다양한 비트폭을 지원하여 저장 공간과 메모리 오버헤드를 줄이면서도 주요 아키텍처에서 경쟁력 있는 성능을 달성했다.