arXiv:2610.01434v1 cs.CV

MWOP: 효율적인 MLLM을 위한 모달리티 인지 너비 단위 연산 가지치기

MWOP: Modality-aware Width-wise Operation Pruning for Efficient MLLMs

Xudong Wang, Hao Wu, Haozhe Hu, Peiran Yin, Xinghao Chen, Yunpu Ma, Wei Zhang, Xiaoyu Shen

제출 2026-10-01

한국어 초록

멀티모달 대규모 언어 모델(MLLM)은 긴 시각-텍스트 시퀀스를 처리할 때 상당한 추론 비용을 초래합니다. 기존의 연산 압축 방식들은 모달리티 수준의 중복성을 활용하지만, 어텐션 헤드 내 연산과 공유 순전파 신경망(FFN) 채널을 대체로 단일 단위로 취급하여 더 미세한 단위의 중복성은 충분히 탐색하지 못하고 있습니다. 본 연구에서는 동일한 어텐션 헤드 내의 모달리티 간 상호작용 경로와 동일한 FFN 채널의 시각 및 텍스트 실행 전반에서 중복성이 서로 다르게 나타남을 발견했습니다. 이러한 발견을 바탕으로, 각 층 내에서 시각-시각(V2V), 텍스트-시각(T2V), 텍스트-텍스트(T2T) 어텐션 경로를 독립적으로 가지치기하고, 시각 및 텍스트 입력에 대해 FFN 채널을 개별적으로 선택하는 모달리티 인지 너비 단위 연산 가지치기(MWOP)를 제안합니다. 1차 테일러 기준(first-order Taylor criterion)이 가지치기 과정을 유도하며, 어텐션 가지치기와 LoRA 기반 복구 학습을 거친 후 FFN 중요도를 재평가합니다. 그 결과로 얻어지는 미세한 희소성을 실제 가속으로 전환하기 위해, 경로 희소(path-sparse) Triton 어텐션 커널과 컴팩트한 시각 측 FFN 실행 방식을 추가로 개발했습니다. MWOP는 어텐션 및 FFN 연산을 줄이면서도 토큰 시퀀스를 보존하므로 토큰 압축 기법과 상호 보완적이며, 시퀀스 길이와 토큰당 연산량을 동시에 줄일 수 있도록 합니다. LLaVA-OneVision-7B에서 MWOP 단독으로 12개 벤치마크에 걸쳐 99.7%의 평균 성능 유지율과 함께 1.6배의 프리필(prefill) 속도 향상을 달성했습니다. 대표적인 두 가지 토큰 압축 방법과 결합했을 때는 프리필 속도 향상을 각각 2.0배 및 1.9배에서 2.9배 및 2.7배로 더욱 증가시켰습니다. Qwen2.5-VL-7B에서의 결과는 다양한 아키텍처 전반에 걸친 적용 가능성을 추가로 입증합니다. 코드는 https://github.com/EIT-NLP/MWOP 에서 이용할 수 있습니다.

원문 초록

Multimodal large language models (MLLMs) incur substantial inference costs when processing long visual-textual sequences. While existing operation compression methods exploit modality-level redundancy, they largely treat computation within attention heads and shared feed-forward network (FFN) channels as unified units, leaving finer-grained redundancy underexplored. We find that redundancy varies both across modality-interaction paths within the same attention head and across visual and textual executions of the same FFN channel. Based on these findings, we propose Modality-aware Width-wise Operation Pruning (MWOP), which independently prunes visual-to-visual (V2V), text-to-visual (T2V), and text-to-text (T2T) attention paths within each layer, and separately selects FFN channels for visual and textual inputs. A first-order Taylor criterion guides the pruning process, with FFN importance re-evaluated after attention pruning and LoRA-based recovery training. To translate the resulting fine-grained sparsity into practical acceleration, we further develop path-sparse Triton attention kernels and compact visual-side FFN execution. MWOP preserves the token sequence while reducing attention and FFN computation, making it complementary to token compression and enabling simultaneous reduction of sequence length and per-token computation. On LLaVA-OneVision-7B, MWOP alone achieves a $1.6\times$ prefill speedup with 99.7\% average performance retention across 12 benchmarks. Combined with two representative token compression methods, it further increases their prefill speedups from $2.0\times$ and $1.9\times$ to $2.9\times$ and $2.7\times$, respectively. Results on Qwen2.5-VL-7B further demonstrate its applicability across architectures. The code is available at https://github.com/EIT-NLP/MWOP.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.01434v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02800v2cs.AI공통 태그 Quantization, Model Compression, inference acceleration

BitNest: 메모리 효율적인 대규모 언어 모델(LLM) 추론 가속을 위한 비트 중첩 추측 디코딩

BitNest: Bit-Nested Speculative Decoding for Memory-Efficient LLM Inference Acceleration

추측 디코딩(speculative decoding)은 경량 드래프트를 사용하여 여러 토큰을 제안하고 이를 병렬로 검증함으로써 자기회귀적 생성을 가속합니다. 그러나 기존 방식들은 추가적인 드래프트 모델이나 가중치 표현을 필요로 하는 경우가 많아, 자원이 제한된 기기에서 무시할 수 없는 메모리 오버헤드를 유발합니다. 자체 추측(self-speculative) 방식은 이러한 오버헤드를 줄이지만, 드래프트 품질, 타깃 품질, 저장 공간 효율성 사이의 트레이드오프 문제에 여전히 직면합니다. 본 논문에서는 저정밀도 드래프트를 더 높은 정밀도의 타깃 표현 내에 직접 내장하는 비트 중첩 추측 디코딩 프레임워크인 BitNest를 제안합니다. 사전에 정의된 타깃에서 드래프트를 파생시키는 대신, BitNest는 먼저 강력한 저정밀도 베이스를 구축한 뒤 잔차 정제(residual refinement)를 통해 더 높은 정밀도의 타깃을 복원함으로써 두 모델이 단일한 물리적 가중치 표현을 공유할 수 있도록 합니다. 나아가 BitNest는 이러한 점진적 정밀도 설계를 긴 문맥 추론을 위한 KV 캐시로 확장합니다. 다양한 7B--8B 엣지 친화적 LLM과 다채로운 워크로드에 걸쳐, BitNest는 더 높은 정밀도의 모델 품질을 밀접하게 보존하면서 평균 95.2%의 추측 수락률을 달성하고 FP16 자기회귀 디코딩 대비 1.48--1.61배의 엔드투엔드 속도 향상을 제공합니다. 모든 대표적인 자체 추측 베이스라인이 지원하는 LLaMA 모델에서도 BitNest는 일관되게 경쟁력 있거나 더 높은 디코딩 가속을 달성합니다.

arXiv:2610.02241v1cs.AR공통 태그 Mixture-of-Experts, Quantization, Model Compression

조 단위 규모 전문가 혼합 모델을 위한 하드웨어 네이티브 통합 희소-양자화

Hardware-Native Joint Sparse-Quantization for Trillion-Scale Mixture-of-Experts

전문가 혼합(MoE) 아키텍처를 통해 프론티어 언어 모델을 수조 개 파라미터 규모로 확장할 수 있게 되었지만, 방대한 메모리 사용량과 메모리 대역폭의 한계로 인해 실제 배포에는 제약이 따릅니다. 최신 가속기는 저정밀도 반구조화 희소성을 통해 가중치 저장 공간을 줄이고 처리량을 높여주는 희소 텐서 코어(SpTC)를 제공하지만, 상당한 모델 품질 저하와 그룹화된 희소 GEMM 프리미티브의 부재로 인해 MoE에 이를 활용하는 것은 여전히 어렵습니다. 본 논문에서는 전문가 가중치를 하드웨어 네이티브 저정밀도 희소 표현으로 압축하고 SpTC에서의 실행을 가속하는 엔드투엔드 하드웨어-소프트웨어 통합 설계 프레임워크를 제안합니다. 알고리즘 측면에서, 본 프레임워크는 연속적 재매개변수화를 통해 이산적인 반구조화 서포트 선택을 완화함으로써 라우터 가중치 재구성 목표 하에서 양자화된 가중치와의 미분 가능한 통합 최적화 및 확장 가능한 전문가 병렬 압축을 가능하게 합니다. 시스템 측면에서는 SpTC 상의 저정밀도 희소 MoE 추론에 맞춘 커스텀 그룹화 희소 GEMM 커널을 개발합니다. 300억 개에서 1조 개 파라미터에 이르는 MoE 모델 전반에 걸쳐, 제안하는 프레임워크는 기존 최고 수준(SOTA)의 통합 희소-양자화 정확도를 최대 4.35%p 향상시키면서 원래 모델 성능의 96.09%를 보존합니다. NVIDIA B200 GPU에서 개발한 커널은 벤더 기준선 대비 최대 1.65배 뛰어난 성능을 보이며 서빙 처리량을 1.18배 증가시키고 엔드투엔드 지연 시간을 최대 4.03배 단축합니다. 이러한 결과는 하드웨어-소프트웨어 통합 설계가 확장 가능하고 효율적인 MoE 배포를 향한 실용적인 경로임을 입증합니다.

arXiv:2609.39223v2cs.LG공통 태그 Mixture-of-Experts, Quantization, Model Compression

QATFactory: LLM의 양자화 인식 학습 및 증류를 위한 다목적 배포 정렬 프레임워크

QATFactory: A Versatile, Deployment-Aligned Framework for Quantization-aware Training and Distillation of LLMs

대규모 언어 모델(LLM) 추론은 하드웨어 가속기의 처리량을 최대한 활용하기 위해 점차 저정밀도로 전환되고 있으나, 공격적인 사후 학습 양자화(PTQ)는 모델 성능을 저하시킬 수 있습니다. 본 논문에서는 배포 환경에 정렬된 양자화 인식 증류(QAD) 및 강화학습(QARL)을 위한 오픈소스 프레임워크인 QATFactory를 제시합니다. QATFactory는 BF16으로 행렬 곱셈을 수행하면서 배포 시점의 양자화를 시뮬레이션하므로, 목표 포맷을 네이티브로 지원하는 학습 하드웨어 없이도 모델이 양자화 노이즈에 적응할 수 있도록 합니다. 예를 들어 FP4 텐서 코어가 없는 H100 GPU에서도 NVFP4 학습을 지원합니다. 이 프레임워크는 NVFP4, MXFP4, 그리고 $\text{llama}.\text{cpp}$의 Q4_K 포맷을 지원하며, 밀집(dense) 및 전문가 혼합(MoE) 모델과 전체 매개변수 및 LoRA 기반 학습을 모두 지원합니다. 또한 추가적인 손실 변환 단계나 추론 오버헤드 없이 체크포인트를 vLLM 및 $\text{llama}.\text{cpp}$로 직접 내보냅니다. QATFactory를 활용하여 8B부터 230B 매개변수에 이르는 모델을 대상으로 광범위한 실험을 수행하고 프로덕션 추론 엔진에서 내보낸 체크포인트를 평가했습니다. 다양한 모델과 포맷 전반에서 QAD는 강력한 PTQ 베이스라인 대비 배포된 모델의 품질을 일관되게 향상시킵니다. Qwen3.5-9B의 경우, QAD는 NVFP4 환경에서 68.9%, MXFP4 환경에서 66.0%의 평균 벤치마크 정확도를 달성하여 가장 우수한 PTQ 결과인 각각 65.4%와 56.4%를 능가했습니다. 실험을 통해 두 FP4 포맷 모두 배포 시 가중치와 활성화를 양자화함에도 불구하고 최적의 학습 전략은 포맷에 따라 다르다는 점을 발견했습니다. NVFP4는 학습 중 가중치만 양자화할 때 전반적으로 더 나은 성능을 보이는 반면, MXFP4는 가중치와 활성화를 모두 양자화할 때 이점을 얻습니다. 고정된 학습 토큰 예산에서, 더 많은 4K 시퀀스로 학습하는 것보다 더 적은 수의 32K 시퀀스로 학습할 때 평균 정확도가 1.9%포인트 향상됩니다.

arXiv:2607.20981v1cs.AI공통 태그 Mixture-of-Experts, Quantization, Model Compression

독립적 최적화를 넘어서: 멀티모달 엣지 인텔리전스에서 압축, MoE 라우팅, 양자화의 상호작용

Beyond Independent Optimization: Compression, MoE Routing, and Quantization Interactions in Multimodal Edge Intelligence

효율적인 멀티모달 추론은 모델 품질이나 FLOP 수뿐 아니라, 지연 시간·메모리·에너지 제약 하에서 멀티모달 표현을 보존·이동·라우팅·캐싱·양자화하는 비용에 의해서도 점점 더 제약받고 있다. 본 논문은 효율적인 비전-언어 및 멀티모달 대규모 언어 모델의 최근 발전을 검토하며, 시각 토큰 압축, 비디오 토큰 관리, KV-cache 최적화, 전문가 혼합(MoE) 라우팅, 저비트 양자화, 엣지 배포, 하드웨어 인식 벤치마킹을 다룬다. 우리는 이러한 기법들을 독립적인 최적화로 취급할 수 없다고 주장한다. 시각 토큰 압축은 하류 특징 분포와 MoE 라우팅 결정을 변경하고, 라우팅 동작은 전문가 활용률과 양자화 민감도에 영향을 미치며, 양자화된 라우터 로짓은 전문가 할당에 영향을 주고, KV-cache 정책은 보존되는 멀티모달 증거를 결정하며, 하드웨어 제약은 종종 계산 절감을 메모리 및 통신 병목으로 전환한다. 우리는 이러한 상호작용을 중심으로 문헌을 정리하고, 정확도 대 토큰 예산, 정적 대 적응형 압축, 희소 라우팅 효율성 대 전문가 붕괴, 저비트 추론 대 모달리티별 성능 저하 등 핵심 설계 트레이드오프를 식별한다. 마지막으로, 비디오 MoE 모델에 대한 진단 도구로 Temporal Routing Consistency를 제안하고, 라우팅 인식 압축, 교차 모달 캐시 관리, 하드웨어 인식 공동 설계, 멀티모달 엣지 인텔리전스를 위한 통합 벤치마킹 등의 미해결 연구 방향을 강조한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.