한국어 초록
초장문 컨텍스트 처리 능력은 최첨단 대규모 언어 모델(LLM)에서 필수 불가결한 요소가 되고 있다. 에이전트 워크플로우, 저장소 규모의 코드 추론, 지속적 메모리 등은 모두 수십만에서 수백만 개의 토큰을 동시에 처리해야 하지만, 소프트맥스 어텐션의 이차 계산 비용으로 인해 배포 규모에서는 현실적으로 불가능하다. 본 논문에서는 Grouped Query Attention(GQA) 기반의 블록 단위 희소 어텐션인 MiniMax Sparse Attention(MSA)을 소개한다. 경량화된 인덱스 분기(Index Branch)가 키-값 블록의 점수를 계산하고 각 GQA 그룹마다 독립적으로 Top-k 서브셋을 선택함으로써, 그룹별 희소 검색을 가능하게 하면서도 효율적인 블록 수준의 실행을 유지한다. 이후 메인 분기(Main Branch)는 선택된 블록에 대해서만 정확한 블록 희소 어텐션을 수행한다. 단순성과 확장성 원칙에 따라 설계된 MSA는 의도적으로 간소화되어 있어, 다양한 GPU 환경에서 효율적으로 배포하기 용이하다. 희소성을 실질적인 속도 향상으로 전환하기 위해, MSA는 GPU 실행 경로와 함께 공동 설계되었으며, 지수 연산 없는 Top-k 선택과 KV-outer 희소 어텐션을 활용하여 블록 단위 접근 방식에서 텐서 코어 활용률을 개선한다. 네이티브 멀티모달 학습을 적용한 1,090억 파라미터 모델에서 MSA는 GQA와 동등한 성능을 보이면서, 1M 컨텍스트 기준 토큰당 어텐션 연산량을 28.4배 감소시켰다. 공동 설계된 커널과 결합하면, MSA는 H800에서 프리필(prefill) 14.2배, 디코딩(decoding) 7.6배의 실제 처리 속도 향상을 달성한다. 추론 커널은 https://github.com/MiniMax-AI/MSA 에서 제공되며, MSA를 기반으로 한 프로덕션급 네이티브 멀티모달 모델은 https://huggingface.co/MiniMaxAI/MiniMax-M3 에 공개되었다.
원문 초록
Ultra-long-context capability is becoming indispensable for frontier LLMs: agentic workflows, repository-scale code reasoning, and persistent memory all require the model to jointly attend over hundreds of thousands to millions of tokens, yet the quadratic cost of softmax attention makes this untenable at deployment scale. We introduce MiniMax Sparse Attention (MSA), a blockwise sparse attention built upon Grouped Query Attention (GQA). A lightweight Index Branch scores key-value blocks and independently selects a Top-k subset for each GQA group, enabling group-specific sparse retrieval while maintaining efficient block-level execution; the Main Branch then performs exact block-sparse attention over only the selected blocks. Designed around a principle of simplicity and scalability, MSA is deliberately streamlined, making it straightforward to deploy efficiently across a broad range of GPUs. To translate sparsity into practical speedups, we co-design MSA with a GPU execution path that uses exp-free Top-k selection and KV-outer sparse attention to improve tensor-core utilization under block-granular access. On a 109B-parameter model with native multimodal training, MSA performs on par with GQA while reducing per-token attention compute by 28.4x at 1M context. Paired with our co-designed kernel, MSA achieves 14.2x prefill and 7.6x decoding wall-clock speedups on H800. Our inference kernel is available at: https://github.com/MiniMax-AI/MSA. A production-grade natively multimodal model powered by MSA has been publicly released at: https://huggingface.co/MiniMaxAI/MiniMax-M3.
요약
Grouped Query Attention(GQA) 기반의 MiniMax Sparse Attention(MSA)는 인덱스 분기와 메인 분기를 활용한 블록 단위 희소 어텐션으로 대규모 언어 모델(LLM)의 초장문맥 처리 비용 문제를 해결한다. 109B 파라미터 모델에서 GQA 대비 성능 저하 없이 1M 컨텍스트 기준 토큰당 연산량을 28.4배 줄이고 추론 속도를 최대 14.2배 향상시켰다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.13392v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
희소 어텐션은 행렬 근사이지 값들의 주머니에서 선택하는 것이 아니다
Sparse Attention Is Matrix Approximation, Not Choosing from a Bag of Values
대규모 언어 모델(LLM)은 여러 영역에서 뛰어난 성능을 보이지만, 프롬프트 길이에 따른 어텐션(attention)의 이차 시간 복잡도(quadratic cost)로 인해 효율성이 제한됩니다. 희소 어텐션(sparse attention)은 전체 어텐션 행렬을 근사하기 위해 쿼리-키 상호작용의 일부만 유지함으로써 이러한 비용을 줄입니다. 그러나 기존 방법들은 수학적으로 잘못된 관점에 갇혀 있습니다. 즉, 어텐션 행렬에서 단순히 큰 스칼라 값이나 질량이 높은 영역만을 유지합니다. 이는 어텐션 행렬이 값 벡터(value vector)와의 곱셈을 통해 어텐션 출력을 공동으로 결정하는 구조화된 행렬로 사용된다는 점을 무시한 채, 어텐션 행렬을 단순한 값들의 집합(bag of values)으로 취급하는 것입니다. 우리는 이것이 핵심적인 개념적 문제라고 주장합니다. 희소 어텐션은 단순히 원소 주머니에서 가장 큰 값을 맹목적으로 고르는 것이 아니라 행렬 근사(matrix approximation)로 정식화되어야 합니다. 이러한 관점을 바탕으로, 본 논문에서는 행렬 근사 희소 어텐션(MASA, Matrix Approximation Sparse Attention)을 제안합니다. MASA는 단순 어텐션 질량 순위 책정을 각 희소 단위가 행렬곱 근사 오차를 얼마나 줄이는지 측정하는 닫힌 형식(closed-form) 점수로 대체합니다. 이론에 기반한 플러그인 보정 방식인 MASA는 기존 희소 커널이나 예산을 변경하지 않고도 기존 희소 어텐션 프레임워크에 추가될 수 있습니다. 여러 희소 어텐션 방법, 벤치마크, LLM 백본에 걸친 광범위한 실험을 통해 일관된 정확도 향상을 입증하였으며, 이는 MASA와 희소 어텐션에 대한 행렬 근사 관점 모두를 뒷받침합니다.
HHR: 효율적인 LLM 생성을 위한 계층적 해시 검색
HHR: Hierarchical Hash Retrieval for Efficient LLM Generation
효율적인 긴 문맥 추론(inference)은 대규모 언어 모델(LLM)에 필수적이지만, 극심한 연산 병목 현상을 유발합니다. 해시 기반 검색은 쿼리(query)와 키(key)를 이진 코드로 인코딩하고 해밍 거리(Hamming distance)를 사용하여 키를 선택함으로써 효율적인 대안을 제공합니다. 그러나 이는 해밍 거리와 어텐션(attention) 관련성 사이에 심각한 불일치를 초래합니다. 쿼리-키 로짓(logit)은 방향 유사도와 특징(feature) 크기에 함께 의존하는 반면, 해시 이진화는 크기 정보를 버리기 때문에 낮은 로짓 키의 위양성(false-positive) 검색과 높은 로짓 키의 위음성(false-negative) 누락을 모두 유발합니다. 이러한 실패를 해결하기 위해, 본 논문에서는 기하학 인식 키 라우팅(Geometry-Aware Key Routing, GKR)과 학습된 해시 투영(Learned Hash Projection, LHP)을 통해 점진적으로 검색 정확도를 향상시키는 coarse-to-fine 프레임워크인 계층적 해시 검색(Hierarchical Hash Retrieval, HHR)을 제안합니다. GKR은 헤드별 직교 변환을 학습하여 특징 크기를 재분배하고 더 변별력 있는 페이지 수준 로짓 경계를 도출함으로써, 중요한 후보를 보존하면서 낮은 로짓 키의 효과적인 가지치기(pruning)를 가능하게 합니다. 그런 다음 LHP는 미세 단위(fine-grained) 검색을 위해 해밍 거리를 실제 쿼리-키 관련성 순위와 정렬하는 헤드별 투영 공간을 학습합니다. GKR과 LHP를 결합함으로써 HHR은 위양성을 억제하고 위음성을 복구하여 해시 기반 희소 어텐션(sparse attention)의 충실도를 크게 향상시킵니다. 다양한 LLM 및 벤치마크에 걸친 광범위한 실험을 통해 HHR이 기존 방법들보다 우수한 성능을 달성함을 입증합니다. 예를 들어 LongBench에서 HHR은 평균 점수를 1.10점 향상시키며, 128K 문맥 길이에서 Llama-3.1-8B-Instruct 기준 최대 3.30배의 디코딩 속도 향상과 2.83배의 엔드투엔드 속도 향상을 달성합니다. 코드는 https://github.com/lianjunl13-sudo/HHR 에서 공개되어 있습니다.
KDFP: 대규모 언어 모델의 지식 증류를 위한 제1원리적 접근법
KDFP: A first-principles approach to knowledge distillation in large language models
지식 증류(knowledge distillation)는 더 크고 성능이 뛰어난 교사 모델의 표현(representation)을 활용해 작고 효율적인 학생 모델을 학습(training)시킴으로써 그 역량을 향상시키는 잘 정립된 기법입니다. 대규모 언어 모델(LLM) 증류에 관한 최근 연구의 상당수는 지시사항 준수(instruction following), 사고의 연쇄(Chain-of-Thought) 추론, 도구 사용 등 사후 학습(post-training) 과정에서 습득된 능력을 증류하는 데 집중되어 왔습니다. 이로 인해 엣지 기기 배포에 적합한 효율적이고 프라이버시가 보장되는 시스템을 개발하는 데 필수적인 LLM의 일반 지식 증류 연구에는 큰 공백이 남게 되었습니다. 본 연구에서는 이전 연구들의 교훈을 평가하고 새로운 탐색을 수행하는 제1원리적(first-principles) 접근법을 취하여 현대 LLM에 적합한 증류 방법론을 개발합니다. 본 논문에서는 LLM의 화이트박스 일반 지식 증류를 위한 새로운 방법론인 KDFP를 제시합니다. 실험을 통해 KDFP가 임시 매개변수(parameter) 감축을 통해 학습 효율성을 최대 99.1%까지 향상시키면서, 9개 벤치마크 전반에서 기존 기법들을 1.6% $-$ 4.9% 능가함을 입증합니다.
하드웨어 효율적인 대규모 언어 모델을 위한 자원 제약 조건 하의 이종 구조적 가지치기
Heterogeneous Structured Pruning Under Resource Constraints for Hardware-Efficient Large Language Models
학습이 필요 없는(training-free) 가지치기는 사전학습된 대규모 언어 모델(LLM)에서 가중치를 제거하여 배포 비용을 줄입니다. 그러나 기존 접근 방식들은 일반적으로 유지되는 가중치의 총 개수만을 고려합니다. 결과적으로 이러한 방식의 가지치기 결정은 대상 하드웨어가 해당 가중치를 어떻게 저장하고 처리하는지를 반영하지 못합니다. 또한 서브레이어 전반에서 각 구조가 가지치기 오차와 지연 시간 및 메모리 간의 트레이드오프를 어떻게 형성하는지 고려하지 않고, 희소성(sparsity) 구조를 사전에 선택하여 모든 프로젝션에 일률적으로 적용합니다. 본 논문에서는 두 가지 구성요소를 결합한 하드웨어 인식 가지치기 프레임워크인 이종 구조적 가지치기(HSP, Heterogeneous Structured Pruning)를 제안합니다: (i) 밀집(dense), 비구조적(unstructured), 2:4, 블록 희소(block-sparse), 헤드/채널(H/C) 가지치기 옵션으로 이루어진 이종 탐색 공간, (ii) 지연 시간 및 메모리 모델에 기반한 구조 정규화 제약 조건. 본 연구의 기여는 기존의 중요도 기반 방법들을 일반화한 것으로, 글로벌 솔버가 자원 예산 하에서 대리 가지치기 손실(proxy pruning loss)을 최소화하도록 서브레이어당 하나의 옵션을 선택함으로써 각 프로젝션에 구조와 밀도를 할당합니다. NVIDIA Jetson Orin Nano Super 엣지 디바이스를 대상으로 OPT 및 LLaMA 모델에서 HSP를 평가하였으며, 학습이 필요 없는 베이스라인 대비 품질-자원 프론티어를 개선함을 확인했습니다. 프로젝트 페이지 및 관련 코드의 업데이트된 링크는 cameronbarker.me/publications/hsp 에서 관리됩니다.
모든 확장을 유의미하게: LLM 코드 수정에서 효율적인 탐색을 위한 학습
Make Every Expansion Count: Learning to Search Efficiently in LLM Code Repair
대규모 언어 모델(LLM) 코드 수정 시스템은 수정본을 반복적으로 생성하고 테스트하여 결함이 있는 프로그램을 고칩니다. 각 수정본 생성에는 많은 비용이 들기 때문에, 어떤 수정을 시도할지 선택하는 것이 효율성에 매우 중요합니다. 기존의 탐색 정책은 테스트 통과율과 탐색 통계에 의존하며, 테스트 실패 세부 정보와 제안된 편집 내용은 무시합니다. 본 논문에서는 수정된 프로그램이 생성되고 테스트되기 전에 편집의 우선순위를 정하는 학습된 정책인 CodeTriage를 소개합니다. 0.6B 매개변수(parameter) 모델은 테스트 출력, 실패 진단, 제안된 편집을 읽은 후, 해당 편집을 통해 해결에 도달하는 데 필요한 수정 단계 수에 대한 분포를 예측합니다. 이러한 예측은 수정된 코드를 생성하고 테스트하기 전에 프로그램 전반에 걸쳐 보류 중인 모든 편집의 우선순위를 지정합니다. 미공개 수정 작업에서 CodeTriage는 각 지표의 가장 강력한 기준선(baseline)보다 21% 적은 프로그램 수정본과 12% 적은 출력 토큰으로 해결책을 찾아냅니다. 재학습 없이도 11개의 보지 못한 수정 LLM 각각에 대해 탐색 예산 전반에서 가장 높은 평균 성공률을 달성합니다. 절제 연구(ablation study)에 따르면 실패 문맥과 편집 텍스트뿐만 아니라 프로그램 간의 비교도 탐색을 개선하는 것으로 나타났습니다. 또한 제안된 편집 및 테스트 결과와 함께 수정 트리로 구성된 4개 LLM의 1,220만 개 프로그램 버전 말뭉치를 공개합니다.
PAIR: 읽기-추론 융합을 통한 메모리 효율적이고 빠른 추론
PAIR: Memory-Efficient and Fast Inference with Reading--Reasoning Fusion
문맥 기반 질의응답에서 단일 대형 모델을 근거 추출과 답변 추론 모두에 사용하는 것은 상당한 메모리와 연산량을 요구합니다. 기존 접근 방식들은 단일 모델 내에서 정확도와 효율성을 맞바꿉니다. 본 연구에서는 효율적인 추론을 위한 다중 모델 접근 방식을 제안합니다. 제안 방법인 PAIR는 서로 다른 크기의 두 모델을 각각 근거 추출과 답변 추론에 활용합니다. 더 작은 Reader 모델이 전체 문맥을 처리하고 유지하는 반면, 더 큰 Reasoner 모델은 문맥에 직접 어텐션을 수행하지 않고 질문과 생성된 시퀀스만을 봅니다. 이러한 기능들은 로짓(logit) 수준에서 융합됩니다. 각 토큰마다 Reader와 Reasoner가 모두 예측을 생성하며, 이들의 로짓이 하나로 결합되어 단일 다음 토큰 예측 모델처럼 동작합니다. 미세조정(fine-tuning)을 통해 성능을 더욱 향상시킵니다. HotpotQA에서 32B Reasoner를 적용한 PAIR는 동일한 32B 모델의 전체 문맥 정확도를 96% 유지하면서도 KV 메모리는 약 4분의 1만 사용합니다. 45.7K 토큰 문맥에서 PAIR는 동일한 GPU 상의 전체 문맥 32B 모델 대비 최대 3.2배 높은 엔드투엔드 처리량을 달성합니다. 또한 PAIR는 평가된 토큰 감소 베이스라인 대비 정확도-메모리 및 정확도-처리량 간의 상충 관계를 개선합니다. 이러한 정확도 보존 특성은 Qwen2.5, OLMo-3, Gemma-3 모델 패밀리 전반에 걸쳐 일반화됩니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.