arXiv:2609.33437v2 cs.LG

SMAT: 단순하고 효율적인 병합 인식 학습

SMAT: Simple and Efficient Merge-Aware Training

Yanggan Gu, Yuanyi Wang, Zhen Li, Shuo Cai, Yuhang Liu, Junzhuo Li, Zihao Wang, Hongxia Yang

제출 2026-09-27

저자 비고

arXiv Comments

19 pages, 6 figures, 7 tables. Code: https://github.com/egangu/smat

한국어 초록

모델(model) 병합은 공동 재학습 없이도 여러 전문가(expert)의 능력을 통합하지만, 표준적인 전문가 학습(training)은 과제 손실(loss)만을 최적화하므로 병합 후의 우수한 성능을 보장하지 못합니다. 병합 인식 학습(MAT, Merge-Aware Training)은 병합된 모델의 성능을 향상시키는 것을 목표로 하지만, 기존 기법들은 일반적인 병합 연산을 충분히 고려하지 못하며 학습 비용을 가중시킵니다. 본 논문에서는 전문가의 관점에서 일반적인 병합 기법들이 세 가지 연산으로 설명될 수 있음을 관찰했습니다. 즉, 자체 업데이트의 가중치를 재조정하는 스케일(Scale), 선택된 좌표를 제거하는 마스크(Mask), 그리고 다른 전문가들의 업데이트를 추가하는 섭동(Perturb)입니다. 이러한 관점을 바탕으로, 스케일링 계수, 마스크, 가산 노이즈를 샘플링하여 생성한 시뮬레이션 병합 매개변수(parameter)에서의 기대 손실과 전문가 손실을 공동으로 최적화하는 SMAT(Simple MAT)을 제안합니다. 나아가 주기적 스케줄링, 커널(kernel) 퓨전, 매개변수 저장소 전환 기법을 도입하여 단계당 단 한 번의 순전파 및 역전파만으로 SMAT이 효율적으로 작동하도록 구현했습니다. 4개의 언어 및 비전-언어(vision-language) 백본 전반에서, SMAT은 각 백본의 가장 강력한 기준선(baseline) 대비 5가지 병합 기법의 평균 점수를 1.07~2.16점 향상시켰으며, 표준 미세조정(fine-tuning) 대비 학습 시간 오버헤드는 2% 미만에 불과했습니다.

원문 초록

Model merging integrates the capabilities of multiple experts without joint retraining, but standard expert training optimizes task loss alone and does not guarantee good performance after merging. Merge-aware training (MAT) aims to improve merged performance, but existing methods do not fully account for common merging operations and add training cost. We observe that, from an expert's perspective, common merging methods can be described by three operations: Scale reweights its own update, Mask removes selected coordinates, and Perturb adds updates from other experts. Based on this view, we introduce SMAT (Simple MAT), which jointly optimizes expert loss and expected loss at simulated merged parameters generated by sampling scaling coefficients, masks, and additive noise. We further introduce periodic scheduling, kernel fusion, and parameter storage switching to make SMAT efficient, with one forward and one backward pass per step. Across four language and vision-language backbones, SMAT improves the mean score across five merging methods by 1.07-2.16 points over the strongest baseline for each backbone, with less than 2% training-time overhead over standard fine-tuning.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.33437v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27262v2cs.CL공통 태그 Multi-Task Learning, model merging

하나의 적응 모델로 모든 것을 할 수 있을까? 고객 지원 LLM을 위한 미세조정 전략 선택

Can One Adapted Model Do It All? Fine-Tuning Strategy Selection for Customer Support LLMs

실제 운영 환경의 고객 지원 시스템은 의도 분류(intent classification), 질의응답, 요약, 도구 사용(tool-use) 결정 등 여러 기능을 지원하도록 LLM에 요구하는 경우가 많다. 핵심적인 배포 관련 질문은 이러한 기능을 각각 별도의 태스크 특화 모델로 처리해야 하는지, 아니면 멀티태스크 학습, 순차적 업데이트, 또는 모델 병합(model merging)을 통해 학습한 단일 모델로 처리해야 하는지이다. 우리는 이 질문을 다섯 개 모델 계열(Qwen3, Qwen3.5, Gemma-3, Llama-3.1, Mistral)에 걸친 0.6B~32B 파라미터 규모의 13개 모델을 사용하여, 공개 데이터셋 4개와 비공개 데이터셋 4개를 포함한 8개의 고객 지원 데이터셋(학습 샘플 약 74.5k개, 평가 샘플 약 8.7k개)에서 연구한다. 고정된 학습 프로토콜 하에서 200개 이상의 체크포인트를 학습한다. 실험 결과, 멀티태스크 전체 미세조정(full fine-tuning)이 우리가 테스트한 모든 모델 크기에서 가장 강력한 운영상의 기본 선택임을 확인했다. 특화 모델은 목표 태스크에서는 강력하지만 다른 태스크에서는 성능이 급격히 저하되는 경우가 많아, 신뢰할 수 있는 라우팅이 중요하다. 순차적 LoRA(Low-Rank Adaptation)는 순차적 전체 미세조정보다 이전에 학습한 기능을 더 잘 보존하며, 특화 모델을 기반 모델과 병합하면 더 큰 모델에서 동일 태스크 손실은 제한적인 수준으로 유지하면서 다른 태스크에 대한 강건성이 향상된다. 마지막으로 실제 환경에서 미세조정 전략을 선택하기 위한 실용적인 가이드라인을 제시한다.

arXiv:2609.23989v1cs.AI공통 태그 Multi-Task Learning, model merging

ACLArena: 다단계 사후 학습에서의 에이전트 지속 학습

ACLArena: Agent Continue Learning in Multi-stage Post-training

산업 배포를 위한 범용 에이전트를 구축하려면 여러 역량을 통합해야 하며, 각 역량은 일반적으로 서로 다른 학습 단계에서 습득된다. 그러나 현재 에이전트 지속 학습(Agent Continual Learning, ACL)에 대해 잘 정립된 방법론은 없으며, 기존 통합 패러다임 간 트레이드오프에 대한 이해도 부족하다. 이 공백을 메우기 위해 ACL을 포괄적으로 연구·분석·평가하기 위한 프레임워크인 ACLArena를 제안한다. 우리는 먼저 순차적 학습 파이프라인을 구축하고, 모델 수준과 토큰 수준이라는 두 상보적 관점에서 망각과 일반화의 메커니즘을 설명하는 심층 분석을 수행한다. 이 분석을 바탕으로, 다중 교사 온-정책 지식 증류, 자기 증류 기반 미세조정, 모델 병합을 체계적으로 비교하여 이전에 학습한 역량을 회복하면서 새로 습득한 역량을 보존하는 능력을 평가한다. 광범위한 실험을 통해 단계 간 역량이 어떻게 전이되는지에 대한 상세한 이해를 얻는다. 마지막으로, 고품질 궤적에 대한 오프라인 리플레이와 강화학습(RL)을 통해 각각 특화된 다중 LoRA 전문가의 라우팅 네트워크를 결합한 새로운 ACL 방법론을 제안하여, 여러 도메인에 걸친 학습 능력을 크게 향상시킨다. 추론 및 에이전트적 과업 4가지에 대한 포괄적 실험을 도메인 내 및 도메인 외 설정 모두에서 평가한 결과, 우리 분석의 가치와 접근법의 효과가 입증된다.

arXiv:2609.24517v1cs.AI공통 태그 Multi-Task Learning, model merging

모든 태스크 벡터에 동일한 랭크가 필요하지는 않다: 모델 병합을 위한 에너지 비례 할당

Not All Task Vectors Need Equal Rank: Energy-Proportional Allocation for Model Merging

모델 병합(model merging)은 공통의 사전학습(pretrained) 모델에서 파생된 여러 파인튜닝(fine-tuned) 모델들을 추가적인 공동 학습 없이 단일 멀티태스크 모델로 결합하는 것을 목표로 한다. 최근의 스펙트럼 병합(spectral merging) 기법들은 태스크 특화 업데이트의 저랭크(low-rank) 구조를 활용하여 단순 가중치 평균화(weight averaging)보다 향상된 성능을 보이지만, 일반적으로 모든 태스크에 동일한 랭크 용량을 할당한다. 이러한 균등 할당은 태스크 벡터들이 이질적인 스펙트럼 복잡도를 가질 수 있다는 점을 간과하여 공유 병합 공간이 차선으로 활용되게 만든다. 본 논문에서는 각 태스크 벡터의 특이값(singular-value) 에너지 구조에 따라 랭크를 할당하는 단순하고 태스크 적응적인 전략인 SERA(Spectral Energy-proportional Rank Allocation)를 제안한다. SERA는 복잡하거나 고립된 태스크에는 더 풍부한 스펙트럼 용량을 할당하고 조밀한 태스크에는 더 적은 방향을 할당함으로써, SVD 기반 모델 병합을 균등 용량 병합에서 태스크 의존적 용량 할당으로 확장한다. 표준 비전 모델 병합 프로토콜 하에서의 실험 결과는 SERA가 기존 스펙트럼 병합 기법들과 동일한 총 랭크 예산을 유지하면서 멀티태스크 병합 성능을 향상시킴을 보여준다. 추가 분석을 통해 태스크 수준의 스펙트럼 집중도가 적응적 랭크 할당의 태스크별 효과와 밀접한 관련이 있음을 입증하며, SERA가 언제 그리고 왜 효과적인지에 대한 통찰을 제공한다.

arXiv:2609.24612v1cs.CV공통 태그 Multi-Task Learning, model merging

균일한 부분공간을 넘어서: 다중 태스크 모델 병합을 위한 스펙트럼 인식 및 깊이 적응형 융합

Beyond Uniform Subspaces: Spectrum-Aware and Depth-Adaptive Fusion for Multi-Task Model Merging

모델 병합(Model merging)은 추가적인 학습(training) 과정 없이 여러 태스크 특화 모델(model)들을 하나로 통합하는 것을 목표로 한다. 그러나 기존의 부분공간(subspace) 기반 방법들은 태스크 업데이트를 대체로 균일하게 처리하여 내재된 스펙트럼 및 깊이별 이질성을 간과한다. 본 논문에서는 이러한 가정에서 벗어나는 두 가지 주요 편차를 확인하였다. 즉, 서로 다른 태스크는 서로 다른 부분공간 용량을 필요로 하고 스펙트럼 변환에 대해 서로 다른 허용도를 보이는 반면, 부분공간 투영은 깊이에 따른 왜곡을 유발한다는 점이다. 이러한 관찰을 바탕으로, 데이터가 필요 없는(data-free) 모델 병합을 위한 스펙트럼 인식 및 깊이 적응형 프레임워크인 SADA-Merging을 제안한다. SADA-Merging은 스펙트럼 복잡성에 따라 태스크별 부분공간 용량을 할당하고, 태스크별 가소성에 따라 스펙트럼 보존을 적응시키며, 투영으로 인한 왜곡을 보상하기 위해 깊이 의존적 앵커링을 적용한다. 이를 통해 융합 과정이 각 태스크의 고유한 기하학적 구조와 네트워크 깊이에 따른 민감도 모두에 적응할 수 있도록 한다. SADA-Merging은 태스크 업데이트에 직접 작용하며, 전체 미세조정(full fine-tuning) 및 LoRA 설정 모두에 적용 가능하다. 광범위한 실험을 통해 다양한 태스크 규모 및 적응 설정 전반에 걸쳐 기존 데이터 프리 병합 방법 대비 일관된 성능 향상을 입증한다.

arXiv:2607.19971v2cs.RO공통 태그 Multi-Task Learning, model merging

충돌 인식 분리 매개변수 학습을 통한 통합 예측 및 계획

Unified Prediction and Planning via Conflict-Aware Disjoint Parameter Training

주변 에이전트(agent)의 정확한 동작 예측과 안전한 동작 계획은 혼잡한 환경에서의 사회적 로봇 내비게이션(social robot navigation)을 위한 밀접하게 결합된 두 가지 핵심 과제이다. 이러한 시스템을 자원이 제한된 엣지(edge) 디바이스에 배포하려면 두 과제를 동시에 수행할 수 있는 컴팩트한 통합 모델이 필요하다. 그러나 이러한 컴팩트한 공유 인코더(shared encoder) 내에서, 최근의 통합 모델들은 이웃 행동 예측과 자차 중심(ego-centric) 안전 계획이라는 상이한 목표에서 발생하는 심각한 표현 충돌(representational conflict)을 종종 간과한다. 이 문제를 해결하기 위해, 우리는 먼저 Skill Conflict(스킬 충돌)—겹치는 매개변수 할당이 서로 다른 과제가 동일한 가중치를 두고 경쟁하게 하여 모델이 개별 스킬에 완전히 특화되지 못하게 하는 현상—을 규명한다. 이를 해결하기 위해, 우리는 새로운 모델 병합(model-merging) 기반 프레임워크인 Disjoint Parameter Training(DPT)을 제안한다. DPT는 병합 전 각 과제의 핵심 역량을 보존하면서 핵심 매개변수 영역을 분리하는 분산 매개변수 학습(distributed parameter learning)을 통해 Skill Conflict로 인한 성능 저하를 완화한다. 또한, 모든 과제별 매개변수를 결합하는 대신 각 과제에 가장 영향력 있는 매개변수만 선택적으로 통합하는 sparse merging(희소 병합)이 인접 특징(feature) 간 간섭을 방지하고 표현 용량을 집중시켜 최적의 성능을 달성함을 관찰한다. DPT는 다양한 병합 방법과 병렬로 적용할 수 있다. 표준 군중 내비게이션 벤치마크(JRDB 및 JTA)에서 평가한 결과, 우리 프레임워크는 우수한 성능을 보여 안전하고 자원 효율적인 로봇 내비게이션을 위한 다목적성과 효과를 입증한다.

arXiv:2607.24465v1cs.CV공통 태그 Multi-Task Learning, model merging

프롬프트 학습 기반 모델 병합을 위한 전문가 학습 재고

Rethinking Expert Training for Model Merging with Prompt Learning

모델 병합은 공유 기반 모델로부터 학습된 여러 도메인 특화 전문가를 단일 다중 과제 모델로 결합하는 것을 목표로 한다. 기존 접근법은 대체로 병합 절차 자체를 개선하는 데 집중하며, 일반적으로 전체 매개변수 미세조정을 통해 얻은 전문가를 가정한다. 본 연구에서는 모델 병합을 위한 전문가 학습을 재검토한다. 먼저 프롬프트 기반 적응이 강력한 기준선을 제공함을 보인다. 독립적으로 학습된 프롬프트는 백본을 고정한 채 여러 과제에 활용할 수 있으며, 가중치 병합으로 인한 간섭을 피할 수 있다. 이 관찰을 바탕으로, 먼저 프롬프트를 학습한 다음 비전 인코더를 미세조정하는 2단계 학습 전략인 Dual-Tuned Experts(DTEs)를 제안한다. 이는 과제별 매개변수 갱신의 크기를 줄이고 병합 호환성이 더 높은 전문가를 생성한다. 다양한 CLIP 아키텍처, 전체 미세조정, LoRA 전문가에 걸친 실험은 DTEs가 표준 병합 접근법의 병합 성능을 일관되게 향상시키며, 이질적인 전문가 집합을 결합할 때에도 효과적임을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.