arXiv:2609.20269v3 cs.LG

배치는 자유롭고 구성은 그렇지 않다: 이종 시퀀스 믹서 스택을 위해 증명 가능하게 균형 잡힌 구조로서의 라틴 방진

Placement Is Free, Composition Is Not: The Latin Square as a Provably-Balanced Construction for Heterogeneous Sequence-Mixer Stacks

Taebong Kim, Youngsik Hong, Minsik Kim, Sunyoung Choi, Jaewon Jang, Minseo Kim

제출 2026-07-29

저자 비고

arXiv Comments

19pages, 5 figures

한국어 초록

GPT 이후 대부분의 트랜스포머(Transformer)는 모든 층(layer)에서 동일한 어텐션(attention) 메커니즘을 반복해 왔습니다. 그러나 이러한 설계는 검증된 결론이라기보다는 대체로 관례에 가깝습니다. 하나의 스택에 여러 시퀀스 믹서가 결합될 때 성능 향상은 메커니즘의 선택, 배치, 또는 둘 모두에서 비롯될 수 있어 인과적 귀인이 어렵습니다. 본 논문에서는 7개의 시퀀스 혼합 메커니즘을 $7\times7$ 라틴 방진(Latin square) 형태로 배치한 49개 층으로 구성된 65.9억 개 매개변수(parameter) 규모의 전문가 혼합(MoE) 모델(활성 매개변수 약 29.8억 개)인 Aether-7B-5Attn을 소개합니다. 각 메커니즘이 모든 행과 열에 정확히 한 번씩 나타나기 때문에, 이 설계는 깊이 전반에 걸쳐 균형 잡힌 노출을 보장하는 동시에 배치로 인한 교란 요인을 제거합니다. 이 원리를 평가하기 위해, 우리는 4개의 메커니즘을 16개 층에 걸쳐 $4\times4$ 라틴 방진으로 배치하고 7억 90만 개의 매개변수로 맞추었으며 실험군(arm)당 8개의 시드로 학습(training)한 매개변수 일치 프록시를 구축했습니다. 실험 결과는 명확한 분리를 보여줍니다. 분산된 이종 스택을 균형 잡힌 주기적 순환으로 재배치하더라도 검증(validation) 손실(loss)은 단 0.16%만 변하여, 정확한 배치는 거의 영향을 미치지 않음을 나타냅니다. 반면, 동일한 메커니즘들을 연속된 깊이 대역으로 클러스터링하면 0.59%의 페널티가 발생하며, 이종 스택을 동종 스택으로 교체하면 1.68%의 페널티가 발생합니다. 이러한 결과는 성능이 특정한 순열보다는 주로 깊이 전반에 분산된 이종 구성에 의존함을 시사합니다. 우리는 동종 스택 페널티가 2.63%로 증가하고 SSM 계열 메커니즘을 제거할 때 3.20%의 성능 저하가 발생하는 2.16배 더 큰 규모(15.14억 개 매개변수)에서 이 발견을 재확인했습니다. 나아가 각 메커니즘별 비용 프로파일, 영어 및 한국어 평가, 49개 전 층에 대한 인과적 안전성(safety) 감사 결과를 보고합니다. 본 연구에서는 모델 가중치, 학습 레시피, 학습 코드, 로그 및 아키텍처 소스 코드를 공개합니다.

원문 초록

Since GPT, most Transformers have repeated the same attention mechanism at every layer. Yet this design is largely a convention rather than a tested conclusion. When multiple sequence mixers are combined in one stack, improvements may arise from mechanism choice, placement, or both, making causal attribution difficult. We introduce Aether-7B-5Attn, a 6.59B-parameter mixture-of-experts model ($\approx$2.98B active) whose 49 layers contain seven sequence-mixing mechanisms arranged as a $7\times7$ Latin square. Because each mechanism appears exactly once in every row and column, the design guarantees balanced exposure across depth while eliminating placement confounds. To evaluate this principle, we build a parameter-matched proxy with four mechanisms arranged as a $4\times4$ Latin square over sixteen layers, matched to 700.9M parameters and trained with eight seeds per arm. The results reveal a clear dissociation. Rearranging a distributed heterogeneous stack into a balanced periodic cycle changes validation loss by only 0.16\%, indicating that exact placement has little effect. In contrast, clustering the same mechanisms into contiguous depth bands incurs a 0.59\% penalty, while replacing the heterogeneous stack with a homogeneous one incurs a 1.68\% penalty. These results indicate that performance depends primarily on heterogeneous composition distributed across depth rather than on any particular permutation. We confirm this finding at 2.16$\times$ larger scale (1.514B parameters), where the homogeneous-stack penalty increases to 2.63\% and removing the SSM-family mechanism produces a 3.20\% degradation. We further report per-mechanism cost profiles, English and Korean evaluations, and a causal-safety audit of all 49 layers. We release model weights, training recipes, training code, logs, and architecture source code.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.20269v3

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13370v1cs.CL공통 태그 Mixture-of-Experts, Large Language Model

전문가 선택 편향을 통한 데이터 불균형 극복

Overcoming Data Imbalances with Expert Selection Biases

전문가 혼합(MoE) 모델은 프론티어 대규모 언어 모델(LLM)의 표준 아키텍처로 자리 잡았습니다. 각 트랜스포머(transformer) 블록에 존재하는 다수의 병렬 전문가는 이론적으로 사전학습(pre-training) 과정에서 도메인, 언어 또는 모달리티와 같은 카테고리에 맞춰 전문가의 전문화를 가능하게 합니다. 그러나 카테고리 간 데이터가 불균형할 경우, 소수 카테고리는 전문가 풀의 작은 일부분에 집중되거나 비효율적으로 분산되어 실질적으로 활용 가능한 용량이 제한될 수 있습니다. 본 연구에서는 카테고리 조건부 전문가 선택 편향(expert-selection bias)을 통해 서로 다른 카테고리의 토큰을 특화된 전문가 풀로 우선 라우팅할 수 있음을 입증합니다. 입력 카테고리에 기반한 편향을 적용함으로써, 유연한 카테고리 맞춤형 전문화를 유도하는 간단한 방법을 제시합니다. 이러한 개입은 필요에 따라 카테고리 간 공유를 유지하면서도 카테고리가 구별된 전문가 하위 집합으로 향하도록 유도합니다. 더 중요하게는, 데이터 부족으로 인해 불리할 수 있는 카테고리에 전문가 용량을 초과 할당(over-allocation)할 수 있도록 지원합니다. 최대 10.6B 파라미터 크기의 모델에서 다양한 모달리티, 저자원 언어, 코드 전반에 걸친 성능 향상을 확인했습니다. 가장 작은 모델 규모와 가장 큰 모델 규모에서 이러한 성능 향상은 기준선(baseline) 대비 각각 18.5% 및 2.7%의 추가 학습 토큰을 할당한 것과 맞먹는 수준입니다. 전반적으로 본 연구 결과는 전문가 편향이 표준 MoE 추론을 유지하면서도 저자원 카테고리를 위한 공간을 확보하고 카테고리 수준의 전문가 할당을 위한 경량화된 제어 수단으로 활용될 수 있음을 보여줍니다.

arXiv:2610.13630v1cs.CL공통 태그 Mixture-of-Experts, Large Language Model

멀티스트림 어텐션 잔차

Multi-Stream Attention Residuals

어텐션 잔차(Attention Residuals, AttnRes)는 네트워크 깊이(depth) 축을 따라 콘텐츠 종속적(content-dependent) 검색(retrieval)을 가능하게 하며, 이는 깊이 축을 따른 단일 스트림 소프트맥스 어텐션으로 볼 수 있다. 시퀀스(sequence) 축을 따른 멀티헤드 어텐션(multi-head attention)의 성공에서 영감을 받아, 우리는 AttnRes를 멀티헤드 깊이 어텐션(multi-head depth attention)으로 일반화한 확장 기법인 멀티스트림 어텐션 잔차(Multi-Stream Attention Residuals, MSAR)를 제안하며, 이는 최소한의 추가 오버헤드로 상당한 성능 향상을 가져온다. MSAR는 멀티스케일 코잘 컨볼루션(multi-scale causal convolution)을 통해 시퀀스 컨텍스트로부터 스트림 다양성을 이끌어내며, 이를 통해 서로 다른 헤드가 은닉 표현(hidden representation)의 무결성을 유지하면서도 서로 다른 컨텍스트 관점을 통해 과거 표현(historical representation)을 검색할 수 있도록 한다. 검색된 스트림들은 경량의 적응형 믹싱(adaptive mixing)을 통해 결합되어 단일 스트림 층 입력을 생성한다. 단일 스트림 소스를 유지하면서 필요 시 이를 확장함으로써, MSAR는 지속적인 멀티스트림 저장이나 통신 없이도 멀티스트림 연산을 지원한다. 180억(18B) 및 280억(28B) 규모의 MoE(전문가 혼합) 모델에서 수행한 12개의 다운스트림 벤치마크 전반에 걸쳐, MSAR는 표준 잔차 연결(residual connection), 매니폴드 제약 하이퍼커넥션(manifold-constrained Hyper-Connections, mHC), AttnRes를 포함한 기존의 모든 잔차 변형 기법을 일관되게 능가한다. 스케일링 법칙(scaling-law) 실험 결과, 표준 잔차 기준선 대비 동일 손실(iso-loss) 기준 연산 속도 향상이 $1.58\times$로 나타났으며, 이는 AttnRes의 $1.35\times$ 및 mHC의 $1.30\times$와 비교된다. 이러한 결과는 MSAR를 대규모 사전학습을 위한 유망한 잔차 아키텍처로 만든다.

arXiv:2610.13720v1cs.CV공통 태그 Mixture-of-Experts, state space model

수중 이미지 향상을 위한 업데이트 경향성 라우팅 기반 상태 격리 Vision Mamba

State-Isolated Vision Mamba via Update-Tendency Routing for Underwater Image Enhancement

Vision Mamba는 순환적 상태 진화(recurrent state evolution)를 통해 장거리 공간적 의존성을 모델링함으로써 컨볼루션 및 트랜스포머(Transformer) 기반 아키텍처의 효율적인 대안으로 최근 부상하고 있다. 기존 연구들은 주로 토큰 직렬화(token serialization), 스캐닝 전략, 또는 전문가 라우팅(expert routing)을 개선하는 데 초점을 맞추었으나, 공간적으로 이질적인 시각적 복원을 위해 순환 상태(recurrent state)를 어떻게 조직해야 하는가라는 상태 수준의 질문은 대체로 간과해왔다. 본 논문에서는 서로 다른 업데이트 양상을 가진 토큰들이 공유된 은닉 상태(hidden state)를 반복적으로 수정하도록 강제할 경우 지속적인 콘텐츠 간 간섭이 발생함을 보이며, 이를 상태 경쟁(State Contention)이라 명명한다. 더 나아가 효과적인 순환 모델링은 토큰 순서가 아닌 토큰 호환성에 따라 상태 진화를 조직해야 한다고 주장한다. 이러한 관찰에 기반하여, Vision Mamba를 위한 새로운 순환 상태 조직 원리인 상태 격리(State Isolation)를 제안한다. 이 원리에 따르면 상태 업데이트 경향성(state-update tendency)이 호환되는 토큰들은 독립적인 순환 상태 흐름 내에서 진화한다. 이 원리를 구현하기 위해, 모델 고유의 업데이트 표현을 구성하고, 레이블 없는 클러스터링(label-free clustering)을 통해 업데이트 호환 가능한 토큰 그룹을 발견하며, 클러스터-라우트-격리(cluster--route--isolate) 패러다임에 따라 이를 격리된 Mamba 전문가(expert)들에게 라우팅하는 Δ-가이드 아키텍처인 IsoMamba를 제안한다. 또한 수중 이미지에서 파장에 따라 달라지는 복원 난이도를 보완하기 위한 동적 채널별 재가중(dynamic channel-wise reweighting) 목적함수를 개발한다. 광범위한 실험을 통해 IsoMamba가 여러 수중 이미지 향상(underwater image enhancement) 벤치마크에서 일관되게 최신 기술 수준(state-of-the-art)의 성능을 달성하면서도 더 깨끗한 은닉 상태 응답을 제공함을 입증하며, 이는 상태가 격리된 순환 모델링의 효과를 검증한다.

arXiv:2610.10616v1cs.LG공통 태그 Mixture-of-Experts, Large Language Model

라우팅이 멤버십을 드러낼 때: MoE 라우터 텔레메트리로 인한 프라이버시 누출

When Routing Reveals Membership: Privacy Leakage from MoE Router Telemetry

전문가 혼합(MoE) 언어 모델은 추론(inference) 과정에서 모니터링, 디버깅, 부하 분석, 안전성 감사 등을 위해 로깅되거나 노출될 수 있는 라우팅 정보를 생성합니다. 일반적인 모델 출력과 달리 이러한 텔레메트리는 모델의 내부 연산에 대한 관점을 드러내어, 특정 예시가 배포된 모델의 미세조정(fine-tuning)에 사용되었는지 여부를 드러낼 수 있는가라는 프라이버시 질문을 제기합니다. 본 논문에서는 기존의 출력 측 신호와 집계된 라우팅 특징을 결합하고 독립적으로 미세조정된 섀도 모델(shadow model)로부터 학습한 멤버십 분류기를 타깃 모델에 적용하는 라우터 증강 멤버십 추론 공격(membership inference attack)을 도입합니다. 세 가지 MoE 아키텍처와 세 가지 데이터 도메인 전반에서, 라우터 텔레메트리는 강력한 출력 신호 앙상블(ensemble) 대비 멤버십 추론 성능을 지속적으로 향상시켰으며, 9가지 모든 설정에서 1% FPR 기준 TPR을 2.7~9.4%p 증가시켰습니다. 이러한 누출은 전체 미세조정, 라우터 고정 학습(frozen-router training), LoRA 및 지시 미세조정(instruction tuning) 전반에서 지속되며, 이산적 전문가 선택, 제한된 텔레메트리, 또는 단일 섀도 모델만으로도 관찰 가능한 상태로 유지됩니다. 메커니즘 분석에 따르면 이러한 누출에는 라우터에 특화된 암기가 반드시 필요하지 않음을 보여줍니다. 즉, 미세조정은 은닉 표상에 멤버십 정보를 도입하며, 라우터는 파라미터가 고정되어 있더라도 이 신호의 투영을 노출합니다. 텔레메트리를 섭동(perturbation)시키는 것은 충실도가 저하될 때만 이러한 추가 누출을 감소시킵니다. 본 연구 결과는 라우터 텔레메트리가 운영 신호를 미세조정된 MoE 모델을 위한 추가적인 프라이버시 공격 표면으로 전환할 수 있음을 보여줍니다.

arXiv:2610.02657v1cs.LG공통 태그 Mixture-of-Experts, Large Language Model

컨텍스트 타워 변환은 생성 성능을 보존하고 동결은 지식을 유지한다: MoE LLM의 저예산 AR-투-디퓨전 변환

Context-Tower Conversion Preserves Generation While Freezing Retains Knowledge: Low-Budget AR-to-Diffusion Conversion of MoE LLMs

사전학습된 자기회귀(AR) 모델을 디퓨전 언어 모델(dLLM)로 변환하면 새로운 모델을 사전학습하지 않고도 병렬 생성이 가능해진다. 기존에 발표된 변환 방법들은 학습 데이터 양에서 약 세 자릿수(1000배) 차이를 보이며, 공통된 프로토콜 하에서 비교된 적이 없다. 우리는 동일한 300억(30B) 매개변수 규모의 전문가 혼합(MoE) 부모 모델로부터 얻은 두 가지 변환 방식을 비교하며, 코퍼스, 지도 학습 토큰 예산, 학습 가능한 매개변수 집합, 평가 하니스(harness)는 고정한 채 각 방법은 고유한 학습 레시피를 따르도록 했다. 제자리(in-place) 모델은 디노이징(denoising) 및 표현 정렬(representation-alignment) 손실을 사용하여 부모 모델의 가중치 중 일부를 업데이트하는 반면, 동결 타워(frozen-tower) 모델은 부모 모델의 동결된 코잘(causal) 복사본에 대한 크로스 어텐션을 통해 조건화된다. 10억(1B)개의 학습 토큰을 사용했을 때, 동결 타워 모델은 HumanEval pass@10에서 71.60점을 기록한 반면 제자리 모델은 6.19점에 그쳤으며, 이는 11.6배의 성능 향상이다. 같은 예산에서 동결 타워 모델은 부모 모델의 GSM8K 점수의 95%와 MMLU-Pro 점수의 99%를 유지한다. 덴스(dense) 부모 모델을 사용한 실험에서도 HumanEval 점수 격차가 동일하게 재현되었다. 약 5억(500M) 토큰 규모에서 투 타워(two-tower) 구조 내에서는, 컨텍스트 타워를 동결했을 때가 학습시켰을 때보다 MMLU-Pro 성능을 상당히 더 많이 유지하는 반면, HumanEval 점수는 두 경우 모두 비슷하게 관찰되었다. 우리의 이론적 분석에 따르면, 두 변환 방식 모두 하드 어텐션 마스크(hard attention mask)와 라운드당 한 위치씩 왼쪽에서 오른쪽으로 확정하는 방식 하에서 AR 부모 모델에 대한 정확한 샘플러(exact sampler)를 포함한다. 동일한 손실 함수 하에서, 동결은 컨텍스트 상태(context states)를 통한 그래디언트 기여를 제거한다. 또한, 평가 프로토콜은 이미 발표된 5000억(500B) 토큰 규모의 변환 모델의 점수에 과제별로 양방향 모두 상당한 영향을 미치는 반면, 그 AR 부모 모델의 점수는 3점 미만의 차이만 보이므로, dLLM들을 비교하려면 공통된 프로토콜이 필요하다. 이러한 결과는 테스트된 저예산(low-budget) 환경에서 동결 타워 구성이 제자리 변환보다 부모 모델의 생성 성능을 상당히 더 많이 유지함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.