arXiv:2606.28105v2 cond-mat.dis-nn

Random Language Model의 스케일링 극한

Scaling limit of the Random Language Model

Eric De Giuli

제출 2026-11-13

원문 초록

We develop a quantitative theory of the Random Language Model (RLM), an ensemble of stochastic context-free grammars, in a scaling limit where the number of hidden symbols $N \to \infty$ while the grammar temperature $\tilde\epsilon_d \to 0$ at fixed $x = \tilde\epsilon_d \log N$. In this limit, the model admits a controlled description based on a large-deviation principle over rule-usage patterns. A semi-annealed approximation maps the problem to a class of Random Energy Models with nontrivial combinatorics. We show that the RLM exhibits a freezing transition at a critical value $x_c=1/8$, below which rule usage condenses on a subset of preferred rules and language statistics acquire a nontrivial dependence on corpus length. A second characteristic scale at $x=1/2$, associated with the breakdown of Gaussian fluctuations, separates transition and babbling regimes. Across regimes, we derive explicit scaling laws for the number of distinct rules, entropy, and energy, identifying distinct frozen and critical regimes controlled by the interplay of grammar size, corpus length, and temperature. The theory resolves previous ambiguities regarding the existence of a thermodynamic transition and explains the slow approach to the large-$N$ limit as a consequence of the dependence on $\log N$. It further provides a unified framework in which universal statistical properties of language emerge from typical realizations of generative grammars, with implications for both natural language statistics and the behavior of large language models. Heaps' law and Zipf's law are both derived, and the dependence of predictive entropy on context length is rationalized. Comparison with empirical measurements of Heaps' and Zipf's laws yields parameter estimates for real languages.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.28105v2제출 시각 미확인
  2. arXiv:2606.28105v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13370v1cs.CL공통 태그 Language Modeling, Large Language Model

전문가 선택 편향을 통한 데이터 불균형 극복

Overcoming Data Imbalances with Expert Selection Biases

전문가 혼합(MoE) 모델은 프론티어 대규모 언어 모델(LLM)의 표준 아키텍처로 자리 잡았습니다. 각 트랜스포머(transformer) 블록에 존재하는 다수의 병렬 전문가는 이론적으로 사전학습(pre-training) 과정에서 도메인, 언어 또는 모달리티와 같은 카테고리에 맞춰 전문가의 전문화를 가능하게 합니다. 그러나 카테고리 간 데이터가 불균형할 경우, 소수 카테고리는 전문가 풀의 작은 일부분에 집중되거나 비효율적으로 분산되어 실질적으로 활용 가능한 용량이 제한될 수 있습니다. 본 연구에서는 카테고리 조건부 전문가 선택 편향(expert-selection bias)을 통해 서로 다른 카테고리의 토큰을 특화된 전문가 풀로 우선 라우팅할 수 있음을 입증합니다. 입력 카테고리에 기반한 편향을 적용함으로써, 유연한 카테고리 맞춤형 전문화를 유도하는 간단한 방법을 제시합니다. 이러한 개입은 필요에 따라 카테고리 간 공유를 유지하면서도 카테고리가 구별된 전문가 하위 집합으로 향하도록 유도합니다. 더 중요하게는, 데이터 부족으로 인해 불리할 수 있는 카테고리에 전문가 용량을 초과 할당(over-allocation)할 수 있도록 지원합니다. 최대 10.6B 파라미터 크기의 모델에서 다양한 모달리티, 저자원 언어, 코드 전반에 걸친 성능 향상을 확인했습니다. 가장 작은 모델 규모와 가장 큰 모델 규모에서 이러한 성능 향상은 기준선(baseline) 대비 각각 18.5% 및 2.7%의 추가 학습 토큰을 할당한 것과 맞먹는 수준입니다. 전반적으로 본 연구 결과는 전문가 편향이 표준 MoE 추론을 유지하면서도 저자원 카테고리를 위한 공간을 확보하고 카테고리 수준의 전문가 할당을 위한 경량화된 제어 수단으로 활용될 수 있음을 보여줍니다.

arXiv:2610.13605v1cs.CL공통 태그 Language Modeling, Large Language Model

zip2zip++: 최소한의 품질 손실로 추론 시점 토큰 압축을 향하여

zip2zip++: Towards Inference-Time Token Compression with Minimal Quality Loss

Lempel-Ziv-Welch(LZW) 압축을 통해 즉석에서 구축되는 동적 어휘(dynamic vocabulary)는 언어 모델이 동일한 텍스트를 더 적은 토큰으로 표현할 수 있게 해주지만, 기존 연구에 따르면 이러한 효율성은 추론 능력과 퍼플렉시티(perplexity)의 저하를 대가로 한다. 우리는 이러한 품질 격차가 압축에 따른 근본적인 대가가 아니며, 기반이 되는 사전학습된 언어 모델을 수정하지 않고도 압축 층과 LZW 코덱에 대한 표적화된 개선을 통해 상당 부분 해소될 수 있음을 보인다. 우리의 분석은 네 가지 핵심 문제를 밝혀낸다: (1) LZW의 압축 알고리즘은 입력 임베딩과 출력 임베딩 사이에 암묵적인 충돌을 발생시키며, 이는 단일한 공유 임베딩으로는 해결할 수 없는 긴장 관계이다; (2) RoPE를 LZW로 압축된 시퀀스에 단순하게 적용하면 병합된 토큰이 여러 토큰에 걸쳐 있을 수 있다는 사실을 무시하게 된다; (3) 특정 토큰(특히 숫자)의 병합은 다운스트림 정확도를 불균형적으로 저해한다; 그리고 (4) 동적 어휘는 표준 평가를 혼란스럽게 만드는 본질적인 분절 모호성을 야기한다. 우리는 입력/출력을 분리한 동적 임베딩 층, 크기를 인식하는 RoPE 위치 인코딩, 그리고 선택적 병합과 다중 관점 분절(multi-view segmentation)을 지원하는 수정된 LZW 코덱을 통해 이러한 문제들을 해결한다. 네 가지 모델에 걸쳐, 우리의 방법은 평가한 모든 코퍼스에서 퍼플렉시티를 개선할 뿐만 아니라 수학적 추론 정확도도 향상시키며, 일반 텍스트에서 유사한 압축률로 zip2zip과 비압축 기준선 사이의 품질 격차를 대략 절반으로 줄인다. 이는 언어 모델을 위한 무손실 적응형 어휘 압축을 향한 중요한 진전을 의미한다.

arXiv:2610.13835v1cs.LG공통 태그 Language Modeling, Large Language Model

전문가가 더 빠르게 학습한다: 사전학습에서의 지식 구조화가 지식 업데이트 효율성을 결정한다

Specialists Learn Faster: Knowledge Organization in Pre-training Shapes Knowledge Update Efficiency

이상적인 (언어) 모델은 지식을 지속적으로 업데이트해야 한다. 기존 연구는 주로 학습 이후에 이러한 업데이트를 효율적으로 만드는 데 초점을 맞춰왔다. 본 연구에서는 사전학습 동안 시간에 따라 변화하는 지식의 구조화(organization)가 이후 업데이트의 효율성에 어떤 영향을 미치는지 조사한다. 시간순으로 정렬된 지식으로 학습된 모델은 가장 최근에 접한 지식에 특화되는데, 이러한 모델을 전문가(specialist) 모델이라 부른다. 반면, 동일한 지식을 무작위로 섞은 순서로 학습한 모델은 포함된 모든 시간대에 걸쳐 고르게 우수한 성능을 보이는데, 이러한 모델을 범용(generalist) 모델이라 부른다. 놀랍게도, 전문가 모델은 새로운 지식을 획득하는 데 범용 모델보다 훨씬 적은 업데이트 스텝을 필요로 한다. 이러한 이점을 설명하기 위해, 우리는 업데이트 비용을 모델의 최적화 동역학(optimization dynamics)과 연관시키는 법칙을 제1원리로부터 유도하였으며, 이는 실험 결과를 정확하게 예측한다. 이러한 발견을 바탕으로, 안정적인 과거 지식을 보존하면서도 현재 지식에 대한 효율적인 업데이트를 가능하게 하는 사전학습 데이터 구조화 전략을 설계한다. 또한 시간적 지식 구조화의 이점이 실제 사전학습된 모델과 기존의 지식 업데이트 도구에도 확장되며, 다른 지식 순서화 방식에도 일반화됨을 보인다. 프로젝트 페이지: https://horizon-lab.org/specialist/

arXiv:2610.13895v1cs.CL공통 태그 Language Modeling, Large Language Model

작업 문맥이 언어 모델 구성요소의 역할을 형성하는 방식

Task Context Shapes Component Roles in Language Models

대규모 언어 모델(LLM)은 여러 작업에 걸쳐 동일한 어텐션(attention) 헤드를 재사용하지만, 이러한 공유 헤드를 식별하는 것만으로는 각 작업에서 이들이 어떻게 다르게 동작하는지 설명하지 못합니다. 이에 대한 자연스러운 영감의 원천은 공유된 뇌 영역 간의 작업 의존적 상호작용이며, 이는 언어 모델 연산을 네트워크 관점에서 바라보도록 동기를 부여합니다. 본 연구에서는 어떤 방향성 연결이 존재하는지 명시하는 진술인 동일한 그래프 팩트(graph fact)를 사용하여 고정된 모델 구성요소들을 작업 전반에 걸쳐 비교합니다. 개입(intervention)이 어텐션 헤드와 후속 레이어의 활성화 상태(영향력, influence) 및 정답(중요도, importance)에 어떤 영향을 미치는지 측정합니다. 작업의 변화는 4개 패밀리와 15억~140억(1.5-14B) 파라미터에 걸친 5개의 공개 가중치(open-weight) 모델에서 영향력을 재분배합니다. Gemma-2-9B 및 Qwen3-14B에서는 활성화 편집(activation edit)을 통해 초기 내부 활성화 벡터를 변경함으로써, 서면 인스트럭션이 고정된 상태에서도 모델이 읽는 팩트를 전환합니다. 그 결과 동일한 헤드가 서로 다른 그래프 팩트에 반응하고 후속 구성요소에 다르게 영향을 미치게 됩니다. 각 프롬프트(prompt)에 대해 편집 전과 편집 후의 두 가지 선형 응답 맵(linear response map)을 구축합니다. 각 맵은 이전 헤드의 측정된 변화로부터 후속 헤드의 응답을 예측합니다. 별도의 팩트 개입에 대해, 해당 조건의 맵은 두 맵의 평균과 비교했을 때 평균 제곱 예측 오차를 Gemma에서 53.6%, Qwen에서 5.0% 감소시킵니다. 이러한 발견은 작업 문맥이 공유 구성요소가 반응하는 그래프 팩트와 이들의 출력이 후속 연산에 영향을 미치는 방식을 모두 변화시킨다는 점을 보여줍니다. 네트워크 관점의 설명은 모델이 공유 매개변수를 사용하여 서로 다른 연산을 수행하는 방식을 설명하는 데 도움이 될 수 있습니다. 또한 작업 의존적 영향력 측정은 다른 동작은 보존하면서 특정 동작만 변경하려는 개입을 유도하는 지침이 될 수 있습니다.

arXiv:2610.10827v1cs.CL공통 태그 Language Modeling, Large Language Model

대규모 문법 개념 주석: 배포된 미세조정 소형 언어 모델이 프롬프트 기반 프론티어 모델을 능가하다

Grammar Concept Annotation at Scale: Deployed Fine-Tuned Small Language Models Outperform Prompted Frontier Models

교정 피드백은 제2언어 습득을 이끄는 가장 입증된 요인 중 하나이지만, 수업 중에 제공되는 교정은 문법 숙달도에 대한 실행 가능한 관점으로 축적되는 경우가 드뭅니다. 프롬프트(prompt)를 적용한 프론티어 모델(frontier model)은 학습자-튜터 수업 녹취록을 통해 이러한 관점을 제공할 수 있으나, 대규모 환경에서는 비용이 많이 듭니다. 본 연구에서는 필터링 및 재조정된 교사 생성 지도 데이터를 바탕으로 Qwen3.5 소형 언어 모델(SLM)을 미세조정(fine-tuning)한 후, 플랫폼의 모든 영어 학습자를 위한 엔드투엔드 문법 숙달도 추적기에 효율적인 0.8B 모델을 배포함으로써 이러한 격차를 해소합니다. 주석 규약을 어댑터 가중치에 내재화함으로써 장황한 지시문 대신 간결한 매칭 프롬프트와 0.8B 모델을 결합할 수 있었습니다. 사람이 큐레이션한 두 개의 벤치마크에서, 배포된 0.8B 모델과 4B 참조 비교 모델 모두 개념, 근거 범위, 정확도 등 점진적으로 엄격해지는 중첩 매칭 기준 하에서 프롬프트를 적용한 GPT-5.4 및 GPT-5.6 Sol보다 정밀도(precision)와 재현율(recall) 측면에서 우수한 성능을 보였습니다. 배포된 0.8B SLM은 서빙 비용을 약 16배 절감합니다. 기능 수준의 온라인 실험에서는 학습자 참여도(+15.8%) 및 예약 시간(+2.1%), 신규 수업 기반 GMV(+13.2%)를 포함한 주요 비즈니스 지표에서 상당한 향상을 보였습니다.

arXiv:2610.02741v1cs.AI공통 태그 Language Modeling, Large Language Model

루프형 언어 모델의 사고의 연쇄 모니터링 가능성에 대한 연구

On the Chain-of-Thought Monitorability of Looped Language Models

사고의 연쇄(Chain-of-Thought, CoT) 모니터링은 바람직하지 않은 모델 행동을 탐지하는 유망한 접근 방식을 제공합니다. 루프형 언어 모델(Looped language models, LoopLM)은 공유된 트랜스포머 층을 반복적으로 적용하여 모델 크기를 늘리지 않고도 유효 계산 깊이를 늘리고 추가적인 잠재 연산을 가능하게 합니다. 그러나 루프형 아키텍처가 CoT 모니터링 가능성에 미치는 영향은 아직 거의 연구되지 않았습니다. 본 연구에서는 LoopLM의 CoT 모니터링 가능성에 대한 최초의 체계적인 평가를 제공합니다. 우리는 상호 보완적인 두 가지 설정을 연구합니다: (1) 추가적인 순환 연산의 효과를 분리하기 위해 동일한 LoopLM 계열 내에서 루프 깊이를 변화시키는 설정, 그리고 (2) LoopLM이 모니터링하기 더 어려운지 연구하기 위해 매개변수 크기, 트랜스포머 층 수 또는 유효 깊이를 일치시킨 비루프형(non-looped) 언어 모델과 LoopLM을 비교하는 설정입니다. MonitorBench의 8개 작업과 표준 및 스트레스 테스트 설정 전반에 걸쳐, 특정 논리/과학/공학 \texttt{Cue Answer} 작업의 스트레스 테스트 하에서 CoT 모니터링 가능성이 작업에 따라 감소하는 것을 관찰한 반면, 다른 작업들에서는 더 약하거나 질적으로 다른 경향을 보였습니다. 우리의 진단에 따르면 이러한 감소는 작업 난이도, 검증 통과율 또는 생성된 토큰 길이로 완전히 설명되지 않으며, 정성적 예시는 더 깊은 루프 모델이 제공된 단서를 명시적으로 사용하거나 귀인하는 방식의 변화를 추가로 시사합니다. 교차 모델 비교 결과, 크기나 깊이가 일치하는 비루프형 언어 모델보다 LoopLM이 체계적으로 모니터링 가능성이 낮다는 증거는 발견되지 않았습니다. 종합적으로, 우리의 결과는 스트레스 테스트 하의 일부 작업에서 더 깊은 루프 깊이가 CoT 모니터링 가능성을 감소시킬 수 있지만, 루프형 트랜스포머 아키텍처 자체만으로 모니터링 가능성이 필연적으로 낮아지는 것은 아님을 시사합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.