arXiv:2606.17289v1 cs.AI

무언가에서 무(無)를: 언어 모델은 0을 발견할 수 있는가?

Nothing from Something: Can a Language Model Discover 0?

Phoebe Zeng, Thomas L. Griffiths, Brenden M. Lake

제출 2026-06-15

한국어 초록

인공 신경망을 기반으로 하는 AI 시스템들은 인간의 수학적 지식의 경계를 확장하겠다는 목표로 개발되고 있습니다. 이러한 시스템에 대한 핵심 질문은 학습 데이터를 얼마나 넘어설 수 있는가입니다. 수학적 발견은 강력한 형태의 분포 외(out-of-distribution) 일반화가 필요합니다. 즉, 진정으로 새롭고 잠재적으로 논리적으로 더 강력한 수학적 구조를 가설로 세울 수 있는 능력이 필요합니다. 인간의 인지에서 언어 능력이 이러한 일반화를 지원한다는 가설이 제기되어 왔습니다. 본 연구에서는 현대 AI 모델이 수학적 지평을 어떻게 확장할 수 있는지 조사하기 위해 단순 산술을 사례 연구로 사용하며, 이러한 모델이 "0"의 개념을 독립적으로 발견할 수 있는지 평가합니다. 우리는 (1) GPT-2 크기의 언어 모델은 언어 사전 학습 여부와 관계없이 테스트 시점에 이러한 일반화를 수행할 수 없지만, (2) 0에 대한 수십 또는 수백 개의 예제로 학습한 후에는 모델이 상당히 향상됨을 보여줍니다. 또한, 언어 사전 학습이 필요한 예제의 수를 약 50% 감소시킴을 발견했으며, 이는 언어 능력이 신경망 모델에서 수학적 발견을 지원할 수 있음을 보여줍니다.

원문 초록

AI systems based on artificial neural networks are being developed with aspirations of pushing the boundary of human mathematical knowledge. A key question for these systems is how much they can reach beyond their training data. Mathematical discovery requires a strong form of out of distribution generalization; the ability to hypothesize genuinely new - and potentially logically more powerful - mathematical structures. It has been hypothesized that language abilities support such generalizations in human cognition. In this work, we use simple arithmetic as a case study for examining how modern AI models could expand their mathematical horizons, evaluating whether these models can independently discover the concept of "zero". We show that We show that (1) language models of a GPT-2 size are unable to perform this generalization at test time regardless of language pretraining, but (2) models can improve substantially after training on tens or hundreds of examples of zero. Additionally, we find that language pretraining reduces the number of required examples by approximately $50\%$, showing that language abilities can scaffold mathematical discovery in neural models.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.17289v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22043v2cs.CL공통 태그 Language Modeling, Few-Shot Learning

스크래치로부터의 네이티브 멀티모달 사전학습 스케일링

Scaling Native Multimodal Pre-Training From Scratch

대규모 언어 모델(LLM)이 뛰어난 추론 능력을 보여줌에도 불구하고, 텍스트 전용 사전학습에 의존하는 점은 멀티모달 물리적 세계에 대한 인식을 제한합니다. 네이티브 멀티모달 사전학습은 멀티모달 입력을 바탕으로 모델을 스크래치부터 학습(from scratch)함으로써 이러한 한계를 극복하며, 이를 통해 깊은 크로스모달 통합을 달성하고 기존의 후기 융합(late-fusion) 아키텍처에 내재된 최적화 비대칭성을 완화합니다. 이러한 장점에도 불구하고, 이 패러다임의 스케일링(scaling) 특성은 여전히 불완전하게 규명되어 있습니다. 이러한 공백을 해소하기 위해, 본 연구에서는 고정된 계산 예산 하에서 트랜스포머 기반 비전-언어 모델을 학습하기 위한 최적의 모델 크기와 토큰 수를 조사합니다. 연구 결과, 최소 목적 손실은 예측 가능한 연산 법칙을 따르는 반면, 연산 최적의 모델 크기와 토큰 수는 거듭제곱 법칙으로 스케일링됨을 보여줍니다. 특히, 언어 및 멀티모달 목적 함수는 뚜렷이 구분되는 할당 경향을 나타냅니다. 언어 할당 지수는 서로 다른 데이터 혼합 전반에 걸쳐 유사한 범위에 위치합니다. 멀티모달 모델 할당 지수는 멀티모달 토큰 비율에 따라 완만하게 감소하여, 상대적으로 토큰 할당 쪽으로 전환됨을 시사합니다. 또한, 본 스케일링 분석은 예산 보상 규칙을 도출합니다. 구체적으로, 고정된 연산 예산 하에서 네이티브 멀티모달 사전학습에 시각 정보를 통합함으로써 발생하는 텍스트 효율성 저하를 추가적인 멀티모달 토큰 예산으로 상쇄할 수 있습니다. 다운스트림 평가는 네이티브 멀티모달 사전학습이 향상된 공간 추론 및 멀티모달 퓨샷(few-shot) 학습과 연관되어 있음을 추가로 보여줍니다. 전반적으로, 본 실증적 연구는 멀티모달 파운데이션 모델을 예측 가능하게 스케일링하기 위한 필수적인 기반을 마련합니다.

arXiv:2609.29102v3cs.CL공통 태그 Language Modeling, Math

ELF-REG: 연속형 디퓨전 언어 모델을 추론 작업으로 확장하기

ELF-REG: Scaling Continuous Diffusion Language Models to Reasoning Tasks

완전 연속형 디퓨전 언어 모델(dLMs)은 중간 이산화 과정 없이 연속적인 표현의 노이즈를 제거한 뒤, 최종 단계에서 모든 응답 토큰을 병렬로 디코딩합니다. 그러나 고난도 추론 작업에서 이들의 성능은 자기회귀(AR) 대규모 언어 모델(LLM) 및 마스크 기반 dLM에 비해 아직 덜 입증되었습니다. 본 연구에서는 GSM8K, MATH-500, HumanEval, MBPP를 대상으로 임베디드 언어 흐름(ELF)을 수학적 추론 및 코드 생성 작업으로 확장합니다. 이를 위해 표현 정렬(alignment) 및 얽힘(entanglement)(REPA+REG)을 통해 학습(training)을 개선하는 ELF-REG를 제안합니다. 여기서 동결된 AR 교사 모델은 디노이저의 중간 특징을 감독하고, 응답과 함께 공동으로 노이즈가 제거되는 전역 표현을 제공합니다. ELF-REG-L은 64회의 네트워크 함수 평가(NFE)에서 GSM8K pass@1 55.96%를 달성하고, 128 NFE에서 MATH-500 13.39%, HumanEval 22.56%를 기록했습니다. 이는 GSM8K 및 코드 작업의 pass@1에서 평가된 유사 규모의 dLM들을 능가하며, MATH-500 pass@1을 ELF-L 기준선(baseline)의 10.55%에서 ELF-REG-L을 통해 13.39%로 향상시킵니다. 적은 단계의 학습 없이도 동일한 작업별 체크포인트는 디노이징 궤적을 완료하지 않고 중간의 정제된 예측을 디코딩하는 조기 중단(early-stop)을 통해 강력한 저(low)-NFE 성능을 지원합니다. 16 NFE에서 ELF-REG-L은 41.21%의 HumanEval pass@10에 도달하여 유사한 규모의 최근 연속형 dLM들을 능가합니다.

arXiv:2609.27220v1cs.CL공통 태그 Language Modeling, Math

LOCKR: 확산 언어 모델에서 안정적이지만 잘못된 락인을 감지하고 수정하기 위한 은닉 상태 궤적 유도 플래너

LOCKR: A Hidden-State Trajectory-Guided Planner for Detecting and Repairing Stable-but-Wrong Lock-In in Diffusion Language Models

확산 언어 모델(diffusion language models)은 반복적인 노이즈 제거(denoising)를 통해 텍스트를 생성하며, 최종 답변이 생성되기 전에 중간 궤적을 드러냅니다. 본 논문에서는 상당한 노이즈 제거 과정이 남아있음에도 답변이 조기에 잘못된 값으로 안정화되는 반복적인 추론 실패 현상인 '안정적이지만 잘못된 락인(stable-but-wrong lock-in)'을 규명합니다. 신뢰도(confidence), 엔트로피(entropy), 마진(margin), 답변 안정성과 같은 표면 수준 디코딩 신호는 올바른 락인과 잘못된 락인을 안정적으로 구분하기에 불충분합니다. 이에 본 연구는 선택적 추론 수정을 경량 테스트-타임 계획(test-time planning) 문제로 정식화하고, 은닉 상태(hidden-state) 궤적 유도 플래너인 LOCKR을 제안합니다. LOCKR은 추가 계산을 할당할 시점을 결정하고, 구조화된 타깃 수정 브랜치 세트를 확장하며, 궤적 인식 검증을 사용하여 가장 유망한 연속 생성을 선택합니다. 두 가지 확산 언어 모델과 세 가지 수학적 추론 벤치마크 전반에서, 은닉 상태 궤적은 잘못된 락인 감지 및 수정 선택 모두에서 표면 신호와 단일 은닉 스냅샷을 일관되게 능가했습니다. 자연스러운 평가 분포에서 LOCKR은 평가된 5개 설정 모두에서 2.21~5.37%p의 절대적 정확도 향상을 달성했으며, 수정률은 22%에서 41%에 달했습니다. 이러한 결과는 확산 모델의 은닉 궤적이 선택적 테스트-타임 추론 수정을 위한 실행 가능한 신호임을 입증합니다.

arXiv:2609.28272v1cs.CL공통 태그 Language Modeling, Math

효율적인 추론을 향하여: 확산 언어 모델을 위한 인과적 지름길 학습

Towards Efficient Reasoning: Learning Causal Shortcuts for Diffusion Language Models

확산 언어 모델(Diffusion Language Models, DLM)은 뛰어난 추론 능력으로 상당한 주목을 받아왔습니다. 그러나 양방향 어텐션(bidirectional attention) 메커니즘 하에서 DLM은 자기회귀 모델(autoregressive models, ARM)에 비해 기하급수적으로 큰 탐험(exploration) 공간에서 작동하므로, 무작위 마스킹 환경에서 추론을 유도하는 토큰에 집중하기 어렵습니다. 본 논문에서는 전체 시퀀스를 포괄하며 올바른 추론 궤적으로 명시적인 가이드를 제공하는 토큰 체인을 인과적 지름길(causal shortcut)로 정의합니다. DLM의 추론 정확도와 수렴(convergence) 속도에 인과적 지름길이 미치는 영향을 분석한 결과, 정답 수렴 효율성과 생성 정확도가 크게 향상됨을 확인했습니다. 이에 영감을 받아, 본 연구에서는 DLM을 위한 인과적 지름길 학습(Causal Shortcut Learning, CSL) 프레임워크를 제안합니다. 구체적으로, 데이터에서 인과적 지름길을 추출하는 단계별 토큰 추출 절차를 도입하고, 학습(training) 중 이러한 토큰들에 병렬 우선순위 마스킹을 적용하여 인과적 지름길을 통해 정답으로의 효율적이고 정확한 수렴을 가능하게 합니다. 여러 추론 벤치마크와 두 가지 기본 모델에 걸친 광범위한 실험을 통해 CSL이 기존 SFT 변형 베이스라인들을 일관되게 능가하며, SFT 전용 모델 대비 평균 $1.92\%$, MATH-500에서는 최대 $4.20\%$의 향상을 달성함을 입증합니다. 코드는 \href{https://github.com/ZJUDianJin/Causal-Shortcuts-Learning}{https://github.com/ZJUDianJin/Causal-Shortcuts-Learning 에서 확인할 수 있습니다.

arXiv:2609.25009v1cs.CL공통 태그 Language Modeling, Math

같은 수량, 다른 답: 언어 모델의 수치 표현 불변성

Same Quantity, Different Answer: Numerical Representation Invariance in Language Models

수치적으로 동등한 문장제 문제는 수량이 소수, 분수, 백분율, 숫자 단어, 과학적 표기법, 또는 정확히 변환된 단위 중 어떤 형태로 쓰이든 동일한 정규(canonical) 답을 내야 합니다. 우리는 3,600개의 정확한 유리수 문제와, 정체성을 보존하는 다섯 가지 변환 계열에 걸친 8,600개의 프롬프트를 생성하고, 다섯 개의 오픈 가중치(open-weight) 시스템을 평가했습니다. LLM 판정자 없이 일반적인 답변 형식을 정규화하는 고정된 구문 감사(syntax audit)를 거친 후, 정규 정확도(canonical accuracy)는 0.969~0.996이지만, 오빗 정확도(orbit correctness)는 0.848~0.981로, 오빗 불변성(orbit invariance)은 0.851~0.981로 떨어집니다. 불변이지만 틀린 오빗은 최대 0.003을 차지합니다. 엄격한 파서(strict parser)에서 나타나는 광범위한 성능 붕괴의 대부분은 곱셈 형태의 과학적 표기법이 구현된 숫자 문법 범위를 벗어나기 때문에 발생하며, 이는 평가기 인터페이스가 추론 실패로 오인될 수 있음을 보여줍니다. 별개의 의미론적 병리 현상도 남아 있습니다. Mistral Small 4는 단위 변환된 입력에서 0.699를 기록했으며, 정답 레이블과 정확히 10의 거듭제곱만큼 차이 나는 오류를 265건 생성했습니다. 비교 대상 조건에 동일한 호출 횟수를 할당한 별도의 9,000회 호출 실험에서, 표현 합의(representation consensus)는 오류가 낮은 부분집합에서 패러프레이즈 합의(paraphrase consensus)보다 나은 성능을 보이지 않았으며, 훨씬 더 많은 오경보(false alarm)를 발생시켰습니다. 함께 제공되는 보조 아카이브에는 고정된(frozen) 벤치마크, 평가 및 감사 기록, 합의 방식의 원시 응답, 매니페스트, 분석 코드, 그리고 한 번의 명령으로 논문을 빌드하는 스크립트가 포함되어 있습니다.

arXiv:2609.25927v1cs.CL공통 태그 Language Modeling, Math

정보 기반 마스킹: 확산 대규모 언어 모델의 강화학습을 위한 구조 인지 섭동

Informed Masking: Structure-Aware Perturbation for Reinforcement Learning in Diffusion Large Language Models

확산 대규모 언어 모델(dLLM)은 자기회귀 모델의 효율적인 대안으로 부상했으나, 이를 강화학습(RL)을 통해 정렬(alignment)하려면 롤아웃당 적은 몬테카를로 예산 하에서 마스킹된 재구성 하위 문제로부터 추정된 가능도 대리치(likelihood surrogates)가 필요합니다. 기존 기법들은 균등 무작위 마스킹을 통해 이러한 하위 문제를 구성하므로, 어떤 하위 문제를 우선시해야 하는지에 대한 의문이 남아 있습니다. 본 연구는 dLLM 롤아웃에서 체계적인 상류/하류(upstream/downstream) 구조를 규명합니다. 특정 토큰들은 공개되었을 때 아직 디코딩되지 않은 인접 위치에서 큰 신뢰도 변화를 유발하며, 이를 상류 토큰이라 부릅니다. 반면 다른 토큰들은 국소적으로 작은 변화만을 유발하므로 하류 토큰에 해당합니다. 연구진은 하류 토큰을 마스킹하는 것이 상류 토큰을 마스킹하는 것보다 실질적으로 훨씬 더 잘 정의된(better-posed) 하위 문제를 생성한다는 점을 발견했으며, 이 현상을 '하위 문제 난이도 비대칭성'이라 명명했습니다. 이러한 관찰을 바탕으로, 추가적인 추론 비용 없이 디노이징 궤적에서 토큰별 우선순위 점수를 도출하고 마스크 샘플링이 하류 토큰 쪽으로 편향되도록 하는 정보 기반 마스킹(Informed Masking, IM)을 제안합니다. IM은 플러그 앤 플레이(plug-and-play) 방식으로 적용할 수 있으며, LLaDA-8B-Instruct 기반 세 가지 최신 dLLM 강화학습 기법에 결합했을 때 향상된 학습 안정성과 함께 수학 및 계획 수립 벤치마크에서 각각 최대 2.01%, 8.68%, 5.77%의 상대적 평균 성능 향상을 달성합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.