Cogentic: 자동화된 증명 발견을 위한 멀티 에이전트 오케스트레이션
Cogentic: Multi-Agent Orchestration for Automated Proof Discovery
한국어 초록
본 논문에서는 미해결 연구 문제에 대한 자동화된 증명 발견을 위한 멀티 에이전트(multi-agent) 프레임워크인 Cogentic을 제시합니다. 최첨단 언어 모델은 단일 시도(single-shot)로도 강력한 수학적 아이디어를 생성할 수 있지만, 여러 경쟁 가설을 탐색하고 미묘한 기술적 난관을 극복하며 긴 기간에 걸쳐 중간 진전을 유지해야 하는 미해결 문제에는 단일 생성만으로는 불충분한 경우가 많습니다. Cogentic은 오케스트레이터가 서로 다른 증명 방향에 걸쳐 독립적인 증명자 집단을 배치하고, 이들의 출력을 여러 특화된 구성요소를 통한 적대적 검증에 회부하며, 확인된 중간 결과를 후속 라운드가 활용할 수 있는 영구 검증 원장에 반영하는 반복적인 '증명-검증 루프'를 통해 이러한 난제를 해결합니다. 이 프레임워크는 연구 수준의 수학 및 이론 컴퓨터 과학 문제를 해결할 수 있도록 설계되었습니다. Gemini 3.1 Pro 또는 Gemini 4 Argon의 초기 버전을 기반 모델로 사용하여, Cogentic은 온라인 학습(online learning), 경매 이론(auction theory), 메커니즘 디자인(mechanism design) 전반의 미해결 문제에서 새로운 연구 결과를 도출했습니다. 각 결과는 해당 분야 전문가에 의해 독립적으로 검증되었으며 후속 논문에서 완전하게 전개됩니다. 이러한 결과들과 새롭게 검증되는 결과들은 https://sites.google.com/view/cogentic 에 지속적으로 게시하고 있습니다.
원문 초록
We present Cogentic, a multi-agent harness for automated proof discovery on open research problems. While frontier language models can generate strong mathematical ideas in a single shot, single-shot generation is often insufficient for open problems that require exploring multiple competing conjectures, overcoming subtle technical obstructions, and retaining intermediate progress over a long horizon. Cogentic addresses these challenges through an iterative prove-verify loop in which an orchestrator allocates a population of independent provers across distinct proof directions, subjects their output to adversarial verification by several specialized components, and promotes confirmed intermediate results into a persistent verified ledger that later rounds build on. The harness is designed to be able to solve research-level math and theoretical computer science problems. Using either Gemini 3.1 Pro or an early version of Gemini 4 Argon as the base model, Cogentic produced novel results on open problems across online learning, auction theory, and mechanism design. Each result was independently verified by domain experts and is developed in full in companion papers. We list these results, and new ones as they are verified, at https://sites.google.com/view/cogentic .
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Danus: 팩트-그래프 메모리를 활용한 수학적 추론 에이전트 오케스트레이션
Danus: Orchestrating Mathematical Reasoning Agents with Fact-Graph Memory
최근 대규모 언어 모델(LLM) 기반 수학적 추론 에이전트들이 연구 수준의 문제를 다루기 시작했으며, 일부 경우에는 미해결 문제 해결에 기여하기도 했다. 그러나 이러한 에이전트를 효과적으로 확장하고 오케스트레이션하는 것은, 중간 주장들을 체계적이고 신뢰성 있게 유지하면서 병렬 증명 탐색을 조율하는 어려움으로 인해 여전히 도전적인 과제로 남아 있다. 본 논문에서는 공유 팩트 그래프(fact graph)를 전역 메모리 관리 메커니즘으로 삼는 연구 수준의 수학적 추론 오케스트레이션 시스템인 Danus를 제안한다. Danus는 계획 수립 및 조율을 담당하는 메인 에이전트, 병렬로 증명 탐색을 수행하는 다수의 워커 에이전트, 그리고 제안된 수학적 주장이 팩트 그래프에 등록되기 전에 이를 검증하는 무상태(stateless) 검증기로 구성된다. 검증된 각 팩트는 증명 및 논리적 의존관계와 함께 저장되어, 공유 증명 상태를 체계적으로 유지하면서 긴 논증을 점진적으로 구성할 수 있다. 메인 에이전트는 진화하는 증명 상태를 주기적으로 요약하고, 유망한 방향으로 워커들을 재배치하며, 진행 상황 보고를 통해 인간 수학자와의 상호작용을 지원한다. 우리는 대수기하학, 특이점 이론, 조합론 분야의 여섯 가지 연구 수준 사례 연구를 통해 Danus를 평가하며, 팩트-그래프 메모리 메커니즘이 어떻게 Danus로 하여금 길고 상세한 수학적 증명을 구성할 수 있게 하는지를 보여준다. 실험 결과는 팩트-그래프 기반 오케스트레이션이 장기 연구 문제를 위한 수학적 추론 에이전트 확장에 효과적인 방향을 제공함을 시사한다. Danus는 https://github.com/frenzymath/Danus 에서 오픈소스로 공개되어 있다.
Proxy OPD: On-Policy Distillation with Transferable Relative Proxy Update for Large Language Models
LISA: 효율적 긴 컨텍스트 추론을 위한 Linear-Indexed Sparse Attention
LISA: Linear-Indexed Sparse Attention for Efficient Long-Context Reasoning
토큰이 아닌 턴 주입하기: 자기 수정을 위해 LLM 추론을 리디렉션할 위치 학습
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
대규모 언어 모델(LLM)은 자신의 추론 과정에서 발생한 오류를 안정적으로 식별하고 수정하는 데 어려움을 겪는다. 수정이나 피드백을 생성하도록 LLM을 미세조정하는 기존의 학습 기반 접근법과 달리, 우리는 실패한 롤아웃에서 어디에 개입할지를 학습하고 이를 어떻게 리디렉션할지를 결정한다. 개입 위치를 선택하기 위해, 우리는 최종 답안의 정답 여부만을 이용해 고정된 인코더 위에 130K개의 매개변수를 가진 MLP 헤드를 학습시킨다. 리디렉션의 경우, 고정된 생성 예산 하에서 테스트한 인라인 주입(inline injection)은 추론을 안정적으로 리디렉션하지 못하는 반면, 동일한 지시문을 새로운 사용자 턴(user turn)으로 제시하면 모델의 진행 방향이 바뀐다는 것을 발견했다. 그 결과로 만들어진 수정 프레임워크인 UPTURN(User-Prompt TURN injection at a learned position)은 LLM의 미세조정을 전혀 요구하지 않는다: 선택된 접두 문맥(prefix)을 유지하고, 지시문을 새로운 사용자 턴으로 주입한 뒤, 나머지 부분을 재생성한다. 네 가지 추론 모델과 여섯 가지 수학 벤치마크 전반에서, UPTURN은 32회 롤아웃 기준선(baseline) 대비 모든 설정에서 평균 정확도를 향상시킨다. 동일한 수정 예산 하에서 자기 수정(self-correction) 및 리플렉션 토큰(reflection-token) 주입 기준선을 능가하며, 재학습 없이도 다른 추론 모델과 GPQA-Diamond로 전이되고, GRPO 및 자기 수정 기법과도 상호보완적이다.
Geometric Signatures of Reasoning: A Spectral Perspective on Task Hardness
사고 모델을 위한 온-정책 자기 지식 증류의 재고찰
Rethinking On-Policy Self-Distillation for Thinking Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.