RECAST: 적응형 증거 라우팅을 통해 적절한 컨텍스트를 계산하도록 학습하기
RECAST: Learning to Compute the Right Context through Adaptive Evidence Routing
한국어 초록
대규모 언어 모델(LLM)은 길고 이종적인 정보 출처에 기반한 작업에 점점 더 많이 적용되고 있습니다. 기존의 검색-증강 생성(RAG)은 고정된 유사도 기반 검색에 의존하며, 에이전트 기반 변형들은 쿼리와 도구 사용을 적응시키지만 여전히 주로 검색 중심에 머물러 있습니다. 그러나 많은 작업에서 솔루션에 필요한 증거는 단일 출처 항목에 명시적으로 존재하지 않습니다. 대신 여러 출처 항목에 걸친 필터링, 집계 또는 계산을 통해 도출되어야 합니다. 본 연구에서는 이종적인 검색 및 계산 연산에 대한 순차적 의사결정 프로세스로 증거 구축을 공식화하여, 증거를 단순히 검색하는 것에 그치지 않고 능동적으로 도출할 수 있도록 하는 학습 프레임워크인 RECAST(Routing Evidence through Computation, Access, and Synthesized Tools)를 소개합니다. 경량화된 RouterLM은 기본 연산을 반복적으로 선택 및 공식화하거나, 동결된(frozen) CompilerLM이 실행 가능한 코드로 변환할 수 있도록 맞춤형 연산을 지정합니다. 증거가 충분하다고 판단되면, RouterLM은 승인된 증거를 동결된 AnswerLM에 전달하여 최종 솔루션을 생성합니다. 우리는 지도 미세조정(supervised fine-tuning, SFT)에 이어 그룹 상대 정책 최적화(GRPO)를 적용하여 RouterLM을 학습시킵니다. 6개의 이종 벤치마크 패밀리 전반에서 RECAST는 평균 75.6%의 성공률을 달성하며 가장 강력한 대형 모델 기준선(baseline) 대비 15.9% 더 높은 성능을 보였습니다. 나아가 학습을 통해 Qwen3.5-9B RouterLM은 학습을 거치지 않은 Gemini 3.5 Flash RouterLM보다 5.0% 더 우수한 성능을 달성했습니다. 3개의 미공개(held-out) 벤치마크에서 RECAST는 가장 강력한 기준선 대비 평균 15.0% 향상되어, 다양한 작업과 이종 출처 표현 전반에 걸친 강력한 제로샷(zero-shot) 일반화 능력을 입증했습니다.
원문 초록
Large language models are increasingly applied to tasks grounded in long, heterogeneous information sources. Conventional Retrieval-Augmented Generation (RAG) relies on fixed similarity-based retrieval, while agentic variants adapt queries and tool use but remain largely retrieval-centric. However, in many tasks, the evidence required for a solution is not explicitly present in any single source item. Instead, it must be derived through filtering, aggregation, or computation across multiple source items. In this work, we introduce RECAST (Routing Evidence through Computation, Access, and Synthesized Tools), a learned framework that formulates evidence construction as a sequential decision process over heterogeneous retrieval and computation operations, allowing evidence to be actively derived rather than merely retrieved. A lightweight RouterLM iteratively selects and formulates primitive operations or specifies customized operations for a frozen CompilerLM to translate into executable code. Once it judges the evidence sufficient, RouterLM passes the accepted evidence to a frozen AnswerLM to produce the final solution. We train RouterLM with supervised fine-tuning (SFT) followed by group relative policy optimization (GRPO). Across six heterogeneous benchmark families, RECAST achieves a mean success rate of 75.6%, outperforming the strongest large-model baseline by 15.9%. Moreover, training enables the Qwen3.5-9B RouterLM to outperform a training-free Gemini 3.5 Flash RouterLM by 5.0%. On three held-out benchmarks, RECAST improves over the strongest baseline by 15.0% on average, demonstrating strong zero-shot generalization across tasks and heterogeneous source representations.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
35 pages, 2 figures, 13 tables