arXiv:2606.12479v1 cs.LG

ReCal: RL 기반 LLM 라우팅을 위한 보상 보정

ReCal: Reward Calibration for RL-based LLM Routing

Qihang Yu, Hanwen Tong, Zhengqi Zhang, Bo Zheng, Feng Wei, Shengyu Zhang, Zemin Liu, Fei Wu

제출 2026-06-10

한국어 초록

대규모 언어 모델(LLM) 라우팅은 동적 모델 및 추론 전략 선택을 통해 여러 LLM의 상호 보완적 강점을 활용하는 효과적인 패러다임으로 부상했다. 최근 강화학습(RL) 기반 라우팅 방법은 상호작용 피드백으로 라우팅 정책을 최적화하여 라우팅 품질을 더욱 향상시킨다. 그러나 이들은 난이도가 다양한 이질적 태스크 환경에서 정보가 풍부하고 비교 가능한 학습 신호를 제공하는 데 여전히 어려움을 겪는다. 실제로 여러 목표(예: 정확성, 형식 행동)가 단일 스칼라 보상으로 집계되어 모호한 기여도 할당과 상충하는 최적화 신호를 유발한다. 또한 보상 신호는 인스턴스마다 상당한 변동성을 보이며, 일부 인스턴스는 더 높거나 변동이 큰 보상을 생성하여 정보가 풍부한 샘플보다 사소한 샘플을 선호하는 최적화 편향을 초래한다. 이러한 문제를 해결하기 위해, 우리는 RL 기반 LLM 라우팅을 위한 보상 보정(Reward Calibration) 프레임워크인 ReCal을 제안한다. 우리는 먼저 구성 요소별 어드밴티지 추정을 갖춘 계층적 보상 분해 메커니즘을 도입한다. 또한 분산 인식 재가중과 데이터셋별 정규화를 통해 최적화 변동성을 보정하는 분포 인식 최적화 전략을 제안한다. 7개 데이터셋에서의 실험은 ReCal이 베이스라인 대비 라우팅 성능과 학습 안정성을 일관되게 향상시킴을 보여준다. 코드는 https://anonymous.4open.science/r/ReCal 에서 이용할 수 있다.

원문 초록

Large language model (LLM) routing has emerged as an effective paradigm for leveraging the complementary strengths of multiple LLMs through dynamic model and reasoning-strategy selection. Recent reinforcement learning (RL)-based routing methods further improve routing quality by optimizing routing policies from interaction feedback. However, they still struggle to provide informative and comparable learning signals under heterogeneous tasks with varying difficulty. In practice, multiple objectives (e.g., correctness, format behavior) are aggregated into a single scalar reward, leading to ambiguous credit assignment and conflicting optimization signals. Moreover, reward signals exhibit significant variability across instances, where some instances produce higher or more variable rewards, introducing optimization bias that favors trivial samples over informative ones. To address these issues, we propose \textbf{ReCal}, a \textbf{\underline{Re}}ward \textbf{\underline{Cal}}ibration framework for RL-based LLM routing. We first introduce a hierarchical reward decomposition mechanism with component-wise advantage estimation. We further propose a distribution-aware optimization strategy that calibrates optimization variability through variance-aware reweighting and per-dataset normalization. Experiments on seven datasets demonstrate that ReCal consistently improves routing performance, and training stability over baselines. Code is available at https://anonymous.4open.science/r/ReCal.

요약

RL 기반 LLM 라우팅에서 다양한 목표와 인스턴스 간 변동성으로 인한 최적화 편향 문제를 해결하기 위해 ReCal(보상 보정) 프레임워크를 제안합니다. 계층적 보상 분해와 분포 인식 최적화 전략을 통해 학습 신호의 품질을 높여 라우팅 성능과 학습 안정성을 개선했습니다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.12479v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15993v1cs.AI공통 태그 Model Selection, Large Language Model, llm routing

핸드오프 곡선: 멀티턴 LLM 라우팅에서의 초기 선택, 사후 핸드오프 및 지도 타깃

Handoff Curves: Initial Selection, Later Handoff, and Supervision Targets in Multi-turn LLM Routing

본 연구에서는 여러 턴(turn)에 걸친 대규모 언어 모델(LLM) 태스크에서 초기 모델(model) 선택, 사후 핸드오프(handoff), 그리고 학습(training) 타깃이 성공률과 비용에 미치는 영향을 연구합니다. 핸드오프 단계 변화에 따른 태스크 성공률과 비용을 기록하는 핸드오프 곡선을 활용하여 여러 라우터 아키텍처를 비교합니다. 연구진이 구축한 데이터셋(dataset)은 BFCL, MultiWOZ, $τ$-retail 전반에 걸친 3개 Qwen 모델의 34,204건의 완전한 실행 기록을 포함하며, 라우팅 결정을 위한 오프라인 지도 정보를 제공합니다. 주요 비교 분석에서 Qwen3.5 35B-A3B를 시작 모델로 사용했을 때, 사후 핸드오프를 허용하는 것은 BFCL 또는 MultiWOZ에서 초기 선택 대비 효용 개선을 보이지 못했으며 다양한 비용 가중치 범위에 걸쳐 BFCL에서 비용을 증가시켰습니다. 지도 타깃을 변경하면 자체 데이터셋과 TwinRouterBench 모두에서 라우터 성능이 향상됩니다. 자체 데이터셋의 경우 노이즈가 있는 학습 성공 곡선을 단조 적합(monotone fit)으로 대체함으로써 보고된 작동 지점 전반에 걸쳐 동일한 비용에서 성공률이 0.2~4.1%포인트 향상되었습니다. TwinRouterBench에서는 남은 작업 및 앞으로 닥칠 어려운 단계에 필요한 모델 성능을 기술하는 타깃을 구성했습니다. 벤치마크의 단계별 라벨로 학습하는 것과 비교하여, 이러한 타깃은 전체 정적 뱅크에서 궤적 통과 점수를 7.8%포인트, 비용 절감 효과를 6.3%포인트 높였습니다. 이 타깃으로 학습된 라우터의 실제 배포에서는 인스턴스당 0.59달러의 라우터 비용으로 100개 인스턴스 중 79개를 해결했습니다.

arXiv:2610.02762v1cs.AI공통 태그 Model Selection, Large Language Model, llm routing

동적 LLM 라우터는 종종 잘못 유도된다

Dynamic LLM Routers are Often Misguided

동적 대규모 언어 모델(LLM) 라우터는 각 질의를 올바르게 답변할 수 있는 가장 저렴한 모델로 보내 추론(inference) 비용을 절감할 수 있을 것으로 기대됩니다. 본 연구에서는 8개 작업 범주를 아우르는 다양한 벤치마크를 기반으로 14개 설정에서 6개의 상용 라우터를 분석하였으며, 그 어떤 라우터도 동일한 비용 조건에서 잘 선택된 두 모델 중 하나를 무작위로 선택하는 라우터보다 우수한 성능을 내지 못함을 확인했습니다. 일부 라우터는 성능이 10%p 이상 낮았습니다. 연구진은 이러한 격차의 원인을 라우터 전반에서 만연한 네 가지 패턴, 즉 난이도 맹목성(difficulty blindness), 길이 역전(length reversal), 의미적 매칭(semantic matching), 명단(roster)의 비최적성으로 추적했습니다. 본 연구는 앞의 세 가지 패턴이 표준 목적 함수가 보상하는 바임을 보여줍니다. 즉, 실현된 비용에 기반한 비용-정확도 파레토 효율성은 가장 어려운 질의보다 적당히 어려운 질의를, 긴 질의보다 짧은 질의를 더 상위 모델로 전달(escalate)하도록 유도하며, 질의의 난이도보다는 출처에 따라 라우팅하도록 만듭니다. 또한 대규모 모델 명단을 정당화하는 두 가지 가정인 모델 세분성(granularity)과 모델 전문화(specialization)가 실증적으로 성립하지 않는다고 주장합니다. 연구진은 이러한 패턴에 보상을 주지 않는 대안 평가 방법론을 제안하고, 개념 증명(proof of concept)으로서 이 네 가지 패턴을 모두 피하는 단순한 2개 모델 라우터를 설계했습니다. 그럼에도 불구하고 잘 구성된 모델 명단에서는 라우팅할 여지가 거의 남지 않기 때문에, 무작위 라우팅 대비 성능 향상은 제한적입니다.

arXiv:2610.15897v3cs.CL공통 태그 Model Selection, Large Language Model

검토는 더 강력한 모델을 거의 능가하지 못한다: LLM 파이프라인에서 검증과 능력 전이의 분리

Review Rarely Beats the Stronger Model: Separating Verification from Capability Transfer in LLM Pipelines

수학 문제에서 Qwen3-8B가 Llama-3.1-8B를 검토하면 정확도가 33.2점 상승하지만, Qwen3-8B 단독의 정확도가 그 결과보다 6.4점 더 높다. 다른 모델의 답을 검토하는 방식은 보통 생성 모델 대비 향상 폭으로 평가된다. 본 연구는 이러한 평가가 검증(verification)과 능력 전이(capability transfer)를 혼동한다는 점을 보인다. 검증은 어느 한 모델 단독보다 더 높은 정확도를 더하는 것이고, 능력 전이는 더 강한 검토 모델이 스스로도 낼 수 있었던 답을 제공하는 것이다. 수학, 지식, 코드, 추론 영역에서 12개 오픈 웨이트 모델(3B~72B)의 48개 쌍에 대해 더 강한 모델 단독과 비교해 측정한 결과, 검토 방식이 이를 능가하는 경우는 96개 검토 방향 중 9개에 불과했으며, 능력 격차가 클수록 성능이 더 나빠졌다. 그 원인은 앵커링이다. 검토 모델이 대체로 생성 모델을 따라가면서 자신의 올바른 답을 버린다. 검토 방식은 더 강한 모델 단독 대비 2.6~2.8배의 비용이 드는 반면, 동일한 두 번의 호출을 사용하는 선택기(selector)는 검토 방식보다 2.7~4.2점 더 정확하면서 비용도 더 저렴하다. 검증에 관한 연구는 생성 모델 대비 향상 폭만이 아니라 더 강한 모델 단독의 성능도 함께 보고해야 한다.

arXiv:2610.00715v2cs.AI공통 태그 Reinforcement Learning, Large Language Model

선호도 불확실성 하에서의 강건한 내시 정렬

Robust Nash Alignment under Preference Uncertainty

선호 기반 정렬 방법은 일반적으로 단일 선호 모델에 대해 최적화하므로, 쌍별 선호가 잡음이 있거나 이질적이거나 배포 후 변화하는 등 불확실한 경우 취약할 수 있다. 이러한 문제를 해결하기 위해 불확실한 쌍별 선호에 대한 정렬을 위한 게임 이론적 프레임워크인 Robust Nash Alignment를 제안한다. 우리의 정식화에서는 주 학습자가 적대적 경쟁자와, 명목 선호 주변의 모호성 집합에 속하는 임의의 선호 커널 모두에 대해 최악의 경우 승률이 높은 정책을 찾는다. 모호성 집합이 선호의 불확실성을 포착하면, 그 결과로 얻는 게임의 강건 목적함수는 최악의 경우 성능에 대한 인증된 하한을 직접 제공한다. 그러나 이 문제는 최적화가 계산적으로 어렵다는 점에 주목하여, 이를 해결하기 위해 리더 정책, 팔로워 정책, 적대적 커널, 쌍대 변수를 포함하는 4인 주-쌍대 대리 게임을 도입하고, 이에 대한 단일 루프 낙관적 미러 하강-상승 알고리즘을 개발한다. 대리 목적함수가 항상 절단된 경성 제약 목적함수의 하한이 됨을 보이고, 대리와 경성 제약 간의 격차를 정량화하며, 대리가 강건 목적함수를 복원하는 정확성 조건을 규명한다. 이어서 대리 게임의 쌍대성 격차에 대해 평균 반복 기준 $\mathcal{O}(1/\sqrt{T})$ 수렴을 증명하며, 이는 원래의 강건 목적함수에 대해 거의 최적인 강건 정책을 의미한다. 통제된 표 형태 게임과 불확실한 선호를 가진 LLM 정렬에 대한 실험은 이 방법을 보여 주며, 명목 기준선 대비 선호 교란에 대한 강건성이 향상됨을 보인다.

arXiv:2610.02181v3cs.CV공통 태그 Reinforcement Learning, Large Language Model

OmniSeek: 다중 턴 시청각 추론을 위한 네이티브 도구 통합

OmniSeek: Native Tool Integration for Multi-turn Audio-Visual Reasoning

본 논문에서는 옴니 대규모 언어 모델(Omni-LLM)을 네이티브 도구 사용 능력을 갖춘 능동적인 다중 턴(multi-turn) 추론 에이전트로 변환하는 에이전트 프레임워크인 OmniSeek을 제시합니다. 전체 시청각 시퀀스를 단일 순전파(forward pass)로 수동 처리하는 대신, OmniSeek은 증거 획득을 추론 과정의 일부로 만듭니다. 즉, 긴 컨텍스트 내에서 서로 다른 모달리티 전반의 희소하지만 결정적인 증거를 검색하기 위해 보거나 들을지 여부와 그 시간 윈도우를 동적으로 결정합니다. 반복적인 다중 턴 프로토콜을 통해 검색된 원시 오디오 또는 시각 세그먼트는 후속 추론을 지원하기 위해 컨텍스트에 다시 추가됩니다. 이러한 능력을 콜드 스타트하기 위해, 오디오 및 시각 증거가 인터리빙된 다중 홉 사고의 연쇄(Chain-of-Thought) 궤적 말뭉치인 OmniTraj-170K를 합성하는 데이터 엔진을 구축합니다. 먼저 이러한 궤적을 기반으로 모델을 지도 학습하여 다중 턴 도구 사용 행동을 주입한 다음, 검증 가능한 보상을 활용한 2단계 강화학습을 통해 정책을 추가로 최적화합니다. 또한, 두 모달리티 모두에 의존하는 성공적인 추론 궤적에 명시적으로 보상을 제공하여 단일 모달리티 지름길을 억제하는 시청각 필수성(Audio-Visual Necessity) 목표를 도입합니다. 광범위한 벤치마크에 걸친 광범위한 실험을 통해 OmniSeek이 적응형 교차 모달 증거 탐색을 학습하고 시청각 추론 성능을 일관되게 향상시킴을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.