arXiv:2611.22539v1 cs.CL

JET: 저장소 수준 질의응답에서 도구 호출을 줄이는 적정 탐험 미세조정

JET: Just-Enough Exploration Tuning for Efficient Tool-Calling Agents in Repository-Level Question Answering

Yoonho Choi, Taehyeon Han, Seonghyeon Lee

제출 2026-11-18

한국어 초록

저장소 수준 질의응답(QA)에서 에이전트는 도구로 코드 저장소를 탐험하고 정보가 충분히 모이면 질문에 답해야 한다. 그러나 대규모 언어 모델(LLM) 에이전트는 답에 필요한 정보가 이미 충분한데도 도구를 계속 호출하는 경우가 많다. 이를 과잉 탐험이라 부른다. 기존 방법은 전문가 궤적으로 지도 미세조정(SFT)해 과제 성능을 높이지만, 해당 궤적의 과잉 탐험도 에이전트에 전파한다. 이를 줄이기 위해 에이전트가 충분한 정보를 모은 시점에 답하도록 학습하는 적정 탐험 미세조정(JET)을 제안한다. 각 학습 궤적은 수집한 정보가 충분해지는 단계에서 자른다. 에이전트가 그 단계에서 답할 수 있는 이유를 설명하는 근거를 삽입하고, 그 근거에 더 높은 손실 가중치를 부여해 미세조정한다. 저장소 수준 QA 벤치마크 두 개와 공개 가중치 80억 매개변수 모델 두 개에서 실험했다. JET는 자체 생성 궤적에서 점수를 대체로 유지하면서 도구 호출을 11~33% 줄였다. 전문가 궤적에서는 SFT 대비 도구 호출이 18~28% 적었으며, SFT로 얻은 점수 향상의 대부분을 유지했다. 두 경우 모두 추론 비용도 낮아졌다.

원문 초록

In repository-level question answering (QA), an agent explores a code repository with tools and should answer a question once enough information is gathered. Nevertheless, we find that LLM agents often continue to invoke tools even after the gathered information is already sufficient to answer. We call this phenomenon over-exploration. Moreover, even though existing methods improve task performance through supervised fine-tuning (SFT) on expert trajectories, SFT also propagates the over-exploration in the trajectories to the agent. To mitigate over-exploration, we propose Just-Enough Exploration Tuning (JET), a fine-tuning method that trains the agent to answer once the gathered information is sufficient. JET truncates each training trajectory at the step where the gathered information becomes sufficient, inserts a rationale that explains why the agent can answer at that step, and fine-tunes the agent with a higher loss weight on the rationale. Experiments on two repository-level QA benchmarks with two open-weight 8B models demonstrate that JET reduces tool calls by 11 to 33% on self-generated trajectories while largely preserving the score. On expert trajectories, JET makes 18 to 28% fewer tool calls than SFT while retaining most of the score gain of SFT. In both cases, JET also lowers the inference cost.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.22539v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.