arXiv:2606.20113v1 cs.CL

스트리밍 툴 사용은 언제 도움이 되는가? 스트리밍 검색-증강 생성에서의 툴 의도 안정화 특성 분석

When Does Streaming Tool Use Help? Characterizing Tool-Intent Stabilization in Streaming Retrieval-Augmented Generation

Elroy Galbraith

제출 2026-06-18

한국어 초록

스트리밍 검색-증강 생성(Streaming RAG)은 발화(utterance)가 완료되기 전에 진행 중인 사용자 입력과 병렬로 툴 쿼리를 발행하여 사용자 지연 시간을 줄입니다. 보고된 이득은 집계된 것이지만, 이 메커니즘의 이점은 본질적으로 쿼리 내재적입니다: 추측(speculation)은 올바른 툴 쿼리가 사용자가 말하거나 타이핑을 멈추기 전에 결정 가능해질 때만 도움이 될 수 있습니다. 우리는 이 속성인 툴 의도 안정화(tool-intent stabilization)를 분리하여 측정합니다. 이는 추측 쿼리의 검색 결과가 답변을 포함하는 결과로 수렴하는 입력 스트림 내의 지점입니다. CRAG 벤치마크(1371개의 검증(validation) 질문)에서 우리는 (i) 안정화의 분포를 측정하고, (ii) 툴 지연 시간 L과 입력 속도 δ의 함수로서 사용자의 남은 입력 뒤에 숨길 수 있는 툴 지연 시간의 부분에 대한 모델 비의존적 상한 H를 도출하며, (iii) 실현된 절감액이 이 상한에 도달하거나 초과하는 작동하는 스트리밍 파이프라인에 대해 검증하고, (iv) 어떤 쿼리 속성이 조기 안정화와 후기 안정화를 예측하는지 식별합니다. 이 연구는 모델 학습(model training)을 필요로 하지 않으며 범용 CPU 하드웨어에서 실행됩니다. 우리는 현실적인 운영 지점(L=600ms, δ=3w/s, θ=0.8)에서 전체 벤치마크의 73.9% 쿼리가 상당한 지연 시간 숨김을 허용함을 발견했습니다. 이는 정답 증거(gold evidence)가 원문 그대로 존재하고 BM25로 검색 가능한 21.3%의 질문에서의 충분성 안정화(이 유리한 부분 집합에서 95.2% 스트리밍 가능)와 나머지 부분에서의 그라운딩 없는(grounding-free) Top-1 수렴(top-1-settling) 대체책을 혼합한 복합적인 수치입니다. 유리한 부분 집합에서, φ_suf는 정확한 그라운딩과 완화된 그라운딩에 의해 [0.26, 0.281] 범위로 제한됩니다 — 둘 다 조기에 해당합니다. 질문 유형은 유의미하지만 대략적인 조기/후기 분할을 생성합니다(Kruskal-Wallis p=0.017, epsilon^2=0.04), 이는 학습된 추측 트리거가 그 비용을 감당할 가치가 있는 시점을 직접적으로 알려줍니다.

원문 초록

Streaming Retrieval-Augmented Generation (Streaming RAG) reduces user-perceived latency by issuing tool queries in parallel with ongoing user input, before the utterance is complete. Reported gains are aggregate, yet the mechanism's benefit is fundamentally query-intrinsic: speculation can only help when the correct tool query becomes determinable before the user stops speaking or typing. We isolate and measure this property -- tool-intent stabilization, the point in the input stream at which a speculative query's retrieval converges to the answer-bearing result. On the CRAG benchmark (1371 validation questions) we (i) measure the distribution of stabilization, (ii) derive a model-agnostic bound H on the portion of tool latency that can be hidden behind the user's remaining input, as a function of tool latency L and input cadence δ, (iii) validate against a working streaming pipeline that realized savings meet or exceed this bound, and (iv) identify which query properties predict early versus late stabilization. The study requires no model training and runs on commodity CPU hardware. We find that at a realistic operating point (L=600ms, δ=3w/s, θ=0.8), 73.9% of queries across the full benchmark admit substantial latency hiding -- a blended figure that mixes sufficiency stabilization on the 21.3% of questions where gold evidence is verbatim-present and BM25-retrievable (95.2% streamable on this favorable slice) with a grounding-free top-1-settling fallback on the remainder. On the favorable slice, φ_suf is bracketed to [0.26, 0.281] by exact and relaxed grounding -- both early. Question type produces a significant but coarse early/late split (Kruskal-Wallis p=0.017, epsilon^2=0.04), directly informing when a learned speculative trigger is worth its cost.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.20113v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00224v2cs.AI공통 태그 Benchmarking, Retrieval-augmented Generation

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

arXiv:2610.15884v4cs.AI공통 태그 Benchmarking, tool use

RetryBench: GPT 도구 사용에서 재시도 권한과 복구 결과의 분리

RetryBench: Separating Retry Permission from Recovery Outcomes in GPT Tool Use

외부 도구를 호출하는 LLM 에이전트는 도구 호출이 시간 초과될 때 어떻게 할지 결정해야 한다. 재시도는 중복 부작용의 위험이 있고, 재시도하지 않으면 작업이 미완료로 남을 수 있다. 본 연구는 도구를 사용하는 LLM 에이전트의 재시도 결정과 실패 복구를 위한 평가 프로토콜인 RetryBench를 제시한다. 각 결정은 관측과 일치하는 모든 숨겨진 실행 세계에서 재생하여 재시도 허용 여부(재시도가 멱등성 키 보장이나 미실행 증명으로 정당화되는가?), 확정된 효과(중복과 누락), 완료 여부에 대해 채점된다. 네 가지 합성 소프트웨어 엔지니어링 과제에서 두 가지 통제된 프롬프트 민감도 연구(1,728건의 결정)를 수행한다. 연구 1(멱등성 키 설명): 계약을 고정한 상태에서 GPT-5.6 Luna는 추가 키가 "Candidate recovery key"로 설명될 때 40건 중 10건에서 유효한 멱등성 키를 재사용하지만, "Alternative key string"으로 설명될 때는 40건 중 39건에서 재사용한다. 계열별로 세 가지 표현을 추가했을 때 격차는 27/120 대 113/120이다. GPT-5.6 Sol과 Terra는 상한에 도달해 있다(40/40). 연구 2(행동 순서): 조회 보장이 불충분하게 명시된 조건에서, 재시도가 먼저 나열될 때 GPT-5.6 Terra와 GPT-5.4의 재시도율이 주로 두 과제에서 17~27 퍼센트포인트 낮아지며(선택지 순서 편향), 어느 행동이 더 나은지에 대해서는 주장하지 않는다. 연구 결과는 연구자가 선택한 표현, 네 가지 과제, 고정되지 않은 모델 별칭에 한정된다. 코드와 모든 모델 응답을 공개한다.

arXiv:2610.15750v1cs.AI공통 태그 Benchmarking, tool use

Google Earth AI 지리공간 추론(Geospatial Reasoning) 에이전트: 역량과 체계적 평가

Google Earth AI Geospatial Reasoning Agent: Capabilities and a Systematic Evaluation

Google Earth AI는 지리공간(geospatial) AI 모델들의 패밀리와 이를 오케스트레이션하는 에이전트로 구성된다. 본 논문에서는 이 에이전트인 Google Earth AI의 Geospatial Reasoning 에이전트(GRA)를 소개한다. GRA는 Gemini 기반의 연구 시스템으로, 지리공간 데이터 소스, 파운데이션 모델, 그리고 도구들을 결합하여 우리 지구에 관한 질문에 답한다. GRA는 이러한 요소들을 모듈화된 도메인 스킬로 구성하고, 사전(upfront) 지리공간 계획과 결합하여 복잡한 질의를 다단계 워크플로우로 분해한다. 이러한 시스템을 평가하는 것은 어려운데, 실제 문제는 여러 타당한 워크플로우를 허용하고, 대규모 카탈로그 전반에 걸친 데이터 발견(data discovery)을 요구하며, 계속 변화하는 그라운드 트루스(ground truth)에 의존하기 때문이다. 우리는 두 가지 벤치마크를 도입하고 이들의 개발 분할(development split)을 공개한다. GeoExpertQueries는 실무자의 사용 사례(use case)에 기반하고 지리공간 전문가들에 의해 정제된 복잡한 분석 문제들을 제시한다. 각 문제는 세 명의 독립적인 전문가로부터 얻은 합의된 골든 워크플로우(golden workflow)와 짝을 이루며, 사람이 검증한 도구에 무관한(tool-agnostic) 오토레이터(autorater)에 의해 채점된다. GeoKTools는 필요한 도구 유형의 수를 체계적으로 변화시키는 결정론적(deterministic) 참조 솔버(reference solver)를 갖춘 템플릿화된 질의들로 구성된다. 우리는 또한 CBGB와 UnivEARTH라는 두 가지 외부 벤치마크를 사용하는데, 이 중 UnivEARTH는 포화(saturated) 상태임을 확인하였다. GRA의 도구와 에이전트적(agentic) 오케스트레이션의 기여를 분리하기 위해, 우리는 Gemini 3.1 Pro와 3.8 Flash 각각에 대해 네 가지 구성을 비교한다: 단독 LLM, 기본 도구를 갖춘 LLM, GRA의 스킬과 도구는 갖추었지만 사전 계획 및 실행 가이드는 없는 LLM, 그리고 GRA 자체이다. 기본 도구만 있는 경우, 고성능 모델은 템플릿화된 질의에서는 정답의 많은 부분을 복원하지만, 개방형(open-ended) 문제에서는 전문가 워크플로우의 작은 일부만을 충족시킨다. 반면 GRA는 두 경우 모두에서 우수한 성능을 보인다. 가장 큰 성능 향상은 GRA의 스킬과 도구로부터 나오며, 개방형 문제에서는 그 계획 및 실행 가이드가 Gemini 3.8 Flash와 결합될 때 추가적인 향상을 가져와, Flash가 더 낮은 비용으로 Pro와 동등하거나 이를 능가하는 성능을 내도록 한다.

arXiv:2610.01045v2cs.AI공통 태그 Benchmarking, tool use

공허한 약속: 에이전트가 이행할 수 없는 약속을 할 때

Empty Commitments: When Agents Promise What They Cannot Deliver

"내일 알려드리겠습니다"라고 말하는 챗봇은 사용자가 다시 메시지를 작성하기 전까지는 실행되지 않습니다. 우리는 이러한 약속을 공허한 약속(empty commitment)이라 부릅니다. 이는 현재 턴 이후의 행동에 대한 약속이지만, 에이전트의 도구나 런타임 환경에 이를 실행할 수 있는 수단이 전혀 없는 경우를 의미합니다. 깨진 약속과 달리 공허함은 발화 순간 에이전트의 구성(configuration)에 따라 결정되므로, 배포 전이나 런타임 시 단일 턴만으로도 감지할 수 있습니다. 본 연구에서는 약속 의미론(commitment semantics)을 기반으로 공허한 약속을 정의하고, 세 가지 실패 유형, 도구를 통해 실현될 수 있는 약속에 대한 앵커링 조건, 그리고 이러한 실패를 정직한 보류(honest deferral) 및 과도한 거부(over-refusal)와 구분하는 결과 분류 체계를 제시합니다. 우리는 400개의 인간 레이블로 검증된 체커(환경 미인지 감지기, 결정론적 실행 가능성 규칙, 응답 판정기)를 구축했습니다. 지속성 어포던스(persistence affordance)를 하나씩 추가하는 5가지 설정에 걸쳐 293개의 후속 요청으로 구성된 통제된 벤치마크에서, 8-14B 파라미터의 4개 오픈 가중치(open-weight) 모델은 도구가 존재하지 않고 아무것도 명시되지 않았을 때 응답의 45.9%에서 실패했습니다. 프론티어 모델은 4.4%의 실패율을 기록했으나, 이는 보유한 도구를 사용해서가 아니라 보류하고 되물음으로써 달성한 수치였습니다. 즉, 실행을 위한 도구 호출 없이 행해지는 약속은 모든 모델에 여전히 남아 있었습니다. 가장 저렴한 해결책인 모델에게 런타임 정보를 알려주는 방식은 아무것도 수행할 수 없는 환경에서 오픈 가중치 모델의 실패를 거의 절반으로 줄였으나, 스케줄러가 존재하는 환경에서는 아무런 변화를 주지 못했습니다. 지시적 역량 카드(directive capability card)는 과도한 거부라는 가장 큰 대가를 치르면서 대부분의 실패를 제거했으며, 루프 내에서 체커를 실행하고 플래그가 지정된 응답을 다시 작성하는 방식은 더 적은 비용으로 더 많은 실패를 제거했습니다. 코드, 프롬프트, 모델 출력 및 인간 레이블이 공개됩니다.

arXiv:2610.10971v1cs.CL공통 태그 Benchmarking, Retrieval-augmented Generation

인용이 오도할 때? 법률 환각 탐지를 위한 주장 수준의 벤치마크

When Citations Mislead? A Claim-Level Benchmark for Legal Hallucination Detection

대규모 언어 모델(LLM)이 법률 연구 및 문서 작성에 점차 많이 활용되고 있으나, 인용된 출처의 뒷받침 없이도 그럴듯하게 들리는 주장을 여전히 생성할 수 있습니다. 본 연구에서는 법률적 주장이 근거 권위(underlying authority)에 의해 뒷받침되는지 검증하기 위한 벤치마크인 PARCEL을 소개합니다. 최근 뉴욕주 항소법원 판결을 활용하여 뒷받침됨(Supported), 반박됨(Refuted), 또는 발견되지 않음(Not Found)으로 라벨링된 3,396개의 괄호형(parenthetical-style) 주장 데이터셋을 구축합니다. 본 연구는 이 과제를 삼항 자연어 추론 문제로 설정하고, 제로샷(zero-shot) 환경에서 여러 최신 LLM을 평가합니다. 가장 우수한 모델은 최대 0.97의 정확도에 도달하지만, 전체 판결문 텍스트가 제공되는 경우에도 모델이 뒷받침되지 않는 주장을 뒷받침되는 것으로 잘못 표시하는 중요한 취약점 또한 결과에서 드러납니다. 모든 모델에 걸쳐 근거의 부재를 탐지하는 것이 직접적인 모순을 탐지하는 것보다 어려우며, 위조되었으나 그럴듯한 인용이 가장 큰 성능 저하를 유발합니다. 전반적으로 PARCEL은 법률 RAG 시스템에서 주장 수준의 그라운딩(groundedness)을 테스트하기 위한 실용적인 벤치마크를 제공합니다.

arXiv:2609.34951v3cs.AI공통 태그 Benchmarking, Retrieval-augmented Generation

AX는 새로운 AEO이다

AX is the New AEO

2023년에 AI 모델(model)은 학습(training) 데이터로부터 답변했고 데이터가 부족할 때 환각(hallucination)을 일으켰으며, 기업들은 이러한 지식을 심어두라는 조언을 받았습니다. 이후 모델의 학습 지식은 실시간 웹 검색에 자리를 내주었고 조언 역시 이를 따랐습니다. 즉, 답변 엔진 최적화(AEO, answer-engine optimization)는 이제 AI 엔진이 기업을 노출하고 추천할 가능성을 높이기 위해 포럼 스레드, 리스티클, 외부 인용 전반에 빵 부스러기(흔적)를 흩뿌려 두라고 기업에 권장합니다. 그러나 단순히 노출되는 것만으로는 더 이상 충분하지 않습니다. 에이전트(agent)는 결정을 내리기 전에 결과를 열고 읽으며, 구매자의 질문 하나로 인해 여러 차례의 검색과 가져오기(fetch) 단계를 거칩니다. 이 심층 탐색 단계에서 결과를 좌우하는 것은 에이전트가 기업 자체 사이트를 가져와서 읽을 수 있는지 여부, 즉 에이전트 경험(AX, agent experience)입니다. 본 논문에서는 AX가 새로운 AEO라고 주장합니다. 우리는 인지도, 기존 모델 지식, 두 가지 AEO 대리 지표를 일치시킨 1,056개의 실제 기업을 대상으로 네 개의 독립적인 하네스(harness)에 걸쳐 기업에 대한 구매자 질문으로 구성된 37,927회의 에이전트 여정을 실행한 뒤, 이들의 AX 수준에 따라 분류했습니다. 사이트 가독 여부와 관계없이 완성된 답변 중 모델의 학습 지식에서 나온 비율은 7~10%에 불과했습니다. 에이전트 친화적인(agent-ready) 기업은 자체 페이지를 기반으로 답변이 구축된 비율이 56% 대비 78%였으며 명확하게 추천되는 빈도가 1.9배 더 높았던 반면, 에이전트 친화적이지 않은 기업에 대한 그라운딩(grounding)된 답변은 에이전트에 평균 64% 더 많은 비용을 초래했습니다. 기업, 하네스, 질문을 고정했을 때 사이트를 기반으로 구축된 답변은 평균 41% 더 정확했습니다. 주요 실패 요인은 조작(fabrication)이 아닌 누락(omission)으로, 웹 기반으로 구축된 답변은 구매자가 요청한 사실을 전혀 포함하지 않을 확률이 3.7배 더 높았습니다. 4개 하네스 간의 기준선(baseline)은 크게 달랐으며 스택에 따라 명확한 추천 비율이 7배나 차이 났지만, 추천 격차는 모든 하네스에서 유지되었습니다. 에이전트 웹 시대에는 회자되는 것보다 읽힐 수 있는 것이 더 중요하며, 사이트의 AX를 개선하는 것이 기업이 활용할 수 있는 가장 강력한 수단입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.