PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13810v1cs.IR

LLM 질의 확장을 위한 부분열-연관성 필터링과 범위 인지 선택을 통한 환각 용어 추적 및 제어

Tracing and Taming Hallucinated Terms via Subsequence-Association Filtering and Breadth-Aware Selection for LLM Query Expansion

대규모 언어 모델(LLM)은 이제 질의 확장 용어의 표준적인 소스가 되었지만, 환각(hallucination)을 일으킨다. LLM은 존재하지 않는 개체와 주제에서 벗어난 용어를 삽입하여 순위화 노이즈를 추가하고 강력한 검색기(retriever)의 성능을 저해할 수 있다. 코퍼스 그라운딩(corpus grounding), 상호 검증(mutual verification), 선호도 정렬(preference alignment)과 같은 기존의 해결책들은 환각된 용어를 일치성 휴리스틱으로 걸러내야 할 미분화된 골칫거리로 취급하며, 특정 용어가 왜 나타나는지에 대한 메커니즘적 설명이나 몇 개의 용어를 유지해야 하는지에 대한 원칙적인 기준을 제시하지 않는다. 우리는 환각의 부분열-연관성(subsequence-association) 설명에 기반한, 학습이 필요 없고(training-free) 검색기에 구애받지 않는(retriever-agnostic) 방법인 부분열-연관성 필터링 기반 범위 인지 질의 확장(Subsequence-Association Filtered, breadth-aware query expansion, SAFE-QE)을 제안한다. 우리는 각 후보 확장 용어를 코퍼스 조건부 교차 문맥(cross-context) 재현성으로 점수화하며, 무작위화된 질의 맥락에서는 반복적으로 나타나지만 유사 관련 집합(pseudo-relevant set)에서는 근거가 부족한 용어는 지배적인 환각 연관성의 산물로 표시되어 가중치가 낮아진다. 언어 생성을 일관성(consistency, 환각 없음)과 범위(breadth, 커버리지) 사이의 트레이드오프로 특성화한 것에 기반하여, 우리는 용어 선택을 유사 관련 집합에 대한 제약된 커버리지 최대화 문제로 설정하며, 재샘플링에도 대략적으로 넓으면서도 일관되고 안정적인 집합을 유지한다. 또한 우리는 관련 문서가 뒷받침하지 않는 삽입된 확장 용어의 수를 세는 질의 측 충실도(faithfulness) 지표인 환각 확장 용어율(Hallucinated Expansion Term Rate)을 도입한다. 우리는 벤치마크된 TREC 및 BEIR 컬렉션에서 우리의 접근법을 평가한다. 우리의 SAFE-QE는 nDCG@10에서 생성적 확장 및 코퍼스 유도 확장과 통계적으로 구별되지 않으면서, 질의당 지지되지 않는 용어는 더 적게 삽입하며(SAFE-QE 4.3개 대 Query2doc 27.8개, HyDE 57.5개), 모든 확장 방법이 성능 저하를 보이는 강력한 학습된 희소 검색기(learned sparse retriever)에서도 마찬가지이다. 따라서 충실도는 순위화 품질에서 측정 가능한 비용 없이 얻을 수 있다.

arXiv:2505.24282v2cs.CV

언어 기반 행동 위치 추정에서 경계 예측 향상을 위한 LLM 기반 쿼리 확장

LLM-powered Query Expansion for Enhancing Boundary Prediction in Language-driven Action Localization

비디오에서의 언어 기반 행동 위치 추정(action localization)은 언어 쿼리와 비디오 구간 간의 의미론적 정렬뿐만 아니라 행동 경계의 예측도 요구합니다. 그러나 언어 쿼리는 주로 행동의 주요 내용만을 설명하며 행동의 시작 및 종료 경계에 대한 구체적인 세부 정보가 부족한 경우가 많아, 수작업 경계 주석의 주관성을 높이고 학습(training) 데이터의 경계 불확실성을 초래합니다. 본 논문에서는 한편으로 대규모 언어 모델(LLM)을 통해 행동 시작 및 종료 경계의 텍스트 설명을 생성함으로써 기존 쿼리를 확장하는 방안을 제안하며, 이는 위치 추정을 위한 더 상세한 경계 단서를 제공하여 경계 불확실성의 영향을 줄일 수 있습니다. 다른 한편으로, 학습 중 경계 불확실성에 대한 허용 한도를 향상시키기 위해, 프레임과 확장된 쿼리 간의 의미론적 유사도 및 프레임과 주석 처리된 경계 프레임 간의 시간적 거리를 계산하여 행동 경계의 확률 점수를 모델링하는 방안을 제안합니다. 이는 보다 일관된 경계 감독(supervision)을 제공하여 학습의 안정성을 향상시킬 수 있습니다. 제안하는 방법은 모델(model)에 구애받지 않으며(model-agnostic), 기존의 모든 언어 기반 행동 위치 추정 모델에 별도 수정 없이(off-the-shelf) 매끄럽고 쉽게 통합될 수 있습니다. 여러 데이터셋을 대상으로 한 실험 결과는 본 방법의 효과성을 입증합니다.

arXiv:2606.28367v1cs.IR

Beyond the Reranker: Do RAG Retrieval Enhancements Help Once a Strong Reranker Is Present?

Retrieval-augmented generation (RAG) is routinely extended with methods meant to improve retrieval: query expansion, hierarchical and cross-document summarization, graph-based expansion, per-query routing, rank fusion, and corrective re-retrieval. The benefits reported for these methods come almost exclusively from homogeneous corpora, predominantly Wikipedia prose. Whether they hold on the mixed-format collections common in practice, where code, markdown, tables, scientific PDFs, and prose are interleaved within one corpus, has not been measured. To study this directly, we build \textbf{HetDocQA}, a heterogeneous benchmark with \emph{chunker-agnostic} span-overlap relevance labels and collection-disjoint splits, and pair it with MuSiQue and QASPER as homogeneous controls. We evaluate eight methods on a shared backbone, with bootstrap confidence intervals and multiple-comparison correction. A strong cross-encoder reranker accounts for most of the pipeline's quality; beyond it, only two methods yield reliable gains: query expansion and SSCC. SSCC, a per-source calibrated corrector introduced here, sets a separate acceptance threshold for each score source and helps only on heterogeneous data. The remaining reranking and pool-expansion methods in common use, among them hierarchical summarization, graph expansion, routing, and rank fusion, give no reliable gain once that reranker is present.