PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13810v1cs.IR

LLM 질의 확장을 위한 부분열-연관성 필터링과 범위 인지 선택을 통한 환각 용어 추적 및 제어

Tracing and Taming Hallucinated Terms via Subsequence-Association Filtering and Breadth-Aware Selection for LLM Query Expansion

대규모 언어 모델(LLM)은 이제 질의 확장 용어의 표준적인 소스가 되었지만, 환각(hallucination)을 일으킨다. LLM은 존재하지 않는 개체와 주제에서 벗어난 용어를 삽입하여 순위화 노이즈를 추가하고 강력한 검색기(retriever)의 성능을 저해할 수 있다. 코퍼스 그라운딩(corpus grounding), 상호 검증(mutual verification), 선호도 정렬(preference alignment)과 같은 기존의 해결책들은 환각된 용어를 일치성 휴리스틱으로 걸러내야 할 미분화된 골칫거리로 취급하며, 특정 용어가 왜 나타나는지에 대한 메커니즘적 설명이나 몇 개의 용어를 유지해야 하는지에 대한 원칙적인 기준을 제시하지 않는다. 우리는 환각의 부분열-연관성(subsequence-association) 설명에 기반한, 학습이 필요 없고(training-free) 검색기에 구애받지 않는(retriever-agnostic) 방법인 부분열-연관성 필터링 기반 범위 인지 질의 확장(Subsequence-Association Filtered, breadth-aware query expansion, SAFE-QE)을 제안한다. 우리는 각 후보 확장 용어를 코퍼스 조건부 교차 문맥(cross-context) 재현성으로 점수화하며, 무작위화된 질의 맥락에서는 반복적으로 나타나지만 유사 관련 집합(pseudo-relevant set)에서는 근거가 부족한 용어는 지배적인 환각 연관성의 산물로 표시되어 가중치가 낮아진다. 언어 생성을 일관성(consistency, 환각 없음)과 범위(breadth, 커버리지) 사이의 트레이드오프로 특성화한 것에 기반하여, 우리는 용어 선택을 유사 관련 집합에 대한 제약된 커버리지 최대화 문제로 설정하며, 재샘플링에도 대략적으로 넓으면서도 일관되고 안정적인 집합을 유지한다. 또한 우리는 관련 문서가 뒷받침하지 않는 삽입된 확장 용어의 수를 세는 질의 측 충실도(faithfulness) 지표인 환각 확장 용어율(Hallucinated Expansion Term Rate)을 도입한다. 우리는 벤치마크된 TREC 및 BEIR 컬렉션에서 우리의 접근법을 평가한다. 우리의 SAFE-QE는 nDCG@10에서 생성적 확장 및 코퍼스 유도 확장과 통계적으로 구별되지 않으면서, 질의당 지지되지 않는 용어는 더 적게 삽입하며(SAFE-QE 4.3개 대 Query2doc 27.8개, HyDE 57.5개), 모든 확장 방법이 성능 저하를 보이는 강력한 학습된 희소 검색기(learned sparse retriever)에서도 마찬가지이다. 따라서 충실도는 순위화 품질에서 측정 가능한 비용 없이 얻을 수 있다.

arXiv:2609.22770v1cs.IR

하이브리드 검색을 위한 매개변수화된 밀집-희소 융합: Qdrant 기반 BEIR SciFact에서의 순위-점수 혼합 튜닝

Parameterized Dense-Sparse Fusion for Hybrid Retrieval: Tuning a Rank-Score Mix on BEIR SciFact with Qdrant

본 연구에서는 밀집 임베딩(dense embedding) 리스트와 희소 어휘(sparse lexical) 리스트를 융합하는 매개변수화된 하이브리드 순위화기(ranker)를 연구한다. 이 방법은 밀집 사전확률(prior) $\alpha \in [0,1]$, 점수 대 순위 혼합비 $\lambda \in [0,1]$, RRF 평활화 매개변수(smoothing parameter) $\kappa > 0$, 질의(query)마다 $\alpha$를 이동시키는 선택적 리스트 기하 계수, 그리고 희소 검색을 끌 수 있는 라우터 마진 $\tau$로 구성된 작고 명시적인 매개변수(parameter) 벡터를 갖는다. 저자들은 SciFact 학습(train) 셋(809개 질의)에서 해당 범위들에 대해 그리드 탐색(grid-search)을 수행하고, 선정된 값들을 SciFact 테스트(test) 셋(300개 질의)에 고정 적용한다. 튜닝된 순위-점수 혼합($\alpha = 0.8$, $\lambda = 0.75$, $\kappa = 20$)은 해당 테스트 분할에서 0.753 nDCG@10 및 0.889 재현율(recall)@10에 도달하여, 밀집 BGE(0.742 / 0.871) 및 동일 가중치(equal-weight) RRF(0.707 nDCG@10)보다 우수한 성능을 보인다. 리스트 조건부 $\alpha$는 +0.0006 nDCG를 추가하며, 희소 검색 차단 라우터는 동일한 학습 분할에서 기각된다(질의의 약 50%를 건너뛴 모든 $\tau$에서 nDCG 하락). 이러한 계수들은 데이터셋(dataset)별로 상이하다. 동일 모델을 사용한 동일 가중치 RRF는 9개 압축 BEIR 매크로 평균에서 밀집 방식을 능가하지 못한다(0.479 대 0.519 nDCG@10). 색인된 20개 단위 전체에서 동일한 '학습 후 고정' 탐색을 독립적으로 반복한 결과, 20/20에서 동일 가중치 RRF를 능가하고 16/20에서 밀집 방식을 능가한다(단위 평균 nDCG@10 0.467 대 밀집 0.462 대 RRF 0.420). 다른 말뭉치에서는 SciFact 최적점을 그대로 복사하는 대신 탐색 범위를 재사용해야 한다.

arXiv:2606.24667v1cs.CL

DREAM: Dense Retrieval Embeddings via Autoregressive Modeling

비용이 큰 양·음성 문서 쌍 없이도 밀집 검색(dense retrieval) 임베딩을 학습할 수 있도록, DREAM은 고정된 대규모 언어 모델(LLM)의 선택된 어텐션(attention) 헤드에 리트리버의 질의-문서 유사도 점수를 주입하고 다음 토큰 예측 손실로 리트리버를 지도합니다. BEIR과 RTEB 벤치마크에서 0.5B~3B 규모 임베딩 백본 기준으로 RePlug, Revela 등 기존 기준선을 일관되게 능가했습니다.