arXiv:2505.08450

IterKey: Iterative Keyword Generation with LLMs for Enhanced Retrieval Augmented Generation

Kazuki Hayashi, Hidetaka Kamigaito, Shinya Kouda, Taro Watanabe

제출 2025-05-13

원문 초록

Retrieval-Augmented Generation (RAG) has emerged as a way to complement the in-context knowledge of Large Language Models (LLMs) by integrating external documents. However, real-world applications demand not only accuracy but also interpretability. While dense retrieval methods provide high accuracy, they lack interpretability; conversely, sparse retrieval methods offer transparency but often fail to capture the full intent of queries due to their reliance on keyword matching. To address these issues, we introduce IterKey, an LLM-driven iterative keyword generation framework that enhances RAG via sparse retrieval. IterKey consists of three LLM-driven stages: generating keywords for retrieval, generating answers based on retrieved documents, and validating the answers. If validation fails, the process iteratively repeats with refined keywords. Across four QA tasks, experimental results show that IterKey achieves 5% to 20% accuracy improvements over BM25-based RAG and simple baselines. Its performance is comparable to dense retrieval-based RAG and prior iterative query refinement methods using dense models. In summary, IterKey is a novel BM25-based approach leveraging LLMs to iteratively refine RAG, effectively balancing accuracy with interpretability.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.23971v1cs.AI공통 태그 Retrieval, RAG, Retrieval-augmented Generation

UniK: 디지털 AI와 물리 AI를 위한 범용 지식 인식

UniK: Universal Knowledge Perception for Digital and Physical AI

조직의 운영 방식을 바꾸고 있는 두 가지 혁신적인 AI 시스템 유형이 있다. 하나는 기업 지식 위에서 추론하여 챗봇과 에이전트 워크플로를 구동하는 디지털 AI(digital AI)이고, 다른 하나는 영상, 게임플레이, 센서 원격 측정(telemetry)으로부터 로봇과 자율 시스템의 제어를 학습하는 물리 AI(physical AI)이다. 둘 다 동일한 근본적 병목에 직면한다. 이질적 모달리티에 걸친 대규모 원시 지식이 사설 코퍼스에 갇혀 있어, 기존 AI 인프라가 이를 신뢰성 있게 또는 효율적으로 접근하지 못한다는 점이다. 본 논문은 범용 지식 인식(Universal Knowledge Perception, UniK)을 두 유형 모두를 아우르는 공통 플랫폼으로 제안한다. 풍부한 텍스트와 영상부터 분자 데이터 및 센서 원격 측정에 이르는 다양한 모달리티에 걸쳐, 수집(ingestion), 강화(enrichment), 색인(indexing), 검색(retrieval), 지속적 평가(evaluation)를 포함하는 지식 전 생애주기 전반을 다룬다. 과제별 미세조정 없이, 자동으로 강화된 색인에 대한 다중 색인 융합(multi-index fusion)인 Polymath Retrieval 위에 구축된 UniK를 제시한다. 의학 문헌, 개방형 QA, 화학, 법률 영상 절차, 정부 공개 데이터 등 다섯 디지털 AI 도메인에서, 오픈소스 700억 매개변수 모델과 결합한 UniK는 차수적으로 더 큰 프론티어 독점 LLM과 지속적으로 동등하거나 그 이상의 성능을 보였다. 정부 데이터에서 RAG 정확도 76%(GPT-5는 47%), 미세조정 없이 의학 QA에서 77.9%, 모든 오픈소스 화학 파이프라인을 상회했다. 동일한 인프라가 물리 AI 월드 모델 학습이 직면한 데이터 큐레이션, 색인, 검색 과제를 직접 해결할 수 있음을 보이며, 해당 영역에서는 지식 문제가 더 어렵지만 구조적으로 동일하다.

arXiv:2609.24220v1cs.CV공통 태그 Retrieval, RAG, Retrieval-augmented Generation

문서 검색-인식 청킹(D-RAC): PDF 정규화 및 멀티모달 마크다운 변환을 통한 엔터프라이즈 문서의 범용 검색-인식 수집

Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion

엔터프라이즈 지식 베이스 기반의 검색-증강 생성(RAG) 시스템은 PDF, Word 문서, 프레젠테이션, 스캔본 등 다양한 문서 형식을 수집해야 하지만, 이러한 문서의 콘텐츠는 복잡한 시각적 레이아웃, 다단 페이지, 조밀한 표 내에 갇혀 있습니다. 규칙 기반 추출과 광학 문자 인식(OCR)은 읽기 순서를 훼손하고 표를 평탄화하며 제목 계층 구조를 잃어버리는 반면, 추출된 텍스트에 대해 완전 에이전트(agent) 기반 청킹을 수행하면 높은 토큰(token) 비용과 환각(hallucination) 위험이 발생합니다. 본 논문에서는 웹 검색-인식 청킹(W-RAC) 프레임워크를 임의의 문서 형식으로 확장한 문서 검색-인식 청킹(D-RAC)을 제안합니다. D-RAC은 사실상 모든 형식이 충실하고 결정론적인 PDF 렌더링을 지원한다는 점을 활용하여 모든 입력 문서를 먼저 PDF로 정규화(normalization)합니다. 이후 단일 멀티모달 LLM 패스를 통해 렌더링된 페이지를 검색에 최적화된 마크다운으로 변환하며, 이때 표를 독립적인 산문 문장으로 재작성하고 제목 계층 구조를 보존합니다. 그 뒤 청킹 과정은 W-RAC과 완전히 동일하게 진행되어, ID 주소 지정이 가능한 단위로 결정론적 파싱을 수행한 다음 텍스트가 아닌 식별자 기반의 경량 LLM 청크 계획 수립을 거칩니다. 청킹 과정에서 원본 텍스트는 결코 재생성되지 않으므로, W-RAC의 비용 절감, 결정론성, 관측 가능성 이점을 유지하는 동시에 렌더링 가능한 모든 형식을 일급 입력(first-class input)으로 활용할 수 있게 합니다. 5개 엔터프라이즈 도메인에 걸친 RAG-Multi-Corpus 벤치마크의 236개 문서, 795페이지 분량의 PDF 서브셋에서, D-RAC은 전체 말뭉치를 오류 없이 72분 만에 변환 및 청킹하여 1,748개의 검색 준비 청크를 생성했습니다. 최신 프론티어 LLM을 사용한 에이전트 기반 청킹과 비교했을 때, D-RAC은 청킹 단계의 출력 토큰을 95.7% 줄여 청킹 비용을 77.8%(GPT-4.1 가격 기준)에서 85.6%(Gemini 2.5 Pro 가격 기준)까지 절감하고 청킹 시간을 75% 단축했습니다. D-RAC은 500페이지 이상의 문서에 대해서도 선형적으로 확장(scaling)됩니다.

arXiv:2607.22625v1cs.AI공통 태그 Retrieval, RAG, Retrieval-augmented Generation

TokenMem: 동결 LLM을 위한 충실한 지식 주입

TokenMem: Faithful Knowledge Injection for Frozen LLMs

검색-증강 생성(RAG)은 대규모 언어 모델(LLM)에 외부 지식을 더해 성능을 높이지만, 지식 충돌 문제가 있습니다. 검색된 정보가 파라미터 메모리와 모순될 때, 공유된 셀프-어텐션(self-attention) 경로가 예측 불가능한 출력을 만들어냅니다. 우리는 TokenMem을 제안합니다. TokenMem은 전용 크로스-어텐션(cross-attention) 채널을 통해 동결 LLM에 지식을 주입하는 경량 메모리 시스템으로, 잔차 스트림(residual stream)에서 파라미터 메모리와의 경쟁을 우회합니다. TokenMem은 2단계 커리큘럼을 통해 얇은 게이팅 어댑터(약 3–7M 파라미터)만 학습합니다. 먼저 일반적인 지식 활용을 학습하고, 이어서 반사실적(counterfactual) 지식 하에서 충실한 준수(faithful compliance)를 강화합니다. 세 가지 모델 패밀리에 걸친 다섯 모델(Qwen3-4B/8B/14B, LLaMA-3.1-8B, OLMo-3-7B)에 대한 통제 실험에서 TokenMem은 반사실적 벤치마크에서 69–70%의 지식 준수(Knowledge Compliance, KC)를 달성했으며, 바닐라 RAG의 20–52%와 비교해 최대 49퍼센트포인트 차이를 보였습니다. ablation 연구는 2단계 커리큘럼이 핵심적임을 보여줍니다. Phase 2를 제거하면 KC가 거의 0에 가까워집니다. 메커니즘 분석은 게이트 어댑터가 명시적 감독 없이 충돌 인식(conflict-aware), 층별(layer-specific) 주입 전략을 학습함을 밝혀냅니다.

arXiv:2607.22706v1cs.AI공통 태그 Retrieval, RAG, Retrieval-augmented Generation

MPR-CiteG: 다중 포트폴리오 검색 및 인용 기반 생성을 통한 RAG 강화

MPR-CiteG: Enhancing RAG with Multi-Portfolio Retrieval and Citation-Grounded Generation

본 논문은 MPR-CiteG 프레임워크를 제안하며, 생성형 AI의 두 가지 근본적 과제인 비효율적 검색과 출처 검증 부재를 해결하여 ScienceON AI Challenge에서 2위를 달성했다. MPR-CiteG라고 명명한 이중 구성 시스템을 제안한다. Multi-Portfolio Retriever(MPR)는 다양하고 관련성 높은 정보를 효율적으로 검색하고, Citation-Grounded Generation(CiteG) 모듈은 생성되는 모든 출력이 사실적으로 일관되며 출처에 명시적으로 귀속되도록 보장한다. MPR-CiteG는 정보 생성뿐 아니라 응답을 신뢰할 수 있는 근거에 그라운딩할 수 있는 더 신뢰할 수 있고 정확한 대규모 언어 모델(LLM) 구축을 향한 중요한 진전을 나타내며, 모델 환각과 같은 일반적인 문제를 완화한다. 챌린지 데이터셋에 대한 광범위한 실험을 통해 본 접근법의 효과성과 신뢰성을 검증했다. 코드는 https://github.com/2noweyh/MPR-citeG 에서 제공된다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.