RAGOCR: 시각적 표현을 통한 검색-증강 텍스트의 광학적 압축
RAGOCR: Optical Compression of Retrieval-Augmented Text via Visual Representation
한국어 초록
검색-증강 생성(RAG)은 지식 집약적 질의응답에서 필수적인 요소가 되었으나, 검색된 긴 문맥을 처리하는 데 드는 막대한 연산 비용으로 인해 RAG 파이프라인의 확장(scaling)은 여전히 어렵습니다. 기존의 압축 방식들은 근본적인 절충(trade-off) 관계에 직면해 있습니다. 하드 압축(hard compression) 방법은 질의 인식(query-aware) 방식으로 온라인에서 동작하지만 압축률이 완만하고 일반적으로 생성 모델의 미세조정을 요구하는 반면, 소프트 압축(soft compression) 방법은 더 높은 압축률을 달성하지만 입력 질의와 완전히 무관한 고비용의 오프라인 인코딩에 의존합니다. 이러한 격차를 해소하기 위해, 본 연구에서는 입력 질의에 맞춰 검색된 문서를 간결한 시각적 표현으로 압축하는 새로운 프레임워크인 RAGOCR을 소개합니다. 압축률과 정보 충실도 사이의 균형을 더욱 맞추기 위해, 각 문서의 추정된 관련성과 복잡성에 따라 시각적 세밀도를 적응적으로 할당하는 질의 인식 동적 해상도 메커니즘을 도입합니다. 즉, 관련성이 높은 구절은 세밀한 세부 정보를 보존하기 위해 더 높은 해상도로 렌더링되는 반면, 주변 문서는 더 낮은 해상도로 공격적으로 압축됩니다. MedOmniKB 검색 코퍼스를 사용한 5개의 질의응답(QA) 벤치마크 실험에 따르면, RAGOCR은 입력 토큰을 8분의 1만 요구하면서도 단순(naive) RAG 대비 정확도를 15% 이상 능가했으며, 다양한 검색 깊이에 걸쳐 하드 및 소프트 압축 베이스라인 모두를 일관되게 능가함을 보여줍니다.
원문 초록
Retrieval-Augmented Generation (RAG) has become essential for knowledge-intensive question answering, yet scaling RAG pipelines remains challenging due to the prohibitive computational cost of processing lengthy retrieved contexts. Existing compression approaches face a fundamental trade-off: hard compression methods operate online in a query-aware fashion but achieve only modest compression rates and typically require fine-tuning the generative model, while soft compression methods attain higher ratios but rely on costly offline encoding that is entirely agnostic to the input query. To bridge this gap, we introduce RAGOCR, a novel framework that compresses retrieved documents into compact visual representations conditioned on the input query. To further balance compression rate and information fidelity, we introduce a query-aware dynamic resolution mechanism that adaptively allocates visual granularity based on each document's estimated relevance and complexity: highly relevant passages are rendered at higher resolution to preserve fine-grained details, while peripheral documents are aggressively compressed at lower resolution. Experiments on five QA benchmarks using the MedOmniKB retrieval corpus demonstrate that RAGOCR surpasses naive RAG by over 15\% in accuracy while requiring only one-eighth the number of input tokens, and consistently outperforms both hard and soft compression baselines across varying retrieval depths.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2608.00765v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.