정렬 후 적응: 비대칭 밀집 검색을 위한 라벨 효율적 어댑터 학습
Align Then Adapt: Label-Efficient Adapter Learning for Asymmetric Dense Retrieval
한국어 초록
밀집 검색(dense retrieval) 시스템은 복잡한 지시문 형태의 쿼리와 비교적 단순하고 정적인 문서 모음 간의 비대칭성에 점점 더 직면하고 있습니다. 더 강력한 임베더가 이러한 쿼리를 더 잘 이해할 수 있지만, 대규모 말뭉치를 다시 임베딩하거나 대형 모델을 미세조정(fine-tuning)하는 것은 비실용적인 경우가 많습니다. 본 논문에서는 재인덱싱이 필요 없는 검색 적응을 위한 쿼리 측 어댑터 학습 프레임워크인 ERA(Efficient Retrieval Adapter)를 제안합니다. ERA는 먼저 라벨이 없는 말뭉치 문서를 사용하여 강력한 쿼리 임베더와 경량 문서 임베더의 임베딩 공간을 정렬한 다음, 소수의 라벨링된 쿼리-문서 쌍으로 정렬된 쿼리 표현을 적응시킵니다. 6개 도메인의 126개 MAIR 검색 태스크에 걸쳐, ERA는 지도 어댑터 학습보다 훨씬 적은 라벨을 사용하면서도 대칭 설정에서 평균 nDCG@10을 최대 8.2점, 비대칭 설정에서는 12점 이상 향상시킵니다. 이러한 결과는 검색 시스템이 백본 임베더를 업데이트하거나 문서 인덱스를 재구축하지 않고도 더 강력한 쿼리 이해 능력의 이점을 얻을 수 있음을 보여줍니다.
원문 초록
Dense retrieval systems increasingly face an asymmetry between complex instruction-like queries and relatively simple, static document collections. While stronger embedders can better understand such queries, re-embedding large corpora or fine-tuning large models is often impractical. We propose Efficient Retrieval Adapter (ERA), a query-side adapter learning framework for re-index-free retrieval adaptation. ERA first aligns the embedding spaces of a strong query embedder and a lightweight document embedder using unlabeled corpus documents, and then adapts the aligned query representation with a small number of labeled query-document pairs. Across 126 MAIR retrieval tasks from six domains, ERA improves average nDCG@10 by up to 8.2 points in symmetric settings and by more than 12 points in asymmetric settings, while using substantially fewer labels than supervised adapter training. These results show that retrieval systems can benefit from stronger query understanding without updating backbone embedders or rebuilding document indexes.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2604.03403v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.