비용이 닥칠 때: 기존 인덱스 재사용은 완전한 임베딩 모델 마이그레이션에서 재인코딩을 미룰 뿐 결코 피하지 못한다
When the Bill Falls: Reusing the Old Index Defers,Never Avoids, Re-encoding in Complete Embedding-Model Migration
한국어 초록
벡터 인덱스의 기반이 되는 임베딩 모델을 업그레이드하려면 말뭉치를 재인코딩해야 한다. 최근 연구들은 어댑터나 윈도우 재순위화를 통해 기존 인덱스를 재사용한다. 본 연구는 문단 및 코드 말뭉치에서 16개의 모델 쌍, 그리고 Natural Questions(NQ)에서 11개의 모델 쌍을 대상으로 세 가지 결과를 확인하였다. 첫째, 재사용은 재인코딩을 결코 피하지 못한다. 마이그레이션이 완료되어야 한다면 모든 전략은 결국 모든 문서를 인코딩하며, 재사용은 그 작업 비용이 지불되는 시점과 그동안 제공되는 품질만을 바꾼다. 둘째, 어댑터는 새 모델뿐 아니라 기존 모델과도 비교되어야 한다. 다섯 가지 어댑터 변형 중 같은 계열의 LLM 브리지만이 기존 모델을 능가했으며, 그 차이도 미미하다. 셋째, 윈도우 재순위화 비용은 기존 인덱스만으로 산정할 수 있다. 8,841,823개 전체 문단에 대한 사전 등록된 재현 실험은 시험한 세 쌍 모두에서 이 예측을 확인하였다. 워크로드 편향도 중요하다. 사전 등록된 36회의 추가 Zipf 재현 실험에서 계획된 전략 계열은 32회에서 일치하였다. 이러한 결과로부터 마이그레이션 전 규칙 세 가지, 즉 재사용이 가치가 있는지, 어떤 전략을 쓸지, 윈도우를 얼마나 깊게 잡을지에 대한 규칙이 도출된다. 깊이 규칙은 목표 품질에 도달한 모든 윈도우의 비용을 말뭉치의 10^5분의 4 이내로 산정하였다. NQ에서는 사전에 확정한 계획이 11개 쌍 중 10개에서 전략 계열을 선택하였고 모든 윈도우의 비용을 정확히 산정하였다. 품질 입력값은 말뭉치 규모에 걸쳐 덜 안정적으로 전이되므로, 모델 격차와 윈도우 품질 손실은 서비스 중인 인덱스에서 측정해야 한다.
원문 초록
Upgrading the embedding model behind a vector index requires re-encoding the corpus. Recent work reuses the old index through adapters or window re-ranking. Across sixteen model pairs on passage and code corpora, plus eleven on Natural Questions (NQ), we find three results. First, reuse never avoids re-encoding: if migration must complete, every strategy eventually encodes every document; reuse only changes when that work is paid and the quality served meanwhile. Second, adapters should be compared with the old model, not only the new one. Of five adapter variants, only same-family LLM bridges beat the old model, and only by a negligible margin. Third, window re-ranking cost can be priced from the old index alone; pre-registered replays on all 8,841,823 passages confirmed the prediction on all three tested pairs. Workload skew also matters: across 36 further pre-registered Zipf replays, the planned family matched on 32. These findings yield three pre-migration rules: whether reuse is worthwhile, which strategy to use, and how deep a window to take. The depth rule priced every window that reached target quality to within 4 parts in 10^5 of the corpus. On NQ, a pre-committed plan selected the family on 10 of 11 pairs and priced every window exactly. Quality inputs transferred less reliably across corpus scale, so the model gap and window quality loss must be measured on the serving index.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.