PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2506.06557v3cs.IR

Infinity Search: q-메트릭 공간 투영을 활용한 근사 벡터 검색

Infinity Search: Approximate Vector Search with Projections on q-Metric Spaces

초거리 공간(ultrametric space) 또는 무한대-메트릭 공간(infinity-metric space)은 삼각형의 모든 변이 다른 두 변 중 더 큰 변보다 크지 않다는 강한 삼각 부등식을 만족하는 비유사도 함수로 정의됩니다. 본 연구에서는 밴티지 포인트 트리(vantage point tree)를 사용한 초거리 공간에서의 검색이 트리의 깊이와 동일한 최악 조건 복잡도(worst-case complexity)를 가짐을 보입니다. 관심 대상이 되는 데이터셋은 일반적으로 초거리 공간을 따르지 않으므로, 최근접 이웃(nearest neighbors)을 보존하면서 임의의 비유사도 함수를 초거리 공간으로 변환하는 투영 연산자(projection operator)를 도입합니다. 나아가 쿼리 포인트와 데이터셋 내 포인트 간의 초거리 거리를 효율적으로 계산하기 위해 이 투영 연산자의 근사를 학습합니다. 이어서 삼각형의 변을 $q$제곱한 값이 다른 두 변의 $q$제곱의 합보다 작은 $q$-메트릭 공간에서의 투영을 고려하는 보다 일반적인 문제를 해결합니다. 투영된 $q$-메트릭 거리의 학습된 근사를 사용하면 검색 파이프라인이 근사(approximate) 검색으로 변환된다는 점에 유의해야 합니다. 실험을 통해 $q$ 값이 증가할수록 검색 속도는 빨라지지만 재현율은 낮아짐을 보입니다. 전반적으로 $q$-메트릭 및 무한대-메트릭 공간에서의 검색은 기존 검색 방식과 비교해 경쟁력이 있습니다.

arXiv:2610.03651v1cs.AI

MRVQ: 차원 및 비트 전송률에 탄력적인 벡터 검색을 위한 단일 상주 인덱스

MRVQ: One Resident Index for Dimension- and Rate-Elastic Vector Search

밀집 검색(dense-retrieval) 서비스는 지연 시간, 품질 및 메모리 예산 변화에 따라 임베딩 접두 차원과 인덱스 비트 전송률(bit rate) 사이를 전환해야 합니다. 각 전송률마다 양자화기(quantizer)를 개별적으로 튜닝하면 최상의 품질을 얻을 수 있지만, 검색 계층이 여러 코드 스트림과 양자화기 상태를 동시에 유지해야 합니다. 본 논문에서는 동결된 임베딩을 위한 사후 잔차 양자화기인 마트료시카 잔차 벡터 양자화(MRVQ, Matryoshka Residual Vector Quantization)를 제안합니다. MRVQ의 최대 전송률 코드는 두 가지 방식으로 잘라낼 수 있습니다. 잔차 단계를 줄이면 전송률이 낮아지고, 임베딩 좌표를 줄이면 차원이 낮아집니다. 따라서 단 하나의 상주 아티팩트만으로 평가 대상인 모든 (차원, 전송률) 쌍을 처리할 수 있습니다. FiQA 및 NFCorpus, 4가지 임베딩 계열, {4, 8, 16}바이트 코드 전반에 걸쳐 MRVQ는 평가된 설계 중 가장 적은 RAM을 사용합니다. 이는 개별적으로 학습된 3개의 QINCo2 인덱스보다 17.8~22.0배 적은 메모리를 사용하며, 간소화된 공유 모델(shared-model) 스틸맨보다 1.89~2.02배 적은 메모리를 사용합니다. 이러한 메모리 절감이 공짜는 아닙니다. 전송률별 QINCo2는 FiQA에서 nDCG@10 기준 0.026~0.107 더 우수합니다. 그러나 MRVQ는 동일한 코드 크기에서 PQ, OPQ 및 AdANNS-OPQ를 능가합니다. 또한 중앙값 기준 420배 더 빠르게 피팅되면서 RaBitQ 및 그 확장 모델과 비슷한 품질을 달성하는 낮은 구축 비용의 PCA 스칼라 설계도 평가합니다. 마지막으로 두 가지 부정적 결과(negative results)를 보고합니다. QINCo2는 높은 전송률에서 학습될 때 붕괴되며, 랭킹 경계 가설은 사전에 지정된 수락 기준을 충족하지 못합니다. 따라서 MRVQ는 탄력적 검색을 위한 저메모리 운영 지점이지 만능 품질 승자는 아닙니다.

arXiv:2601.07048v5cs.DB

GPU 가속 ANNS: 속도를 위한 양자화, 변화에 대응하는 설계

GPU-Accelerated ANNS: Quantized for Speed, Built for Change

근사 최근접 이웃 검색(ANNS)은 기계 학습 및 정보 검색 응용에서 핵심적인 문제이다. GPU는 고성능 ANNS를 위한 유망한 경로를 제공한다. 거리 계산을 위한 대규모 병렬성을 제공하고, 쉽게 이용 가능하며, 하류 응용과 공동 배치할 수 있기 때문이다. 이러한 장점에도 불구하고, 현재 GPU 가속 ANNS 시스템은 세 가지 핵심 한계에 직면한다. 첫째, 실제 응용은 빠른 배치 업데이트가 필요한 진화하는 데이터셋에서 동작하지만, 대부분의 GPU 인덱스는 새 데이터가 도착하면 처음부터 재구축해야 한다. 둘째, 고차원 벡터는 메모리 대역폭에 부담을 주지만, 현재 GPU 시스템은 비용이 큰 무작위 메모리 접근을 도입하지 않으면서 데이터 이동을 줄이는 효율적인 양자화 기법이 부족하다. 셋째, 탐욕적 검색에 내재된 데이터 의존적 메모리 접근은 계산과 메모리의 중첩을 어렵게 만들어 성능 저하로 이어진다. 우리는 높은 쿼리 처리량과 업데이트 가능성을 모두 갖춘 GPU 네이티브 ANNS 시스템인 Jasper를 제안한다. Jasper는 Vamana 그래프 인덱스를 기반으로 하며, 세 가지 기여를 통해 기존 병목을 극복한다: (1) 잠금 없는 스트리밍 삽입을 가능하게 하는 CUDA 배치 병렬 구축 알고리즘, (2) 무작위 접근 페널티 없이 메모리 사용량을 최대 8배까지 줄이는 RaBitQ 양자화의 GPU 효율적 구현, (3) 계산 활용률을 높여 더 나은 지연 숨김과 더 높은 처리량을 달성하는 최적화된 탐욕적 검색 커널. 5개 데이터셋에 걸친 평가에서 Jasper는 CAGRA보다 최대 1.84배 높은 쿼리 처리량을 달성하며, roofline 모델로 측정한 최대 80%의 피크 활용률을 달성한다. Jasper의 구축은 효율적으로 확장되며, CAGRA가 갖추지 못한 업데이트 가능성을 제공하면서 인덱스를 CAGRA보다 평균 7배 빠르게 구축한다. 이전 최고 속도 GPU Vamana 구현인 BANG과 비교하면, Jasper는 10~74배 더 빠른 쿼리를 제공한다.

arXiv:2607.13728v1cs.IR

벡터 검색을 위한 Cluster with Auctions

Cluster with Auctions for Vector Search

대규모 근사 최근접 이웃(approximate nearest neighbor) 검색은 인덱싱을 위해 파티셔닝에 일반적으로 의존한다. 데이터베이스 벡터가 클러스터로 파티셔닝되고, 각 쿼리에 대해 프로빙(probing) 함수가 스캔할 클러스터를 선택한다. 쿼리 프로빙 함수와 데이터베이스 파티션은 별개의 개체로 취급되는 경우가 드물며, 대부분의 기법은 데이터베이스 벡터와 동일한 할당 함수를 사용해 쿼리를 배정한다. 이는 특히 데이터베이스와 쿼리 분포가 다를 때 최적이 아니다. 본 논문은 균형 잡힌 데이터베이스 파티션과 신경망 기반 프로빙 함수를 공동으로 학습함으로써 이 한계를 해결하는 CwA(Cluster with Auctions)를 제안한다. CwA는 쿼리 분포에 대해 검색 성능을 직접 최적화하며, 목적 함수를 최소화하기 위해 (i) 프로빙 함수의 신경망에 대한 경사하강법과 (ii) 데이터베이스 벡터에 대한 클러스터 할당의 대규모 조합 최적화, 두 단계를 번갈아 수행한다. 후자는 파티션을 설계상 균형화하는 병렬화 가능한 경매(auction) 알고리즘으로 해결한다. CwA의 확장성을 더 높이기 위해, 파티션의 세분성을 높이는 클러스터의 데카르트 곱(Cartesian product)으로 방법을 확장한다. 데이터베이스와 쿼리 분포가 다른 경우, CwA는 동일한 재현율에서 최신(state-of-the-art) 방법 대비 최대 4.7$\times$의 처리량(throughput)을 달성한다. 분포 내(in-distribution, ID) 설정에서도 CwA로 학습한 단순한 선형 프로빙 함수조차 경쟁하는 딥 신경망 기법들보다 우수한 성능을 보인다.