저비트 양자화는 언제 벡터 검색의 결정을 보존하는가
When Does Low-Bit Quantization Preserve the Decisions of Vector Search?
직교 회전은 2비트 Cohere 코드의 거리 순위 상관을 0.75에서 0.91로 향상시키지만, 최근접 이웃 비교의 뒤집힘은 51% 증가시킨다. 본 논문은 그래프 탐색이 수행하는 비교를 통해 양자화를 분석한다. 비교는 양자화 오차가 정확한 마진을 초과할 때에만 바뀌며, 이로부터 아슬아슬한 경우와 큰 오차를 구분하는 뒤집힘 상계를 얻는다. 공유되는 끝점은 상관된 거리 오차를 유발하며, 이 오차는 한 비교 안에서 부분적으로 상쇄된다. 정확한 재생 항등식은 후보 수준의 동작을 이웃 선택의 출력과 연결한다. 가우시안 모델은 좌표 코드 오차를 닫힌 형태로 제시하고, 희귀 스파이크 구성은 모집단 반경 오차의 두꺼운 꼬리를 드러낸다. 홀드아웃 블록은 정확한 마진 또는 양자화된 마진에 기반한 수용 규칙에 대해 모델 비의존 인증서를 제공한다. 24개의 데이터셋-코드 구성에서, 보정으로 추정한 위험도는 홀드아웃 순위 및 가지치기 뒤집힘과 각각 0.97과 0.99의 상관을 보이는데, 마진 대 잡음 요약 지표는 0.91과 0.99, 거리 순위 상관은 0.74와 0.05이다. 20만 벡터 그래프의 쌍을 이룬 구축 실험은 회전, 질의 점수 계산, 위상을 종단 간 재현율 및 탐색 작업량과 연결한다.