Lucene for Approximate Nearest-Neighbors Search on Arbitrary Dense Vectors
원문 초록
We demonstrate three approaches for adapting the open-source Lucene search library to perform approximate nearest-neighbor search on arbitrary dense vectors, using similarity search on word embeddings as a case study. At its core, Lucene is built around inverted indexes of a document collection's (sparse) term-document matrix, which is incompatible with the lower-dimensional dense vectors that are common in deep learning applications. We evaluate three techniques to overcome these challenges that can all be natively integrated into Lucene: the creation of documents populated with fake words, LSH applied to lexical realizations of dense vectors, and k-d trees coupled with dimensionality reduction. Experiments show that the "fake words" approach represents the best balance between effectiveness and efficiency. These techniques are integrated into the Anserini open-source toolkit and made available to the community.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
초월·비밀교 영역의 정량화: 기계학습 방법을 이용한 힌두교와 불교 신격의 비교 연구
Quantifying the Occult: A Comparative Study of Hindu and Buddhist Deities Using Machine Learning Methods
본 연구는 이중 행렬(dual-matrix) 계산 아키텍처를 도입하여 196개의 힌두교 및 어긴러(Vajrayana) 불교 비밀교(密教) 신격의 형태학적·신학적 이질성을 수학적으로 정량화한다. 물리적 형태학은 새로운 "Cardinality Weighting" 알고리즘으로 강화된 이산 Gower 거리 행렬을 통해 평가되며, 신학적 기능은 대규모 언어 모델(LLM) 의미 확장에서 생성된 밀집 벡터 임베딩(dense vector embedding)을 통해 매핑되며, 순환 논증을 완화하기 위한 합성 대리(synthetic proxy)로 명시적으로 활용된다. 다중 모달 위상(topological) 투영은 "상징(iconographic) 위장(camouflage)"의 알고리즘적 검증을 제공하며, 서로 다른 시각적 형태가 구조적으로 공유되는 전통 간 기능을 어떻게 가리는지 보여준다. 또한 본 연구는 "Atin Effect"를 계산적으로 모델링한다—이는 순차적 인지 바이어스에 대한 심리학적 관찰이자 동시에 기계학습 벤치마크로 기능하며—고카디널리티(high-cardinality) 비밀교 닻(anchor)(예: 비나(veena) 또는 잘린 머리)이 체계적 신학적 차이를 압도하여 정통(orthodox) 및 탄트라(Tantric) 존재들을 수학적으로 클러스터링하는 방식을 보여준다. 전통 간 공간 분석은 힌두교 Chinnamasta와 불교 Chinnamunda 같은 최상위 비밀교 현현(manifestation)이 시각적($D_G = 0.288$) 및 의미적($D_C = 0.068$) 경계 모두에서 거의 동일한 수학적 좌표를 공유함을 확립하며, 이는 1:1 비밀교 전승(transfer)을 시사한다. 이 아키텍처를 오픈소스로 공개함으로써, 디지털 인문학(Digital Humanities) 학자와 비교 신학(comparative theology) 연구자가 질적 문화 코퍼스 전반의 잠재적 구조적 연속성을 엄밀하게 매핑할 수 있는 확장 가능한 비지도 기계학습 도구를 제공한다.
WavePhaseNet: DFT 기반 의미 개념 계층 구조(SCHS) 구축 방법
WavePhaseNet: A DFT-Based Method for Constructing Semantic Conceptual Hierarchy Structures (SCHS)
본 논문은 측도 이론과 주파수 분석을 통해 대규모 언어 모델(LLM)의 트랜스포머/어텐션 메커니즘을 재공식화하고, 환각(hallucination)이 불가피한 구조적 한계임을 이론적으로 보였다. 임베딩 공간은 σ-대수 위의 조건부 기댓값으로 기능하며, 의미적 진실 집합과 동형(isomorphic)이 되지 못하는 것이 논리적 일관성 붕괴의 근본 원인이다. 저자들은 이산 푸리에 변환(DFT)을 사용해 의미 개념 계층 구조(SCHS)를 명시적으로 구축하는 WavePhaseNet을 제안한다. 시퀀스 차원을 따라 DFT를 적용하면 의미 정보가 주파수 대역으로 분해된다. 저주파 성분은 전역적 의미와 의도를 포착하고, 고주파 성분은 국소적 구문과 표현을 나타낸다. 이러한 단계적 분리는 대각화 공간에서 정밀한 의미 조작을 가능하게 한다. GPT-4의 24,576차원 임베딩 공간은 언어 자기유사성과 Zipf 법칙에 기반한 1/f 스펙트럼 구조를 보인다. 누적 에너지 분석을 통해 저자들은 약 3,000차원이 "완전한 표현(complete representation)"의 하한을 구성함을 도출했다. 이는 24,576차원에서 3,000차원으로의 축소가 의미와 의도를 보존하면서 엄밀한 추론을 가능하게 하고 환각을 억제함을 보여준다. 중첩되는 국소 윈도우에 대한 코호몰로지적 정규화를 통해 구축된 축소 임베딩 공간은 그래프 구조와 cochain complex를 정의할 수 있게 한다. 이는 국소 추론 간 불일치를 coboundary 기반 손실로 정량화한다. Hodge 이론에 기반한 harmonic projection을 적용하면 cohomology를 의미적 일관성을 제어하고 최대한 일관적인 전역 표현을 추출하는 계산 가능한 정규화 원리로 위치시킬 수 있다.
KeySI: 인간 피드백 기반 텍스트 임베딩 튜닝을 위한 상호작용 프레임워크
KeySI: An Interaction Framework for Tuning Text Embeddings Based on Human Feedback
대규모 텍스트 분석 작업에서는 하류 분석을 위해 텍스트 코퍼스를 임베딩하는 데 사전학습된 언어 모델이 자주 사용된다. 그러나 이러한 모델은 도메인 특화 의미를 포착하는 데 어려움을 겪을 수 있으며, 이를 적응시키려면 일반적으로 대량의 라벨 데이터와 학습 파이프라인 구현에 필요한 기술적 전문성이 요구된다. 최근 접근법들은 문서 투영에서의 시각적 상호작용이 모델 튜닝을 위한 학습 신호로 인간 피드백을 포착할 수 있음을 보여주었다. 그러나 이러한 방법들은 문서 수준 피드백을 기반으로 동작하며, 효과적인 피드백을 제공하려면 사용자가 개별 문서를 열어 평가해야 한다. 본 논문에서는 키워드 기반 개념 명세를 통해 특징 수준 피드백을 가능하게 하는 상호작용 프레임워크 KeySI를 제안한다. 사용자는 추출된 키워드를 개념을 나타내는 그룹으로 구성하여 피드백을 지정하며, KeySI는 이를 후속 튜닝을 위한 문서 수준 지도 신호로 변환한다. 키워드를 주요 상호작용 매체로 사용함으로써 KeySI는 수동 문서 검토 및 라벨링의 필요성을 줄이고 임베딩 모델 적응의 진입 장벽을 낮춘다. 우리는 코퍼스가 주어졌을 때 대표 키워드를 선별하고, 차원 축소를 통해 키워드와 문서 임베딩을 시각화하며, 키워드 그룹의 대화형 명세를 허용하고, 시스템 피드백을 통한 반복적 정제를 지원하는 프로토타입 구현을 제시한다. 사용자 연구, 사용 시나리오, 정량 실험을 통해 KeySI를 평가하며, 사용자 의도 포착 및 임베딩 정렬 개선에서의 효과를 입증한다.
DIVE: 자기 제한 그래디언트 업데이트를 통한 임베딩 압축
DIVE: Embedding Compression via Self-Limiting Gradient Updates
고차원 언어 모델 임베딩은 저장 및 검색 비용을 증가시키지만, 지도 학습 압축기는 관련성 레이블이 부족할 때 과적합될 수 있다. 본 논문에서는 DIVE(Dimensionality reduction with Implicit View Ensembles)를 제안한다. DIVE는 자기 제한(self-limiting) 힌지 손실, 기하학적 지식 증류(geometry distillation), 암시적 좌표 뷰에 대한 헤드별 NT-Xent와 함께 공동 설계된 잔차(residual) 압축 어댑터이다. 힌지 손실은 이미 만족된 순위(ranking) 제약에 대한 업데이트를 중단하고, 밀집(dense) 목적 함수는 압축된 표현을 안정화한다. 추론 시에는 첫 번째 헤드만 유지된다. 쿼리 비중복(query-disjoint) 평가에서 두 개의 LLM2Vec 백본, 다섯 개의 BEIR 벤치마크, 128차원 및 256차원 출력, 여섯 개의 베이스라인을 사용한 결과, DIVE는 다섯 개의 주요 벤치마크 모두에서 가장 강력한 어댑터이다. 또한 비지도(unsupervised) 압축기와의 비교에서 PCA 및 오토인코더(autoencoder)보다 우수한 성능을 보였다.
Symmetry in language statistics shapes the geometry of model representations
하이브리드 프라이버시 인식 의미 검색: 제한된 위협 모델 하에서 SVD 절단 문서 기하학과 CKKS 암호화 쿼리 재순위화
Hybrid privacy-aware semantic search: SVD-truncated document geometry and CKKS-encrypted query reranking under a restricted threat model
밀집 임베딩은 의미 검색과 검색-증강 생성(RAG)을 구동하지만, 임베딩 역산(embedding-inversion) 공격은 벡터로부터 원본 텍스트를 복원할 수 있다. 벡터 데이터베이스가 유출되면 그 뒤의 문서도 함께 유출된다. 교과서적인 방어책은 극단적이다. 전체 검색을 동형 암호(homomorphic encryption)로 암호화하는 것은 건전하지만 백만 문서 규모에서는 너무 느리고, 프라이버시 노이즈는 보호하기 전에 순위화를 훨씬 먼저 저하시킨다. 우리는 정적 컬렉션과 동적 쿼리 사이의 비대칭을 이용하는 중간 경로를 연구한다. 컬렉션은 기하학적으로 보호된다. 각 벡터는 저차원 SVD 부분공간으로 절단(truncate)되고 소유자만 아는 비밀 직교 변환으로 회전된다. 쿼리는 암호학적으로 보호된다. CKKS 동형 암호화 하에서 재순위화(rerank)되므로, honest-but-curious 서버는 쿼리나 점수를 볼 수 없다. CKKS 매개변수는 소규모 오프라인 벤치마크에서 도출된다. 우리는 보호된 부분공간에 갇힌 모든 공격자의 재구성 오류에 대한 tight 하한(lower bound)을 증명한다. 백만 문서와 다섯 개의 인코더에서 이 방식은 순위화 품질을 유지하며(강력한 인코더에서는 선형 디노이저로서 약간 개선), 1초 미만 지연을 달성한다. 보호된 공간에 대한 기성 inversion 공격은 노이즈 바닥(noise floor)으로 붕괴한다. 그다음 더 강한 적대자를 테스트한다. known-plaintext 공격자는 보존된 차원만큼의 유출된 쌍으로부터 직교 Procrustes를 통해 회전을 복구한다. 공개 product 양자화(product-quantization) 코드는 대부분의 최근접 이웃 구조를 보존한다. random-projection, calibrated-noise, BEIR 베이스라인은 절단이 무료 디노이저가 아니라 인코더 의존적 정확도 비용임을 보여준다. 한계를 명시한다. 쿼리 기밀성은 암호학적이지만, 문서 보호는(SVD 절단과 비밀 회전) 암호학적 원시 연산이 아닌 경험적 난독화 층이며, 각 주장에 대해 위협 모델을 한정한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.