PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25859v1cs.CL

BELXTR: 문맥화된 토큰 검색을 통한 생물의학 개체명 연계

BELXTR: Biomedical Entity Linking via Contextualized Token Retrieval

생물의학 개체명 연계(Biomedical Entity Linking)는 지식 베이스(KB) 내의 개체에 맞춰 멘션의 모호성을 해소함으로써 정보 추출 파이프라인의 핵심적인 초석 역할을 합니다. 임베딩(embedding) 기반 모델은 이 태스크에서 널리 사용되는 접근법이지만, 중대한 한계를 지니고 있습니다. 멘션(및 개체)을 단일 벡터로 압축하기 때문에, 모델이 중요하고 미세한 차이들을 평균화하여 유실하게 만듭니다. 본 논문에서는 토큰(token) 수준의 매칭 정보를 활용할 수 있는 다중 벡터(즉, 후기 상호작용) 아키텍처 기반의 새로운 임베딩 모델인 BELXTR을 제시합니다. BELXTR은 기존의 태스크 특화 학습(training) 목표를 통합하고 능동적 쿼리 확장을 탐색함으로써 기존 XTR 모델을 생물의학 개체명 연계로 확장합니다. 10개 말뭉치와 5개 KB에 걸친 실험 결과, BELXTR은 말뭉치의 절반에서 재현율(recall)@1이 평균 5%p 향상되며 기존 최고 수준(SOTA)의 성능을 개선함을 보였습니다. 가장 큰 성능 향상은 까다로운 이종 간 유전자 모호성 해소 하위 태스크에서 나타났으며, 여기서 BELXTR은 대규모 언어 모델(LLM) 기반의 검색 및 재순위화 파이프라인을 능가하고 특화된 규칙 기반 시스템에 근접하는 성능을 달성했습니다. 본 연구 결과는 다중 벡터 모델이 유지 관리가 어려운 규칙 기반 시스템이나 PubMed 규모의 마이닝처럼 LLM 기반 재순위화 비용이 과도하게 높은 시나리오에서 실용적인 대안이 될 수 있음을 강조합니다. 실험을 재현하기 위한 코드는 https://github.com/sg-wbi/belxtr 에서 확인할 수 있습니다.

arXiv:2607.04605v1cs.IR

모든 시각적 토큰이 동등하게 중요한가? 비전-언어 검색을 위한 객체 증거 보존 토큰 병합

Do All Visual Tokens Matter Equally? Object-Evidence Preserving Token Merging for Vision-Language Retrieval

멀티벡터 비전-언어 검색은 최대 유사도 기반 후기 상호작용(late interaction)을 통해 세밀한 시각적 증거를 보존하지만, 이미지 측의 조밀한 토큰은 저장 및 스코어링 비용을 높인다. 기존 토큰 압축 방법은 이 비용을 줄이지만, 미래의 쿼리 토큰이 선택해야 할 객체 및 영역 수준의 증거를 제거하거나 붕괴시킬 수 있다. 본 논문에서는 이미지 측 프로젝터 후 토큰을 K개의 대표 센트로이드로 압축하면서 원래의 후기 상호작용 인터페이스를 유지하는 객체 인식 토큰 병합 프레임워크인 SaMer를 제안한다. SaMer는 학습 중에만 객체 어노테이션을 병합 사전(merge prior)으로 사용하여 인스턴스 간 혼합을 억제하며, 추론 시 정답 바운딩 박스나 검출기를 필요로 하지 않고, 비전 및 언어 백본을 동결한 채 공유 프로젝션 층만 적응시킨다. K=64 설정에서 SaMer는 이미지 측 토큰의 93% 이상을 제거하고 ColPali 저장 공간을 16.09배 축소하면서, Flickr30K와 MSCOCO에서 R@1 성능을 향상시킨다. 이러한 성능 향상은 객체 인식 병합이 가지치기나 특징 기반 풀링만으로는 제거되거나 붕괴될 수 있는 쿼리 선택 가능한 객체 증거를 보존하기 때문이다. SaMer는 압축 기준선 대비 우수한 성능을 보이며 구문 수준의 그라운딩에서도 더 강한 성능을 나타내는바, 효율적인 멀티벡터 검색은 토큰 수를 줄이는 것뿐 아니라 미래 쿼리 토큰이 선택해야 할 증거를 보존하는 데 달려 있음을 시사한다.