PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25859v1cs.CL

BELXTR: 문맥화된 토큰 검색을 통한 생물의학 개체명 연계

BELXTR: Biomedical Entity Linking via Contextualized Token Retrieval

생물의학 개체명 연계(Biomedical Entity Linking)는 지식 베이스(KB) 내의 개체에 맞춰 멘션의 모호성을 해소함으로써 정보 추출 파이프라인의 핵심적인 초석 역할을 합니다. 임베딩(embedding) 기반 모델은 이 태스크에서 널리 사용되는 접근법이지만, 중대한 한계를 지니고 있습니다. 멘션(및 개체)을 단일 벡터로 압축하기 때문에, 모델이 중요하고 미세한 차이들을 평균화하여 유실하게 만듭니다. 본 논문에서는 토큰(token) 수준의 매칭 정보를 활용할 수 있는 다중 벡터(즉, 후기 상호작용) 아키텍처 기반의 새로운 임베딩 모델인 BELXTR을 제시합니다. BELXTR은 기존의 태스크 특화 학습(training) 목표를 통합하고 능동적 쿼리 확장을 탐색함으로써 기존 XTR 모델을 생물의학 개체명 연계로 확장합니다. 10개 말뭉치와 5개 KB에 걸친 실험 결과, BELXTR은 말뭉치의 절반에서 재현율(recall)@1이 평균 5%p 향상되며 기존 최고 수준(SOTA)의 성능을 개선함을 보였습니다. 가장 큰 성능 향상은 까다로운 이종 간 유전자 모호성 해소 하위 태스크에서 나타났으며, 여기서 BELXTR은 대규모 언어 모델(LLM) 기반의 검색 및 재순위화 파이프라인을 능가하고 특화된 규칙 기반 시스템에 근접하는 성능을 달성했습니다. 본 연구 결과는 다중 벡터 모델이 유지 관리가 어려운 규칙 기반 시스템이나 PubMed 규모의 마이닝처럼 LLM 기반 재순위화 비용이 과도하게 높은 시나리오에서 실용적인 대안이 될 수 있음을 강조합니다. 실험을 재현하기 위한 코드는 https://github.com/sg-wbi/belxtr 에서 확인할 수 있습니다.