Extracting UMLS Concepts from Medical Text Using General and Domain-Specific Deep Learning Models
원문 초록
Entity recognition is a critical first step to a number of clinical NLP applications, such as entity linking and relation extraction. We present the first attempt to apply state-of-the-art entity recognition approaches on a newly released dataset, MedMentions. This dataset contains over 4000 biomedical abstracts, annotated for UMLS semantic types. In comparison to existing datasets, MedMentions contains a far greater number of entity types, and thus represents a more challenging but realistic scenario in a real-world setting. We explore a number of relevant dimensions, including the use of contextual versus non-contextual word embeddings, general versus domain-specific unsupervised pre-training, and different deep learning architectures. We contrast our results against the well-known i2b2 2010 entity recognition dataset, and propose a new method to combine general and domain-specific information. While producing a state-of-the-art result for the i2b2 2010 task (F1 = 0.90), our results on MedMentions are significantly lower (F1 = 0.63), suggesting there is still plenty of opportunity for improvement on this new data.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
다국어 공동 개체-관계 추출 파이프라인을 통한 유럽 정치 엘리트 네트워크 매핑
Mapping Political-Elite Networks in Europe with a Multilingual Joint Entity-Relation Extraction Pipeline
정치 엘리트들이 공공 자원을 포획하는 지대추구 연합으로 조직되는지, 아니면 거버넌스를 지탱하는 시민 네트워크로 조직되는지는 비교정치학의 핵심 질문이다. 그러나 이러한 복잡하고 비공식적이며 적대적인 관계를 대규모로 관찰하는 작업은 역사적으로 집중적인 수작업 코딩을 요구해왔으며, 자동화된 텍스트-데이터 방법은 대부분 단순한 공동 출현 분석에 그쳐왔다. 최근의 대규모 언어 모델(LLM) 접근법이 돌파구를 제시하지만, 독점 API에 의존하거나 교차 언어 능력이 부족하고 확장 가능한 개체 해소에 어려움을 겪는 경우가 많다. 우리는 대규모 비정형 뉴스 코퍼스로부터 부호화된 시계열 지식 그래프를 구축하는 모듈형 완전 공개 가중치 기반 다국어 공동 개체-관계 추출 파이프라인을 제시한다. 이 파이프라인은 스팬 기반 개체명 인식(NER)과 언어 독립적 Wikidata 식별자로 언급을 매핑하는 3단계 연결 캐스케이드를 결합하며, 이후 고처리량 온톨로지 제약 전문가 혼합(MoE) 모델이 가이드 디코딩을 통해 도메인 온톨로지에 기반한 방향성 있는 부호화 관계를 추출한다. 3,491개 관계로 구성된 골드 스탠다드에 대한 전수 점검 결과 높은 텍스트 정확도(엄격 기준 68.2%, 완화 기준 93.7%)를 보였다. 두 가지 대규모 사례 연구를 통해 공식 기록과 대조하여 파이프라인을 검증하였다. 오스트리아 사례에서는 한 정당의 전체 생애주기를 재구성하여 내부 균열 시점을 특정하고 후계 파벌 및 법원 판결로 이어지는 인사를 추적하였다. 폴란드 코퍼스에서는 국영기업 후원의 경제·거버넌스 중첩 네트워크와 함께, 양극화된 시민강령(Platforma Obywatelska, PO)과 법과정의(Prawo i Sprawiedliwość, PiS) 양당 구도의 구조적으로 균형 잡힌 부호화 갈등 네트워크를 발견하였다. 우리의 프레임워크는 원시 다국어 텍스트와 구조화된 관계형 데이터를 연결함으로써 비교 국가 간 실증적 계산 사회과학을 위한 견고하고 재현 가능한 토대를 제공한다.
Overview of HIPE-2026: Person-Place Relation Extraction from Multilingual Historical Texts
Evaluation of LLMs on Long-tail Entity Linking in Historical Documents
사전학습 언어 모델 시대의 의미역 할당 체계적 서베이
A Systematic Survey of Semantic Role Labeling in the Era of Pretrained Language Models
의미역 할당(SRL)은 텍스트 내 술어-인수(predicate-argument) 구조를 이해하고 하위 응용을 가능하게 하는 자연어 처리(NLP)의 핵심 과제이다. 광범위한 연구에도 불구하고, 통합적 관점에서 해당 분야를 비판적으로 종합하는 포괄적 서베이는 여전히 부족하다. 본 서베이는 기존 연구를 정리하는 것을 넘어 여러 기여를 한다. 우리는 모델 아키텍처, 구문 특징 모델링, 응용 시나리오, 멀티모달 확장을 축으로 SRL 연구를 분류하는 통합 4차원 분류체계를 제안한다. 구문 특징이 언제, 왜 도움이 되는지에 대한 비판적 분석을 제공하며, 구문 보조 접근법이 구문 비사용 대안 대비 일관된 이득을 제공하는 조건을 밝힌다. 대규모 언어 모델(LLM) 시대의 SRL에 대한 최초의 체계적 논의를 제공하며, LLM과 전문 SRL 시스템의 상보적 역할을 검토하고 하이브리드 접근의 방향을 제시한다. SRL 서베이의 범위를 시각, 비디오, 음성 모달리티를 포함한 멀티모달 설정까지 확장하고, 이러한 모달리티 간 평가의 구조적 차이를 분석한다. 문헌은 ACL Anthology, IEEE Xplore, ACM Digital Library, Google Scholar에 대한 체계적 검색을 통해 수집하였으며, 2000년부터 2025년까지의 출판물을 대상으로 명시적 포함·제외 기준을 적용하여 약 200편의 핵심 참고문헌을 도출하였다. SRL 벤치마크, 평가 지표, 패러다임 모델링 접근법을 도메인 전반의 실용적 응용과 함께 논의한다. 대규모 언어 모델과 더 넓은 NLP 영향력 속에서 변화하는 SRL의 역할을 다루며, 향후 연구 방향을 분석한다.
Chaining Event Spans for Temporal Relation Grounding
Characterizing Linguistic Shifts in Croatian News via Diachronic Word Embeddings
토론
이 논문과 연결된 포럼 글이 아직 없습니다.