arXiv:2512.08617v2 cs.CL

HealthcareNLP: 현재 우리는 어디에 있으며 다음 단계는 무엇인가?

HealthcareNLP: where are we and what is next?

Lifeng Han, Paul Rayson, Andrew Moore, Goran Nenadic, Suzan Verberne

제출 2025-12-09

저자 비고

arXiv Comments

Presented Tutorial at LREC 2026 https://lrec2026.info/

한국어 초록

본 튜토리얼은 자연어 처리(NLP)의 헬스케어 도메인 적용, HealthcareNLP 분야에서 우리가 달성한 성과, 그리고 미래를 향한 과제에 초점을 맞춥니다. 이 분야의 기존 리뷰들은 개인정보 보호 문제를 해결하기 위한 합성 데이터 생성이나 보다 나은 통합 및 구현을 위한 설명 가능한 임상 NLP 같은 몇 가지 중요한 태스크를 간과하거나, 검색-증강 생성(RAG) 및 대규모 언어 모델(LLM)과 지식 그래프(KG)의 뉴로-심볼릭 통합을 포함한 주요 방법론을 언급하지 못했습니다. 이러한 점을 고려하여, 본 튜토리얼의 목표는 3단계 계층 구조를 통해 환자 및 자원 지향적인 HealthcareNLP의 가장 중요한 하위 분야에 대한 입문적 개요를 제공하는 것입니다. 3단계 계층은 데이터/자원 층(어노테이션 가이드라인, 윤리적 승인, 거버넌스, 합성 데이터), NLP-평가(Eval) 층(개체명 인식(NER), 관계 추출(RE), 감성 분석과 같은 NLP 태스크 및 분류된 방법론을 통한 링킹/코딩, 이를 통한 설명 가능한 HealthAI 구축), 환자 층(환자 및 대중 참여(PPIE), 건강 이해도, 번역, 단순화, 요약(이 역시 NLP 태스크임), 공유 의사결정 지원)으로 구성됩니다. 청중이 HealthcareNLP 애플리케이션을 직접 사용할 수 있도록 튜토리얼에 실습 세션이 포함될 예정입니다. 대상 청중은 헬스케어 응용 분야의 NLP 실무자, 도메인 응용에 관심이 있는 NLP 연구자, 헬스케어 연구자, 그리고 NLP 분야의 학생들입니다. 본 튜토리얼의 유형은 "CL/NLP 주제 입문(HealthcareNLP)"이며 청중은 참석을 위한 사전 지식이 필요하지 않습니다. 튜토리얼 자료: https://github.com/4dpicture/HealthNLP

원문 초록

This tutorial focused on Healthcare Domain Applications of NLP, what we have achieved around HealthcareNLP, and the challenges that lie ahead for the future. Existing reviews in this domain either overlook some important tasks, such as synthetic data generation for addressing privacy concerns, or explainable clinical NLP for improved integration and implementation, or fail to mention important methodologies, including retrieval augmented generation and the neural symbolic integration of LLMs and KGs. In light of this, the goal of this tutorial is to provide an introductory overview of the most important sub-areas of a patient- and resource-oriented HealthcareNLP, with three layers of hierarchy: data/resource layer: annotation guidelines, ethical approvals, governance, synthetic data; NLP-Eval layer: NLP tasks such as NER, RE, sentiment analysis, and linking/coding with categorised methods, leading to explainable HealthAI; patients layer: Patient Public Involvement and Engagement (PPIE), health literacy, translation, simplification, and summarisation (also NLP tasks), and shared decision-making support. A hands-on session will be included in the tutorial for the audience to use HealthcareNLP applications. The target audience includes NLP practitioners in the healthcare application domain, NLP researchers who are interested in domain applications, healthcare researchers, and students from NLP fields. The type of tutorial is "Introductory to CL/NLP topics (HealthcareNLP)" and the audience does not need prior knowledge to attend this. Tutorial materials: https://github.com/4dpicture/HealthNLP

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2512.08617v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.12544v2cs.CL공통 태그 Data Augmentation, Privacy Preserving

Meddies-PII: 임상 비식별화를 위한 개인식별정보 추출 다국어 프레임워크

Meddies-PII: A Multilingual Framework for Personally Identifiable Information Extraction in Clinical De-identification

임상 비식별화는 개인식별정보(PII)를 정확하게 식별하는 것에 의존합니다. 그러나 수작업으로 주석을 추가한 데이터셋은 구축 비용이 많이 들며, 기존의 합성 대안들은 생성 프로세스에 대한 세부 정보를 제한적으로 제공하거나 비교적 단순한 합성 전략에 의존하는 경우가 많습니다. 본 논문에서는 17개 언어와 9개의 PII 레이블에 걸친 100만 건의 합성 임상 문서 말뭉치인 Meddies-PII-Dataset을 소개합니다. 이러한 문서는 속성 조건부 프롬프트를 사용하여 생성되며, 구조적 및 주석 일관성을 강제하는 13개의 결정론적 게이트를 통해 검증됩니다. 데이터셋의 유용성을 평가하기 위해 BIOES 토큰 분류기인 Meddies-PII-Model을 학습하고, 완전 일치 엔티티 수준 F1을 사용하여 기존 PII 추출 시스템과 비교합니다. Meddies-PII-Model은 평가된 시스템 중 모든 보고된 벤치마크에서 가장 높은 성능을 달성하였으며, 15개의 외부 벤치마크에 걸쳐 평균 F1 0.827을 기록하여 가장 강력한 기준선의 0.658과 대비됩니다. 논문 채택 시 다국어 임상 비식별화 연구를 지원하기 위해 데이터셋, 벤치마크 스위트, 모델, 생성 프레임워크 및 평가 코드를 공개적으로 릴리스할 예정입니다.

arXiv:2609.26034v1cs.CL공통 태그 Knowledge Graphs, Relation Extraction

대규모 구조화 문헌 마이닝을 위한 도메인 적응 사전학습 기반 수처리 의미 표상 향상

Domain-Adaptive Pretraining Enhances Water Treatment Semantic Representation for Large-Scale Structured Literature Mining

수처리 연구가 급격히 확장되고 있으나, 이러한 연구로부터 도출된 많은 지식은 비정형 문헌 전반에 흩어져 있는 상태로 남아 있다. 이 분야는 대규모 문헌 마이닝을 위해 수처리 특화 도메인 의미를 효율적으로 포착할 수 있는 전용 언어 모델이 여전히 부족하다. 본 연구에서는 수처리 텍스트로부터 의미 표상(semantic representation) 및 구조화된 정보 추출을 수행하도록 설계된 도메인 적응 인코더 모델인 WaterBERT를 개발하여 이를 해결한다. WaterBERT는 약 29억 7천만 개의 토큰으로 구성된 대규모 수처리 말뭉치에 대한 지속 사전학습(continual pretraining)을 통해 개발되었다. WaterBERT를 기반으로 파인튜닝된 세 가지 모델을 다운스트림 태스크에서 체계적으로 평가한 결과, 다중 클래스 처리 공정 분류에서 F1 점수 90.12%, 개체명 인식에서 79.50%, 관계 추출에서 74.04%를 기록하며 범용 및 도메인 특화 BERT 모델 중 전반적으로 가장 우수한 성능을 달성했다. 이러한 벤치마크 태스크를 넘어, 대규모 문헌 처리에 대한 WaterBERT의 이점을 추가로 입증했다. 5,144편의 Environmental Science & Technology 논문에 적용된 WaterBERT-BERTopic은 사전에 정의된 범주 없이도 일관되고 다양하며 도메인에 특화된 연구 주제를 식별했다. WaterBERT를 기반으로 693,211개의 초록을 처리하여 상용 대규모 언어 모델(LLM)보다 현저히 낮은 비용으로 경쟁력 있는 추출 성능을 유지하면서 구조화된 수처리 지식 그래프를 구축했다. 이후 이 지식 그래프를 어휘 및 조밀 검색(dense retrieval)과 통합하여 수처리 지식 증강 검색 시스템(WaterKERS)을 개발했으며, 이는 관련성 점수 77.7을 달성하여 텍스트 기반 검색 베이스라인(54.7-64.5)을 크게 능가했다. 본 연구는 WaterBERT를 통해 수처리 연구에서의 대규모 정보 처리 및 근거 매핑을 위한 컴팩트하고 확장 가능한 의미론적 기반을 제공한다.

arXiv:2607.24563v2cs.AI공통 태그 Knowledge Graphs, Relation Extraction

TRACE-CTI: 지식 그래프를 활용한 TTP 주장의 감사 가능한 추출 후 거버넌스

TRACE-CTI: Auditable Post-Extraction Governance of TTP Claims with Knowledge Graphs

보안 운영 센터(SOC)는 사이버 위협 인텔리전스(CTI) 보고서를 MITRE ATT&CK에 자동 매핑하는 데 점점 더 의존하고 있지만, 추출기 출력은 여전히 오류 가능성이 있으며 개별 매핑을 신뢰해야 하는지 판단하는 데 필요한 증거, 출처(provenance), 검증 이력 없이 저장되는 경우가 많다. 우리는 TRACE-CTI를 제시한다. 이는 실행(run) 수준 Predictions를 보존하고, 이를 구성(configuration) 수준 GraphAssertions로 집계하며, 설정 중복 제거된 상호 검증을 ConsensusAssertions로 구체화하고, 정책 준수 검증 근거(validation grounds)가 뒷받침하는 GraphAssertions만 노출하는 추출 후 클레임 거버넌스 프레임워크이다. 이 프레임워크는 원본 증거의 세분화 수준, 완전한 추출 출처, 버전 관리된 신뢰 결정, 비파괴적 철회 이력을 유지한다. 우리는 65개 보고서와 5,303개 문장으로 구성된 두 공개 CTI 코퍼스에서 TRACE-CTI를 평가한다. 검색기(retriever)와 생성기(generator) 계열의 통제된 2×3 행렬을 사용하여 6개 GraphVersion에 걸쳐 점진적으로 수집한다. 모든 설정은 스키마 수정 없이 통합되며, 출처 경로는 완전하게 유지되고, 운영 범위는 분리(disjoint)되어 있으며, 신뢰할 수 있는 모든 GraphAssertion에는 활성화된 적격 검증 근거가 있다. 생성기 계열 간 교차 설정 쌍은 동일 계열 쌍보다 더 큰 출력 다양성을 보인다. 최종 그래프 상태에서 설정 지원을 k ≥ 1에서 6개 설정 전원 일치(six-setup unanimity)로 늘리면 gold 정렬 정밀도는 25.3%에서 90.6%로 상승하고, 재현율은 88.2%에서 16.3%로 감소한다. 그래프는 또한 출처, 신뢰, 버전 관리, 의존성, 불일치, 검토 대기열(review-queue)에 관한 7가지 질문에 직접 답할 수 있으며, 이는 평가된 최소 평면(flat) 출력이 보강이나 재처리 없이는 완전히 답할 수 없는 질문들이다. 이 결과는 추출된 TTP 주장에 대한 명시적이고 감사 가능한 거버넌스를 뒷받침한다. 관찰된 상호 검증 궤적은 기술적(descriptive)이며 통계적 독립성이나 인과적 모델 계열 효과를 확립하지 않는다.

arXiv:2607.22953v1cs.AI공통 태그 Knowledge Graphs, Privacy Preserving

요청이 요구하는 이상은 공유하지 않음: 관점 인식 AI를 위한 연합 공개

Share No More Than the Request Requires: Federated Disclosure for Perspective-Aware AI

현대 AI 시스템은 대규모 감시, 권력의 극단적 집중, 사용자 자율성 상실과 같은 사회적 위험을 초래하며, 제3자가 방대한 사용자 데이터를 수집·통제하는 모델에 의문을 제기한다. 사용자는 엄격한 출처(provenance), 해석 가능성(interpretability), 정책 준수를 요구하는 규제 영역 전반에서도 준수하면서, 자신의 컨텍스트를 안전하게 소유·관리·공개할 수 있는 주권적(sovereign) 시스템을 필요로 한다. 관점 인식 AI는 사용자의 집계된 개인 데이터를 \emph{Chronicle}이라 불리는 구조화된 정체성 모델로 변환함으로써 이에 접근한다. Chronicle은 사용자를 표현하고 함께 성장하는 시간적 지식 그래프(temporal knowledge graph)이다. Chronicle은 연합(federated) 네트워크 전반에서 컨텍스트의 안전한 공개를 지원한다. Chronicle 보유자(holder)는 제3자 에이전트가 누구의 데이터도 중앙 집중화하지 않고 조회할 수 있는, 쿼리 가능한 승인된 뷰(authorized view)를 노출할 수 있다. 본 논문은 도메인 경계를 넘는 최소 필요 공개(minimum-necessary disclosure) 문제를 탐구한다. 요청자의 에이전트가 Chronicle을 쿼리할 때, 시스템이 어떻게 응답을 요청자와의 관계, 명시된 목적, 구체적 과업이 요구하는 것만 공개하도록 제한할 수 있는가? 우리는 \textbf{Provenance Preserving Chronicles}(PPC)를 제안한다. 이는 각 보유자의 Chronicle을 컴팩트한 \emph{authorized evidence subgraph}로 컴파일하는 연합 프로토콜이며, \emph{share no more than the request requires}(요청이 요구하는 이상은 공유하지 않는다)는 하나의 규칙으로 거버넌스한다. 보유자는 로컬 주권을 유지하고, 액세스 컨트롤러는 도메인 전문 온톨로지(domain-expert ontologies) 위에 관계 인식(relationship-aware) 뷰를 투영(project)하며, 2단계 흐름(two-phase flow)은 먼저 출처 연결(provenance-linked) 텍스트를 반환하고, 원시 아티팩트(raw artifacts)는 보유자의 명시적 승인 후에만 공개한다. 우리는 문제를 틀 짓고, 블록체인, P2P, 보유자 주권(holder-sovereign) 설계의 공백을 매핑하며, 핵심 구성 요소를 정의하고, 명시적 위협 모델(threat model)과 함께 프로토콜을 개괄한다.

arXiv:2607.24551v1cs.AI공통 태그 Knowledge Graphs, Relation Extraction

LLM 기반 온톨로지 엔지니어링과 프랑스 법률 지식 그래프 구축

LLM-Assisted Ontology Engineering and Construction of a French Legal Knowledge Graph

유지보수 규정은 특정 사례를 다룰 때 활용하기 어렵고 운영 시스템에 통합하기도 까다로운 복잡한 법률 텍스트이다. 본 논문은 프랑스 유지보수 규정을 위한 2단계 LLM 기반 워크플로를 제시한다: SEMLEG 기반 핵심 온톨로지로부터의 온톨로지 엔지니어링, 그리고 이어서 온톨로지에 기반한(ontology-grounded) 프랑스 법률 지식 그래프의 구축. 1단계는 계층화된 코퍼스 샘플로부터 유형화된 엔티티와 트리플의 개방 추출(open extraction), 임베딩 기반 융합을 통한 레이블 정규화, 그리고 시그니처(도메인과 레인지)를 갖는 후보 객체 속성(object property)의 유도로 구성된다. 2단계는 결과 온톨로지를 사용하여 전체 코퍼스에 대한 트리플의 폐쇄 추출(closed extraction)과 RDF 그래프 구축을 안내한다. GPT-4.1과 mistral-large-2512를 사용한 실험은 견고한 구조화 출력, 거의 완전한 클래스 정렬, 그리고 융합 후 중복 엔티티와 술어의 상당한 감소를 보여준다. 트리플의 20% 미만이 새로운 속성을 도입하며, 더 낮은 정확한 시그니처 준수는 기존 술어에 대한 새로운 도메인-레인지 조합을 드러낸다. 이러한 결과는 산업 유지보수 환경에서 술어 정규화와 새로 관찰된 관계 시그니처의 검증이 핵심 정제 단계임을 시사한다.

arXiv:2607.21610v1cs.AI공통 태그 Knowledge Graphs, Relation Extraction

SCOPE와 SCION: 텍스트로부터의 스키마 유도 및 융합을 위한 벤치마크와 감사 가능한 참조 파이프라인

SCOPE and SCION: A Benchmark and an Auditable Reference Pipeline for Schema Induction and Fusion from Text

스키마 그래프는 스키마 기반 정보 추출 및 지식 그래프 구축의 상류 병목이지만, 대부분의 추출 시스템은 스키마가 이미 제공된다고 가정한다. 우리는 원시 텍스트로부터 코퍼스-대-스키마 유도 및 선택적 스키마 융합을 위한 학습 텍스트 전용 벤치마크인 SCOPE(Schema Construction and Ontology-induction Pipeline Evaluation)를 소개한다. 이는 24개의 공개 정보 추출 소스(관계 추출(RE) 15개, 이벤트 추출(EE) 9개)로부터 구축되었으며, 평가 전용 골드 스키마 그래프로 정규화되었다. 핵심 이벤트 추출 대상은 이벤트 유형과 이벤트 내 인자 역할을 다루며, 이벤트 간 링크는 별도로 보고한다. 또한 우리는 새로운 추출 아키텍처가 아닌 감사 가능한 참조 파이프라인인 SCION(Schema Construction and Induction with Ontology Normalization)을 제시한다. SCION은 학습 텍스트로부터 후보 공간을 구성하고, 명명, 병합, 필터링, 검증, 보수적 융합을 엄격한 JSON 계약 하에서 후보 연결 증거로 제한한다. SCOPE 핵심 스위트에서 SCION-lite는 Literal, Fuzzy, Continuous, Graph 스키마-그래프 지표 하에서 공개된 소스-스키마 참조, Text2Onto 스타일, LLM 전용, 매칭된 추출-후-집계(extract-then-aggregate) 베이스라인 중 최고 F1을 달성하며, 소형 오픈 모델 변형인 SCION-RL은 독점 LLM 스키마 엔지니어에 대한 의존을 줄인다. 이러한 결과는 유도된 스키마가 인간의 온톨로지 설계를 능가한다는 주장이 아니라 정규화된 typed-edge 타겟에 대해 보고된 것이다. 공개 자료에는 증거 연결 출력, 파싱/폴백 로그, 후보 유지/병합 로그, 실행 매니페스트, 코드, 벤치마크 패키지가 https://github.com/wandugu/paper_scion 에 포함되어 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.