arXiv:2606.19710v1 cs.CL

FineREX: 인신 밀매 지식 그래프를 위한 파인튜닝된 NER-RE

FineREX: Fine-Tuned NER-RE for Human Smuggling Knowledge Graphs

Elijah Feldman, Dipak Meher, Carlotta Domeniconi

제출 2026-06-18

한국어 초록

법정 절차는 인신 밀매 네트워크에 대한 귀중한 증거를 포함하고 있지만, 이 정보는 종종 구조화되지 않고 전문 용어가 많은 법률 문서 속에 묻혀 있습니다. 대규모 언어 모델(LLM)이 자동화된 정보 추출을 통해 지식 그래프 구축을 지원할 수 있지만, 기존 접근 방식은 이 도메인에서 요구되는 개체 및 관계 정의에 맞춰지지 않은 범용 모델에 의존합니다. 우리는 개체명 인식 및 관계 추출(NER-RE)을 위해 파인튜닝된 LLM을 중심으로 구축된 간소화된 지식 그래프 구축 파이프라인인 FineREX를 소개합니다. 512개의 텍스트 청크로 구성된 수동 주석 데이터셋을 사용하여, FineREX는 더 큰 범용 기준선(baseline)과 비교했을 때 각각 개체 및 관계 F1 점수에서 15.50%와 31.46%의 절대적 향상을 달성했습니다. 이러한 개선은 더 고품질의 지식 그래프로 이어져, 법률 노이즈를 거의 절반으로 줄이고 긴 문서에서의 노드(node) 중복을 17.78%에서 11.17%로 낮추었습니다. 문서 재작성 및 중복 추출 단계를 제거함으로써 FineREX는 엔드 투 엔드 처리 시간도 50.0% 단축했습니다. 우리의 결과는 도메인 특화 파인튜닝이 더 큰 범용 모델을 상당히 능가하면서 불법 네트워크 분석을 위한 지식 그래프 구축의 품질과 효율성을 모두 향상시킬 수 있음을 보여줍니다.

원문 초록

Court proceedings contain valuable evidence about human smuggling networks, but this information is often buried within unstructured, jargon-heavy legal documents. While large language models (LLMs) can support knowledge graph construction through automated information extraction, existing approaches rely on general-purpose models that are not tailored to the entity and relationship definitions required in this domain. We introduce FineREX, a streamlined knowledge graph construction pipeline built around a fine-tuned LLM for named entity recognition and relationship extraction (NER-RE). Using a manually annotated dataset of $512$ text chunks, FineREX achieves absolute improvements of 15.50% and 31.46% in entity and relationship F1-score, respectively, compared to a larger general-purpose baseline. These gains translate into higher-quality knowledge graphs, reducing legal noise by nearly half and lowering node duplication on long documents from 17.78% to 11.17%. By eliminating document rewriting and redundant extraction stages, FineREX also reduces end-to-end processing time by 50.0%. Our results demonstrate that domain-specific fine-tuning can substantially outperform larger general-purpose models while improving both the quality and efficiency of knowledge graph construction for illicit network analysis.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.19710v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26034v1cs.CL공통 태그 Knowledge Graphs, Relation Extraction, Named Entity Recognition

대규모 구조화 문헌 마이닝을 위한 도메인 적응 사전학습 기반 수처리 의미 표상 향상

Domain-Adaptive Pretraining Enhances Water Treatment Semantic Representation for Large-Scale Structured Literature Mining

수처리 연구가 급격히 확장되고 있으나, 이러한 연구로부터 도출된 많은 지식은 비정형 문헌 전반에 흩어져 있는 상태로 남아 있다. 이 분야는 대규모 문헌 마이닝을 위해 수처리 특화 도메인 의미를 효율적으로 포착할 수 있는 전용 언어 모델이 여전히 부족하다. 본 연구에서는 수처리 텍스트로부터 의미 표상(semantic representation) 및 구조화된 정보 추출을 수행하도록 설계된 도메인 적응 인코더 모델인 WaterBERT를 개발하여 이를 해결한다. WaterBERT는 약 29억 7천만 개의 토큰으로 구성된 대규모 수처리 말뭉치에 대한 지속 사전학습(continual pretraining)을 통해 개발되었다. WaterBERT를 기반으로 파인튜닝된 세 가지 모델을 다운스트림 태스크에서 체계적으로 평가한 결과, 다중 클래스 처리 공정 분류에서 F1 점수 90.12%, 개체명 인식에서 79.50%, 관계 추출에서 74.04%를 기록하며 범용 및 도메인 특화 BERT 모델 중 전반적으로 가장 우수한 성능을 달성했다. 이러한 벤치마크 태스크를 넘어, 대규모 문헌 처리에 대한 WaterBERT의 이점을 추가로 입증했다. 5,144편의 Environmental Science & Technology 논문에 적용된 WaterBERT-BERTopic은 사전에 정의된 범주 없이도 일관되고 다양하며 도메인에 특화된 연구 주제를 식별했다. WaterBERT를 기반으로 693,211개의 초록을 처리하여 상용 대규모 언어 모델(LLM)보다 현저히 낮은 비용으로 경쟁력 있는 추출 성능을 유지하면서 구조화된 수처리 지식 그래프를 구축했다. 이후 이 지식 그래프를 어휘 및 조밀 검색(dense retrieval)과 통합하여 수처리 지식 증강 검색 시스템(WaterKERS)을 개발했으며, 이는 관련성 점수 77.7을 달성하여 텍스트 기반 검색 베이스라인(54.7-64.5)을 크게 능가했다. 본 연구는 WaterBERT를 통해 수처리 연구에서의 대규모 정보 처리 및 근거 매핑을 위한 컴팩트하고 확장 가능한 의미론적 기반을 제공한다.

arXiv:2607.24551v1cs.AI공통 태그 Knowledge Graphs, Relation Extraction, Named Entity Recognition

LLM 기반 온톨로지 엔지니어링과 프랑스 법률 지식 그래프 구축

LLM-Assisted Ontology Engineering and Construction of a French Legal Knowledge Graph

유지보수 규정은 특정 사례를 다룰 때 활용하기 어렵고 운영 시스템에 통합하기도 까다로운 복잡한 법률 텍스트이다. 본 논문은 프랑스 유지보수 규정을 위한 2단계 LLM 기반 워크플로를 제시한다: SEMLEG 기반 핵심 온톨로지로부터의 온톨로지 엔지니어링, 그리고 이어서 온톨로지에 기반한(ontology-grounded) 프랑스 법률 지식 그래프의 구축. 1단계는 계층화된 코퍼스 샘플로부터 유형화된 엔티티와 트리플의 개방 추출(open extraction), 임베딩 기반 융합을 통한 레이블 정규화, 그리고 시그니처(도메인과 레인지)를 갖는 후보 객체 속성(object property)의 유도로 구성된다. 2단계는 결과 온톨로지를 사용하여 전체 코퍼스에 대한 트리플의 폐쇄 추출(closed extraction)과 RDF 그래프 구축을 안내한다. GPT-4.1과 mistral-large-2512를 사용한 실험은 견고한 구조화 출력, 거의 완전한 클래스 정렬, 그리고 융합 후 중복 엔티티와 술어의 상당한 감소를 보여준다. 트리플의 20% 미만이 새로운 속성을 도입하며, 더 낮은 정확한 시그니처 준수는 기존 술어에 대한 새로운 도메인-레인지 조합을 드러낸다. 이러한 결과는 산업 유지보수 환경에서 술어 정규화와 새로 관찰된 관계 시그니처의 검증이 핵심 정제 단계임을 시사한다.

arXiv:2606.27347v3cs.CL공통 태그 Knowledge Graphs, Relation Extraction, Named Entity Recognition

다국어 공동 개체-관계 추출 파이프라인을 통한 유럽 정치 엘리트 네트워크 매핑

Mapping Political-Elite Networks in Europe with a Multilingual Joint Entity-Relation Extraction Pipeline

정치 엘리트들이 공공 자원을 포획하는 지대추구 연합으로 조직되는지, 아니면 거버넌스를 지탱하는 시민 네트워크로 조직되는지는 비교정치학의 핵심 질문이다. 그러나 이러한 복잡하고 비공식적이며 적대적인 관계를 대규모로 관찰하는 작업은 역사적으로 집중적인 수작업 코딩을 요구해왔으며, 자동화된 텍스트-데이터 방법은 대부분 단순한 공동 출현 분석에 그쳐왔다. 최근의 대규모 언어 모델(LLM) 접근법이 돌파구를 제시하지만, 독점 API에 의존하거나 교차 언어 능력이 부족하고 확장 가능한 개체 해소에 어려움을 겪는 경우가 많다. 우리는 대규모 비정형 뉴스 코퍼스로부터 부호화된 시계열 지식 그래프를 구축하는 모듈형 완전 공개 가중치 기반 다국어 공동 개체-관계 추출 파이프라인을 제시한다. 이 파이프라인은 스팬 기반 개체명 인식(NER)과 언어 독립적 Wikidata 식별자로 언급을 매핑하는 3단계 연결 캐스케이드를 결합하며, 이후 고처리량 온톨로지 제약 전문가 혼합(MoE) 모델이 가이드 디코딩을 통해 도메인 온톨로지에 기반한 방향성 있는 부호화 관계를 추출한다. 3,491개 관계로 구성된 골드 스탠다드에 대한 전수 점검 결과 높은 텍스트 정확도(엄격 기준 68.2%, 완화 기준 93.7%)를 보였다. 두 가지 대규모 사례 연구를 통해 공식 기록과 대조하여 파이프라인을 검증하였다. 오스트리아 사례에서는 한 정당의 전체 생애주기를 재구성하여 내부 균열 시점을 특정하고 후계 파벌 및 법원 판결로 이어지는 인사를 추적하였다. 폴란드 코퍼스에서는 국영기업 후원의 경제·거버넌스 중첩 네트워크와 함께, 양극화된 시민강령(Platforma Obywatelska, PO)과 법과정의(Prawo i Sprawiedliwość, PiS) 양당 구도의 구조적으로 균형 잡힌 부호화 갈등 네트워크를 발견하였다. 우리의 프레임워크는 원시 다국어 텍스트와 구조화된 관계형 데이터를 연결함으로써 비교 국가 간 실증적 계산 사회과학을 위한 견고하고 재현 가능한 토대를 제공한다.

arXiv:2607.10212v1cs.AI공통 태그 Knowledge Graphs, Relation Extraction, Named Entity Recognition

KGCQual: 텍스트로부터 구축된 지식 그래프 품질 평가를 위한 해석 가능한 프레임워크

KGCQual: An Interpretable Framework for Evaluating the Knowledge Graph Construction Quality from Text

지식 그래프(Knowledge Graph, KG)는 자동화된 추출 파이프라인을 통해 점점 더 많이 구축되고 있으나, 이러한 시스템은 종종 잘못된 또는 불완전한 트리플을 생성하여 다운스트림 성능을 저하시킨다. 기존의 평가 방식은 태스크별 메트릭이나 소규모 수동 검증에 크게 의존하여, 추출된 그래프의 구조적·의미적 충실도에 대한 통찰이 제한적이다. 우리는 자동 추출된 그래프가 소스 텍스트에 표현된 핵심 명사구, 술어 관계, 부정과 같은 기본적인 언어 현상을 포착하는 "이상적인" 그래프에 얼마나 근접하는지를 측정하는, 새로운 해석 가능한 내재적 KG 품질 평가 메트릭을 제안한다. 우리의 프레임워크는 두 가지 상호보완적인 구성 요소를 통합한다: (1) 완전성, 해소 품질, 연결성을 평가하는 엔티티 수준 평가, (2) 어휘 유사도, 의존 파싱 정렬, 경량 부정 처리를 활용하여 의미적 충실도를 보장하면서 술어 보존 및 다중성을 판단하는 관계 수준 평가. 우리는 WebNLG, TinyButMighty, BenchIE를 포함한 여러 최신 트리플 추출 시스템과 데이터셋에 걸쳐 메트릭을 평가하여, 기존 메트릭이 간과하는 누락, 중복, 구조적 편차를 신뢰성 있게 식별함을 입증한다. 본 연구는 자동화된 KG 구축 방법을 비교하기 위한 확장 가능하고 모델 비의존적이며 해석 가능한 프레임워크를 제공하며, 표준화된 평가의 토대를 마련한다. 또한 명사 및 동사 구성 요소를 분리하는 에블레이션 연구와, KGCQual 점수가 동일한 추출 KG에서의 링크 예측 성능과 유의미한 상관관계를 보임을 보여주는 다운스트림 평가를 통해 메트릭을 추가적으로 검증한다. 코드 저장소는 https://github.com/kracr/kg-quality-metric 에서 확인할 수 있다.

arXiv:2607.03245v1cs.LG공통 태그 Knowledge Graphs, Relation Extraction, Named Entity Recognition

PhenoNEST: 온톨로지 인식 멀티모달 식물 표현형 분석 및 형질 발견을 위한 뉴로-심볼릭 프레임워크

PhenoNEST: A Neuro-Symbolic Framework for Ontology-Aware Multimodal Plant Phenotyping and Trait Discovery

고처리량 식물 표현형 분석은 비정형 텍스트와 독립된 RGB 이미지에 갇혀 활용되지 못하는 귀중한 데이터를 생성한다. 이러한 의미론적 격차를 해소하기 위해, 우리는 시간과 실험에 걸쳐 유전형-표현형 상호작용을 모니터링하는 멀티모달 세분화 지식 그래프(KG)를 구축하는 프레임워크를 제안한다. 본 연구에서는 복잡한 캐노피 환경에서 방법론을 검증하기 위한 대표적인 대상 작물로 밀(Triticum aestivum)에 집중한다. 우리의 파이프라인은 먼저 잡음이 있는 현장 노트를 정제하여 개체(entity)와 관계를 추출하고, RDF 타이핑을 통해 고유 인스턴스를 계층적 클래스 개체로 변환함으로써 KG를 동적으로 구성한다. 이렇게 구성된 그래프 노드들은 PlantDeBERTa를 사용하여 표준화된 온톨로지(PO, RO, WTO)와 정렬된다. 구성된 그래프를 시각적으로 그라운딩하기 위해, 밀 분할 ViT와 결합된 비전-언어 모델이 어텐션 기반 소프트맵을 생성하여 특정 KG 개체를 이미지 픽셀에 직접 연결한다. 우리는 이러한 멀티모달 서브그래프를 시간적으로 연결하기 위해 중심 관측 노드 Plant_Obs_Id를 도입한다. Pointing Game 정확도, 시각적 단어 의미 중의성 해소(VWSD), 순위 기반 지표를 사용하여 500개의 큐레이션된 WisWheat 샘플에서 평가한 결과, 우리의 뉴로-심볼릭 접근법은 복잡한 현장 관측을 구조화된 그래프에 성공적으로 매핑하였다. 이를 통해 밀 육종가를 위한 자동화된 현장 노트 감사, 시간적 스트레스 모니터링, 정밀한 공간적 형질 위치 파악이 가능해진다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.