KGCQual: 텍스트로부터 구축된 지식 그래프 품질 평가를 위한 해석 가능한 프레임워크
KGCQual: An Interpretable Framework for Evaluating the Knowledge Graph Construction Quality from Text
지식 그래프(Knowledge Graph, KG)는 자동화된 추출 파이프라인을 통해 점점 더 많이 구축되고 있으나, 이러한 시스템은 종종 잘못된 또는 불완전한 트리플을 생성하여 다운스트림 성능을 저하시킨다. 기존의 평가 방식은 태스크별 메트릭이나 소규모 수동 검증에 크게 의존하여, 추출된 그래프의 구조적·의미적 충실도에 대한 통찰이 제한적이다. 우리는 자동 추출된 그래프가 소스 텍스트에 표현된 핵심 명사구, 술어 관계, 부정과 같은 기본적인 언어 현상을 포착하는 "이상적인" 그래프에 얼마나 근접하는지를 측정하는, 새로운 해석 가능한 내재적 KG 품질 평가 메트릭을 제안한다. 우리의 프레임워크는 두 가지 상호보완적인 구성 요소를 통합한다: (1) 완전성, 해소 품질, 연결성을 평가하는 엔티티 수준 평가, (2) 어휘 유사도, 의존 파싱 정렬, 경량 부정 처리를 활용하여 의미적 충실도를 보장하면서 술어 보존 및 다중성을 판단하는 관계 수준 평가. 우리는 WebNLG, TinyButMighty, BenchIE를 포함한 여러 최신 트리플 추출 시스템과 데이터셋에 걸쳐 메트릭을 평가하여, 기존 메트릭이 간과하는 누락, 중복, 구조적 편차를 신뢰성 있게 식별함을 입증한다. 본 연구는 자동화된 KG 구축 방법을 비교하기 위한 확장 가능하고 모델 비의존적이며 해석 가능한 프레임워크를 제공하며, 표준화된 평가의 토대를 마련한다. 또한 명사 및 동사 구성 요소를 분리하는 에블레이션 연구와, KGCQual 점수가 동일한 추출 KG에서의 링크 예측 성능과 유의미한 상관관계를 보임을 보여주는 다운스트림 평가를 통해 메트릭을 추가적으로 검증한다. 코드 저장소는 https://github.com/kracr/kg-quality-metric 에서 확인할 수 있다.