PyTorchKR Papers

최신 논문

총 31편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.24387v2cs.CL

AutoSpecNER: 차량 제원 추출을 위한 세분화된 개체명 인식 데이터셋

AutoSpecNER: A Fine-Grained Named Entity Recognition Dataset for Vehicle Specification Extraction

차량 광고에서 세밀한 개체명 인식(NER)을 위한 전문가 어노테이션 데이터셋 AutoSpecNER을 소개하며, 15개 카테고리에 걸쳐 1만여 개 개체가 레이블된 659개 광고로 구성된다. DeBERTa 파인튜닝 모델이 micro-F1 90%로 최고 성능을 달성하여 규칙 기반(43%) 및 최강 대규모 언어 모델(77.8%)을 크게 앞섰다.

arXiv:2609.27359v1cs.CL

하이브리드 RAG와 로컬 배포 대규모 언어 모델을 활용한 처리활동기록부(RoPA) 자동 추출

Automated Extraction of Records of Processing Activities (RoPA) Using Hybrid RAG and Locally Deployed Large Language Models

2026년 1월 1일부터 시행되는 베트남 개인정보 보호법(법률 제91/2025/QH15호)과 시행령 제356/2025/ND-CP호는 조직이 처리활동기록부(Records of Processing Activities, RoPA)를 작성하고 유지하도록 요구한다. RoPA를 수작업으로 작성하는 것은 많은 노동력이 필요하며, 클라우드에서 호스팅되는 대규모 언어 모델(LLM)은 데이터 주권 요건과 충돌할 수 있다. 본 논문은 tsvector 기반 어휘 순위화, 밀집 벡터(dense-vector) 검색, 상호 순위 융합(Reciprocal Rank Fusion, RRF), 그리고 로컬에 배포된 LLM을 결합한 하이브리드 검색을 사용하여 RoPA 정보를 자동으로 추출하는 시스템인 RoPA Manager를 제안한다. 또한 32개 조직, 77개 처리 활동, 12개 필드 그룹, 4,338개 참조 값으로 구성된 베트남어 RoPA 벤치마크를 소개한다. 평가는 세 가지 서로 다른 수준에서 보고한다. LLM을 호출하지 않고 교란된 데이터로 테스트한 자동 채점기는 F1 = 0.9493 [0.9436, 0.9548]을 달성했으며, 이는 종단 간 추출 정확도가 아니라 채점기의 견고성을 측정한 것이다. 종단 간 추출은 참조 레이블 대비 50.04-55.25%의 토큰 커버리지를 달성했다. 두 명의 독립적인 전문가가 1,558개의 참조 값(벤치마크의 35.9%)을 검토한 결과 잘못된 값은 발견되지 않았으며, 99.68%의 일치도와 PABAK = 0.9936을 기록했다. 값 수준의 정밀도는 측정하지 않았다. 24GB GPU에서 32개의 쌍체 시나리오에 걸쳐 평가한 결과, 로컬에 배포된 Qwen3.5-27B-GPTQ-Int4는 클라우드 기반 DeepSeek-V4-Flash와 통계적으로 유의한 차이를 보이지 않았으나(DeepSeek 쪽이 0.20 퍼센트 포인트 우세, 95% CI [-0.93, 1.32], p = 0.72), Gemma-4-31B는 유의하게 더 낮은 성능을 보였다(p < 0.01).

arXiv:2607.04962v2cs.CL

배후는 누구인가? 독일어 텔레그램 게시물에서 음모론적 행위자 어노테이션 및 추출

Who's Behind It? Annotating and Extracting Conspiratorial Actors from German Telegram Posts

음모론은 흔히 중요한 사건을 강력하고 비밀스러운 행위자의 행동 탓으로 돌립니다. 계산적 연구는 주로 음모론에 대한 문서 수준의 분석에 집중해 온 반면, 이러한 서사를 이끄는 행위자를 식별하는 데는 상대적으로 덜 주목해 왔습니다. 본 연구에서는 음모론적 행위자에 대한 어노테이션 가이드라인을 개발하고, 스팬(span) 어노테이션이 적용된 독일어 텔레그램 게시물 코퍼스를 제시하며, 트랜스포머(transformer) 기반 모델을 사용한 자동 추출을 조사합니다. 나아가 도출된 모델을 독일어 음모론 관련 텔레그램 채널의 대규모 아카이브인 Schwurbelarchiv에 적용합니다. 실험 결과는 음모론 담화의 언어적 복잡성에도 불구하고 음모론적 행위자를 유의미한 일치도로 어노테이션할 수 있으며 합리적인 정확도로 추출할 수 있음을 보여주어, 음모론 서사에서 행위자 표현에 대한 대규모 분석을 가능하게 합니다.

arXiv:2609.24092v1cs.AI

DocMIDE: 시각적으로 풍부한 문서에서 다중 홉 암시적 유도 학습

DocMIDE: Learning Multi-Hop Implicit Derivation in Visually Rich Documents

실제 문서 처리 시스템은 경직된 사전 정의 스키마에 의존하지만, 중요한 대상 필드는 페이지에 직접 대응하는 시각적 요소가 없는 경우가 많다. 이러한 암시적 값을 추출하려면 하위 카테고리 집계나 시각적 표시에 대한 추론과 같은 다중 홉 유도가 필요하다. 기존 방법은 명시적 텍스트 스팬이나 단순한 암시적 질의는 처리하지만, 표준 미세조정 후에도 다중 홉 시각적 추론에서는 실패한다. 모델이 잘못된 시각적 증거를 검색하거나, 올바르게 검색한 뒤 유도의 중간 단계를 건너뛴다. 이를 위해 답을 유도하기 전에 시각적 증거를 명시적으로 검색하도록 소형 비전-언어 모델을 학습시키는 미세조정 프레임워크인 DocMIDE를 제안한다. DocMIDE는 생성을 plan-retrieve-derive 구조로 제한하고, 검증된 참조 trace에 대해 출력 형식, 검색된 증거 블록, 모든 중간 유도 단계, 최종 값을 채점하는 4구성요소 규칙 기반 보상 하에서 Group Relative Policy Optimization(GRPO)으로 최적화한다. 4,151쌍 암시적 추출 벤치마크에서 DocMIDE는 소량의 주석 예시만으로 Qwen3.5-4B의 정확도를 70.8%에서 95.9%로 끌어올리며, 두 번째 백본 아키텍처로도 전이된다. 지도 학습 시연만으로는 우리가 시험한 어떤 예산에서도 이 격차를 메우지 못한다. 중간 단계에 보상을 주는 것이 격차를 메운다.

arXiv:2607.23420v1cs.CL

LA-RL: 정보 추출에서 강화학습을 위한 레이블 인식 자기 반성

LA-RL: Label-Aware Self-Reflection for Reinforcement Learning in Information Extraction

대규모 언어 모델(LLM)은 정보 추출(IE)에서 큰 잠재력을 보이지만, 기존의 반성(reflection) 기반 수정 방법은 구조화된 추출 출력과 종종 정렬되지 않는다. 자유 형식의 자기 반성(self-reflection)은 오류를 표시할 수는 있으나, 실패가 누락된 스팬(span), 잘못된 레이블, 경계 불일치, 유효하지 않은 관계 유형, 또는 뒤바뀐 인자 순서 중 어느 것인지는 거의 식별하지 못한다. 우리는 LA-RL(Label-Aware Reflective Reinforcement Learning, 레이블 인식 반성 강화학습)을 제안한다. 이는 작업에 기반한 진단 레이블로 IE 자기 수정을 안내하는 결과 지도(outcome-supervised) 프레임워크이다. 단일 백본(backbone)이 먼저 추출을 예측하고, 작업별 오류 레이블을 진단한 뒤, 진단 결과를 조건으로 출력을 수정한다. 학습은 주석 모델(annotation model)이 레이블을 부여한 진단 데이터로부터 콜드 스타트 지도 미세조정(SFT)을 시작하며, 프로세스 보상 모델 없이 최종 추출 품질, 형식 유효성, 1차 통과 정확성에 보상을 주는 두 단계의 GRPO를 거친다. 개체명 인식, 관계 추출, 이벤트 추출 실험에서 SFT 대비 동일 백본에서 일관된 성능 향상을 보였으며, SciER 관계 추출에서 평균 F1 6.83, 분포 외(out-of-distribution) 관계 추출에서 약 20 F1, DuEE1.0에서 트리거 F1 14.80과 인자 F1 17.50을 기록했다. 절제(ablation) 실험은 반성 구조가 작업에 민감함을 보여준다. 더 강한 제약은 관계 추출에 유리한 반면, 개체명 인식은 도메인 이동(domain shift) 하에서 덜 제한적인 수정이 필요하다.

arXiv:2607.22723v1cs.CV

분류 기반 대규모 비전-언어 모델을 통한 문서의 시각적 정보 추출

Visual Information Extraction from Documents via Classification-Guided Large Vision-Language Models

시각적으로 풍부한 문서에서의 시각적 정보 추출(VIE)은 레이아웃 변동성이 크고 실제 환경의 손상 때문에 여전히 어려운 과제이다. 기존 방법들은 일반적으로 순차적 OCR 파이프라인이나 광범위한 라벨 데이터와 레이아웃별 학습이 필요한 end-to-end 모델에 의존하여 확장성을 제한한다. 우리는 최소한의 감독으로 높은 정확도를 달성하는 다중 유형 VIE를 위한 분류 기반 대규모 비전-언어 모델(LVLM) 프레임워크를 제안한다. 이 접근법은 문서 유형 분류와 내용 추출을 분리하고, 문맥 내 학습(ICL) 기반 동적 프롬프트 엔지니어링을 통해 과제별 지식을 주입하여 다양한 레이아웃에서 견고한 제로샷 추론을 가능하게 한다. 이론적 관점에서, 제안된 방법은 과제 불확실성을 줄이고 프롬프트 기반 추론 중 정보 효율을 향상시키는 조건부 연산의 한 형태로 볼 수 있다. 16가지 증명서 유형을 포함한 실제 입찰 데이터셋에서 평가한 결과, 우리의 제로샷 방법(Qwen2.5-VL-7B 기반)은 F1-score에서 18.35%p(86.43% vs. 68.08%)만큼, 정규화 편집 거리(normalized edit distance)에서는 0.23(0.90 vs. 0.67)만큼 강력한 감독 기준선을 능가한다. 선택적 도메인 특화 미세조정은 성능을 F1 93.65% 및 NED 0.93까지 추가로 향상시키며, 도장, 워터마크, 낮은 대비에 대한 우수한 견고성을 보여준다. 이 프레임워크는 사무 자동화에서 복잡한 문서 이해를 위한 효율적이고 확장 가능한 해결책을 제공한다. 코드는 https://github.com/FairmeHIT/Multi-VIE에서, 미세조정 모델은 https://huggingface.co/fairme/Qwen2.5-VL-7B-SFT에서 이용할 수 있다.

arXiv:2607.23326v1cs.AI

ESF-Bench: 실전 기업 애플리케이션의 도전적인 슬롯 채우기(slot filling) 시나리오 벤치마킹

ESF-Bench: Benchmarking Challenging Slot-Filling Scenarios for Real-World Enterprise Applications

대규모 언어 모델(LLM)의 급속한 부상은 기업 전반에 걸쳐 혁신적인 도입을 이끌고 있다. 그러나 이러한 모델을 실제 환경에 배포하는 것은 복잡한 시스템 제약과 예상치 못한 사용자 행동으로 인해 고유한 과제를 제기한다. 이러한 애플리케이션 중 슬롯 채우기(slot filling)는 비구조화 입력을 구조화되고 실행 가능한 데이터로 변환하는 데 필수적이다. 본 연구에서는 8개의 고유 도메인에 걸쳐 810개의 다중 턴(multi-turn) 샘플과 6530개의 슬롯으로 구성된 도전적인 Enterprise Slot Filling 벤치마크인 ESF-Bench를 제안한다. 실제 기업 배포 과정에서 관찰된 57가지 가장 도전적인 슬롯 채우기 시나리오의 분류체계를 바탕으로 구축된 ESF-Bench는 현재 최첨단 LLM의 현저한 한계를 드러내며, GPT-OSS-120b low는 벤치마크 샘플의 20.7%에서만 슬롯을 성공적으로 추출한다. 이 분야의 지속적인 연구를 지원하기 위해 벤치마크 데이터셋, 분류체계, 그리고 동봉된 평가 코드를 GitHub에 공개한다.

arXiv:2607.21610v1cs.AI

SCOPE와 SCION: 텍스트로부터의 스키마 유도 및 융합을 위한 벤치마크와 감사 가능한 참조 파이프라인

SCOPE and SCION: A Benchmark and an Auditable Reference Pipeline for Schema Induction and Fusion from Text

스키마 그래프는 스키마 기반 정보 추출 및 지식 그래프 구축의 상류 병목이지만, 대부분의 추출 시스템은 스키마가 이미 제공된다고 가정한다. 우리는 원시 텍스트로부터 코퍼스-대-스키마 유도 및 선택적 스키마 융합을 위한 학습 텍스트 전용 벤치마크인 SCOPE(Schema Construction and Ontology-induction Pipeline Evaluation)를 소개한다. 이는 24개의 공개 정보 추출 소스(관계 추출(RE) 15개, 이벤트 추출(EE) 9개)로부터 구축되었으며, 평가 전용 골드 스키마 그래프로 정규화되었다. 핵심 이벤트 추출 대상은 이벤트 유형과 이벤트 내 인자 역할을 다루며, 이벤트 간 링크는 별도로 보고한다. 또한 우리는 새로운 추출 아키텍처가 아닌 감사 가능한 참조 파이프라인인 SCION(Schema Construction and Induction with Ontology Normalization)을 제시한다. SCION은 학습 텍스트로부터 후보 공간을 구성하고, 명명, 병합, 필터링, 검증, 보수적 융합을 엄격한 JSON 계약 하에서 후보 연결 증거로 제한한다. SCOPE 핵심 스위트에서 SCION-lite는 Literal, Fuzzy, Continuous, Graph 스키마-그래프 지표 하에서 공개된 소스-스키마 참조, Text2Onto 스타일, LLM 전용, 매칭된 추출-후-집계(extract-then-aggregate) 베이스라인 중 최고 F1을 달성하며, 소형 오픈 모델 변형인 SCION-RL은 독점 LLM 스키마 엔지니어에 대한 의존을 줄인다. 이러한 결과는 유도된 스키마가 인간의 온톨로지 설계를 능가한다는 주장이 아니라 정규화된 typed-edge 타겟에 대해 보고된 것이다. 공개 자료에는 증거 연결 출력, 파싱/폴백 로그, 후보 유지/병합 로그, 실행 매니페스트, 코드, 벤치마크 패키지가 https://github.com/wandugu/paper_scion 에 포함되어 있다.

arXiv:2607.19365v1cs.AI

답변 집합 프로그래밍과 대규모 언어 모델을 활용한 논리 기반 데이터 추출

Logic-Guided Data Extraction with Answer Set Programming and Large Language Models

대규모 언어 모델(LLM)을 비정형 텍스트에서 의미론적 데이터 추출에 사용하여 자연어로부터 후보 관계형 사실을 생성할 때, 복잡한 조합적 추론과 전역적 일관성을 요구하는 작업에서는 여전히 신뢰할 수 없을 수 있다. 본 논문은 LLM 기반 추출과 답변 집합 프로그래밍(ASP)을 결합한 논리 기반 데이터 추출 프레임워크를 제안한다. LLM은 후보 사실을 생성하고, ASP는 검증, 추론, 일관성 검사, 제어를 수행한다. 모든 대상 술어에 대해 LLM을 독립적으로 질의하는 기존 파이프라인과 달리, 제안된 접근법은 ASP 추론을 사용하여 각 단계에서 논리적으로 허용 가능한 술어를 식별하고 추출 질의를 안내한다. LLM 호출과 ASP 도출을 교차 배치함으로써, 프레임워크는 추가 추출 없이 논리적으로 함의되는 사실을 추론하고 불일치를 조기에 감지한다. 파이프라인을 형식화하고, 완화된 가정 하에서 최종 추출 사실에 관하여 기준선 접근법과 동등함을 증명하되, 더 적은 수의 LLM 호출이 필요함을 보인다. 또한 논리 기반 제어 질의를 위한 캐싱 메커니즘을 도입하여, 점진적으로 구성되는 사실 집합에 대한 연언 질의의 단조성을 활용해 솔버 호출 횟수를 줄인다. ASP로 파생된 벤치마크에서의 실험은 프레임워크가 LLM 호출을 줄이고 허위 출력을 완화하여 추출 품질을 향상시킴을 보여 주며, 제어된 의미론적 추출을 위한 비단조 논리 프로그래밍의 가치를 입증한다.

arXiv:2607.11715v2cs.CL

JobHop v2: 비정형 이력서로부터 구축한 대규모 경력 궤적 데이터셋

JobHop v2: A Large-Scale Career Trajectory Dataset from Unstructured Resumes

대규모의 풍부하게 주석된 경력 궤적(career trajectory) 데이터는 인력 계획, 직업 추천, 노동 시장 분석의 근간이 되지만, 공개된 데이터셋은 규모가 작거나 독립적 활용이 불가하거나, 실제 자유 텍스트 대신 대규모 언어 모델(LLM)이 합성한 텍스트와 사전 표준화된 직업 코드를 기반으로 구축된 것이 대부분이다. 본 논문에서는 공개 데이터셋인 JobHop의 개선 버전 JobHop v2를 소개한다. 이 데이터셋은 플랑드르 공공 고용 서비스 VDAB가 제공한 약 440,000건의 가명화된 다국어 이력서 코퍼스로부터 엔드-투-엔드 대규모 언어 모델(LLM) 추출을 통해 구축되었다. 공개된 데이터셋은 ESCO 직업 코드, 분기 단위 시간 정보, 정규화된 5단계 학력으로 주석된 355,315개의 경력 궤적을 포함하며, 원본 릴리스 대비 커버리지와 주석 풍부도를 모두 향상시켰다. v1 대비 JobHop v2는 재시도 메커니즘을 갖춘 추론 제어 LLM 추론(100% JSON 파싱률 달성) 기반의 재설계된 추출 파이프라인, 보다 풍부한 추출 스키마, 그리고 세 가지 보완적 주석 기준선(annotation baseline)에 대해 평가되는 수정된 평가 프로토콜을 도입했다. 이 기준선들을 대상으로 한 평가에서 최고 성능 추출기는 비교된 모든 모델 중 어노테이터 간 합의(inter-annotator agreement) 상한에 가장 근접했으며, 단 1.1~2.7 퍼센트포인트 차이에 그쳤다. 재현 가능한 경력 궤적 연구를 지원하기 위해 데이터셋과 코드는 공개 릴리스된다.

arXiv:2607.08346v1cs.CL

세분화된 분류 체계를 활용한 SEC 8-K 공시의 근거 기반 이벤트 추출

Grounded Event Extraction from SEC 8-K Filings with a Fine-Grained Taxonomy

SEC 8-K 공시에서 대규모 언어 모델(LLM)을 활용해 119개 이벤트 유형으로 구성된 3단계 분류 체계에 따라 세밀한 이벤트 태그를 추출하는 2단계 시스템을 제안하며, 퍼지 n-그램 기반 원문 인용 검증과 별도의 품질 점수 산출 단계를 통해 정밀도를 12%에서 96%까지 향상시켰다. 292,984건의 공시에 적용해 생성한 601,088개의 근거 기반 태그는 SEC 항목 코드가 경제적으로 이질적인 이벤트를 혼재시킨다는 사실을 언어 모델 없이 수행한 이벤트 연구(event study)로도 확인하였다.

arXiv:2607.05644v1cs.CL

제대로 하라! 성공적인 NLP 시스템 개발을 위한 방법론

Do It Right! A Methodology for Successful NLP System Development

전자 의무 기록에서 정보를 추출하는 임상 자연어 처리(NLP) 프로젝트의 성공률을 높이기 위해, 알고리즘 지식만으로는 부족하다는 점을 지적하며 시스템 개발 생명주기(SDLC)를 NLP 프로젝트에 체계적으로 적용하는 단계별 방법론을 제시한다. 특히 LLM의 환각(hallucination) 문제와 의미적·맥락적 모호성을 포함한 실제 프로젝트 위험 요소를 계획, 분석, 설계, 구현, 테스트, 배포, 유지보수 각 단계별로 다루며 임상 정보학 실무자를 위한 구체적인 지침을 제공한다.

arXiv:2606.12569v3cs.CL

eCREAM-MedCorpus: 이탈리아어 임상 노트 대규모 코퍼스

eCREAM-MedCorpus A Large-Scale Corpus of Clinical Notes for Italian

이탈리아 병원 응급실에서 수집한 약 420만 건의 익명화된 임상 노트로 구성된 이탈리아어 최대 규모의 공개 임상 코퍼스 eCREAM-MedCorpus를 소개하며, 호흡곤란과 의식 소실 두 가지 환자 상황에 대해 132개 항목으로 전문가 주석된 약 6천 건의 하위 집합을 포함한다. CRF 작성(CRF-filling)을 새로운 구조화 정보 추출(information extraction) 벤치마크로 제안하고, Gemma-27B와 MedGemma-27B를 활용한 제로샷 기준선 결과를 제시한다.

arXiv:2410.14074v2cs.CL

현대 의사결정 지원 및 과학기술 분석 시스템을 위한 대규모 언어 모델을 활용한 자연어 데이터셋의 언어 간 전이

Transferring Natural Language Datasets Between Languages Using Large Language Models for Modern Decision Support and Sci-Tech Analytical Systems

연구개발(R&D)을 위한 의사결정 과정은 특정 연구 분야의 최신 동향과 관련된 정보에 의존한다. 본 연구에서는 대규모 언어 모델(LLM)을 활용하여 데이터셋과 그 어노테이션을 한 언어에서 다른 언어로 전이하는 방법을 탐구하였다. 이는 서로 다른 언어 간 지식 공유가 목표 언어에서 자원이 부족한 특정 분야를 발전시키고, 데이터 어노테이션이나 빠른 프로토타이핑에 소요되는 노력을 크게 절감할 수 있다는 점에서 중요하다. 본 연구에서는 영어-러시아어 쌍을 대상으로 DEFT(Definition Extraction from Texts) 코퍼스를 번역하는 실험을 수행하였다. 이 코퍼스는 용어-정의 쌍 추출에 특화된 세 개의 어노테이션 레이어를 포함하며, 이는 러시아어에서 드문 어노테이션 유형이다. 이러한 데이터셋의 존재는 용어와 정의가 모든 과학 분야의 기본 구성 요소인 만큼, 과학 분야의 트렌드 분석을 위한 자연어 처리(NLP) 방법론에 있어 유익하다. 본 논문에서는 LLM을 활용한 어노테이션 전이 파이프라인을 제시한다. 마지막으로, 번역된 데이터셋으로 BERT 기반 모델을 학습시켜 기준선을 확립한다.

arXiv:2607.06435v1cs.AI

세부 기록에서 H. pylori 발견: 위 생검 보고서의 근거 연결 다중 에이전트 케이스 파인딩

Finding H. pylori in the Fine Print: Evidence-Linked Multi-Agent Case Finding from Gastric Biopsy Reports

위 생검 병리 보고서에서 H. pylori 양성 여부 등 4개의 임상 이진 필드를 자동으로 추출하기 위해 필드명 기반 근거 연결 다중 에이전트 시스템(nMAS)을 싱가포르 의료기관의 익명화 보고서 54건에 적용한 결과, 216개 분류 결정 중 213개를 올바르게 판별하여 98.61%의 전체 정확도를 달성하였다. 예측 성능보다는 근거 원문 문장을 포함한 추적 가능한 워크플로우 통합이 핵심 기여점이며, 수작업 대비 검토 시간을 83.3 직원-시간에서 1.4 직원-시간으로 대폭 단축할 수 있음을 시사한다.

arXiv:2607.03325v1cs.CL

판결에서 쟁점으로: 인용 환각 제어를 통한 법적 추론의 구조화된 추출

From Judgments to Issues: Structured Extraction of Legal Reasoning with Citation-Hallucination Control

본 연구는 이탈리아 조세법원 판결을 개별 법적 쟁점으로 분해하고, 각 쟁점에 대해 IRAC 프레임워크와 법적 삼단논법에 기반한 구조화된 XML 표현을 추출하는 자동화 파이프라인을 제시한다. 이 파이프라인은 이탈리아 조세법원의 1심 및 2심 결정문 약 33만 건으로 구성된 코퍼스를 대상으로 하며, 수십만 건의 문서를 지속 가능한 비용으로 처리해야 하는 요구에 따라 성능과 비용 효율성을 모두 갖춘 범용 모델(DeepSeek V3)을 중심으로 구축되었다. 법적 인용에 대한 대규모 언어 모델(LLM)의 신뢰성 문제를 해결하기 위해, 추출 단계에 자동 환각(hallucination) 탐지 필터를 결합하였다. 이 필터는 모델이 생성한 참조 문헌을 전용 파서(Linkoln)가 판결문 텍스트에서 식별한 참조 문헌과 비교하며, 이를 표준 식별자(URN-NIR, ECLI, CELEX)로 정규화한다. 파이프라인 검증은 조세법 박사 학위 소지자 2인이 주석을 부착한 50건의 판결문을 대상으로 수행되었으며, 쟁점 추출 및 법적 인용 모두에 대해 주석자 간 일치도와 LLM-전문가 간 일치도를 산출하고, 환각 필터에 대한 독립 평가도 함께 실시하였다. 본 연구는 이탈리아 조세법원 결정문에 대해 쟁점 단위의 전문가 검증 구조화 추출 파이프라인과 환각 제어를 결합한 최초의 사례로서, 쟁점 수준 검색(retrieval), 인용 네트워크 분석, 대규모 법적 추론 데이터셋 구축 등 다운스트림 응용을 위한 구체적인 출발점을 제공한다.

arXiv:2602.19543v2cs.CL

Hyper-KGGen: 고품질 지식 하이퍼그래프 생성을 위한 스킬 기반 지식 추출기

Hyper-KGGen: A Skill-Driven Knowledge Extractor for High-Quality Knowledge Hypergraph Generation

지식 하이퍼그래프는 복잡한 n항 원자적 사실을 캡슐화함으로써 전통적인 이진 지식 그래프를 능가하며, 의미 표현을 위한 보다 포괄적인 패러다임을 제공한다. 그러나 고품질 하이퍼그래프를 구축하는 것은 시나리오 격차로 인해 여전히 어렵다: 범용 추출기는 특정 전문 용어를 지닌 다양한 도메인에 걸쳐 일반화하기 어려우며, 기존 방법들은 구조적 골격과 세밀한 세부 사항 간의 균형을 맞추는 데 실패하는 경우가 많다. 이 격차를 해소하기 위해, 우리는 추출을 동적인 스킬 진화 프로세스로 재정의하는 스킬 기반 프레임워크인 Hyper-KGGen을 제안한다. 먼저, Hyper-KGGen은 거친 단계에서 세밀한 단계로 진행하는(coarse-to-fine) 메커니즘을 활용하여 문서를 체계적으로 분해함으로써, 이진 링크부터 복잡한 하이퍼에지까지 전차원적 커버리지를 보장한다. 핵심적으로, 도메인 전문성을 Global Skill Library로 능동적으로 증류하는 적응형 스킬 획득 모듈을 통합한다. 이는 안정성 기반 피드백 루프를 통해 달성되며, 여기서 추출 안정성은 불안정한 추적 및 누락된 예측으로부터 고품질 스킬을 유도하기 위한 상대적 보상(reward) 신호로 사용된다. 또한, 문서 수준 지식 하이퍼그래프 추출을 위해 엄밀하게 주석이 달린 벤치마크인 HyperDocRED를 제시한다. 실험 결과, Hyper-KGGen은 강력한 기준 모델들을 크게 능가하며, 진화된 스킬이 다중 시나리오 설정에서 정적 퓨샷(few-shot) 예시보다 실질적으로 풍부한 가이던스를 제공함을 검증한다.

arXiv:2606.29407v1cs.CL

LC-ICL: 강건한 정보 추출을 위한 레이블 가이드 대조적 문맥 내 학습

LC-ICL: Label-Guided Contrastive In-Context Learning for Robust Information Extraction

정보 추출(IE) 분야에서 고급 대규모 언어 모델(LLM)의 능력을 탐구하는 관심이 증가하고 있으며, 특히 개체명 인식(NER) 및 관계 추출(RE) 관련 태스크에 초점이 맞춰지고 있다. 연구자들이 LLM과 함께 문맥 내 학습(ICL)을 통한 퓨샷 정보 추출 활용을 탐구하고 있지만, 시연에 올바른 예시나 긍정적 예시만을 사용하는 경향이 있으며, 학습 과정에 잘못된 예시나 부정적 예시를 통합하는 잠재적 가치는 간과하고 있다. 본 논문에서는 문맥 내 학습 시연을 구성하기 위해 올바른 샘플과 잘못된 샘플 구성을 모두 활용하는 새로운 퓨샷 기법인 LC-ICL을 제안한다. 이 접근법은 오류 원인 레이블로 주석된 부정 샘플과 긍정 샘플을 결합하여 LLM이 개체와 관계를 추출하는 능력을 향상시킨다. 이러한 레이블은 오류 예시 내의 더 상세한 오류 특징을 드러내어, 모델이 유사한 예측이 왜 실패하는지 이해하고 추론 시 동일한 오류를 반복하지 않도록 한다. 구체적으로, 제안하는 방법은 어려운 부정 샘플과 테스트와 가장 가까운 긍정 이웃의 내재적 문맥 정보 및 가치 있는 정보를 활용한 뒤, LLM 기반의 문맥 내 학습 시연을 적용한다. 다양한 데이터셋에 대한 실험 결과, LC-ICL은 기존 퓨샷 문맥 내 학습 방법을 능가하며 광범위한 관련 태스크에 걸쳐 성능을 실질적으로 향상시킨다. 이러한 향상은 다양한 시나리오에서 우리 접근법의 범용성을 보여주는 주목할 만한 결과이다.

arXiv:2606.28457v1cs.CL

정보 추출을 활용한 아랍어-영어 기계가독 사전에서의 지식 추출

Extracting Knowledge from an Arabic-English Machine-Readable Dictionary Using Information Extraction

자연어 처리(NLP) 응용 프로그램은 방대하고 풍부한 언어 지식을 필요로 한다. 또한 사전, 백과사전, 말뭉치와 같은 전자 언어 자원이 점차 활용 가능해졌다. 이에 따라 지식 획득 병목 문제를 해소하기 위해 이러한 자원으로부터 어휘 정보를 자동으로 추출하는 방법들이 등장하였다. 본 연구에서는 아랍어-영어 Al-Mawrid 사전의 기계가독(machine-readable) 버전으로부터 어휘 정보를 자동으로 추출하는 방법을 제시하였다. n-gram 분석과 문맥 내 키워드(KWIC, key-word-in-context) 분석을 활용하여 형태론적, 통사론적, 또는 의미론적 정보를 나타내는 어휘 패턴을 발견하였다. 이후 수작업으로 작성된 규칙 기반 정보 추출 방법을 적용하여 해당 정보를 추출하였다. 아울러 구두점과 일부 휴리스틱을 활용하여 하위 항목 내 동의어 집합을 추출하였다. 본 연구는 모든 유형의 정보에서 높은 정밀도(precision)를 기록하였으며, 동의어에 대해서는 높은 재현율(recall)을, 그 외 정보에 대해서는 낮은 재현율을 보였다. 또한 Al-Mawrid 사전이 상당한 양의 파생어(형태론적 정보), 동의어, 영역 레이블, 하의어/상의어 관계(의미론적 정보)를 포함하고 있음을 확인하였다.

arXiv:2606.27316v1cs.CL

독일 연방은행의 유가증권 투자설명서 적격성 기준 심사를 위한 LLM 기반 접근법

LLM-Based Examination of Eligibility Criteria from Securities Prospectuses at the German Central Bank

독일 연방은행의 유가증권 담보 적격성 심사에서 OCR 노이즈와 독일어·영어 혼재 투자설명서 처리 한계를 넘기 위해, 작업을 추출·정규화·해석으로 나눈 LLM 기반 생성형 정보 추출 파이프라인을 최초로 적용했다. LLM-as-a-judge 값 기반 평가 결과 문서 수준 적격성 판단에서 최대 91% 정밀도를 달성했으며, 오인정을 줄이는 보수적 운용 특성을 확인했다.