arXiv:2203.15323

Improving Persian Relation Extraction Models by Data Augmentation

Moein Salimi Sartakhti, Romina Etezadi, Mehrnoush Shamsfard

제출 2022-03-29

원문 초록

Relation extraction that is the task of predicting semantic relation type between entities in a sentence or document is an important task in natural language processing. Although there are many researches and datasets for English, Persian suffers from sufficient researches and comprehensive datasets. The only available Persian dataset for this task is PERLEX, which is a Persian expert-translated version of the SemEval-2010-Task-8 dataset. In this paper, we present our augmented dataset and the results and findings of our system, participated in the Persian relation Extraction shared task of NSURL 2021 workshop. We use PERLEX as the base dataset and enhance it by applying some text preprocessing steps and by increasing its size via data augmentation techniques to improve the generalization and robustness of applied models. We then employ two different models including ParsBERT and multilingual BERT for relation extraction on the augmented PERLEX dataset. Our best model obtained 64.67% of Macro-F1 on the test phase of the contest and it achieved 83.68% of Macro-F1 on the test set of PERLEX.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26658v1cs.IR공통 태그 Sentence, Relation

텍스트를 통한 서로소 테이블의 발견 기반 통합

Discovery-Driven Integration of Disjoint Tables via Text

데이터 레이크 내에서 이종 데이터셋(heterogeneous dataset)을 통합하는 것은 중요한 도전 과제이며, 특히 조인(join)에 필요한 명시적 속성이 결여되어 있으나 의미론적으로 연관된 테이블의 경우 더욱 그렇습니다. 본 연구에서는 통합 전에 관련 소스와 누락된 관계 구조를 먼저 발견해야 하는 발견 기반 통합(Discovery-Driven Integration)을 다룹니다. 이러한 설정에서는 비정형 텍스트가 서로 다른 분리된 테이블들을 연결하는 증거를 제공합니다. 여기서 근본적인 도전 과제는 서로 다른 테이블의 개별 행들을 특정 문장을 통해 연결하는 세밀한 수준(fine-grained level)의 관계를 발견하는 것입니다. 우리는 이 작업을 텍스트 매개 조인 경로 발견(Text-Mediated Join Path Discovery)으로 정식화하고, 테이블 행과 문장의 맥락화된 표현(contextualized representation)을 학습하는 LOKI(Latent-space Optimization for Knowledge Integration)라는 수평적 양방향 교차 어텐션(cross-attention) 아키텍처를 제안합니다. 전역 테이블-텍스트 대조 학습 목표(contrastive objective)를 통해, 명시적인 국소적 지도(local supervision) 없이도 세밀한 행-문장 간의 연관성이 창발적으로 나타납니다. 기존의 멀티모달 발견 방법들은 대체로 조잡한 수준(coarse-grained)의 열-텍스트 연관성을 검색하는 데 그치며, 통합 시스템들은 행-텍스트 링크, 스키마 또는 쿼리가 미리 제공된다고 가정합니다. 반면 LOKI는 이러한 암시적 연관성을 명시적이고 해석 가능한 조인 경로로 변환하고, 이를 관계 일관적 그룹으로 구성하며, 문장 수준의 출처(provenance)를 갖춘 타입이 지정된 통합 테이블로 구체화(materialize)합니다. 실제 벤치마크에 대한 포괄적인 평가는 LOKI가 최첨단 멀티모달 데이터 발견 접근법들을 일관되게 능가하며, 직접적인 프롬프트 방식보다 대규모 언어 모델(LLM) API 비용을 최대 40배 절감하면서도 0.982의 매크로 타입 쌍 정밀도(macro typed-pair precision)로 타입 지정 통합 테이블을 구체화함을 보여줍니다.

arXiv:2606.29859v1cs.CL공통 태그 Data Augmentation, Sentence

자연어 처리 분야에서 알고리즘 언급 동기 탐구: 심층 학습 접근법

Exploring Motivations for Algorithm Mention in the Domain of Natural Language Processing: A Deep Learning Approach

데이터 집약적 과학의 부상과 함께 알고리즘은 과학 연구의 핵심이 되었다. 학술 논문에서 알고리즘은 특정 연구 과제에 대한 방법을 기술, 사용, 비교, 또는 개선하는 등 다양한 목적으로 언급된다. 이러한 목적을 파악하면 알고리즘 간의 관계를 밝히고 그 역할과 가치를 평가하는 데 도움이 된다. 자연어 처리(NLP)를 예시로 삼아, 본 연구는 알고리즘 언급 동기의 식별, 분석, 진화 추적을 위한 문장 수준의 프레임워크를 제안한다. 먼저 수동 어노테이션과 기계 학습을 통해 전문 논문에서 알고리즘 개체와 알고리즘 관련 문장을 식별한다. 이후 사전학습 모델과 데이터 증강(data augmentation)을 활용하여 언급 동기를 분류(classification)하고, 그 분포와 시간적 변화를 분석한다. 결과에 따르면, 증강된 데이터로 학습된 심층 학습(deep learning) 모델이 동기 분류에서 전통적인 기계 학습 모델보다 우수한 성능을 보인다. NLP 논문에서 알고리즘 관련 문장의 절반 이상이 직접 사용을 표현하는 반면, 개선은 가장 드문 동기이다. 동기의 다양성은 시간이 지남에 따라 증가하였다. 특정 알고리즘 범주를 살펴보면, 문법 기반 알고리즘은 기술(description) 목적으로 더 자주 언급되는 반면, 기계 학습 알고리즘은 사용 목적으로 더 자주 언급된다. 시간이 지남에 따라 다양한 알고리즘에서 사용 동기가 기술 동기를 점차 대체해 왔으며, 개별 알고리즘과 연관된 동기 유형의 수는 크게 감소하였다. 본 연구는 저자들이 학술 글쓰기에서 알고리즘 개체를 언급하는 방식을 밝히고, 알고리즘 관계 식별 및 알고리즘 영향 평가에 관한 향후 연구의 기반을 제공한다.

arXiv:2606.27808v1cs.CL공통 태그 Sentence, Relation

자동차 정비 지침으로부터 상보적 행동 모델링 학습

Learning Complementary Action Modeling from Automotive Maintenance Instructions

미세한 어휘 변화는 문장의 나머지 부분이 변하지 않더라도 지침의 절차적 의미를 뒤집을 수 있다. 자동차 정비 지침에서는 행동 구가 지침을 그 절차적 대응으로 바꿀 때 이 패턴이 자주 나타난다. 개체, 수식어, 주변 문맥은 대체로 불변인 반면, 행동 구가 절차적 관계를 결정한다. 우리는 이 과제를 상보적 행동 모델링(Complementary Action Modeling, CAM)으로 정의한다. 정비 지침이 주어지면, 나머지 문장 문맥을 보존하면서 행동 구를 수정하여 그 절차적 대응을 식별하거나 생성하는 것이 목표이다. 이 과제는 세 가지 측면에 초점을 맞춘다: 상보성을 표면적 유사성과 구별하는 것, 행동 구 수준에서 생성을 제어하는 것, 검색(retrieval), 중첩 기반(overlap-based), 인간 평가를 통한 관계적 정확성 평가. 독일어 자동차 정비 데이터셋을 사용하여, 후보 매칭과 제어된 Seq2Seq 생성을 통해 이러한 질문들을 검토한다. 결과는 상보적 정비 지침이 미묘한 어휘 단서에 기반한 절차적 연관으로 모델링되는 것이 가장 적합함을 보여준다. 따라서 이들은 문장 유사성이나 동의어 기반 패러프레이징(paraphrasing)의 일반적인 사례로 취급되어서는 안 된다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.