arXiv:2210.11608

Tag-Set-Sequence Learning for Generating Question-Answer Pairs

Cheng Zhang, Jie Wang

제출 2022-10-20

원문 초록

Transformer-based QG models can generate question-answer pairs (QAPs) with high qualities, but may also generate silly questions for certain texts. We present a new method called tag-set sequence learning to tackle this problem, where a tag-set sequence is a sequence of tag sets to capture the syntactic and semantic information of the underlying sentence, and a tag set consists of one or more language feature tags, including, for example, semantic-role-labeling, part-of-speech, named-entity-recognition, and sentiment-indication tags. We construct a system called TSS-Learner to learn tag-set sequences from given declarative sentences and the corresponding interrogative sentences, and derive answers to the latter. We train a TSS-Learner model for the English language using a small training dataset and show that it can indeed generate adequate QAPs for certain texts that transformer-based models do poorly. Human evaluation on the QAPs generated by TSS-Learner over SAT practice reading tests is encouraging.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2605.19718v2cs.CL공통 태그 Sentence, Named Entity Recognition

CAIT: 아동-성인 상호작용을 위한 구문 분석 툴킷

CAIT: A Syntactic Parsing Toolkit for Child-Adult InTeractions

CHILDES는 언어 습득 연구에서 핵심적인 자료원이지만, 그 구문 구조를 분석하는 계산 도구는 여전히 부족하다. 최근 공개된 금표준 Universal Dependencies(UD) 주석이 포함된 UD-English-CHILDES 트리뱅크를 활용하여, 우리는 CHILDES에 특화된 최신 의존 구문 분석기를 학습시켰다. 이 분석기는 아동-성인 상호작용의 구문 패턴을 더 정확하게 포착하며, SpaCy와 Stanza를 포함한 널리 사용되는 기성 영어 분석기들을 능가한다. 분석기와 함께, 품사 태거(Part-of-Speech tagger)와 발화 수준 구문 구조 태거(utterance-level construction tagger)도 함께 공개하며, 이들이 결합되어 아동-성인 상호작용을 위한 오픈소스 구문 분석 툴킷인 CAIT를 구성한다. 상세한 오류 분석과 CHILDES의 발달 시기별 구문 구조 분포를 추적하는 사례 연구를 통해, 언어 습득에 관한 대규모의 재현 가능한 연구에 대한 이 툴킷의 실용적 유용성을 입증한다.

arXiv:2606.29859v1cs.CL공통 태그 Sentence, Named Entity Recognition

자연어 처리 분야에서 알고리즘 언급 동기 탐구: 심층 학습 접근법

Exploring Motivations for Algorithm Mention in the Domain of Natural Language Processing: A Deep Learning Approach

데이터 집약적 과학의 부상과 함께 알고리즘은 과학 연구의 핵심이 되었다. 학술 논문에서 알고리즘은 특정 연구 과제에 대한 방법을 기술, 사용, 비교, 또는 개선하는 등 다양한 목적으로 언급된다. 이러한 목적을 파악하면 알고리즘 간의 관계를 밝히고 그 역할과 가치를 평가하는 데 도움이 된다. 자연어 처리(NLP)를 예시로 삼아, 본 연구는 알고리즘 언급 동기의 식별, 분석, 진화 추적을 위한 문장 수준의 프레임워크를 제안한다. 먼저 수동 어노테이션과 기계 학습을 통해 전문 논문에서 알고리즘 개체와 알고리즘 관련 문장을 식별한다. 이후 사전학습 모델과 데이터 증강(data augmentation)을 활용하여 언급 동기를 분류(classification)하고, 그 분포와 시간적 변화를 분석한다. 결과에 따르면, 증강된 데이터로 학습된 심층 학습(deep learning) 모델이 동기 분류에서 전통적인 기계 학습 모델보다 우수한 성능을 보인다. NLP 논문에서 알고리즘 관련 문장의 절반 이상이 직접 사용을 표현하는 반면, 개선은 가장 드문 동기이다. 동기의 다양성은 시간이 지남에 따라 증가하였다. 특정 알고리즘 범주를 살펴보면, 문법 기반 알고리즘은 기술(description) 목적으로 더 자주 언급되는 반면, 기계 학습 알고리즘은 사용 목적으로 더 자주 언급된다. 시간이 지남에 따라 다양한 알고리즘에서 사용 동기가 기술 동기를 점차 대체해 왔으며, 개별 알고리즘과 연관된 동기 유형의 수는 크게 감소하였다. 본 연구는 저자들이 학술 글쓰기에서 알고리즘 개체를 언급하는 방식을 밝히고, 알고리즘 관계 식별 및 알고리즘 영향 평가에 관한 향후 연구의 기반을 제공한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.