Guidance-Based Prompt Data Augmentation in Specialized Domains for Named Entity Recognition
원문 초록
While the abundance of rich and vast datasets across numerous fields has facilitated the advancement of natural language processing, sectors in need of specialized data types continue to struggle with the challenge of finding quality data. Our study introduces a novel guidance data augmentation technique utilizing abstracted context and sentence structures to produce varied sentences while maintaining context-entity relationships, addressing data scarcity challenges. By fostering a closer relationship between context, sentence structure, and role of entities, our method enhances data augmentation's effectiveness. Consequently, by showcasing diversification in both entity-related vocabulary and overall sentence structure, and simultaneously improving the training performance of named entity recognition task.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
자연어 처리 분야에서 알고리즘 언급 동기 탐구: 심층 학습 접근법
Exploring Motivations for Algorithm Mention in the Domain of Natural Language Processing: A Deep Learning Approach
데이터 집약적 과학의 부상과 함께 알고리즘은 과학 연구의 핵심이 되었다. 학술 논문에서 알고리즘은 특정 연구 과제에 대한 방법을 기술, 사용, 비교, 또는 개선하는 등 다양한 목적으로 언급된다. 이러한 목적을 파악하면 알고리즘 간의 관계를 밝히고 그 역할과 가치를 평가하는 데 도움이 된다. 자연어 처리(NLP)를 예시로 삼아, 본 연구는 알고리즘 언급 동기의 식별, 분석, 진화 추적을 위한 문장 수준의 프레임워크를 제안한다. 먼저 수동 어노테이션과 기계 학습을 통해 전문 논문에서 알고리즘 개체와 알고리즘 관련 문장을 식별한다. 이후 사전학습 모델과 데이터 증강(data augmentation)을 활용하여 언급 동기를 분류(classification)하고, 그 분포와 시간적 변화를 분석한다. 결과에 따르면, 증강된 데이터로 학습된 심층 학습(deep learning) 모델이 동기 분류에서 전통적인 기계 학습 모델보다 우수한 성능을 보인다. NLP 논문에서 알고리즘 관련 문장의 절반 이상이 직접 사용을 표현하는 반면, 개선은 가장 드문 동기이다. 동기의 다양성은 시간이 지남에 따라 증가하였다. 특정 알고리즘 범주를 살펴보면, 문법 기반 알고리즘은 기술(description) 목적으로 더 자주 언급되는 반면, 기계 학습 알고리즘은 사용 목적으로 더 자주 언급된다. 시간이 지남에 따라 다양한 알고리즘에서 사용 동기가 기술 동기를 점차 대체해 왔으며, 개별 알고리즘과 연관된 동기 유형의 수는 크게 감소하였다. 본 연구는 저자들이 학술 글쓰기에서 알고리즘 개체를 언급하는 방식을 밝히고, 알고리즘 관계 식별 및 알고리즘 영향 평가에 관한 향후 연구의 기반을 제공한다.
Meddies-PII: 임상 비식별화를 위한 개인식별정보 추출 다국어 프레임워크
Meddies-PII: A Multilingual Framework for Personally Identifiable Information Extraction in Clinical De-identification
임상 비식별화는 개인식별정보(PII)를 정확하게 식별하는 것에 의존합니다. 그러나 수작업으로 주석을 추가한 데이터셋은 구축 비용이 많이 들며, 기존의 합성 대안들은 생성 프로세스에 대한 세부 정보를 제한적으로 제공하거나 비교적 단순한 합성 전략에 의존하는 경우가 많습니다. 본 논문에서는 17개 언어와 9개의 PII 레이블에 걸친 100만 건의 합성 임상 문서 말뭉치인 Meddies-PII-Dataset을 소개합니다. 이러한 문서는 속성 조건부 프롬프트를 사용하여 생성되며, 구조적 및 주석 일관성을 강제하는 13개의 결정론적 게이트를 통해 검증됩니다. 데이터셋의 유용성을 평가하기 위해 BIOES 토큰 분류기인 Meddies-PII-Model을 학습하고, 완전 일치 엔티티 수준 F1을 사용하여 기존 PII 추출 시스템과 비교합니다. Meddies-PII-Model은 평가된 시스템 중 모든 보고된 벤치마크에서 가장 높은 성능을 달성하였으며, 15개의 외부 벤치마크에 걸쳐 평균 F1 0.827을 기록하여 가장 강력한 기준선의 0.658과 대비됩니다. 논문 채택 시 다국어 임상 비식별화 연구를 지원하기 위해 데이터셋, 벤치마크 스위트, 모델, 생성 프레임워크 및 평가 코드를 공개적으로 릴리스할 예정입니다.
Transformer-Based Named Entity Recognition for Automated Server Provisioning
HEProto: A Hierarchical Enhancing ProtoNet based on Multi-Task Learning for Few-shot Named Entity Recognition
Legal Entity Extraction using a Pointer Generator Network
An end to end approach for brand recognition in product titles with BI-LSTM-CRF
토론
이 논문과 연결된 포럼 글이 아직 없습니다.