Efficient, Lexicon-Free OCR using Deep Learning
원문 초록
Contrary to popular belief, Optical Character Recognition (OCR) remains a challenging problem when text occurs in unconstrained environments, like natural scenes, due to geometrical distortions, complex backgrounds, and diverse fonts. In this paper, we present a segmentation-free OCR system that combines deep learning methods, synthetic training data generation, and data augmentation techniques. We render synthetic training data using large text corpora and over 2000 fonts. To simulate text occurring in complex natural scenes, we augment extracted samples with geometric distortions and with a proposed data augmentation technique - alpha-compositing with background textures. Our models employ a convolutional neural network encoder to extract features from text images. Inspired by the recent progress in neural machine translation and language modeling, we examine the capabilities of both recurrent and convolutional neural networks in modeling the interactions between input elements.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
TransBERT: 도메인 특화 언어 모델링을 위한 합성 번역 프레임워크
TransBERT: A Framework for Synthetic Translation in Domain-Specific Language Modeling
전문 도메인에서 비영어권 언어 데이터가 부족하다는 점은 효과적인 자연어 처리(NLP) 도구의 개발을 크게 제한한다. 본 논문에서는 오직 합성 번역된 텍스트만을 사용하여 언어 모델을 사전학습하는 새로운 프레임워크인 TransBERT를 제시하고, 확장 가능한 번역 툴킷인 TransCorpus를 함께 소개한다. 프랑스어 생명과학 도메인에 초점을 맞춘 본 접근법은, 합성 번역 데이터만을 활용하여도 다양한 다운스트림 태스크에서 최고 수준(state-of-the-art)의 성능을 달성할 수 있음을 보여준다. 우리는 TransCorpus 툴킷, TransCorpus-bio-fr 코퍼스(36.4GB 분량의 프랑스어 생명과학 텍스트), 이와 연관된 사전학습 언어 모델인 TransBERT-bio-fr, 그리고 사전학습과 미세조정 모두를 위한 재현 가능한 코드를 공개한다. 본 연구의 결과는 자원이 풍부한 번역 방향에서의 합성 번역이, 저자원 언어/도메인 쌍에서 고품질 NLP 자원을 구축하는 데 실효성이 있음을 보여준다.
문법서를 활용한 저자원 기계 번역용 합성 데이터 생성의 요인 실험 연구
A Factorial Study of Synthetic Data Generation for Low-Resource Machine Translation using Grammar Books
대부분의 위기 언어는 기술 문법서가 존재함에도 불구하고 기계 번역에 필요한 병렬 데이터가 부족하다. 본 연구는 대규모 언어 모델(LLM)을 사용하여 문법서에서 문법 규칙, 예문, 어휘집을 추출하고 미세조정용 합성 병렬 코퍼스를 생성하는 파이프라인을 제안한다. 이는 기존 연구처럼 추론 시점에 문법 내용을 프롬프트에 제공하는 방식과는 다르다. 유형론적으로 다양한 세 저자원 언어—Kalamang(파푸아어), Tuatschin(로망스어), Mandan(수어)—에서 검증한 결과, 합성 데이터 미세조정은 Kalamang에서 75%, Tuatschin에서 59%의 설정에서 시드 데이터 기준선 대비 개선을 보였으며, 최적의 경우 ChrF++는 각각 +8.8, +5.3, +3.3만큼 향상되었다. 목표 품사, 검색 세분성, 샘플 규모를 달리한 96개 설정에 대한 체계적인 요인 실험을 통해, 어떤 요인 조합이 성능 향상을 이끌고 어디에서 효과가 한계에 이르는지 밝혔다. 이 결과는 정적 언어학 문헌을 기계 번역 미세조정에 재활용할 수 있음을 보여 주며, 극도로 자원이 부족한 언어를 위한 번역 도구 구축이라는 실용적 경로를 제시한다.
소형 모델은 제공한 법률을 실제로 활용하는가? 방글라데시 법률 QA를 위한 컨텍스트 주입 미세조정
Do Small Models Use the Law You Give Them? Context-Injected Fine-Tuning for Legal QA in Bangladesh
소형 언어 모델은 관련 법 조항을 제공받아도 여전히 잘못된 답을 할 수 있다. 우리는 관련 법률이 포함된 예시에 대한 미세조정이 이후 검색된 법률의 활용을 개선하는지 검증한다. 방글라데시 법률 6개와 부칙 3개에서 2,165건의 이중언어 QA 레코드를 구축한 뒤, Qwen3.5 0.8B, 2B, 4B 규모에서 미세조정한다. 평가는 2022년 및 2023년 방글라데시 변호사협회 시험 문제를 벵골어 원문과 기계 번역 영어로 사용하며, 검색(retrieval), BM25, FAISS 없이 세 번의 시드 고정 실행에 대한 엄격한 일관성으로 채점한다. 0.8B에서는 미세조정으로 2022 영어 FAISS 점수가 100점 만점에 2점에서 34점으로 상승한다. 0.8B와 2B에서의 이득은 대응 검정(paired testing)을 통과하지만, 4B 모델에서는 관측 가능한 순이득이 없다. 벵골어 성능은 개선되는 반면 여러 영어 조건에서는 후퇴한다. 미세조정은 또한 벵골어로 요청했음에도 답변이 대부분 영어로 흐르는 비율을 44.0–53.2%에서 0.2–0.7%로 줄이며, 모든 규모에서 보정 p<.001이다. 따라서 검색 품질만이 병목은 아니다. 소형 이중언어 법률 모델은 제공된 법률을 어떻게 활용하는지, 그리고 요청된 언어로 답하는지 여부에서도 차이를 보인다. 데이터셋은 https://huggingface.co/datasets/momahadi/bangladesh-legal-qa-dataset 에서 공개된다.
Parameter Efficient Fine Tuning Llama 3.1 for Answering Arabic Legal Questions: A Case Study on Jordanian Laws
Induced Model Matching: Restricted Models Help Train Full-Featured Models
Developing Question-Answering Models in Low-Resource Languages: A Case Study on Turkish Medical Texts Using Transformer-Based Approaches
토론
이 논문과 연결된 포럼 글이 아직 없습니다.