arXiv:1711.05380

Attention Focusing for Neural Machine Translation by Bridging Source and Target Embeddings

Shaohui Kuang, Junhui Li, António Branco, Weihua Luo, Deyi Xiong

제출 2017-11-15

원문 초록

In neural machine translation, a source sequence of words is encoded into a vector from which a target sequence is generated in the decoding phase. Differently from statistical machine translation, the associations between source words and their possible target counterparts are not explicitly stored. Source and target words are at the two ends of a long information processing procedure, mediated by hidden states at both the source encoding and the target decoding phases. This makes it possible that a source word is incorrectly translated into a target word that is not any of its admissible equivalent counterparts in the target language. In this paper, we seek to somewhat shorten the distance between source and target words in that procedure, and thus strengthen their association, by means of a method we term bridging source and target word embeddings. We experiment with three strategies: (1) a source-side bridging model, where source word embeddings are moved one step closer to the output target sequence; (2) a target-side bridging model, which explores the more relevant source word embeddings for the prediction of the target sequence; and (3) a direct bridging model, which directly connects source and target word embeddings seeking to minimize errors in the translation of ones by the others. Experiments and analysis presented in this paper demonstrate that the proposed bridging models are able to significantly improve quality of both sentence translation, in general, and alignment and translation of individual source words with target words, in particular.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2604.18109v2cs.CL공통 태그 Machine Translation, Sentence, Word Embeddings

FLiP: 멀티모달 다국어 문장 임베딩의 이해 및 해석을 향하여

FLiP: Towards understanding and interpreting multimodal multilingual sentence embeddings

본 논문은 사전학습된 문장 임베딩 공간을 이해하기 위한 인수분해 선형 투영(FLiP) 모델을 제안합니다. 우리는 다국어(LaBSE), 멀티모달(SONAR), API 기반(Gemini) 문장 임베딩 공간에서 여러 고자원 및 중자원 언어의 어휘적 내용을 복원하도록 FLiP 모델을 학습시킵니다. 우리는 FLiP가 임베딩에서 75% 이상의 어휘적 내용을 재현할 수 있음을 보여주며, 이는 기존의 인수분해되지 않은 기준 모델들을 현저히 능가합니다. 이를 진단 도구로 활용하여 선택된 문장 인코더들 간의 모달리티 및 언어 편향을 규명하고, 기존의 다운스트림 평가 작업에 의존하지 않고 실무자들에게 인코더에 대한 내재적 통찰을 제공합니다. 우리의 구현체는 https://github.com/BUTSpeechFIT/FLiP에서 공개되어 있습니다.

arXiv:2607.03836v2cs.CV공통 태그 Machine Translation, Translation

단순할수록 좋을 때: 중세 라틴어 필사본을 위한 번역 파이프라인 평가

When Simpler Is Better: Evaluating Translation Pipelines for Medieval Latin Manuscripts

기계 번역의 눈부신 발전에도 불구하고, 비전 언어 모델(VLM)은 저자원 음역, 고어 어휘, 잡음이 섞인 입력 신호와 같은 핵심 자연어 처리(NLP) 역량을 시험하는 영역인 역사 필사본에서 어려움을 겪는다. 본 연구는 필경사의 약기, 합자, 양피지 훼손으로 인해 깨끗한 텍스트 벤치마크에서는 드러나지 않는 실패 양상이 나타나는 중세 라틴어 필사본을 대상으로, 이미지에서 번역에 이르는 전체 파이프라인을 평가하는 체계적 프레임워크를 제시한다. CATMuS Latin 데이터셋에서의 벤치마킹은 전문화 격차를 보여 준다. 도메인 특화 광학 문자 인식(OCR) 모델은 파라미터 수가 수십~수천 배 적음에도 범용 VLM에 비해 문자 오류율을 최대 4.3$\times$ 낮춘다. 또한 정렬된 필사본 이미지 행, 전사문, 전문가 번역 1,383건으로 구성된 새로운 데이터셋 Interpres-Parallel-Corpus(IPC)를 소개하며, 이는 우리가 아는 한 중세 라틴어 분야 최초이다. 실험은 복잡성 역설을 보여 준다. 특화된 OCR 모델이 VLM에 직접 입력되는 가장 단순한 파이프라인이 모든 다중 구성요소 변형보다 우수하다. 검색 증강 생성(RAG)이나 OCR 후 교정을 추가하면 프롬프트 포화와 오류 전파가 발생하여 전체 번역 품질이 저하된다. 이러한 결과는 새로운 벤치마크와 함께 저자원 역사 환경에서 번역 시스템을 배치하기 위한 실용적 지침을 제공한다.

arXiv:2607.05849v2cs.CL공통 태그 Machine Translation, Translation

CoPiT: 전통 문자 기반 이중 문자 체계 저자원 몽골어를 위한 인지적 피벗 번역

CoPiT: Cognitive Pivot Translation for Digraphic Low-Resource Mongolian in the Traditional Script

저자원 언어는 기계 번역에서 여전히 어려운 과제이며, 몽골어는 대표적인 사례이다. 몽골어는 두 가지 문자 체계를 쓰는 언어로서 키릴 문자와 전통 문자로 모두 표기되는데, 두 문자 간 데이터 가용성에 심각한 불균형이 있다. 키릴 문자는 상대적으로 자원이 풍부하지만, 전통 문자는 데이터가 극히 부족하고 표기상 모호하여 직접 번역에서 상당한 성능 저하가 발생한다. 우리는 이러한 내부 자원 위계를 활용하여 키릴 문자를 경유해 번역하는, 인지적 동기에 기반한 피벗 기반 번역 파이프라인 CoPiT를 제안한다. 이 파이프라인은 번역에 앞서 전통 문자에서 문자로 인해 발생하는 모호성을 명시적으로 해소하여, 더 안정적이고 정확한 의미 전달을 가능하게 한다. 여러 백본 모델과 목표 언어에 걸쳐 CoPiT는 대체로 직접 번역보다 향상되었으며, BLEU의 절대적 향상이 상당하고 COMET에서는 최대 1.5~1.6배의 향상을 보였다. 이러한 향상 덕분에 강력한 오픈소스 모델이 비교 가능한 평가 설정에서 GPT-4.1과 대등하거나 그보다 우수한 성능을 낼 수 있다. 추론 시점의 개선을 넘어, CoPiT는 전통 문자 텍스트로부터 직접 합성 병렬 데이터를 구축할 수 있게 하여 현실적인 저자원 시나리오에서 데이터 부족을 완화한다. 우리는 두 문자의 몽골어와 영어, 한국어, 러시아어를 포괄하는 새로운 다중 문자 병렬 데이터셋을 공개한다.

arXiv:2606.18717v2cs.CL공통 태그 Machine Translation, Word Embeddings

Morpheus: 터키어를 위한 형태론 인식 신경망 토크나이저 및 단어 임베더

Morpheus: A Morphology-Aware Neural Tokenizer and Word Embedder for Turkish

터키어는 교착어(agglutinative language)로, 의미가 형태소(morpheme)를 통해 전달된다. 그러나 현대 언어 모델을 구동하는 서브워드 토크나이저(subword tokenizer)들은 말뭉치 통계에 따라 단어를 분할하기 때문에 의미가 실린 접미사들을 파편화하며, WordPiece와 규칙 기반 분석기의 경우 그 출력을 원문으로 다시 디코딩하지 못한다. 본 논문은 터키어를 위한 신경망 형태소 경계 모델인 \textbf{Morpheus}를 제안한다. 이는 손실 없는(lossless) 형태론 인식 토크나이저이자 단어 임베딩 생성기를 동시에 구현한다. 미분 가능한 포아송-이항 동적 계획법(Poisson-binomial dynamic program)은 학습 중에는 문자 단위 경계 확률을 소프트 형태소 소속도로 변환하고, 추론 시에는 정확한 분절 결과를 산출하며, 문자열 정규화를 전혀 거치지 않으므로 $\mathrm{decode}(\mathrm{encode}(w)) = w$가 구조적으로 성립한다. 모델이 신경망이기 때문에, 토큰화를 수행하는 동일한 순전파에서 구조화된 단어 임베딩도 함께 산출된다. 생성(generation)에 유효한 유일한 유형인 가역적 토크나이저들 중에서, Morpheus는 가장 낮은 문자당 비트 수($1.425$)를 달성하고, 서브워드 계열 대비 골드 형태론적 정렬도를 거의 두 배로 높였으며(MorphScore macro-F1 $0.61$ 대 ${\sim}0.32$), 64K 어휘 서브워드 토크나이저 대비 GPU 메모리 사용량을 약 $19\%$ 줄였다. 임베더로서, 고정된(frozen) Morpheus 벡터는 어휘 검색(lexical retrieval, root-family MAP $0.85$)과 동일 어근 검증(same-root verification, ROC-AUC $1.00$)에서 최고 성능을 보이며 다국어 검색 모델 BGE-M3와 BERTurk를 능가한다. 반면 문맥 및 굴절 의존적 과제(개체명 인식(NER), 격/수 프로빙)에서는 더 무거운 문맥 인코더들이 여전히 앞서는데, 이는 Morpheus의 어근 중심 기하 구조에서 기인하는 트레이드오프로 보인다. 코드: https://github.com/lonewolf-rd/TurkishMorpheus; 모델: https://huggingface.co/lonewolflab/Morpheus-TR-50K; 인터랙티브 데모: https://huggingface.co/spaces/lonewolflab/morpheus-tr-demo.

arXiv:2610.03022v1cs.CV공통 태그 Translation, Sentence

ReSCUE: 분절되지 않은 장문 동시 수어 번역을 위한 문장 확정 기반 재번역 기법

ReSCUE: Re-translation with Sentence Commitment for Unsegmented Long-Form Simultaneous Sign Language Translation

동시 수어 번역(Simultaneous Sign Language Translation, SLT)은 실시간 소통에 매우 중요하지만, 기존 방법들은 사전 분절된 입력을 가정하는 문장 단위의 오프라인 환경에 대체로 국한되어 있습니다. 이러한 가정은 연속적이고 분절되지 않은 비디오 스트림이 수반되는 실제 환경에서의 배포를 저해합니다. 본 논문에서는 실제 스트리밍 환경에 맞추어 학습(training)과 추론(inference)을 정렬하는, 분절되지 않은 장문 수어 비디오 대상의 동시 SLT를 위한 통합 프레임워크인 ReSCUE를 제시합니다. ReSCUE는 부분적 입력, 비수어 휴지기, 다중 문장 문맥을 처리하기 위한 추론 인지 학습, 출력 깜빡임(flicker)을 줄이면서도 수정 가능한 예측을 통해 저지연을 가능하게 하는 안정화된 재번역, 그리고 온라인 분절 및 메모리 관리를 위한 문장 확정(sentence commitment) 메커니즘을 결합합니다. 표준 문장 단위 벤치마크에서의 실험 결과, ReSCUE는 저지연 환경에서 더 낮은 지연 시간과 최고의 번역 품질을 달성함을 보여줍니다. 또한 분절되지 않은 장문 데이터셋에서 ReSCUE는 정답(ground-truth) 문장 경계를 사용하는 오라클 오프라인 시스템의 번역 품질에 근접하면서도 훨씬 낮은 지연 시간으로 동작하여, 실제 스트리밍 시나리오에서의 실용성을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.