크리에이티브 커먼즈(Creative Commons) 라이선스가 아프리카 자연어 처리(NLP) 말뭉치 공개를 지배하고 있지만, 그 호환성 규칙은 거의 적용되지 않는다. CC-BY-SA와 CC-BY-NC는 단일 공개 데이터셋에 결합할 수 없으며, NoDerivs 조항은 토큰화(tokenisation)와 주석(annotation)을 묵시적으로 금지한다. 본 논문은 아프리카 NLP에 사용되는 20개 이상의 말뭉치 계열에 대해 라이선스 출처를 감사하고, 6단계 호환성 매트릭스를 구성하여 세 가지 사례 연구 언어인 Kituba/Munukutuba, Zarma, Moore에 적용한다. 1차 출처 증거를 바탕으로 네 가지 실패 유형이 기술된다: 완전한 금지(JW300, 서비스 약관 위반이 법적 감사에서 확인된 후 OPUS에서 삭제됨), 복합 라이선스 허위 표시(WAXAL, CC-BY 4.0 주장이 자체 HuggingFace 데이터셋 카드와 모순됨), CC-BY 라벨 뒤에 숨겨진 NoDerivs 조항(Tanzil), 그리고 데이터 지속성 실패(Congolese Radio Corpus, 405개 소스 URL 중 402개가 현재 접속 불가). 주석 전 실사 체크리스트와 법적으로 문제없는 보강 기회에 대한 조사로 논문을 마무리한다.
대규모 언어 모델(LLM)의 미세조정(fine-tuning)은 특정 다운스트림 태스크에서 모델의 성능을 향상시키기 위해 널리 사용되는 방법이다. 그러나 선행 연구에서는 이러한 성능 향상에 대가가 따른다는 사실을 밝혔다: 비적대적 데이터로 미세조정하는 경우에도 모델이 안전하지 않은 적대적 프롬프트에 응답하는 경향이 증가할 수 있다. 우리는 9개 언어로 번역된 무해한 데이터를 사용하여 Llama-3.2, Qwen3, Gemma-3 모델을 미세조정함으로써, 다국어 환경에서 이 현상에 대한 최초의 포괄적 실증 연구를 제시한다. 안전성 결과는 미세조정 언어와 평가 언어 모두의 선택에 매우 민감하며, 일부 설정에서는 적대적 순응률이 4배까지 증가하는 것으로 나타났다. 다국어 안전성 드리프트는 일반적인 성능 지표와 분리되어 있으며, 언어와 모델에 걸쳐 이질적으로 발생한다. 비영어권 언어로의 미세조정은 영어에 비해 내부 표현 드리프트가 더 작게 나타나는 경우가 많지만, 이러한 변화는 모델이 과도한 순응 또는 거부를 기본 동작으로 취하도록 유도한다. 따라서 미세조정의 영향을 영어로만 평가하는 것은 배포에 대한 충분한 보증을 제공하지 못한다. 이러한 교차 언어적 안전성 사각지대에 대한 추가 연구를 촉진하기 위해, 우리는 Multilingual-Benign-Tune 데이터셋과 SORRY-Bench-Multilingual 평가 스위트를 공개한다.
인도의 정부 문서는 마라티어와 같은 지역 언어로 주로 발행되어, 비원어민 독자, 주(州) 간 행정 기관, 정책 분석가에게 상당한 접근성 장벽을 초래한다. 최근 신경망 기계 번역(machine translation)의 발전으로 문장 수준의 번역 품질이 향상되었지만, 기존 시스템은 대부분 문서 구조, 서식 무결성, 도메인 특화 용어를 무시함으로써 공식 문서에 대한 적용 가능성을 제한하고 있다. 본 논문은 레이아웃 충실도를 유지하면서 엔드-투-엔드 문서 변환을 수행할 수 있는, 구조 보존 방식의 마라티어-영어 정부 문서 번역 프레임워크를 제시한다. 제안된 시스템은 레이아웃 인식 광학 문자 인식(OCR), 좌표 기반 텍스트 추출, 대규모 언어 모델(LLM) 기반 번역, 그리고 HTML 표현을 통한 구조화된 문서 재구성을 통합한다. 공간적 정렬 제약을 적용하고 계층적 문서 요소를 보존함으로써, 본 프레임워크는 원본 문서와 번역 문서 간의 구조적 일관성을 보장한다. 실제 마라티어 정부 PDF에 대한 실험적 평가를 통해, 기존의 텍스트 전용 번역 파이프라인에 비해 구조 보존성, 번역 일관성, 용어 일관성이 향상되었음을 확인하였다. 제안된 프레임워크는 전자 정부(e-governance) 및 행정 문서 처리를 위한 확장 가능한 다국어 접근성 솔루션에 기여한다.
자연어 처리(NLP) 응용 프로그램은 방대하고 풍부한 언어 지식을 필요로 한다. 또한 사전, 백과사전, 말뭉치와 같은 전자 언어 자원이 점차 활용 가능해졌다. 이에 따라 지식 획득 병목 문제를 해소하기 위해 이러한 자원으로부터 어휘 정보를 자동으로 추출하는 방법들이 등장하였다. 본 연구에서는 아랍어-영어 Al-Mawrid 사전의 기계가독(machine-readable) 버전으로부터 어휘 정보를 자동으로 추출하는 방법을 제시하였다. n-gram 분석과 문맥 내 키워드(KWIC, key-word-in-context) 분석을 활용하여 형태론적, 통사론적, 또는 의미론적 정보를 나타내는 어휘 패턴을 발견하였다. 이후 수작업으로 작성된 규칙 기반 정보 추출 방법을 적용하여 해당 정보를 추출하였다. 아울러 구두점과 일부 휴리스틱을 활용하여 하위 항목 내 동의어 집합을 추출하였다. 본 연구는 모든 유형의 정보에서 높은 정밀도(precision)를 기록하였으며, 동의어에 대해서는 높은 재현율(recall)을, 그 외 정보에 대해서는 낮은 재현율을 보였다. 또한 Al-Mawrid 사전이 상당한 양의 파생어(형태론적 정보), 동의어, 영역 레이블, 하의어/상의어 관계(의미론적 정보)를 포함하고 있음을 확인하였다.
Professional translation is often a team-based process: translators, reviewers, and project managers must coordinate terminology, legal force, and accountability across documents. Yet many LLM-based translation tools treat human corrections as isolated edits. Expert decisions made in one segment or by one member are rarely captured as reusable knowledge for the rest of the team. We present DeepTrans Studio, a collaborative translation workspace that lets professionals intercept selected nodes in an agentic translation workflow, review evidence, revise AI outputs, and save approved decisions to a shared team memory. During the demo, attendees will role-play translators and reviewers, resolve preset terminology and legal-modal risks, and see how their decisions are propagated to downstream segments and surfaced in a teammate's workspace as reusable precedents. The demo illustrates how human interventions in AI-mediated work can become shared, traceable knowledge rather than one-off corrections.
대규모 언어 모델(LLM)은 인상적인 다국어 간(cross-lingual) 능력을 보인다. 그러나 선행 연구는 이 현상을 고립된 요인과 학습 중 희소한 시점에서 분석하여, 특히 학습 초기 단계에서 다국어 간 일반화가 어떻게 창발하는지에 대한 이해를 제한한다. 언어 및 번역 능력의 초기 궤적을 연구하기 위해, 우리는 아홉 개의 다양한 언어로 다국어 1.7B 모델을 사전학습하고, 훨씬 더 세밀한 간격으로 체크포인트를 수집한다. 우리는 단어 수준 번역을 테스트베드로 사용하며, 행동 분석, 모델 구성 요소 분석, 매개변수 기반 절제(ablation)를 통해 학습 과정에서 번역이 어떻게 발달하는지 추적하는 새로운 데이터셋을 도입한다. 우리는 모델이 토큰 수준 복사와 병행하여 기본적인 언어 능력을 빠르게 습득하는 반면, 번역은 두 개의 뚜렷한 단계로 발달한다는 것을 발견한다: 복사와 표면 수준 유사성이 지배하는 초기 단계, 그리고 복사가 정제되는 동시에 더 일반화된 번역 메커니즘이 발달하는 두 번째 단계. 이러한 발견들은 함께, 다국어 사전학습 중 다국어 간 일반화가 어떻게 발달하는지에 대한 세밀한 관점을 제공한다.
Speech 대규모 언어 모델(Speech LLM)은 음성 인코더 표현을 LLM 디코더로 라우팅하며, 이 디코더는 일반적으로 전체 파라미터의 90% 이상을 차지한다. 우리는 음성 태스크에 실제로 이 디코더 용량 중 얼마나 많은 부분이 필요한지 연구한다. 두 LLM 계열과 세 가지 규모(1-8B)에 걸쳐, 디코더 중복성은 대부분 사전학습된 LLM에서 상속됨을 보인다: 텍스트와 음성 입력은 유사한 중복 블록을 산출한다. 이어서 디코더 레이어를 가지치기하고 가지치기 후 회복을 분석하여 견고성을 높이는 방식으로 과잉 용량을 측정한다. 우리의 결과는 7-8B 모델이 디코더 레이어의 60%만으로도 양호한 ASR 성능을 유지함을 보여주며, 동일한 경향이 더 작은 규모에서도 나타나지만 가지치기 허용 범위는 줄어든다. 마지막으로 음성 번역으로 일반화하여, 동일한 레이어 블록이 음성 인코더, 태스크, 언어에 걸쳐 중복됨을 보인다. 이는 더 전역적인 중복 구조가 존재함을 시사하며, 단일 가지치기 다중 태스크 SpeechLLM 백본을 배포할 수 있게 한다.
시간적 예측 코딩(tPC)의 장기 시간적 크레딧 할당 한계를 실시간 순환 학습(RTRL)과 결합한 tPC-RTRL로 해결하고, 온라인 영향 행렬(influence matrix)로 뉴로모픽 구현에 필요한 공간·시간 국소성을 유지하면서 명시적 가정 하 시간을 통한 역전파(BPTT) 그래디언트를 정확히 복원함을 증명한다. WikiText-103 바이트 수준 언어 모델링, 영어-프랑스어 번역, 나노드론 시스템 식별 등에서 BPTT와 거의 동등한 성능을 보였고, 학습 중 반복 추론을 배포에 재활용하면 간헐적 상태 관측으로 개방 루프 대비 최종 위치 오차를 절반 수준(0.402m 대 0.805m)으로 줄여 학습과 필터링을 동일 프레임워크에서 통합할 수 있음을 보인다.
추론을 위한 번역 캐스케이드(translation cascade)는 다른 언어의 쿼리를 영어로 번역하고, 영어로 추론한 후, 답변을 원래 언어로 다시 번역한다. 이는 다국어 추론에 경쟁력 있는 접근 방식이지만, 구조적으로 손실이 발생한다. 각 단계에서 이후 단계가 필요로 할 수 있는 정보, 즉 문화적 그라운딩(cultural grounding), 문체(register), 중의성 해소(disambiguation) 단서 등이 버려지기 때문이다. 우리는 간단하고 학습이 필요 없는 개입의 이점을 검토한다: 문맥 인식 번역 캐스케이드(context-aware translation cascade)로, 원본 질문, 영어로 번역된 질문, 그리고 추론 트레이스를 최종 번역 모듈의 컨텍스트에 추가로 제공한다. 우리는 다양한 태스크 유형을 포함한 9개의 다국어 벤치마크, 3개의 백본 모델, 그리고 285개의 고자원·중자원·저자원 언어에 걸쳐 성능 향상을 평가하며, 모델과 자원 환경 전반에 걸쳐 개방형 생성(open-ended generation)에서 강력한 성능 향상을 입증한다. 우리는 원본 언어 질문이 유익한 컨텍스트의 대부분을 제공함을 보인다. 본 연구는 오류 전파를 완화하기 위해 기계 번역 캐스케이드에서 정보 흐름을 더 잘 설계할 필요성을 강조하며, 간단하고 실행 가능한 기본 전략을 제시한다: 파이프라인 끝까지 원본 사용자 질문을 보존하라.
Speech-to-speech translation (S2ST) should preserve not only lexical meaning, but also expressive attributes: emotion, scenario style (e.g., news reporting vs. dramatic dialogue), and nonverbal vocalizations (NVs). Moreover, collecting cross-lingual target speech that is both translation-faithful and expressively aligned with the source is difficult at scale, making reference-based evaluation impractical. We introduce STEB (Speech-to-Speech Translation Expressiveness Benchmark), a 32.6-hour Chinese--English benchmark that evaluates both standard dimensions (translation fidelity, speaker similarity, duration alignment) and expressiveness dimensions (emotion, scenario style, NV preservation). For expressiveness evaluation, STEB uses a caption-then-summarize framework that converts speech into structured expressive attributes and compares source and hypothesis attributes with an LLM judge. Human validation shows statistically significant correlations with listener judgments across all expressive dimensions. We evaluate six S2ST systems covering cascaded systems, end-to-end models, and speech large language models. Many systems, especially cascaded ones, achieve strong translation fidelity, but they still struggle with emotion preservation (best: 3.82/5) and NV preservation (best: 2.31/5). These results reveal a gap between semantic transfer and expressive transfer, identifying expressiveness preservation as an open challenge for S2ST. Audio samples are available at https://cmots.github.io/steb.github.io/.
자원이 부족한 마라티어 품사(POS) 태깅을 위해 뉴스 텍스트에서 추출한 32,354문장을 Universal Dependencies 정렬 16태그로 수동 주석한 L3Cube-MahaPOS 골드표준 데이터셋을 공개한다. HMM, CRF, BiLSTM, BiLSTM+CharCNN, MuRIL, MahaBERT-v2 등 6개 모델군을 벤치마크한 결과 최고 시스템은 토큰 정확도 88.67%, macro-F1 81.67%를 기록했으며 데이터셋·주석 가이드·학습 체크포인트도 함께 배포한다.
Millions of people use machine translation (MT) tools daily, yet little is known about their perception of what systems can and cannot do. This paper studies users' mental models of speech translation systems through a new framework based on cross-lingual question answering, where users either accept MT output or request professional re-translation to answer questions based on the information presented in a foreign language. By analyzing user behavior and accuracy trends across varying translation qualities, we examine to what extent they can predict where the system is likely to be wrong, and how this mental model evolves. Users develop stronger mental models with practice, especially when they have some knowledge of the source language, primarily by relying on surface-level error cues. Moreover, providing speech transcriptions can help users develop better mental models. Our results show the promise of cross-lingual question answering as a downstream task for studying MT mental models and advancing our understanding of human-AI collaboration.
10억 명 이상이 사용하는 인도계 언어의 자연어 처리(NLP) 인프라는 언어별로 파편화되어 있으나, 산스크리트 중심 수렴으로 공유된 파니니(Pāṇini) Astādhyāyī 형태통사 틀이 어족 경계를 넘는다는 점을 짚고, 형태 분할·태깅, 파니니 의존 구문, 의미역 표지, 확장 인도 언어권 교차언어 평가로 구성된 4부 벤치마크를 통해 이 구조를 명시화하면 정확도·데이터 효율·교차언어 전이가 개선될 것을 주장한다. 또한 해당 언어로 학습한 신경망이 파니니 범주를 스스로 표상하는지에 대한 해석가능성 질문을 제기한다.
UnigramLM을 다국어 설정으로 확장한 LangMAP 토큰화는 단일 공유 어휘로 언어별 토큰화를 만들며, 어휘를 바꾸지 않고도 사전학습 모델의 토크나이저를 언어별로 조정할 수 있고 추론 시에는 입력 언어를 알 필요가 없다. 14개 오픈소스 토크나이저와 9개 자연어·9개 프로그래밍 언어 실험에서 형태소 경계 정렬과 코드의 AST 잎 경계 정렬이 개선되었고, 파인튜닝에서는 MultiBLiMP 문법 수용성은 향상되었으나 Global-PIQA·Belebele 같은 지식 과제에서는 이점이 일관되지 않았다.
문맥 내 학습(ICL) 중 모델 활성화에서 추출한 기능 벡터(FV)가 다국어 번역에서도 언어 불변성을 갖는지를 세 가지 디코더 전용 다국어 LLM으로 검증하며, 영→X 한 방향에서 추출한 번역 FV가 보지 못한 목표 언어에서도 정답 번역 토큰의 순위를 일관되게 개선한다. 이득이 큰 토큰은 여러 언어에 걸치고 번역 방향별 상위 어텐션 헤드가 대부분 겹쳐, FV가 특정 언어쌍 매핑이 아니라 대체로 언어에 구애받지 않는 번역 신호를 인코딩함을 보여준다.
Large language models (LLMs) are increasingly multilingual, yet open models continue to underperform relative to proprietary systems, with the gap most pronounced for African languages. Continued pre-training (CPT) offers a practical route to language adaptation, but improvements on demanding capabilities such as mathematical reasoning often remain limited. This limitation is driven in part by the uneven domain coverage and missing task-relevant knowledge that characterize many low-resource language corpora. We present \texttt{AfriqueLLM}, a suite of open LLMs adapted to 20 African languages through CPT on 26B tokens. We perform a comprehensive empirical study across five base models spanning sizes and architectures, including Llama 3.1, Gemma 3, and Qwen 3, and systematically analyze how CPT data composition shapes downstream performance. In particular, we vary mixtures that include math, code, and synthetic translated data, and evaluate the resulting models on a range of multilingual benchmarks. Our results identify data composition as the primary driver of CPT gains. Adding math, code, and synthetic translated data yields consistent improvements, including on reasoning-oriented evaluations. Within a fixed architecture, larger models typically improve performance, but architectural choices dominate scale when comparing across model families. Moreover, strong multilingual performance in the base model does not reliably predict post-CPT outcomes; robust architectures coupled with task-aligned data provide a more dependable recipe. Finally, our best models improve long-context performance, including document-level translation. Models and code have been released on [Huggingface](https://huggingface.co/collections/McGill-NLP/afriquellm) and [Github](https://github.com/McGill-NLP/AfriqueLLM).
이미지 내 기계 번역(IIMT)은 이미지 속 장면 텍스트를 번역하고, 전체적인 시각적 외관을 유지하면서 번역된 텍스트를 원래 영역에 다시 렌더링하는 것을 목표로 한다. 최근 통합 멀티모달 모델은 단일 프레임워크 내에서 시각-텍스트 이해와 이미지 생성을 결합함으로써 유망한 해결책을 제시한다. 그러나 이러한 모델을 IIMT에 직접 적용하는 것은 여전히 어려운 과제이다. 특히, 이해 과정에서 추론된 번역이 생성 과정에서 사용되는 텍스트 감독과 불일치하는 이해-생성 충돌(understanding-generation conflict)과, 렌더링된 텍스트가 목표 텍스트 영역과 정확히 일치하지 않는 공간적 위치 불정렬(spatial position misalignment) 문제가 자주 발생한다. 이러한 문제를 해결하기 위해 우리는 번역 이해와 텍스트 편집을 긴밀하게 결합한 IIMT용 통합 멀티모달 프레임워크인 UniTranslator를 제안한다. 구체적으로, 이해와 생성 간의 표현 격차를 해소하여 번역 콘텐츠 예측과 텍스트 렌더링 간의 의미적 일관성을 도모하는 이해-생성 정렬 모듈(UGAM, Understand-Generation Alignment Module)을 도입한다. 또한 생성 과정에서의 공간적 그라운딩, 기하학적 정렬, 레이아웃 제어 가능성을 향상시키기 위해 텍스트 영역에 대한 픽셀 수준 감독을 적용하는 공간 마스크 디코더(SMD, Spatial Mask Decoder)를 제안한다. 다수의 벤치마크에 대한 광범위한 실험을 통해 UniTranslator가 다양한 언어 방향과 복잡한 실세계 레이아웃에서 최첨단 성능을 달성함을 입증한다. 또한, 우리의 결과는 번역 이해와 이미지 생성 사이의 강력한 상호 강화 효과를 보여주며, 통합 번역 멀티모달 학습의 이점을 부각한다. 코드는 https://github.com/SeerRay-Lab/Unitranslator에서 이용 가능하다.
본 논문은 영어에서 프랑스어로 이어지는 전문 번역 맥락에서 기계 번역(MT)과 후편집(PE)의 품질을 평가하는 것을 목표로 한다. 세 가지 MT 시스템(DeepL, eTranslation, Systran)을 비교했으며, 언어학자/번역가와 NLP 전문가로 구성된 두 후편집자 그룹에 후편집을 수행하도록 요청했다. 번역 평가는 MT 및 PE 평가에 맞게 조정된 오류 유형론을 사용한 오류 주석에 기반한다. 결과는 세 MT 시스템과 두 후편집자 그룹 사이에, 특히 용어 정확성과 유창성 측면에서 유의미한 차이가 있음을 보여준다. 본 연구는 전문 번역에서 도메인 지식의 중요성과 함께, 특수 목적 언어(LSP)에서 MT 시스템의 한계와 가변적인 성능을 강조한다.
영어-하우사어·폰베어 저자원 기계번역(MT)에서 GPT-4o Mini, Claude Sonnet 4, Gemini 2.5 Flash, Qwen2.5-7B 등 네 대규모 언어 모델(LLM)의 번역 품질을 BLEU·chrF++·COMET 등 자동 지표와 원어민 평가로 검증한 결과, 하우사어는 수용 가능한 품질인 반면 폰베어는 낮은 품질을 보였고 모델 순위와 지표-인간 상관관계도 언어마다 크게 달랐다. BERTScore는 두 언어 모두 임베딩(embedding) 붕괴로 품질 구분력이 제한되며, 안정적 시스템 순위를 위해 최소 2,500문장 규모의 다중 지표 평가와 신경망 지표 해석상의 주의가 필요함을 보여준다.
대규모 언어 모델(LLM)은 세밀한 번역 품질 평가(QE)에서 강한 잠재력을 보여 주었지만, 기존 MQM 기반 접근법은 일반적으로 모든 번역 샘플에 공통으로 적용되는 고정 루브릭 구성에 의존한다. 그러나 번역 사례는 오류 복잡성, 모호성, 필요한 평가 세분성에서 종종 크게 달라지므로, 정적 루브릭 할당은 span 수준 오류 탐지에 최적이 아니다. MQM 하위 유형 공간이 클수록 오류 커버리지는 향상되지만 거짓 양성도 더 많이 발생하고, 서로 다른 번역 사례는 서로 다른 루브릭 세분성을 선호한다는 것을 발견했으며, 이는 평가 공간을 각 사례에 대해 동적으로 할당해야 함을 시사한다. 이러한 관찰에 기반하여, 우리는 개별 번역 사례에 대해 MQM 평가 공간을 적응적으로 구성하는 사례 특화 동적 루브릭 프레임워크를 제안한다. 완전 자유 형식 루브릭 생성 방법과 달리, 우리 프레임워크는 사전 정의된 MQM 분류체계에 그라운딩을 유지하면서 사례에 따라 적합한 하위 유형 공간과 평가 세분성을 동적으로 선택한다. 여러 모델 규모에 걸친 WMT span 수준 QE 벤치마크 실험은 제안 프레임워크가 MCC를 일관되게 향상하고 정적 루브릭 설정에 비해 더 깨끗한 span 수준 오류 지역화를 생성함을 보여준다. 결과는 구조화된 MQM 루브릭과 사례 특화 적응형 할당을 결합하는 것이 세밀한 LLM 기반 번역 평가에 효과적인 전략임을 시사한다.