PyTorchKR Papers

최신 논문

총 5,206편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.23446v1cs.CL

소형 모델은 제공한 법률을 실제로 활용하는가? 방글라데시 법률 QA를 위한 컨텍스트 주입 미세조정

Do Small Models Use the Law You Give Them? Context-Injected Fine-Tuning for Legal QA in Bangladesh

소형 언어 모델은 관련 법 조항을 제공받아도 여전히 잘못된 답을 할 수 있다. 우리는 관련 법률이 포함된 예시에 대한 미세조정이 이후 검색된 법률의 활용을 개선하는지 검증한다. 방글라데시 법률 6개와 부칙 3개에서 2,165건의 이중언어 QA 레코드를 구축한 뒤, Qwen3.5 0.8B, 2B, 4B 규모에서 미세조정한다. 평가는 2022년 및 2023년 방글라데시 변호사협회 시험 문제를 벵골어 원문과 기계 번역 영어로 사용하며, 검색(retrieval), BM25, FAISS 없이 세 번의 시드 고정 실행에 대한 엄격한 일관성으로 채점한다. 0.8B에서는 미세조정으로 2022 영어 FAISS 점수가 100점 만점에 2점에서 34점으로 상승한다. 0.8B와 2B에서의 이득은 대응 검정(paired testing)을 통과하지만, 4B 모델에서는 관측 가능한 순이득이 없다. 벵골어 성능은 개선되는 반면 여러 영어 조건에서는 후퇴한다. 미세조정은 또한 벵골어로 요청했음에도 답변이 대부분 영어로 흐르는 비율을 44.0–53.2%에서 0.2–0.7%로 줄이며, 모든 규모에서 보정 p<.001이다. 따라서 검색 품질만이 병목은 아니다. 소형 이중언어 법률 모델은 제공된 법률을 어떻게 활용하는지, 그리고 요청된 언어로 답하는지 여부에서도 차이를 보인다. 데이터셋은 https://huggingface.co/datasets/momahadi/bangladesh-legal-qa-dataset 에서 공개된다.

arXiv:2607.22546v1cs.CL

GAND 설명: 성별 모호 자연 데이터 및 대조적 속성 분석 리소스

Explaining GAND: A Resource on Gender-Ambiguous Natural Data & Contrastive Attribution

기계 번역(MT) 시스템은 여전히 성별 편향 번역을 생성한다. 자기 표현이 매우 중요한 시대에, 기본 동작과 고정관념에 기반한 오역은 이러한 시스템 사용자에게 해를 끼칠 수 있다. 명확한 성별 단서가 없을 때 이러한 시스템이 성별을 어떻게 번역하는지 더 잘 이해하려면, 성별 모호 시나리오를 자연스럽게 반영하는 벤치마킹 리소스가 필요하다. 이를 위해 우리는 GAND를 제시한다. GAND는 영어 원문 문장으로 구성된 MT용 성별 모호 자연 데이터 벤치마킹 리소스로, 번역에서 문맥 단서가 성별에 미치는 영향을 분석하도록 특별히 설계되었다. 우리는 GAND를 활용하여 해석 가능성 분석을 수행한다: GAND의 부분집합을 두 개의 문법적 성별 언어로 번역하고, 이를 수작업으로 작성한 대조적 번역으로 확장한다. 이어진 특징 기여도(feature attribution) 분석을 통해, 대상 번역에서 모호한 지시 대상 엔티티의 성별 번역에 영향을 미치는 문맥 속 원문 단어를 밝혀낸다.

arXiv:2607.08362v4cs.CL

베트남 고원, 삼각주, 해안의 메아리: 참, 크메르, 따이-눙을 위한 다국어 코퍼스

Echoes Across Vietnam's Highlands, Delta, and Coast: A Multilingual Corpus for Cham, Khmer, and Tay-Nung

베트남 소수민족 언어인 Cham, Khmer, Tay-Nung을 위한 최초의 코퍼스 및 벤치마크 CKTN(44,367개 문서, 2,400만 서브워드 토큰)을 제시하며, 기존 다국어 인코더가 이 언어들을 심각하게 단편화함을 보인다. 문자 인식 어휘 확장과 보정된 대체 토큰 사전학습을 결합한 script-aware 적응 기법으로 단편화를 줄이고 분류 성능을 크게 향상시키면서, 어휘 중복 기반 검색이 표현 품질을 과대평가하는 한계를 드러낸다.

arXiv:2505.11421v2cs.CL

시퀀스-투-시퀀스 사전학습 언어 모델의 전이학습을 활용한 Bahnaric-베트남어 번역을 통한 문화적 가교 구축

Towards Cultural Bridge by Bahnaric-Vietnamese Translation Using Transfer Learning of Sequence-To-Sequence Pre-training Language Model

본 연구는 베트남 내 두 민족 집단 간 문화적 가교를 위해 Bahnaric-베트남어 번역을 달성하기 위한 여정을 탐구한다. 그러나 Bahnaric에서 베트남어로의 번역 역시 몇 가지 어려움에 부딪힌다. 가장 두드러진 과제는 어휘, 문법, 대화 패턴 및 이중언어 말뭉치를 포함한 원본 Bahnaric 원어 자원의 부족으로, 이는 학습을 위한 데이터 수집 과정을 저해한다. 이를 해결하기 위해 본 연구는 시퀀스-투-시퀀스 사전학습 언어 모델을 활용한 전이학습 접근법을 이용한다. 우선 사전학습된 베트남어 언어 모델을 활용하여 해당 언어의 특성을 포착한다. 특히 기계 번역 목적을 더 잘 수행하기 위해 BERT와 같은 인코더 전용(encoder-only)이나 GPT와 같은 디코더 전용(decoder-only)이 아닌 시퀀스-투-시퀀스 모델을 목표로 한다. 두 언어 간 상당한 유사성을 활용하여, 현재 제한된 베트남어-Bahnaric 이중언어 자원으로 모델을 추가 학습하여 언어 모델에서 기계 번역으로의 전이학습을 수행한다. 이러한 접근법은 두 언어 간 자원 불균형 문제를 해결하는 데 도움이 될 뿐만 아니라 학습 및 계산 과정도 최적화할 수 있다. 또한 데이터 증강을 통해 데이터셋을 보강하여 추가 자원을 생성하고, 번역의 정확도를 높이기 위한 몇 가지 휴리스틱(heuristic) 방법을 정의하였다. 본 접근법은 Bahnaric-베트남어 번역 모델에 매우 효과적임이 검증되었으며, 언어의 확장과 보존에 기여하고 두 민족 간 상호 이해를 촉진한다.

arXiv:2607.22300v1cs.CL

교차언어 전이와 LoRA 어댑터 병합을 통한 저자원 아랍 문자 언어의 생의학 기계 번역

Biomedical Machine Translation for Low-Resource Arabic-Script Languages via Cross-Lingual Transfer and LoRA Adapter Merging

우리는 아랍 문자 언어에 대한 생의학 NMT(신경망 기계 번역) 자원 부족 문제를 해결하기 위해 의료 도메인 교차언어 전이에 대한 체계적 연구를 제시한다. 아랍어와 페르시아어를 고자원 피벗(pivot)으로 사용하여 \textbf{극히 저자원인} 네 가지 목표 언어—다리(Dari, 아프ghan Persian, 페르시아어의 표준화 변종), 파슈토어(Pashto), 소라니 쿠르드어(Sorani Kurdish, 중부 쿠르드어, 쿠르드어의 주요 표준화 변종), 우르두어(Urdu, 힌디어와 밀접하게 관련됨)—의 번역을 개선한다. 소형 디코더 전용 LLM에 LoRA 미세조정을 적용하여 \textit{도메인 특화 피벗 어댑터}를 학습하고 \textbf{세 가지 전이 전략}—퓨샷(few-shot) 문맥 내 학습(ICL), 최소 감독 적응(supervised adaptation), 그리고 우리가 아는 한 본 설정에서 최초로, 데이터 없는(zero-data) LoRA 어댑터 병합—을 평가한다. 단 500문장으로 수행한 감독 적응은 다리어에서 피벗 언어 수준에 근접한 품질(CHrF++ 41.01)을 달성하고 우르두어에서도 의미 있는 향상(28.88)을 보이며, 어댑터 병합은 추가 비용 없이 다리어에서 감독 적응 대비 CHrF++ 3.5 이내의 성능에 도달한다. 파슈토어와 소라니 쿠르드어는 고위험 임상 배포에는 여전히 불충분하며, 피벗과의 구조적 거리가 너무 클 때 교차언어 전이의 한계를 드러낸다. LoRA 어댑터 병합은 목표 언어의 생의학 데이터가 없더라도 밀접하게 관련된 언어에서 놀랍도록 잘 작동한다.

arXiv:2607.22100v1cs.CL

MEUSLI: LLM 기반 ASR 및 그 이상을 위한 다국어 프로젝터

MEUSLI: a Multilingual Projector for LLM-based ASR and Beyond

경량 프로젝터는 사전학습된 음성 인코더와 대규모 언어 모델(LLM)을 연결하는 확립된 방법으로, ASR 및 음성 질의응답과 같은 작업을 위해 음향 특징을 토큰 수준 임베딩으로 매핑한다. 그러나 기존 시스템은 일반적으로 소수의 언어만 지원하며 종종 영어에 한정된다. 우리는 Whisper 인코더와 오픈소스 다국어 LLM을 연결하여 28개 유럽 언어에서 완전한 오픈소스 end-to-end ASR을 가능하게 하는 최초의 오픈 사이언스 다국어 프로젝터 계열인 MEUSLI를 제안한다. MEUSLI는 기존 단일언어 파이프라인을 확장하여, 고자원 및 저자원 언어 모두에서 우수한 결과를 제공한다. 적절한 지속 학습(continual learning) 기법을 사용하면, MEUSLI는 학습에서 보지 못한 다른 언어로도 쉽게 확장할 수 있다. 또한 MEUSLI 프로젝터가 ASR을 넘어 활용될 수 있음을 보였으며, 언어당 단 몇 시간의 과제별 지도 학습만으로 다국어 음성 번역 및 주제 식별을 가능하게 한다. 전반적으로 MEUSLI는 확장 가능하고 포용적인 오픈소스 SpeechLLM을 지원하며, 다국어 음성 이해 작업을 위한 견고한 기반을 제공한다.

arXiv:2607.21016v1cs.CL

CultureTalk-ID: 인도네시아 지역 언어 문화적 상식을 위한 다중 과제 대화 벤치마크

CultureTalk-ID: A Multi-Task Dialogue Benchmark for Cultural Commonsense in Indonesian Local Languages

문화는 대화를 통해 살아 숨 쉬지만, 기존 인도네시아 문화적 상식 벤치마크는 대규모 언어 모델(LLM)을 짧고 고립된 프롬프트로 평가하여, 문화적 뉘앙스가 실제로 드러나는 대화적 맥락을 제거한다. 우리는 CultureTalk-ID를 제안한다. 이는 인도네시아어 및 그 지역 언어에서 문화적 상식을 평가하기 위한 최초의 대화 기반 벤치마크로, 11개 언어와 13개의 문화적으로 중요한 주제에 걸친 4,496개의 문화적으로 정합된 대화로 구성되며, 진정성을 보장하기 위해 원어민 화자가 참여한 다단계 인간 파이프라인을 통해 구축되었다. CultureTalk-ID는 세 가지 상호 보완적인 과제, 즉 대화 기반 다지선다 문화적 상식 추론, 문화적으로 충실한 기계 번역, 그리고 언어 스티어링(language steering)을 도입하며, 이들은 LLM이 문화적으로 정합된 언어를 이해하고, 전달하고, 생성할 수 있는지를 함께 탐색한다.

arXiv:2607.09424v3cs.CL

독일어 및 영어를 위한 주권적 오픈소스 파운데이션 모델

A Sovereign, Open-Source Foundation Model for German and English

본 논문에서는 독일어와 영어를 위한 주권적 오픈소스 전문가 혼합(MoE) 하이브리드 Mamba 트랜스포머 파운데이션 모델인 Soofi S 30B-A3B를 소개한다. 이 하이브리드 설계는 토큰당 30B 파라미터 중 3B만 활성화하며, 컨텍스트가 증가해도 추론 캐시를 거의 일정하게 유지함으로써, 장문 컨텍스트 및 고동시성 배포 환경에서 밀집 모델 대비 결정적인 처리량 우위를 제공한다. 약 27조 토큰으로 사전학습하되 독일어 비중을 의도적으로 높인 Soofi S는, 영어 및 독일어 집계 벤치마크에서 밀집 14B~27B 모델과 대등한 성능을 보이며, 17개 오픈 베이스 모델 중 양 언어 코드 집계 점수에서 최고를 달성하고, 활성 파라미터 수가 훨씬 큰 모델을 포함한 비교 대상의 모든 유럽 주권 기준선을 능가한다. 완전 공개 모델 중에서는 Olmo 3 32B 및 Apertus 70B를 앞서며 영어 및 독일어 평가 점수 모두 최고를 기록한다. Soofi S는 뮌헨 소재 Deutsche Telekom이 운영하는 주권적 HPC 규모 AI 인프라인 German Industrial AI Cloud에서 처음부터 끝까지 구축되었다. Soofi S는 가중치, 선별된 중간 체크포인트, 전체 소스별 데이터 집계, 하이퍼파라미터, 학습 및 평가 코드를 포함하여 매우 허용적인 오픈 액세스 조건으로 공개될 예정이다. 소스 라이선스가 허용하는 경우 데이터 구성 산출물은 허용적 라이선스 하에 배포되며, 상업적 라이선스 소스는 집계 통계 및 정확한 혼합 비율과 함께 문서화된다.

arXiv:2605.22660v2cs.CL

기계 번역을 거쳐도 도덕적 의미는 보존된다: 도덕 기반 코퍼스의 다국어 증거

Moral Semantics Survive Machine Translation: Cross-Lingual Evidence from Moral Foundations Corpora

도덕적 언어는 미묘하고 문화적으로 가변적이어서 언어 간에 충실하게 번역하기 어렵다. 관용 표현, 속어, 문화적 어투는 피하기 어려운 번역 아티팩트를 유발한다. 그럼에도 자동화된 도덕 분류는 거의 전적으로 영어로만 존재하는 언어별 주석 코퍼스에 의존한다. 우리는 대규모 언어 모델(LLM) 기반 번역이 이 격차를 메울 수 있는지를 폴란드어를 테스트 사례로 삼아 조사한다. 다양한 주제의 도덕적으로 주석 처리된 소셜 미디어 게시물 약 5만 건($\sim$50k)을 사용하여, 원칙에 기반한 4가지 방법 검증 파이프라인을 적용한다: LaBSE 다국어 임베딩 유사도, Centred Kernel Alignment(CKA), LLM-as-judge 평가, 심층 학습 분류기 동등성 테스트. 속어, 비속어, 문화적 함의가 담긴 표현 처리의 한계에도 불구하고, 직접 번역이 미묘한 도덕적 단서를 다국어 머신러닝으로 충분히 추출할 수 있을 만큼 잘 보존함을 보인다 — 기반(foundation) 전반에 걸친 평균 코사인 유사도 0.89, 분류 정확도 격차 0.01–0.02 AUROC. 이러한 결과는 기계 번역이 현재 이 영역에서 자원이 부족한 언어에서의 도덕적 가치 연구를 위한 실용적이고 비용 효율적인 경로임을 보여준다. 우리는 이를 대표적인 슬라브어인 폴란드어에 대해 입증하며, 관련 언어로의 일반화가 기대됨을 밝힌다.

arXiv:2512.07540v4cs.CL

참조 없는 자동 기계 번역 평가에서 오류 구간 탐지를 위한 최소 베이즈 위험(MBR) 디코딩

Minimum Bayes Risk Decoding for Error Span Detection in Reference-Free Automatic Machine Translation Evaluation

오류 구간 탐지(ESD)는 번역 오류를 위치 특정하고 심각도를 라벨링함으로써 자동 기계 번역(MT) 평가를 확장한다. 현재 생성형 ESD 방법은 일반적으로 최대 사후 확률(MAP) 디코딩을 사용하며, 모델이 추정한 확률이 인간 주석과의 유사도와 완벽하게 상관관계가 있다고 가정하지만, 우리는 종종 인간 주석보다 잘못된 주석에 더 높은 가능도가 부여되는 것을 관찰한다. 대신 우리는 생성형 ESD에 최소 베이즈 위험(MBR) 디코딩을 적용한다. MBR 디코딩을 위해 문장 수준 또는 구간 수준 유사도 함수를 사용하며, 이는 후보 가설을 인간 주석과의 근사적 유사도에 기반하여 선택한다. WMT24 Metrics Shared Task에서의 실험 결과는 MBR 디코딩이 구간 수준 성능을 크게 향상시키며, 일반적으로 시스템 및 문장 수준에서 MAP와 동등하거나 더 우수한 성능을 보임을 나타낸다. MBR 디코딩의 계산 비용을 줄이기 위해, 우리는 추가로 그 결정을 탐욕 검색(greedy search)으로 디코딩되는 모델로 지식 증류하여 추론 시 지연(latency) 병목을 제거한다.

arXiv:2509.22047v3cs.LG

MO-GRPO: 다목적 문제에서 GRPO의 보상 해킹 완화

MO-GRPO: Mitigating Reward Hacking of Group Relative Policy Optimization on Multi-Objective Problems

그룹 상대 정책 최적화(GRPO)는 정확한 보상 모델이 사용 가능할 때 효과적인 알고리즘으로 알려져 있다. 그러나 이러한 높은 신뢰성의 보상 모델은 많은 실제 과제에서 사용할 수 없다. 본 논문에서는 특히 다목적 설정에 초점을 맞추며, GRPO가 보상 해킹(reward hacking)에 취약하여 다른 목표를 희생하면서 목표 중 하나만 최적화한다는 점을 확인한다. 이 문제를 해결하기 위해, 우리는 GRPO의 확장인 MO-GRPO를 제안한다. MO-GRPO는 보상 함수 값들의 분산에 따라 보상 함수를 자동으로 재가중하는 간단한 정규화 방법을 포함한다. 먼저 MO-GRPO가 선호 순서를 유지하면서 모든 보상 함수가 손실 함수에 균등하게 기여하도록 보장하며, 보상 함수 스케일의 수동 튜닝 필요성을 제거함을 분석적으로 보인다. 그다음 MO-GRPO를 네 가지 영역에서 실험적으로 평가한다: (i) 다중 팔 밴딧(multi-armed bandits) 문제, (ii) 시뮬레이션 제어 과제(Mo-Gymnasium), (iii) WMT 벤치마크(En-Ja, En-Zh)에서의 기계 번역 과제, (iv) 인스트럭션 따르기(instruction following) 과제. MO-GRPO는 보상 구성 요소들 간의 상관관계를 균등하게 분배하여 안정적인 학습을 달성하며 GRPO를 능가하여, MO-GRPO가 다목적 강화학습 문제에 유망한 알고리즘임을 보여준다.

arXiv:2508.05502v2cs.CV

MELLA: Bridging Linguistic Capability and Cultural Groundedness for Low-Resource Language MLLMs

Multimodal Large Language Models (MLLMs) perform strongly in high-resource languages, yet often produce fluent but culturally "thin" descriptions in low-resource settings. We argue that this failure is not merely a linguistic limitation: culture-specific visual knowledge depends on native visual-textual alignments that translation-centric pipelines rarely provide. We present MELLA, a multimodal dataset across eight low-resource languages, designed to support linguistic fluency and cultural groundedness. MELLA uses a dual-source strategy that combines native web image-alt-text pairs for culture-grounded supervision with generated-and-translated image descriptions for linguistically rich supervision, explicitly separating two learning signals often conflated in multilingual multimodal data. Through controlled diagnostic fine-tuning on multiple MLLM backbones, we show that MELLA mitigates cultural hallucination by helping models recognize and articulate culturally specific entities overlooked by translation-based adaptation. Our findings highlight data alignment, rather than model modification alone, as a path toward culturally grounded multimodal understanding in low-resource languages. The dataset is available at https://opendatalab.com/applyMultilingualCorpus.

arXiv:2607.09957v2cs.CL

온디바이스 실시간 자막 번역을 위한 워크로드 기반 최적화

Workload-Driven Optimization for On-Device Real-Time Subtitle Translation

본 보고서는 짧은 입력, 짧은 출력, 배치 크기 1 추론, 낮은 지연 시간, 프라이버시 제약 조건 하에서 대만을 위한 온디바이스 영어-번체 중국어 자막 번역을 연구한다. 이러한 조건은 긴 컨텍스트 또는 높은 처리량의 모델 서빙용으로 설계된 최적화의 가치를 제한한다. LMT-60-0.6B를 시작점으로, 예비 프로파일링에 따르면 GGUF 양자화가 트랜스포머 블록의 상대적 비용을 줄인 후 어휘 투영(vocabulary projection)이 디코드 시점 비용에서 더 중요한 요소가 되는 것으로 나타난다. 원본 151k 토큰 어휘를 64k 토큰 자막 도메인 토크나이저로 교체하고, 임베딩 공간을 이전하며, 임베딩 보정(embedding calibration) 후 전체 지도 미세조정을 통해 모델을 적응시킨다. OpenSubtitles2024 테스트 세트에서 LocalSubs는 GPT-4o의 쌍별 판정(pairwise judging) 하에 Google Translate 대비 동률 제외 승률 59.2%를 달성한다. 성능은 짧은 큐(cue)에서 가장 강하고, 큐 길이가 증가함에 따라 하락한다. 별도의 예비 Apple M2 Metal 프로파일링 실행에서 LocalSubs는 151k 어휘 기준선 대비 1.63배 속도 향상을 보인다. 코드는 https://github.com/aiden1020/localsubs 에서 이용 가능하다.

arXiv:2607.14040v1cs.CL

늙은 개도 새로운 기술을 배울 수 있을까? LLM을 문장 수준 번역 너머로

Can an Old Dog Be Taught New Tricks? Taking LLMs Beyond Sentence Level Translation

CAT 도구부터 MT(기계번역)에 이르는 자동 번역 시스템은 대부분 번역을 문장 단위 작업으로 취급한다. 본 논문은 전체 문서, 말뭉치 기반 번역을 통해 LLM을 그 패러다임 너머로 이동시킬 수 있는지 묻는다. 우리는 PAT(Pragmatic Auto-Translator)를 제시한다. 이는 검색-증강 생성(RAG) 기반 시스템으로, 사용자가 구성한 사양을 미국 영어와 라틴아메리카 스페인어로 된 실제 장문 텍스트의 비교 말뭉치에서 얻은 문맥과 결합하고, 검색된 단락·절·문서 수준 예시를 LLM에 전달하여 전체 문서를 생성한다. 목표는 전문가 검증을 위한 초안 번역이다. 담화 구성, 수사적 문체, 화용적 규범이 영어와 의미 있게 다른 스페인어권 맥락에 맞게 목표 텍스트를 재구성하는 것이다. 생성 AI에 관한 에세이의 자동 번역 6건을 세 프로젝트에 걸쳐 맞춤 MQM 분류체계를 사용하여 평가했으며, 미국 영어에서 LATAM 및 멕시코 스페인어로 번역하는 두 명의 훈련된 평가자가 평가했다. 결과는 제한된 프롬프트가 의미 있는 재구성을 만들어내지 못했고, 사양 및 말뭉치 기반 번역은 때로 상당한 재구성을 보였으나 항상 효과적인 것은 아니었음을 보여준다. LLM을 재구성 쪽으로, 문장 단위 패러다임에서 벗어나게 이동시킬 수 있으나, 그 재구성의 효과를 높이기 위해 더 많은 연구가 필요함을 확인한다. 본 논문에서는 자동 번역 시스템 설계, 말뭉치 구축, 번역 품질 평가 방법론 및 결과와 관련된 고려 사항을 논의한다.

arXiv:2607.13158v1cs.CL

동시 음성 번역에서 LLM에 아키텍처 변경이 필요한가? Prefix-to-Prefix 데이터 기반 접근법

Do LLMs Need Architectural Changes for Simultaneous Speech Translation? A Prefix-to-Prefix Data Driven Approach

동시 음성 번역(SimulST)은 엄격한 지연 시간 제약 하에서 점진적 번역을 요구하지만, 제한된 문맥과 언어 간 재배열로 인해 디코더 전용 LLM 시스템에게 여전히 어려운 과제로 남아 있다. 최근 접근법들은 출력 타이밍을 제어하기 위해 아키텍처 변경이나 명시적인 read/write 정책을 도입하는 경우가 많으며, 이는 분할 경계가 모호한 대화형 음성에서는 취약할 수 있다. 우리는 간단한 데이터 기반 대안을 제안한다: 되감기(rewind) 기반 확정 접두 문맥을 갖춘 누적 스트리밍 디코딩을 위한 고정 길이 청크, 그리고 미세조정을 위한 유한 대기(bounded waiting)가 적용된 교사 라벨 접두 문맥 대 접두 문맥(P2P) 타깃으로, 이를 통해 CSSEL-P2P를 만든다. CSSEL은 우리가 제안한 chunked streaming speech encoder LLM이다. 사내 대화형 음성 평가에서 CSSEL-P2P는 유사한 지연(+0.15s Average Lagging)에서 CSSEL 스트리밍 기준선 대비 스트리밍 품질을 COMETKiwi +1.54만큼 향상시켰으며, P2P supervision을 통한 아키텍처 변경 없이도 효과적인 SimulST가 가능함을 시사한다.

arXiv:2607.05623v3cs.CL

IWSLT 2026 인스트럭션 팔로잉 태스크를 위한 NAVER LABS 시스템 재구현

NAVER LABS System Re-implementation for the IWSLT 2026 Instruction-Following Task

NAVER LABS의 IWSLT 2025 인스트럭션 팔로잉 파이프라인을 IWSLT 2026 제한 조건에 맞게 재구현한 연구로, SeamlessM4T-v2-large 음성 인코더와 Qwen3-4B-Instruct LLM 백본을 적용하고 프로젝터 정렬, 텍스트 전용 LoRA 사전학습, 멀티모달 병합의 3단계 학습 방식을 유지했다. 10가지 음성 중심 태스크 유형에 걸쳐 10만 개의 합성 인스트럭션 팔로잉 데이터를 추가 구축하였으며, 최종 모델은 MCIF 벤치마크에서 EN-ZH 음성 번역 COMET 0.781, 영어 SQA BERTScore-F1 0.346을 달성했다.

arXiv:2604.27232v3cs.CL

최소 번역 쌍을 이용한 수화 모델의 표적 언어학적 분석

Targeted Linguistic Analysis of Sign Language Models with Minimal Translation Pairs

수화 모델은 역사적으로 구어(텍스트 및 음성) 모델에 비해 뒤처져 왔다. 최근 연구는 수화 번역 및 단독 수화 인식과 같은 과제에서 그 성능을 크게 향상시켰다. 그러나 기존 모델이 수화의 다양한 언어학적 현상을 어느 정도 포착하는지, 그리고 수화에서 사용되는 여러 발화 요소(손, 상체, 얼굴)의 단서를 얼마나 잘 활용하는지는 여전히 불분명하다. 우리는 미국 수화(ASL)를 위한 새로운 벤치마크 데이터셋인 ASL Minimal Translation Pairs(ASL-MTP)를 제안한다. 이 데이터셋은 수화 언어학적 현상의 여러 유형과 이에 대응하는 최소 번역 쌍으로 나누어 이러한 언어학적 분석을 수행할 수 있도록 구성되어 있다. 사례 연구로 ASL-MTP를 사용하여 최신 ASL-영어 번역 모델을 분석한다. 학습 및 추론 중 다양한 입력 단서를 제거(ablation)하고 ASL-MTP의 현상에 대해 평가함으로써 모델에 대한 표적 분석을 수행한다. 결과는 대부분의 현상에서 모델이 우연 수준 이상의 성능을 보이지만, 수동적(manual) 단서에 강하게 의존하는 반면 중요한 비수동적(non-manual) 단서를 자주 놓친다는 것을 보여준다.

arXiv:2607.11736v1cs.CL

MET: 이론 기반의 문화 인식 다국어 도덕적 추론

MET: Theory-Grounded and Culture-Aware Multilingual Moral Reasoning

언어 모델은 다양한 언어 및 문화적 맥락에서 도덕적 의사결정에 점점 더 많이 활용되고 있으나, 기존 연구는 다국어성의 세 가지 측면을 간과하고 있다: 1) 다국어 평가 벤치마크는 직접 번역 방식을 사용하여 문화 특수적 항목을 적절히 반영하지 못하며; 2) 도덕적 추론을 위한 추론 시점 방법들은 정적이고 영어 중심적인 스캐폴드에 의존하고 도덕 이론에 대한 그라운딩이 부족하며; 3) 도덕적 의사결정을 위한 학습 방법들은 일반적으로 더 강력한 모델이나 인간 주석자의 비용이 많이 드는 감독을 필요로 한다. 우리는 세 가지 기여를 통해 이러한 격차를 해소한다. 첫째, 언어 전반에 걸쳐 문화적으로 상황화된 도덕적 직관과 사회적 규범을 포착하는 다국어 도덕적 의사결정 벤치마크인 MCLASH를 소개한다. 둘째, 심리학 및 철학에서 도출된 전문가 큐레이션 이론 기반 근거를 토대로 구축된 두 단계 프롬프팅 방법인 MET(Multilingual Ethics with Theory-grounded reasoning)를 제안한다: 모델은 먼저 상황 및 문화 특수적 근거를 선택한 후, 사용자의 모국어로 이를 바탕으로 추론을 수행한다. 셋째, 외부 감독 없이도 자기 지식 증류 학습 단계를 통해 두 번째 단계를 강화하는 MET-D(MET-Distillation)를 소개한다. MET-D는 다양한 크기와 계열의 세 가지 모델(Qwen3-4B, Qwen3-8B, Gemma3-4B) 모두에서 기반 모델 대비 매크로-F1을 향상시키며, MCLASH에서 평균 3.71포인트, MMoralExceptQA에서 4.23포인트를 개선하고, Qwen3-8B의 말레이어에서 최대 12.94포인트의 MCLASH 향상을 달성했다. 또한 MET-D가 모국어 추론을 평균 62.13포인트 증가시키며, 문화에 따라 유익한 근거가 체계적으로 다름을 밝혔다. 이러한 기여들은 문화 정렬적이고 이론 기반의 다국어 도덕적 추론을 위한 경로를 열어준다.

arXiv:2607.11434v1cs.CL

멀티모달 인간 피드백 강화학습 선호도 정렬을 통한 한놈 필사본의 이미지-현대 베트남어 직접 번역

Direct Image-to-Modern Vietnamese Translation of Han-Nom Manuscripts via Multimodal RLHF Preference Alignment

한놈(Han-Nom) 필사본을 현대 베트남어로 번역하는 것은 역사적 페이지가 훼손된 경우가 많고, 문자에 희귀한 표의문자가 포함되어 있으며, 병렬 지도 데이터가 부족하기 때문에 어렵다. 우리는 필사본 이미지와 정렬된 한놈 원문을 조건으로 베트남어를 생성하는 멀티모달 인간 피드백 강화학습(RLHF) 선호도 정렬 프레임워크를 제안한다. 이 모델은 시각적 특징 추출을 위한 CLIP ViT-L/14@336, 한놈 표현을 위한 bert-base-chinese, 베트남어 표현을 위한 vinai/phobert-base, 그리고 T5-small 인코더 상태의 네 가지 스트림을 결합한다. 모달리티별 프로젝션과 융합 블록이 결과로 생성된 2,048차원 연결을 공유 512차원 표현으로 압축한다. 동일한 지도 파인튜닝(SFT) 정책에서 출발하여, 단어 수준 매크로 평균 평가 하에서 PPO, DPO, KTO를 비교한다. DPO는 BLEU-4, ROUGE-L, BERTScore, 의미적 유사도, CER, WER, 토큰(token) 정확도에서 최고 성능을 달성하는 반면, PPO는 정밀도(precision), 재현율(recall), F1에서 가장 높은 수치를 보인다. KTO는 바람직함-바람직하지 않음 유틸리티 목적함수를 통해 경쟁력을 유지한다. 모든 선호도 정렬 정책은 SFT 기준선(baseline) 대비 BLEU-4와 의미적 유사도 점수를 향상시킨다. 이러한 결과는 멀티모달 선호도 최적화가 저자원 역사 번역에서 어휘적·의미적 품질을 개선함으로써 지도학습을 보완함을 나타낸다.

arXiv:2607.11215v1cs.CL

Q-BridgeNet: 교차 언어 수어 번역을 위한 양자화 네트워크

Q-BridgeNet: A Quantization Network for Cross-Lingual Sign Language Translation

대부분의 수어 번역(SLT) 방법은 고립된 단일 언어 수어-음성 언어 쌍(예: 미국 수어 - 영어)에 초점을 맞추고 있다. 언어별 SLT 모델을 다국어 번역으로 확장하면 다양한 수어 및 음성 언어 커뮤니티 간의 의사소통이 가능해져 접근성이 향상될 수 있다. 그러나 기존의 다국어 SLT 접근법은 교차 언어 충돌을 최소화하면서 공유된 교차 언어 의미론을 포착하고 서로 다른 수어에 걸친 언어별 변이를 보존하는 통합 모델을 학습하는 데 여전히 어려움을 겪고 있다. 이에 우리는 수어 측과 음성 언어 측 모두에서 교차 언어 충돌을 공동으로 완화하는 다국어 SLT 통합 프레임워크인 Q-BridgeNet을 제안한다. 수어 측에서는 Q-BridgeNet이 적응적 분할(adaptive segmentation)과 잔차 벡터 양자화(residual vector quantization)를 통해 이산 Q-단위(Q-units)를 학습한다. 공유 기반 코드북(codebook)은 언어 독립적 의미 기본 단위를 제공하고, 언어별 잔차 코드북은 이질적인 수어 의미론을 정제한다. 음성 언어 측에서는 다국어 대규모 언어 모델(LLM)을 Q-단위 공간에서 동작하도록 파인튜닝하여 교차 언어 사전 지식을 활용함으로써 통합 SLT 모델을 구현한다. PHOENIX14T, How2Sign, CSL-Daily에 대한 실험에서 Q-BridgeNet은 교차 언어 충돌을 효과적으로 완화하여 기본 수어-음성 언어 쌍에서 최첨단 성능을 달성하는 동시에 비기본 쌍에 대해서도 강력한 일반화 성능을 보인다. 소스 코드는 https://github.com/FengLiQ/Q-BridgeNet 에서 공개적으로 이용 가능하다.