arXiv:2607.05224v1 cs.CL

점진적 정제: 만다린-영어 코드 스위칭 ASR을 위한 반복적 의사 레이블링 접근법

Progressive Refinement: An Iterative Pseudo-Labeling Approach for Mandarin-English Code-Switching ASR

Qu Yang, Cakra Wardhana, Tim Ng

제출 2026-07-06

한국어 초록

코드 스위칭(CS)은 동일한 발화 내에서 언어를 교체하는 현상으로, CS 학습 데이터의 부족으로 인해 자동 음성 인식(ASR)에 심각한 어려움을 초래한다. 본 논문은 CS-ASR에 반복적 의사 레이블링(pseudo-labeling) 학습 접근법을 최초로 적용하여, 레이블이 없는 데이터를 활용해 CS-ASR 성능을 향상시키는 데 있어 그 효과성을 입증한다. 이 접근법은 세 단계로 구성된다: 의사 레이블 생성, 2단계 이중 언어 모델 학습, 그리고 반복적 개선. 먼저 대규모 비레이블 코퍼스에서 의사 레이블을 생성하여 준지도(semi-supervised) 데이터셋을 구축한다. 이 데이터셋은 모델을 사전학습한 후 지도 CS 데이터로 파인튜닝하는 2단계 학습 프레임워크를 지원한다. 반복적 정제를 통해 복잡한 CS 시나리오 처리에 있어 모델의 정확도를 더욱 향상시킨다. 본 접근법은 CS-ASR 시스템을 크게 발전시켜, SEAME의 devman(6.35%) 및 devsge(8.29%) 서브셋에서 혼합 오류율(MER)의 현저한 감소를 달성하였다.

원문 초록

Code-switching (CS), alternating languages within the same utterance, poses significant challenges for automatic speech recognition (ASR) due to limited CS training data. This paper applies an iterative pseudo-labeling training approach to CS-ASR for the first time, demonstrating its effectiveness in leveraging unlabeled data to improve CS-ASR performance. The approach comprises three phases: pseudo-label generation, two-stage bilingual model training, and iterative improvements. It begins by generating pseudo-labels from a large unlabeled corpus, creating a semi-supervised dataset. This dataset supports a two-stage training framework where the model is pre-trained and then fine-tuned on supervised CS data. Iterative refinements further enhance the model's accuracy in handling complex CS scenarios. Our approach significantly advances CS-ASR systems, achieving notable Mix Error Rate (MER) reductions on SEAME's devman (6.35%) and devsge (8.29%) subsets.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2607.05224v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.02757v1cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr, code-switching

데이터 효율적인 코드 스위칭 ASR을 위한 강화학습

Reinforcement Learning for Data-Efficient Code-Switched ASR

오디오-언어 모델은 코드 스위칭 음성에 대해 프롬프트될 수 있지만, 디코딩이 코드 스위칭에 최적화되어 있지 않아 언어 경계에서 자주 실패한다. 우리는 그룹 상대 정책 최적화(group relative policy optimization)를 활용하여, 오류율 보상과 잘못된 문자 체계를 패널티하는 스크립트 충실도 보상(script fidelity reward), 그리고 2단계 초안-정제(draft-and-refinement) 절차를 결합한, 코드 스위칭 ASR에 대한 오디오-언어 모델의 데이터 효율적 적응을 위한 실용적인 검증 가능한 보상 강화학습(RLVR) 레시피를 제안한다. 10개 언어 쌍에 걸쳐 재현 가능한 테스트베드로 Qwen2-Audio를 사용하고 TTS 코드 스위칭 음성만으로 학습하였을 때, 데이터의 10%만 사용한 RLVR이 전체 데이터셋으로 학습한 LoRA 지도 미세조정과 동등한 성능을 달성하며, 유형론적으로 거리가 먼 언어 쌍에서 가장 큰 성능 향상이 나타남을 보인다. 오류율 보상은 번역 오류를 제거하고, 스크립트 충실도 보상은 성능 저하 없이 별도로 스크립트 오염을 줄인다. 이러한 성능 향상은 인간이 녹음한 코드 스위칭 코퍼스에 제로샷으로 전이된다.

arXiv:2606.17281v1cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr, code-switching

내 언어들을 쓰고 있나? 멀티모달 LLM의 음성 언어 준수

Are you speaking my languages? On spoken language adherence in multimodal LLMs

대규모 언어 모델(LLM) 기반 자동 음성 인식(ASR)은 매끄러운 다국어 사용을 가능하게 하지만, 모델은 종종 출력 언어를 잘못 식별하여 전사 정확도와 하위 애플리케이션 품질을 저하시킨다. 유연성과 코드 스위칭(code-switching) 능력을 유지하기 위해, 출력을 엄격하게 제한하지 않으면서 잠재적 음성 언어를 암시하는 소프트 프롬프트(soft prompting) 방식을 제안한다. 이 과제를 언어 준수(language adherence) 부족으로 형식적으로 정의하고, 위반을 정량화하는 새로운 지표를 도입하며, 세 가지 완화 전략을 평가한다: (1) 불확실성 하에서 강건한 안내를 위한 제로샷(zero-shot) 프롬프트, (2) 프롬프트 준수를 개선하기 위한 지도 미세조정(SFT), (3) 디코딩 중 준수를 강제하기 위한 사고의 연쇄(Chain-of-Thought, CoT) 추론. 여러 언어에 걸쳐 이러한 방법들의 비교 분석을 제시하고, 전체 ASR 성능을 유지하면서 언어 위반을 줄이는 효과를 평가한다. 마지막으로, 다양한 연산 제약 하에서 전략 선택을 안내하기 위한 트레이드오프를 논의한다.

arXiv:2606.30237v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

네덜란드어 구음장애 연속 발화에 대한 인간과 자동 인식 비교: 사례 연구

Comparing Human and Automatic Recognition of Dutch Dysarthric Continuous Speech: A Case Study

개인화된 구음장애 음성 인식(DSR) 모델 개발을 목표로, 본 연구에서는 중증 구음장애를 가진 단일 화자의 네덜란드어 연속 낭독 발화 및 자발화에 대해 인간 청취자와 세 가지 최신 범용 자동 음성 인식(ASR) 시스템(Whisper-large-V3, Google Chirp 3, Omnilingual)의 인식 성능을 비교하였다. 결과에 따르면 인간 청취자와 세 가지 범용 ASR 시스템 모두 평균 단어 오류율(WER)이 70%를 초과하여, DSR이 인간과 ASR 시스템 모두에게 매우 어려운 과제임을 보여준다. 구음장애 발화에 대한 미세조정은 WER을 크게 감소시켰다. 전체 WER이 여전히 상당히 높지만(>23%), 개인화된 DSR 모델은 인간 청취자를 능가하였으며, 구음장애 화자의 일상 의사소통 지원에 활용 가능한 수준에 점차 가까워지고 있다. 향후 연구는 자발화에서의 개인화 DSR 성능 향상과 낭독 발화에서의 긴 발화 처리에 집중해야 하며, 특정 음소에 대한 심층적인 분석이 필요하다.

arXiv:2607.09598v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

토크나이저 이식: 엣지 효율적 벵골어 ASR에서의 자기회귀 붕괴 완화

Tokenizer Transplantation: Mitigating Autoregressive Collapse in Edge-Efficient Bengali ASR

경량 음성 인식 모델은 엣지 배포에 필수적이지만, Moonshine과 같이 고도로 최적화된 아키텍처는 벵골어와 같이 형태론적으로 풍부한 비라틴 언어에서 종종 실패한다. 본 연구는 이 실패의 근본 원인을 모델의 영어 중심 바이트 수준 토크나이저로 규명한다. 해당 토크나이저는 벵골어 단어를 고분기율(high-fertility) 바이트 체인으로 분절하여 추론 중 치명적인 자기회귀 붕괴(autoregressive collapse)를 유발한다. 이를 해결하기 위해, 디코더 어휘를 네이티브 스크립트 BanglaBERT WordPiece 어휘로 교체하고 대응하는 토큰 임베딩 행렬의 크기를 재조정하는 새로운 어휘 이식(vocabulary transplantation) 파이프라인을 제안한다. 실험 결과, 토큰 분기율이 9.16에서 1.30으로 감소하였다. 자기회귀 시퀀스 길이를 85.8% 단축함으로써 디코딩 불안정성이 완전히 해소되었다. 882시간 규모의 Lipi-Ghor 데이터셋으로 평가한 결과, 수정된 아키텍처는 경쟁력 있는 21.54%의 단어 오류율(WER)과 0.0053의 실시간 인수(RTF)를 달성하였다. 궁극적으로 본 연구는 자원 집약적인 사전학습 없이 경량 ASR 모델의 교차 스크립트 적응을 위한 확장 가능하고 재현 가능한 청사진을 제공한다.

arXiv:2607.08208v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

다국어 두 화자 대화 음성을 위한 화자 분리 기반 Qwen-ASR 적응

Diarization-Guided Qwen-ASR Adaptation for Multilingual Two-Speaker Conversational Speech

본 논문은 다국어 두 화자 대화 음성을 대상으로 하는 MLC-SLM 2026 챌린지 Task 1을 위해 자체 설계한 시스템을 기술한다. 이 시스템은 모듈형 화자 분리(speaker diarization) 프론트엔드와 챌린지에 맞게 적응된 Qwen3-ASR-1.7B 인식기를 결합한다. 화자 분리 프론트엔드는 음성 활동 감지(voice activity detection), 서브세그먼트 생성, CAMPPlus 화자 임베딩 추출, 두 화자 스펙트럴 클러스터링(spectral clustering), RTTM 기반 오디오 분할을 수행한다. 이렇게 생성된 화자 귀속 세그먼트는 언어 또는 지역별로 그룹화되어 적응된 ASR 모델로 디코딩된다. ASR 적응을 위해 먼저 공식 학습 데이터로 지도 완전 미세조정(supervised full fine-tuning)을 수행한 뒤, 3단계 파이프라인 TTS 기반 합성 음성 증강 프레임워크로 생성한 합성 음성으로 LoRA 미세조정을 적용하고, 마지막으로 WER/CER 기반 보상과 환각(hallucination), 반복, 길이 편차에 대한 패널티를 사용하는 GRPO 강화학습으로 모델을 정제한다. 공식 개발 세트에서 전체 시스템은 평균 tcpMER 23.70을 달성하여, 공개된 Qwen-ASR-1.7B 대비 오류율을 절대값 6.83포인트 감소시켰다. 최종 평가 세트에서는 평균 tcpMER 17.97을 달성하였다. 에이블레이션 결과에 따르면 지도 미세조정이 가장 큰 성능 향상을 제공하며, 합성 음성 LoRA 적응과 강화학습이 추가적으로 견고성을 개선하는 것으로 나타났다.

arXiv:2607.05364v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

REDDIT: 리플레이 기반 분포 편집을 통한 ASR 모델 생성 타임스탬프 드리프트의 망각 없는 교정

REDDIT: Correcting Model-Generated Timestamp Drift in ASR without Forgetting via Replay-Based Distribution Editing

현대의 자기회귀(autoregressive) 자동 음성 인식(ASR) 시스템은 디코딩된 토큰으로 타임스탬프를 출력할 수 있으며, 이를 통해 프레임 수준 정렬기나 추론 시 후처리 없이도 타임스탬프가 포함된 전사(transcription)가 가능하다. 본 연구에서는 이렇게 생성된 타임스탬프가 긴 비음성(non-speech) 구간에 걸쳐 드리프트될 수 있음을 보인다: 전사 결과는 그럴듯하게 보일 수 있지만, 디코딩된 시간 축이 실제 오디오에서 멀어진다. 우리는 자체 구축한 gap 및 long-gap 벤치마크를 사용하여, 타임스탬프를 생성하는 15개의 ASR 및 오디오-언어 시스템에 대해 이 비음성 유발 타임스탬프 드리프트를 연구한다. 단순한 타임스탬프 교정 미세조정은 정렬을 개선하지만 비대상 ASR 동작을 심각하게 저하시킬 수 있으며, 이는 망각 문제를 드러낸다. 우리는 REDDIT(REplay-based Distribution eDITing)을 제안한다. 이는 타임스탬프를 교정하면서 파국적 망각(catastrophic forgetting)을 방지하는 경량 2단계 사후 학습 프레임워크로, 먼저 비타임스탬프 토큰에 대해 동결된 기반 분포에 맞추면서 모델 자체의 리플레이된 디코더 컨텍스트 하에서 타임스탬프 목표를 편집하고, 이후 짧은 편집된 접두 문맥(edited-prefix) 정제 단계를 적용한다. 이 프레임워크에서는 VAD로 트리밍된 음성 구간과 삽입된 비음성 구간 및 알려진 연결 오프셋을 결합하여, 인간 전사본이나 인간 타임스탬프 어노테이션 없이 교정 지도 학습 신호를 구성한다. Whisper-tiny에서, 34.9시간의 목적별 교정 오디오를 사용하고 모델 파라미터의 1.6%만 업데이트하여, long-gap mIoU를 38.7%에서 95.0%로 높이고 mixed-gap 도메인 외 AAS를 2752 ms에서 223 ms로 줄이면서, CV-en MER을 41.3%로 유지하였다(일반 SFT 디코더 튜닝의 524.2%와 비교).

토론

이 논문과 연결된 포럼 글이 아직 없습니다.