arXiv:2607.01502v1 cs.CL

From Monolingual to Multilingual: Evaluating Mamba for ASR in South African Languages

Jesujoba O. Alabi, Julian Herreilers, Badr M. Abdullah, Dietrich Klakow

제출 2026-07-01

원문 초록

Recent advances in automatic speech recognition (ASR) have explored different sequence models, including Conformer-based models and newer state space models such as Mamba. Although prior work has evaluated these architectures in multiple languages, their effectiveness in African languages remains underexplored. In this work, we evaluate Mamba for ASR on seven South African languages. In monolingual experiments, each model is trained on 50 hours of speech per language, and we compare Mamba to a Conformer baseline of similar parameter scale. Mamba achieves similar recognition accuracy to Conformer while using fewer computational resources and training faster. We further evaluate generalization in this setting and find that both models struggle to generalize to speech that is much longer than what they were trained on. We then study multilingual ASR using Mamba models, where the baseline is pooling all languages together. On top of this, we tested three extensions: training with language-family information by adding both language and language-family embeddings as biases to the downsampled acoustic representations, and multitask learning with a CTC ASR objective and a language identification (LID) head. We find that multilingual training consistently improves performance over monolingual training. However, adding explicit language information does not improve in-domain performance but does improve cross-corpus robustness. We conducted ablation studies in low-resource multilingual settings using 5-hour and 10-hour per-language training data, where we observed gains from using language embeddings and further demonstrated that removing or altering them hurt model performance. Lastly, we analysed these embeddings and find that they do not capture linguistic similarity in a typological sense, but instead act as task-specific control vectors.

요약

남아프리카 7개 언어를 대상으로 Mamba 기반 자동 음성 인식(ASR) 모델을 Conformer와 비교한 결과, Mamba는 더 적은 연산 자원으로 유사한 인식 정확도를 달성했으며 다국어 학습이 단일 언어 학습보다 일관되게 성능을 향상시켰다. 언어 임베딩(language embedding)을 명시적으로 추가하면 도메인 내 성능은 개선되지 않지만 코퍼스 간 견고성은 향상되며, 이 임베딩은 언어 유형론적 유사성을 반영하기보다 과제 특화 제어 벡터로 작동하는 것으로 분석되었다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2607.01502v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09598v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

토크나이저 이식: 엣지 효율적 벵골어 ASR에서의 자기회귀 붕괴 완화

Tokenizer Transplantation: Mitigating Autoregressive Collapse in Edge-Efficient Bengali ASR

경량 음성 인식 모델은 엣지 배포에 필수적이지만, Moonshine과 같이 고도로 최적화된 아키텍처는 벵골어와 같이 형태론적으로 풍부한 비라틴 언어에서 종종 실패한다. 본 연구는 이 실패의 근본 원인을 모델의 영어 중심 바이트 수준 토크나이저로 규명한다. 해당 토크나이저는 벵골어 단어를 고분기율(high-fertility) 바이트 체인으로 분절하여 추론 중 치명적인 자기회귀 붕괴(autoregressive collapse)를 유발한다. 이를 해결하기 위해, 디코더 어휘를 네이티브 스크립트 BanglaBERT WordPiece 어휘로 교체하고 대응하는 토큰 임베딩 행렬의 크기를 재조정하는 새로운 어휘 이식(vocabulary transplantation) 파이프라인을 제안한다. 실험 결과, 토큰 분기율이 9.16에서 1.30으로 감소하였다. 자기회귀 시퀀스 길이를 85.8% 단축함으로써 디코딩 불안정성이 완전히 해소되었다. 882시간 규모의 Lipi-Ghor 데이터셋으로 평가한 결과, 수정된 아키텍처는 경쟁력 있는 21.54%의 단어 오류율(WER)과 0.0053의 실시간 인수(RTF)를 달성하였다. 궁극적으로 본 연구는 자원 집약적인 사전학습 없이 경량 ASR 모델의 교차 스크립트 적응을 위한 확장 가능하고 재현 가능한 청사진을 제공한다.

arXiv:2607.08208v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

다국어 두 화자 대화 음성을 위한 화자 분리 기반 Qwen-ASR 적응

Diarization-Guided Qwen-ASR Adaptation for Multilingual Two-Speaker Conversational Speech

본 논문은 다국어 두 화자 대화 음성을 대상으로 하는 MLC-SLM 2026 챌린지 Task 1을 위해 자체 설계한 시스템을 기술한다. 이 시스템은 모듈형 화자 분리(speaker diarization) 프론트엔드와 챌린지에 맞게 적응된 Qwen3-ASR-1.7B 인식기를 결합한다. 화자 분리 프론트엔드는 음성 활동 감지(voice activity detection), 서브세그먼트 생성, CAMPPlus 화자 임베딩 추출, 두 화자 스펙트럴 클러스터링(spectral clustering), RTTM 기반 오디오 분할을 수행한다. 이렇게 생성된 화자 귀속 세그먼트는 언어 또는 지역별로 그룹화되어 적응된 ASR 모델로 디코딩된다. ASR 적응을 위해 먼저 공식 학습 데이터로 지도 완전 미세조정(supervised full fine-tuning)을 수행한 뒤, 3단계 파이프라인 TTS 기반 합성 음성 증강 프레임워크로 생성한 합성 음성으로 LoRA 미세조정을 적용하고, 마지막으로 WER/CER 기반 보상과 환각(hallucination), 반복, 길이 편차에 대한 패널티를 사용하는 GRPO 강화학습으로 모델을 정제한다. 공식 개발 세트에서 전체 시스템은 평균 tcpMER 23.70을 달성하여, 공개된 Qwen-ASR-1.7B 대비 오류율을 절대값 6.83포인트 감소시켰다. 최종 평가 세트에서는 평균 tcpMER 17.97을 달성하였다. 에이블레이션 결과에 따르면 지도 미세조정이 가장 큰 성능 향상을 제공하며, 합성 음성 LoRA 적응과 강화학습이 추가적으로 견고성을 개선하는 것으로 나타났다.

arXiv:2607.05364v2cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

REDDIT: 리플레이 기반 분포 편집을 통한 ASR 모델 생성 타임스탬프 드리프트의 망각 없는 교정

REDDIT: Correcting Model-Generated Timestamp Drift in ASR without Forgetting via Replay-Based Distribution Editing

현대의 자기회귀(autoregressive) 자동 음성 인식(ASR) 시스템은 디코딩된 토큰으로 타임스탬프를 출력할 수 있으며, 이를 통해 프레임 수준 정렬기나 추론 시 후처리 없이도 타임스탬프가 포함된 전사(transcription)가 가능하다. 본 연구에서는 이렇게 생성된 타임스탬프가 긴 비음성(non-speech) 구간에 걸쳐 드리프트될 수 있음을 보인다: 전사 결과는 그럴듯하게 보일 수 있지만, 디코딩된 시간 축이 실제 오디오에서 멀어진다. 우리는 자체 구축한 gap 및 long-gap 벤치마크를 사용하여, 타임스탬프를 생성하는 15개의 ASR 및 오디오-언어 시스템에 대해 이 비음성 유발 타임스탬프 드리프트를 연구한다. 단순한 타임스탬프 교정 미세조정은 정렬을 개선하지만 비대상 ASR 동작을 심각하게 저하시킬 수 있으며, 이는 망각 문제를 드러낸다. 우리는 REDDIT(REplay-based Distribution eDITing)을 제안한다. 이는 타임스탬프를 교정하면서 파국적 망각(catastrophic forgetting)을 방지하는 경량 2단계 사후 학습 프레임워크로, 먼저 비타임스탬프 토큰에 대해 동결된 기반 분포에 맞추면서 모델 자체의 리플레이된 디코더 컨텍스트 하에서 타임스탬프 목표를 편집하고, 이후 짧은 편집된 접두 문맥(edited-prefix) 정제 단계를 적용한다. 이 프레임워크에서는 VAD로 트리밍된 음성 구간과 삽입된 비음성 구간 및 알려진 연결 오프셋을 결합하여, 인간 전사본이나 인간 타임스탬프 어노테이션 없이 교정 지도 학습 신호를 구성한다. Whisper-tiny에서, 34.9시간의 목적별 교정 오디오를 사용하고 모델 파라미터의 1.6%만 업데이트하여, long-gap mIoU를 38.7%에서 95.0%로 높이고 mixed-gap 도메인 외 AAS를 2752 ms에서 223 ms로 줄이면서, CV-en MER을 41.3%로 유지하였다(일반 SFT 디코더 튜닝의 524.2%와 비교).

arXiv:2607.10092v1cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, Multi-Task Learning

싱가포르 맥락을 위한 음성 언어 모델의 효율적 적응

Efficiently Adapting Spoken Language Models for the Singaporean Context

음성 언어 모델(SLM)은 음성 인식과 추론을 통합하지만, 민감한 도메인에 대한 적응은 아직 충분히 연구되지 않았다. 특히 원본 학습 데이터에 접근할 수 없고 다국어 음성 질의 상호작용이 요구되는 경우에는 더욱 그러하다. 우리는 싱가포르의 4개 공식 언어에 걸친 5가지 음성 태스크에서 오픈소스 SLM을 싱가포르 Home Team 맥락에 적응시켰으며, LoRA 미세조정, 파국적 망각을 방지하는 대리 텍스트-QA 데이터셋, 그리고 CoBa 재가중치 방식을 음성에 적용한 멀티태스크 목적함수를 결합하였다. 또한 텍스트 및 음성 형태의 504,853개 샘플로 구성된 다국어 QA 데이터셋 HTD-multilingual-QA를 구축하였다. 그 결과물인 HT-Moonstone (5B)은 대부분의 태스크에서 자신보다 최대 7배 큰 SLM과 동등하거나 이를 능가하며, 평가된 모든 모델 중 최고의 억양 및 성별 인식 성능을 달성하고, 원본 음성 QA 능력의 2% 미만만을 손실한다.

arXiv:2607.10256v1cs.CL공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

어떤 언어가 Warlpiri에 가장 잘 전이되는가? 저자원 ASR을 위한 유사도 기반 연구

Which Languages Transfer Best to Warlpiri? A Similarity-Based Study for Low-Resource ASR

이 논문은 극도로 저자원인 환경에서 자동 음성 인식(ASR)의 교차 언어 전이를 개선하기 위해 언어 유사도를 활용하는 방법을 탐구한다. 호주 원주민 언어인 Warlpiri는 전사된 음성 데이터가 매우 제한적이어서 전이학습이 필수적이다. 본 연구는 사전학습된 음성 모델에서 도출한 음향 유사도와 유형론, 음소 목록, 문법적·통사적 특징에 기반한 언어학적 유사도를 결합하는 프레임워크를 제안하여, 고자원 소스 언어들의 순위를 산정하고 Warlpiri로의 ASR 전이에서 그 효과를 평가한다. Whisper를 이용한 실험에서 음향적·유형론적으로 유사한 언어들이 단일 언어 및 다국어 기준선을 능가하는 것으로 나타났다. 아삼어(Assamese)와 힌디어(Hindi)는 단어 오류율 및 문자 오류율에서 상당한 감소를 달성하였다. 상관관계 분석 결과, 음향 유사도가 미세조정 성능의 가장 강력한 예측 인자임이 확인되었으며, 음소 목록과 유형론적 유사도는 제로샷 전이를 더 잘 설명하는 것으로 나타났다.

arXiv:2607.10371v1eess.AS공통 태그 Speech Recognition, Automatic Speech Recognition, automatic speech recognition asr

GigaAM Multilingual: 저자원 언어를 위한 파운데이션 모델

GigaAM Multilingual: Foundation Model for Underrepresented Languages

최근의 스케일링 성공에도 불구하고, 다국어 자동 음성 인식(ASR) 성능은 여전히 매우 불균등하며, 롱테일 언어들은 심각한 데이터 부족 문제를 겪고 있다. 본 연구는 저자원 중앙아시아 언어(카자흐어, 키르기스어, 우즈베크어)를 위한 강건한 파운데이션 모델 구축의 과제를 다룬다. 우리는 HuBERT 방식의 목표 함수를 사용하여 200만 시간의 오디오로 사전학습된 Conformer 인코더인 GigaAM Multilingual을 제안한다. 핵심적으로, 고자원 언어 편향을 완화하기 위해 사전학습 단계에서 클러스터 수준의 데이터 균형 전략을, 미세조정 단계에서 도메인 인식 샘플링 방법을 도입한다. 통제된 비교 실험에서, 우리의 접근법은 타겟 언어에 대해 강력한 공개 사전학습 인코더(Whisper Large v3, Omnilingual-1B)를 능가하며, 효율성을 유지하면서 자발화에서 상당한 성능 향상을 달성한다. 우리는 파운데이션 인코더와 ASR 모델을 공개하여, 현실적인 데이터 불균형 환경에서의 효과적인 다국어 적응을 위한 검증된 레시피를 제공한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.