The CUHK-TENCENT speaker diarization system for the ICASSP 2022 multi-channel multi-party meeting transcription challenge
원문 초록
This paper describes our speaker diarization system submitted to the Multi-channel Multi-party Meeting Transcription (M2MeT) challenge, where Mandarin meeting data were recorded in multi-channel format for diarization and automatic speech recognition (ASR) tasks. In these meeting scenarios, the uncertainty of the speaker number and the high ratio of overlapped speech present great challenges for diarization. Based on the assumption that there is valuable complementary information between acoustic features, spatial-related and speaker-related features, we propose a multi-level feature fusion mechanism based target-speaker voice activity detection (FFM-TS-VAD) system to improve the performance of the conventional TS-VAD system. Furthermore, we propose a data augmentation method during training to improve the system robustness when the angular difference between two speakers is relatively small. We provide comparisons for different sub-systems we used in M2MeT challenge. Our submission is a fusion of several sub-systems and ranks second in the diarization task.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
오류율만으로는 충분하지 않다: 저자원 음성 인식에서 데이터 증강의 비용
Error Rate is Not Enough: Costs of Augmentation in Low-Resource ASR
데이터 증강(data augmentation)은 저자원 자동 음성 인식(ASR)의 표준적인 관행이지만, 그 이점은 거의 항상 종합 오류율로만 보고되어 특정 방법이 왜, 그리고 언제 도움이 되는지는 불분명한 상태로 남아 있습니다. 본 연구에서는 4개의 저자원 언어와 5가지 데이터 규모의 영어를 대상으로 기존 오디오를 수정하는 두 가지 증강 기법(속도 섭동(speed perturbation) 및 SpecAugment)과 텍스트 전사본을 수정한 후 오디오를 합성하는 두 가지 기법을 교차 적용했습니다. 음소 수준에서 오류를 분석한 결과, 이들 방법이 상호보완적인 이유로 도움이 된다는 점을 발견했습니다. SpecAugment는 가장 안정적인 종합 성능 향상을 보였으나 성조 및 구개음화 오류를 증가시켰고, 텍스트 기반 방법은 자음 삽입 오류를 유발했습니다. 결합 시 각 방법은 상대방이 유발한 오류를 줄여줍니다. 이러한 상호보완성은 예측 가능합니다. 성조와 구개음화는 각각 단일 음향 속성으로 신호화되며 학습 시 가장 낮은 빈도로 발생(가장 낮은 학습 노출도)하는데, 단어 빈도를 평탄화(flatten)하는 텍스트 기반 방법은 이들의 빈도를 37~38% 높여 종합 오류를 더욱 개선하는 동시에 해당 오류를 되돌립니다. 방법들을 결합하여 얻은 성능 향상은 개별 개선점들의 합을 초과하지만, 이러한 초부가성(superadditivity)은 100시간 규모에서 사라져 상호보완성이 저자원 영역에 국한됩니다. 특정 오류 유형이 중요한 경우, 학습 전 측정이 가능한 학습 노출도와 음향 속성에 따라 데이터 증강 기법을 선택할 것을 권장합니다.
다국어 두 화자 대화 음성을 위한 화자 분리 기반 Qwen-ASR 적응
Diarization-Guided Qwen-ASR Adaptation for Multilingual Two-Speaker Conversational Speech
본 논문은 다국어 두 화자 대화 음성을 대상으로 하는 MLC-SLM 2026 챌린지 Task 1을 위해 자체 설계한 시스템을 기술한다. 이 시스템은 모듈형 화자 분리(speaker diarization) 프론트엔드와 챌린지에 맞게 적응된 Qwen3-ASR-1.7B 인식기를 결합한다. 화자 분리 프론트엔드는 음성 활동 감지(voice activity detection), 서브세그먼트 생성, CAMPPlus 화자 임베딩 추출, 두 화자 스펙트럴 클러스터링(spectral clustering), RTTM 기반 오디오 분할을 수행한다. 이렇게 생성된 화자 귀속 세그먼트는 언어 또는 지역별로 그룹화되어 적응된 ASR 모델로 디코딩된다. ASR 적응을 위해 먼저 공식 학습 데이터로 지도 완전 미세조정(supervised full fine-tuning)을 수행한 뒤, 3단계 파이프라인 TTS 기반 합성 음성 증강 프레임워크로 생성한 합성 음성으로 LoRA 미세조정을 적용하고, 마지막으로 WER/CER 기반 보상과 환각(hallucination), 반복, 길이 편차에 대한 패널티를 사용하는 GRPO 강화학습으로 모델을 정제한다. 공식 개발 세트에서 전체 시스템은 평균 tcpMER 23.70을 달성하여, 공개된 Qwen-ASR-1.7B 대비 오류율을 절대값 6.83포인트 감소시켰다. 최종 평가 세트에서는 평균 tcpMER 17.97을 달성하였다. 에이블레이션 결과에 따르면 지도 미세조정이 가장 큰 성능 향상을 제공하며, 합성 음성 LoRA 적응과 강화학습이 추가적으로 견고성을 개선하는 것으로 나타났다.
LLM 기반 ASR 시스템에서 합성 음성을 활용하는 방법
How to Leverage Synthetic Speech for LLM-Based ASR Systems?
금융 및 의료와 같이 규제된 도메인에서는 개인정보 보호 제약으로 인해 실제 음성을 수집하고 보관하는 비용이 크기 때문에, 민감한 고객 녹음을 노출하지 않고 자동 음성 인식(ASR)을 학습하기 위한 대안으로 최신 텍스트 음성 변환(TTS)의 합성 음성이 매력적인 선택지가 된다. 그러나 합성 데이터와 실제 데이터 사이의 지속적인 분포적 격차는 합성 음성이 실제 녹음을 대체할 수 있는 범위를 제한한다. 기존 연구들은 이 격차를 주로 엔지니어링으로 극복해야 할 블랙박스로 다루었지만, 본 연구에서는 SLAM-ASR 아키텍처를 분석하여 그 원인을 직접 규명한다. LLM 백본이 실제 음성과 합성 음성을 분리하는 위치를 파악한 결과, 판별 신호가 초기~중간 층에 집중되어 있으며, 이 층에서 시간적 및 운율적 섭동이 가장 큰 영향을 미치는 것을 발견했다. 나아가 표현 수준의 분리가능성이 도움이 되기는 하지만, 하류 ASR 성능 향상을 직접적으로 예측하지는 않음을 보였다. 반면, 실내 충격 응답(RIR)과 합성 음성을 합성곱 처리하면 합성 음성을 더 깨끗하거나 자연스럽게 들리게 만드는 방식이 아닌, 실제 녹음의 음향적 불규칙성을 재현함으로써 격차를 좁힌다. 이러한 발견을 학습 절차에 적용하여, 층 선택 모듈과 RIR 증강을 결합하면 실제 음성의 25%만(13.6시간)으로도 완전한 실제 데이터 기준선에 필적하며, 더 높은 비율에서는 기준선을 상회한다.
LuxSQA: TTS 증강 음성 질의응답으로 룩셈부르크어로 질문하기
LuxSQA: Ask Me in Luxembourgish with TTS-Augmented Spoken Question Answering
음성 질의응답(SQA)은 여전히 고자원 언어와 정밀하게 녹음된 음성에 집중되어 있어, 저자원 환경에서 음성-LLM 방법론의 적용 범위를 제한하고 있다. 본 논문은 텍스트 음성 변환(TTS)이 대규모 인간 녹음 QA 코퍼스 없이도 룩셈부르크어 SQA를 위한 태스크 특화 학습 데이터를 제공할 수 있는지 탐구한다. 기존 텍스트 기반 QA 자료를 출발점으로, 질문을 룩셈부르크어로 번역하고 다수의 TTS 시스템으로 음성 질문을 합성한 후 텍스트 답변과 쌍으로 구성한다. 우리는 학습된 프로젝터와 LoRA 어댑터를 통해 고정된 Whisper 인코더를 고정된 다국어 LLM 백엔드에 연결하는 매개변수 효율적인 SLAM 스타일 아키텍처를 학습시킨다. MMS-TTS, Qwen3-TTS, OmniVoice 변형을 비교하며, 약 48k 질문의 단일 출처 코퍼스와 약 230k 질문의 4TTS 다중 출처 혼합 데이터를 포함한다. 두 가지 실제 룩셈부르크어 화자 조건으로 구성된 LLAMA-LB-Test에서의 평가 결과, 다중 출처 및 음성 디자인 기반 합성 학습 구성이 가장 우수한 SQA 성능을 보인다. 또한 참조 없는 TTS 품질 점수가 다운스트림 QA 성능을 단조롭게 예측하지 않음을 보여주며, 이는 합성 음성을 자연스러운 오디오로서만이 아니라 태스크 특화 학습 데이터로 평가해야 함을 시사한다.
아동 읽기 학습 및 평가를 위한 자동 음성 인식 솔루션 구축
Building an ASR Solution for Training and Assessing Children's Reading
아동 읽기를 위한 자동 음성 인식(ASR)은 Bambara를 포함한 대부분의 아프리카 언어에서 재현 가능한 문해력 평가에 잠재적 가치가 있음에도 불구하고 아직 충분히 발전하지 못한 상태다. 본 논문은 현장 데이터 수집, 벤치마크 구축, 모델 적응, 읽기 애플리케이션, 교실 검증을 연결하는 엔드투엔드 프로세스를 통해 개발된 Bambara 아동 읽기 평가용 오픈소스 시스템을 제시한다. 모바일 수집 및 평가 앱을 사용하여 60명의 아동으로부터 55시간 분량의 원시 읽기 음성을 수집하였으며, 이를 바탕으로 Bambara 아동 읽기 평가를 위한 공개 벤치마크를 구축하였다. 미세조정 실험에서는 TDT 및 CTC 디코더를 갖춘 Bambara 적응형 Fast-Conformer ASR 프레임워크인 Soloni와 컴팩트한 합성곱 ASR 아키텍처인 QuartzNet을 비교하였다. 최적의 Soloni 모델은 단어 오류율(WER)을 0.42에서 0.22로, 문자 오류율(CER)을 0.15에서 0.08로 감소시켜 고립 벤치마크에서 QuartzNet을 크게 능가하였다. 실험 결과, 동일 텍스트의 반복 읽기는 아키텍처에 따라 상이한 효과를 보였는데, QuartzNet의 성능은 크게 향상된 반면 Soloni에는 미미한 향상만을 가져왔으며, SpecAugment는 최선의 비증강 구성을 초과하지 않는 범위 내에서 학습을 조절하였다. 세분화된 분석에서는 10세 미만 아동이 잔류 오류의 주요 원인으로 확인되어 저연령 독자 대상의 집중적 데이터 수집의 필요성이 제기되었다. 10회의 교실 실험을 통해 애플리케이션의 지속 활용 가능성이 확인되었다.
필터링과 선택을 통한 대규모 약지도 자동 음성 인식 개선
Improving Large-Scale Weakly Supervised ASR by Filtering and Selection
대규모 약지도(weakly supervised) 데이터셋을 활용하는 것은 강건한 종단 간(end-to-end) 자동 음성 인식(ASR) 모델 학습에 필수적이다. 그러나 이러한 데이터셋은 노이즈가 포함된 레이블을 갖는 경우가 많고 도메인 특이성이 부족하여 활용 효과가 제한된다. 이러한 문제를 해결하고 약지도 데이터셋을 보다 효과적으로 활용하기 위해, 본 논문에서는 데이터 필터링과 선택을 결합한 새로운 학습 방법을 제안한다. 제안 방법은 세 단계로 구성된다: 전체 데이터셋에 대한 사전학습, 문자 오류율(CER)을 기준으로 필터링된 부분 집합에 대한 추가 사전학습, 그리고 필터링된 부분 집합에서 목표 도메인과 음향적으로 유사한 소수의 샘플을 선택하여 수행하는 미세조정. 9만 시간 규모의 약지도 일본어 데이터셋을 이용한 실험에서, 제안된 필터링 및 선택 방법은 첫 번째 사전학습 단계에서 이미 사용된 학습 샘플을 재사용함에도 불구하고 CER을 각각 최대 6.4%와 4.0% 시너지적으로 감소시켰다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.