arXiv:2008.06006

Textual Echo Cancellation

Shaojin Ding, Ye Jia, Ke Hu, Quan Wang

제출 2020-08-13

원문 초록

In this paper, we propose Textual Echo Cancellation (TEC) - a framework for cancelling the text-to-speech (TTS) playback echo from overlapping speech recordings. Such a system can largely improve speech recognition performance and user experience for intelligent devices such as smart speakers, as the user can talk to the device while the device is still playing the TTS signal responding to the previous query. We implement this system by using a novel sequence-to-sequence model with multi-source attention that takes both the microphone mixture signal and source text of the TTS playback as inputs, and predicts the enhanced audio. Experiments show that the textual information of the TTS playback is critical to enhancement performance. Besides, the text sequence is much smaller in size compared with the raw acoustic signal of the TTS playback, and can be immediately transmitted to the device or ASR server even before the playback is synthesized. Therefore, our proposed approach effectively reduces Internet communication and latency compared with alternative approaches such as acoustic echo cancellation (AEC).

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.08208v2cs.CL공통 태그 speech-recognition, Speech Recognition, text-to-speech, Text to Speech

다국어 두 화자 대화 음성을 위한 화자 분리 기반 Qwen-ASR 적응

Diarization-Guided Qwen-ASR Adaptation for Multilingual Two-Speaker Conversational Speech

본 논문은 다국어 두 화자 대화 음성을 대상으로 하는 MLC-SLM 2026 챌린지 Task 1을 위해 자체 설계한 시스템을 기술한다. 이 시스템은 모듈형 화자 분리(speaker diarization) 프론트엔드와 챌린지에 맞게 적응된 Qwen3-ASR-1.7B 인식기를 결합한다. 화자 분리 프론트엔드는 음성 활동 감지(voice activity detection), 서브세그먼트 생성, CAMPPlus 화자 임베딩 추출, 두 화자 스펙트럴 클러스터링(spectral clustering), RTTM 기반 오디오 분할을 수행한다. 이렇게 생성된 화자 귀속 세그먼트는 언어 또는 지역별로 그룹화되어 적응된 ASR 모델로 디코딩된다. ASR 적응을 위해 먼저 공식 학습 데이터로 지도 완전 미세조정(supervised full fine-tuning)을 수행한 뒤, 3단계 파이프라인 TTS 기반 합성 음성 증강 프레임워크로 생성한 합성 음성으로 LoRA 미세조정을 적용하고, 마지막으로 WER/CER 기반 보상과 환각(hallucination), 반복, 길이 편차에 대한 패널티를 사용하는 GRPO 강화학습으로 모델을 정제한다. 공식 개발 세트에서 전체 시스템은 평균 tcpMER 23.70을 달성하여, 공개된 Qwen-ASR-1.7B 대비 오류율을 절대값 6.83포인트 감소시켰다. 최종 평가 세트에서는 평균 tcpMER 17.97을 달성하였다. 에이블레이션 결과에 따르면 지도 미세조정이 가장 큰 성능 향상을 제공하며, 합성 음성 LoRA 적응과 강화학습이 추가적으로 견고성을 개선하는 것으로 나타났다.

arXiv:2607.07408v2cs.CL공통 태그 speech-recognition, Speech Recognition, Text to Speech

브라질 포르투갈어의 운율 경계 분절을 위한 트랜스포머 기반 접근법

Transformer-based segmentation of prosodic boundaries in Brazilian Portuguese

자동 운율 분절(automatic prosodic segmentation)은 음향 및 언어적 증거로부터 발화 단위 간의 경계를 식별한다. 최근 심층 학습 접근법이 영어에서 강력한 성능을 보이고 있으나, 브라질 포르투갈어(BP)의 자동 분절은 여전히 대부분 규칙 기반 또는 전통적인 기계 학습 방법에 의존하고 있다. 본 논문에서는 SAMPA를 제안한다. SAMPA는 Whisper 기반 분절기로, 브라질 포르투갈어 음성을 전사하면서 종결 운율 경계에 대한 명시적 마커를 삽입한다. NURC-SP 데이터셋의 수동 분절 녹음 데이터로 Whisper large-v3를 파인튜닝하고, MuPe-Diversidades 데이터셋에 대한 분포 외(out-of-distribution) 테스트를 포함하여 다양한 학습 및 테스트 시간 필터링 구성을 평가한다. SAMPA는 다양한 설정에서 경쟁력 있는 경계 탐지 성능을 달성하며, 최상의 모델은 보류 테스트 분할에서 F1=0.731, MuPe-Diversidades에서 F1=0.796을 기록한다. 마지막으로, n-gram 및 음향-시각적 분석을 통해 본 모델이 운율 경계 탐지를 위해 형태통사론적, 의미론적, 운율적 단서를 따름을 보인다.

arXiv:2607.09833v1cs.CR공통 태그 speech-recognition, Speech Recognition, text-to-speech

자동 음성 인식 시스템의 생성적 테스팅

Generative Testing of Automated Speech Recognition Systems

자동 음성 인식(ASR) 시스템은 트랜스포머 기반 모델로 높은 정확도를 달성하여 중요한 응용 분야에 배포되고 있다. 그러나 이러한 시스템은 적대적 조작에 여전히 취약하며, 특히 공격이 지각적 자연스러움을 보존해야 하는 블랙박스 환경에서 더욱 그러하다. 본 연구는 텍스트-투-스피치 모델의 음소 수준 잠재 공간에서 동작하여 실패를 유발하는 입력을 생성하는 블랙박스 테스팅 접근법인 GATAS를 제안한다. 파형을 직접 교란하는 대신, 자연 음성의 매니폴드 내에 머무르면서 잠재 표현을 보간하여 전사 오류를 유발한다. 이 공격은 의미적 발산과 지각적 품질의 균형을 맞추는 다목적 최적화 문제로 정식화된다. 화이트박스 및 블랙박스 기준선에 대한 실험적 평가 결과, GATAS는 98%의 성공률을 달성하면서 낮은 왜곡과 높은 지각적 품질을 제공함을 인간 연구를 통해 확인하였다. 그래디언트 접근 없이 동작함에도 불구하고, GATAS는 화이트박스 방법에 필적하는 성능을 보이며, 표현 및 지각적 정렬이 모델 내부에 대한 접근보다 더 중요함을 강조한다. 전반적으로, 본 연구의 결과는 비표적 잠재 공간 최적화가 ASR 시스템에 대한 현실적이고 효과적인 테스트 케이스의 효율적 생성을 가능하게 함을 보여준다.

arXiv:2607.08409v1cs.CL공통 태그 speech-recognition, Speech Recognition, text-to-speech

합성 음성만 있을 때: GRPO를 선택하라

When Synthetic Speech Is All You Have: Better Call GRPO

은행과 같은 규제 도메인에 적응된 대규모 언어 모델(LLM) 기반 자동 음성 인식(ASR)은 프라이버시 문제로 인해 병목이 발생한다: 실제 음성은 수집 비용이 높고 법적 제약이 따르기 때문에, 합성 텍스트 음성 변환(TTS)이 매력적인 대안으로 부상한다. 그러나 합성 음성은 실제 녹음과 음향적으로 불일치한 상태를 유지하며, 이 간극을 다루는 연구는 지도 미세조정(SFT) 범위 내에 머물러 있었다. 우리는 대신 강화학습으로 전환하여, Group Relative Policy Optimization(GRPO)이 동일한 합성 음성으로부터 SFT보다 훨씬 많은 성능을 이끌어냄을 보인다. 낮은 단어 오류율(WER) 가설을 보상하는 크리틱 없는(critic-free) 방법인 GRPO를 이용해 합성 음성만으로 모델을 적응시키면 SFT 대비 WER이 40% 상대적으로 감소하며(36.71%→22.09%), SFT 후 GRPO를 결합하면 이를 45%까지 더 향상시킨다. 우리는 이 향상이 표현(representation)보다 행동(behavior)에 기인함을 규명한다: GRPO는 정지 보정(stopping calibration)을 개선하여 삽입 오류를 줄이고, 어텐션을 오디오에 더 잘 고정시킴으로써 음성-텍스트 정렬을 향상시키며, 초기 층 표현은 그대로 유지한다. 합성 음성이 주된 자원일 때, 강화학습이 지도 미세조정보다 선호되어야 한다.

arXiv:2604.08448v2cs.CL공통 태그 speech-recognition, Speech Recognition, text-to-speech

AfriVoices-KE: 케냐 언어를 위한 다국어 음성 데이터셋

AfriVoices-KE: A Multilingual Speech Dataset for Kenyan Languages

AfriVoices-KE는 Dholuo, Kikuyu, Kalenjin, Maasai, Somali 등 5개 케냐어에 걸쳐 약 3,000시간의 오디오로 구성된 대규모 다국어 음성 데이터셋이다. 이 데이터셋은 다양한 지역과 인구통계 특성을 가진 4,777명의 원어민 화자로부터 수집된 750시간의 대본 기반(scripted) 음성과 2,250시간의 자발적(spontaneous) 음성을 포함한다. 본 연구는 고품질의 언어학적으로 다양한 자원을 제공함으로써 음성 기술에서 아프리카 언어가 심각하게 과소 대표된 문제를 해결한다. 데이터 수집은 이중 방법론을 따랐다. 대본 녹음은 편집된 텍스트 말뭉치, 번역문, 그리고 케냐 맥락에 관련된 11개 도메인에 걸친 도메인 특화 생성 문장에서 가져왔으며, 무대본 음성은 자연스러운 언어적 변이와 방언적 뉘앙스를 포착하기 위해 텍스트 및 이미지 프롬프트를 통해 유도되었다. 맞춤형 모바일 애플리케이션을 통해 기여자들이 스마트폰으로 녹음할 수 있었다. 품질 보증은 여러 계층에서 이루어졌으며, 녹음 전 자동 신호 대 잡음비(SNR) 검증과 내용 정확도에 대한 사람 검토를 포함한다. 프로젝트는 신뢰할 수 없는 인프라, 기기 호환성 문제, 지역사회 신뢰 장벽을 포함해 저자원 환경에서 흔한 도전에 직면했지만, 현지 동원자, 이해관계자 파트너십, 적응형 학습 프로토콜을 통해 이를 완화했다. AfriVoices-KE는 포용적인 자동 음성 인식 및 텍스트 음성 변환 시스템 개발을 위한 기초 자원을 제공하며, 케냐의 언어 유산의 디지털 보존을 촉진한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.