텍스트 입력에 명시적인 강조 제어 신호가 제공되는 경우에도 제어 가능하면서 인간과 유사한 강조를 생성하는 것은 텍스트 음성 변환(TTS)에서 여전히 해결해야 할 과제로 남아 있으며, 이는 실제 응용 분야에서 합성 음성의 의사소통 정확도를 제한합니다. 최근 인간 선호도에 맞게 TTS 시스템을 사후 학습(post-training)하는 데 강화학습(RL)이 유망함을 보여주었으나, 기존 방법들은 단어 수준의 운율 제어에 적용되지 않았습니다. 본 논문에서는 강조 국소화 보상(reward)을 갖춘 지속 시간 예측기에 그룹 상대 정책 최적화(GRPO)를 적용하여 단어 수준 강조에 대한 직접적인 최적화를 가능하게 하는 비자기회귀(non-autoregressive) TTS 시스템인 EmphTTS를 제안합니다. 평가 결과에 따르면 EmphTTS는 최고의 강조 제어 능력을 달성하고 강조 객관적 평가에서 가장 우수한 성능을 보입니다. 주관적 선호도 평가에서 EmphTTS는 합성 그라운드 트루스(groundtruth) 및 대부분의 베이스라인보다 유의미하게 선호되었습니다. 절제 연구(ablation study)는 GRPO가 지도 파인튜닝 기반 지속 시간 모델링 및 단순한 발화 속도 조절을 넘어 강조 구현을 향상시키는 동시에, 독립적으로 학습된 지속 시간 예측기와 TTS 모델 간의 불일치를 완화함을 보여줍니다.
기존의 억양 정규화(accent normalization) 방법들은 일반적으로 억양 강도에 대한 제어 기능을 제공하지 않지만, 언어 학습이나 더빙과 같은 많은 응용 분야에서는 조절 가능한 억양 유지가 요구됩니다. 본 논문에서는 자기지도 음성 토큰에 대한 마스킹된 이산 확산(discrete diffusion)을 기반으로 구축된 제어 가능한 억양 정규화 시스템인 DLM-AN을 제안합니다. 공통 토큰 예측기(Common Token Predictor)는 원어민 발음을 인코딩할 가능성이 높은 소스 토큰을 식별하며, 이러한 토큰들은 역 확산 과정을 초기화하기 위해 선택적으로 재사용됩니다. 이는 억양 강도를 제어하는 간단하면서도 효과적인 메커니즘을 제공합니다. 즉, 더 많은 토큰을 재사용할수록 기존 억양이 더 많이 보존됩니다. 나아가 DLM-AN은 원어민 리듬에 더 잘 부합하도록 전체 길이를 자동으로 조정하는 플로우 매칭(flow-matching) 기반의 길이 비율 예측기(Duration Ratio Predictor)를 통합합니다. 다중 억양 영어 데이터에 대한 실험 결과, DLM-AN은 비교 대상 시스템 중 가장 낮은 단어 오류율(WER)을 달성하는 동시에 경쟁력 있는 억양 감소 성능과 매끄럽고 해석 가능한 억양 강도 제어 기능을 제공함을 보여줍니다. 구현 코드는 https://github.com/P1ping/DLM-AN 에서 확인할 수 있습니다.