인공 대화를 활용한 구음장애 및 기관절개술 환자를 위한 개인 맞춤형 자동 음성 인식
Personalized Automatic Speech Recognition for a Dysarthric and Tracheostomic Speaker using Artificial Conversations
한국어 초록
본 연구에서는 영구적인 기관루(tracheal stoma)를 가지고 있으며 훈련되지 않은 청자가 알아듣기 힘든 중증 구음장애(dysarthria)를 겪는 체코어 화자를 위해 개인 맞춤화된 자동 음성 인식(ASR) 시스템을 제시합니다. 연구진은 높은 몰입도와 대화의 사실성을 위해 고안된 새로운 "인공 대화(artificial conversation)" 프로토콜을 사용하여 수집한, 해당 화자의 주석이 달린 33시간 분량의 음성을 포함하는 공개 데이터셋을 발표합니다. 또한 Whisper Base를 기반으로 한 다단계 학습(training) 파이프라인을 제안하며, 이는 표준 체코어 음성, 음향적으로 시뮬레이션된 기관절개술 환자 음성, 그리고 해당 화자의 데이터에 대한 미세조정(fine-tuning)으로 구성됩니다. 대본 기반 대화, 질의응답, 자발적 대화라는 세 가지 준실시간(near real-time) 시나리오에 걸쳐 시스템을 평가한 결과, Whisper Base 기준선(baseline) 대비 문자 오류율(Character Error Rate)을 상대적으로 50% 줄였으며, 고립된 발화의 음향 인식에서 화자 보조인들의 평균 인식 정확도를 능가했습니다. 정량적 결과와 화자의 피드백을 통해 입증된 바와 같이, 심각한 장애가 있는 음성에 대해서도 실질적인 도움이 되는 ASR 구현이 가능함을 보여줍니다.
원문 초록
This work presents an automatic speech recognition (ASR) system personalized for a Czech speaker with a permanent tracheal stoma and severe dysarthria rendering their speech unintelligible to untrained listeners. We release a public dataset containing 33 annotated hours of the speaker's speech, collected using a novel "artificial conversation" protocol designed for high engagement and dialogue realism. We propose a multi-stage training pipeline based on Whisper Base: fine-tuning on standard Czech speech, acoustically simulated tracheostomic speech, and the speaker's data. We evaluate the system across three near real-time scenarios: scripted conversations, question answering, and spontaneous dialogue, achieving a 50\% relative reduction in Character Error Rate compared to Whisper Base baseline and surpassing the average recognition accuracy of their assistants in acoustic recognition of isolated utterances. We demonstrate that even for severely impeded speech, a helpful ASR is achievable, as evidenced by the quantitative results and the feedback from the speaker.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
6개 층 축소: 레이블 없는 성능 복원을 적용한 Whisper 인코더 가지치기
Six Layers Less: Encoder Pruning for Whisper with Label-Free Recovery
OpenAI의 Whisper와 같이 대규모 사전학습 트랜스포머(transformer) 기반 자동 음성 인식(ASR) 모델을 가지치기(pruning)하는 기법은 디코더를 가지치기하여 종단간(end-to-end) 전사 속도를 크게 향상시킬 수 있어 널리 채택되어 왔습니다. 일례로 {\tt whisper-large-v3-turbo} 변형 모델은 디코더를 32개 층(layer)에서 4개 층으로 줄였으며, Distill-Whisper 또한 유사하게 디코더를 단 2개 층으로 축소했습니다. 인코더 크기를 줄이기 위한 시도에도 일부 관심이 집중되었으나, 널리 채택된 방식은 없었습니다. 이는 압축된 모델을 활용하기 위해 별도의 커스텀 추론(inference) 구현이 필요했기 때문일 수 있습니다. 본 연구에서는 한 층씩 제외(leave-one-layer-out)했을 때의 단어 오류율(WER) 변화를 기준으로 인코더 층의 순위를 매기는 접근법을 제시합니다. 변화를 가장 적게 유발하는 6개 층을 제거하며, 이는 인코더 스택의 $18.5\%$에 해당합니다. 가지치기된 모델은 단순히 층 수가 적어진 더 얕은 인코더이므로 별도의 커스텀 추론 코드가 필요하지 않습니다. 또한 레이블이 없는 단일 언어 음성 데이터를 사용한 지식 증류(distillation)를 수행하여, 제로샷(zero-shot) 층 가지치기로 인해 발생한 성능 저하를 복원합니다. 4개 언어에 대한 평균 WER은 기준선(baseline) $18.2\%$에서 시작하여 제로샷 $21.9\%$ 대비 지식 증류 후 $20.1\%$로 개선됩니다. 본 연구는 모든 코드(https://github.com/rasgaard/whisper-encoder-layer-prune)와 가지치기된 모델(https://huggingface.co/rasgaard/whisper-large-v3-turbo-encoder-pruned)을 공개합니다.
DONDO: 아프리카 언어용 공개 w2v-BERT 음성 인식 베이스 모델
DONDO: Open w2v-BERT Speech-Recognition Base Models for African Languages
본 논문은 w2v-BERT 2.0 자기지도(self-supervised) 음성 인코더 위에 구축된, 아프리카 언어를 위한 공개·관대한 라이선스의 자동 음성 인식(ASR) 베이스 모델 모음인 DONDO를 제시한다. DONDO는 가나, 시에라리온, 나이지리아, 세네갈, 케냐, 짐바브웨에 걸친 27개 언어 변이를 포괄하는 21개의 단일어 모델과 5개의 다국어 모델로 구성된다. 모델은 주로 종교 텍스트에서 추출한 낭독 음성으로 미세조정되었으며, 이는 전사된 오디오가 부족한 언어에 대해 넓고 라이선스가 명확하며 철자 체계가 일관된 커버리지를 제공한다. 공유 다국어 모델을 먼저 높은 학습률로 적응시킨 다음, 강력한 단일어 기준선을 회복하고 여러 경우에는 이를 능가하도록 학습률을 점진적으로 낮추는 2단계(한 모델군의 경우 3단계) 학습률 어닐링 미세조정 절차를 설명한다. 또한 음향 특징 앞에 one-hot 언어 식별자를 접두 프레임 시퀀스로 주입하는 경량 언어 조건화(language-conditioning) 메커니즘을 설명하며, 이를 통해 단일 다국어 체크포인트를 추론 시 목표 언어로 유도할 수 있다. 5개 다국어 모델군 전반에서 어닐링된 모델은 평균 단어 오류율(WER) 10–13%에 도달하여, 단일 체크포인트로 많은 언어를 포괄하면서 단일어 모델과의 격차 대부분을 줄인다. 모든 모델은 Apache-2.0 라이선스(출처 표시만 필요)로 Hugging Face KhayaAI 조직에 공개되어, 다른 사람들이 상업적 용도를 포함해 자유롭게 미세조정할 수 있다. 다루는 언어들은 보수적으로 추정해도 약 1억 명의 모국어 화자가 사용하며, 제2언어 사용을 포함하면 훨씬 더 많다고 제시한다.
도메인 일반화를 위한 Projection Pursuit CPCANet
Projection Pursuit CPCANet for Domain Generalization
도메인 일반화(DG)는 분포 변화에 강건한 표현을 학습하는 것을 목표로 한다. CPCANet과 같은 최근의 기하학적 정렬 방법들은 배치 단위 공통 주성분 분석(CPCA)을 통해 도메인 불변 구조를 추출한다. 그러나 CPCANet은 미니배치 학습에서의 소표본 문제로 인해 계수 결손(rank-deficient) 공분산 추정의 한계를 겪는다. 이 한계를 해결하기 위해, 우리는 Stiefel 다양체 위에서 전역 직교 기저를 학습하고 Cayley 변환을 통해 네트워크 파라미터와 함께 공동 최적화하는 공분산-무(covariance-free) 프레임워크인 Projection Pursuit CPCANet(PP-CPCANet)을 제안한다. 또한 우리는 밀집하고 강건한 최적화 신호로 공통 주성분(CPC)을 추출하기 위해 대칭성 깨기(symmetry-breaking) 분리-중앙값(detached-median) PP 분산(dispersion) 목적함수를 도입한다. 4개의 DG 벤치마크에서의 실험은 PP-CPCANet이 안정적인 학습을 유지하면서 SOTA 성능을 달성함을 보여준다.
건설적·협력적 멀티태스킹을 위한 의미 인식 태스크 클러스터링
Semantic-Aware Task Clustering for Constructive and Cooperative Multi-Tasking
협력적 멀티태스크 의미 통신(cooperative multi-task semantic communication, CMT-SemCom)은 공유 표현을 활용하여 태스크 실행 성능을 향상시킨다. 그러나 [1]에서 보인 바와 같이, 협력적 멀티태스킹은 태스크 간 의미적 관계에 따라 건설적일 수도 있고 파괴적일 수도 있다. 건설적 협력을 보장하기 위해, 우리는 CMT-SemCom을 위한 의미 인식 태스크 클러스터링 방법을 제안한다. 짧은 초기 학습 단계 이후 의미적으로 정렬된 태스크가 한 번 클러스터링되고, 이후 발견된 그룹 내에서만 엔드투엔드(end-to-end, E2E) 공동 학습이 수행되는 순차적 다단계 최적화 문제를 수식화했다. 구체적으로, 이 문제는 두 단계로 분해된다: (i) 계층적 밀도 기반 공간 클러스터링(hierarchical density-based spatial clustering)을 활용한 의미 클러스터링 문제, (ii) 클러스터 내 E2E CMT-SemCom 학습 문제. 시뮬레이션 결과는 제안된 프레임워크가 파괴적 협력과 부정적 전이(negative transfer)를 효과적으로 완화하며, 클러스터링되지 않은 멀티태스킹 및 개별 학습 기준선 대비 정확도 향상을 달성함을 보여준다.
흉부 방사선 사진 골 억제를 위한 확장 가능한 감독으로서 해부학 분해 흉부 CT 투영
Anatomy-Decomposed Chest Computed Tomography (CT) Projections as Scalable Supervision for Bone Suppression in Chest Radiographs
부호 그래프 사전학습 및 프롬프트 학습
Signed Graph Pre-Training and Prompt Learning
부호 그래프(signed graph)는 엣지가 양수이거나 음수일 수 있으며 방향성을 가질 수도 있는 신뢰-불신 네트워크, 금융 상관관계 시스템, 생물학적 상호작용 그래프 및 기타 여러 도메인에서 발생합니다. 부호 그래프 신경망이 특정 태스크에 특화된 학습(training)을 향상시켰지만, 부호 그래프에서의 그래프 전이학습(transfer learning)은 여전히 미진한 상태입니다. 본 논문에서는 부호 그래프를 위한 선구적인 위상학 기반 그래프 사전학습(pre-training) 및 프롬프트(prompt) 학습 프레임워크인 TopoSIGN을 소개합니다. TopoSIGN은 자기 부호 라플라시안(magnetic signed Laplacian)을 기반으로 구축된 구조적 인코더와 Dowker 복합체 지속성 이미지(Dowker-complex persistence images)를 통해 부호 위상을 요약하는 새로운 지속성 호몰로지(persistent-homology) 브랜치를 결합합니다. 융합된 임베딩(embedding)은 이후 프롬프트 학습 함수로 전달됩니다. 합성 및 실제 데이터셋(dataset)에 대한 실험 결과는 부호 그래프에서 유용한 구조적 정보를 추출하는 TopoSIGN의 효능뿐만 아니라, 제안된 일반 프레임워크의 적응성과 유연성을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
8 pages, three figures, to be published in IEEE Speech Language Technology workshop 2026