arXiv:2603.08683v3 cs.SD

완전 충실도 오디오의 무손실 압축을 위한 언어 모델링 벤치마킹

Benchmarking Language Modeling for Lossless Compression of Full-Fidelity Audio

Phillip Long, Zachary Novack, Chris Donahue

제출 2026-11-03

한국어 초록

원시 파형으로 학습한 자기회귀 "언어" 모델(LM)은 무손실 오디오 압축에 재활용될 수 있지만, 기존 연구는 8비트 오디오로 제한되어 있어 이러한 접근법이 실용적인 설정(16/24비트)에서 작동하는지, 그리고 기존 코덱과 경쟁할 수 있는지는 미해결 상태였다. 우리는 다양한 도메인(음악, 음성, 생물음향), 샘플링 레이트(16kHz-48kHz), 비트 심도(8, 16, 24비트)에 걸쳐 완전 충실도 오디오에 대한 LM 기반 압축을 벤치마킹한다. 표준 샘플 수준 토큰화는 어휘 크기(16비트의 경우 65K, 24비트의 경우 16.7M) 때문에 높은 비트 심도에서 다루기 어려워진다. 우리는 완전 해상도 오디오를 위한 바이트 수준 토큰화 방식인 Trilobyte를 제안하며, 이는 어휘 확장을 $O(2^{b})$에서 $O(1)$로 개선하고 최초로 다룰 수 있는 24비트 LM 기반 무손실 압축을 가능하게 한다. LM은 FLAC을 일관되게 능가하며 8비트와 16비트에서 최첨단 압축 성능을 보이지만, 비트 심도가 8비트를 넘어 증가함에 따라 압축 이득은 더 완만해짐을 관찰한다.

원문 초록

Autoregressive "language" models (LMs) trained on raw waveforms can be repurposed for lossless audio compression, but prior work is limited to 8-bit audio, leaving open whether such approaches work for practical settings (16/24-bit) and can compete with existing codecs. We benchmark LM-based compression on full-fidelity audio across diverse domains (music, speech, bioacoustics), sampling rates (16kHz-48kHz), and bit depths (8, 16, 24-bit). Standard sample-level tokenization becomes intractable at higher bit depths due to vocabulary size (65K for 16-bit; 16.7M for 24-bit). We propose Trilobyte, a byte-level tokenization schema for full resolution audio, improving vocabulary scaling from $O(2^{b})$ to $O(1)$ and enabling the first tractable 24-bit LM-based lossless compression. While LMs consistently outperform FLAC and yield state-of-the-art compression at 8-bit and 16-bit, we observe that compression gains become more modest as bit depth increases beyond 8-bit.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2603.08683v3제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.