장기 시계열 예측(long-term time-series forecasting)은 기상 예측 및 전력 수요 계획을 포함한 다양한 응용 분야를 지원한다. 주파수 영역(frequency-domain) 기법은 관측값을 서로 다른 스케일에서의 시간적 변화를 나타내는 구성 요소들로 분해하여 이 문제를 다룬다. 그러나 이러한 분리된 표현만으로는 구성 요소 간 학습 강조를 조정하는 명시적인 메커니즘을 제공하지 못한다. 공유된 예측 목표 하에서, 주파수별 네트워크는 서로 다른 수준의 계수 예측 오차를 유지할 수 있으며, 이는 그래디언트에 대한 오차 의존적 조정의 필요성을 제기한다. 이를 위해 우리는 주파수별 오차 모니터링과 적응적 그래디언트 조절을 결합한 프레임워크인 BEAT(Balanced frEquency Adaptive Tuning)를 제안한다. 우리는 예측된 웨이블릿 계수(wavelet coefficients)와 목표 웨이블릿 계수를 공통의 정규화된 공간에서 비교하고, 각 차이를 디테일 구성 요소로부터 계산된 기준 오차에 대한 상대값으로 표현하는 주파수별 모니터(Frequency-Specific Monitor)를 설계한다. 또한 이러한 비율을 양의 유한(bounded) 계수로 변환하는 동적 그래디언트 밸런서(Dynamical Gradient Balancer)를 도입한다. 상대 오차가 더 큰 구성 요소는 더 큰 그래디언트 가중치를 받고, 상대 오차가 더 작은 구성 요소는 더 작은 가중치를 받는다. 공유되는 조절 강도 매개변수는 조절되지 않은 학습으로부터의 이탈 정도를 제어하며, 모니터링 및 밸런싱 연산은 학습 중에만 사용된다. 7개의 실제 데이터셋에 대한 실험 결과, BEAT는 최신(state-of-the-art) 예측 기법들과 비교하여 경쟁력 있는 성능을 달성함을 보여준다.
대부분의 인체 모션 생성 방식은 모든 토큰이 동일한 고정 시간 윈도우에 걸쳐 있는 균일한 시간 격자(temporal grid) 상의 토큰으로 모션을 인코딩합니다. 그러나 인체 모션은 시간적으로 이질적입니다. 즉, 천천히 변화하는 전역 궤적과 발 접지 및 관절 충격과 같은 빠른 일시적 이벤트가 공존합니다. 이러한 다중 스케일 역학을 동일한 시간 해상도의 토큰에 억지로 맞추면 모션 주파수가 얽히게 되어 느린 영역은 불필요하게 중복되는 반면, 사실적인 모션을 구분 짓는 빠른 디테일은 뭉개지게 됩니다. 본 논문에서는 모션을 웨이블릿 주파수 대역으로 분해하여 시간적 위치 파악과 정확한 재구성을 유지하면서 시간 스케일 전반의 역학을 분리하는 스케일 적응형 모션 표현인 \textbf{FreqMo}를 제안합니다. 이후 통합 주파수 잔차 양자화(UFRQ)를 통해 단일 공유 코드북 내에서 모든 대역을 인코딩함으로써 토큰 시퀀스를 3배 압축하고 안정적인 단일 단계 생성을 가능하게 합니다. 실험 결과, FreqMo는 고주파수 보존 능력이 대폭 향상되어 SOTA 충실도(fidelity)를 달성하며, 동일한 분해 기법이 연속 확산(diffusion) 백본에도 전이될 수 있음을 보여줍니다.
주기성과 추세는 시계열 데이터의 중요한 구성 요소이며, 이를 기반으로 한 많은 연구가 장기 시계열 예측에서 좋은 결과를 달성했습니다. 그러나 우리는 현재 연구들이 시계열 데이터 내 현실 세계의 채널 간 상관관계의 영향을 간과하여 최적이 아닌 예측을 초래한다고 봅니다. 더욱이, 이러한 모델들은 다양한 정보를 포착하기 위해 복잡한 설계에 의존함으로써 계산 효율성이 낮습니다. 이러한 문제를 해결하기 위해 우리는 주기성, 추세, 그리고 채널 간 상관관계를 각각 모델링하는 장기 시계열 예측 모델인 McWC를 제안합니다. 구체적으로, McWC는 먼저 다층 주기성 구성 모듈을 사용하여 데이터에서 주기적 정보를 분리합니다. 그 다음, 다층 퍼셉트론(multi-layer perceptron)을 사용하여 채널 간 상관관계를 추출합니다. 이어서, 다중 레벨 웨이블릿 분해 모듈을 사용하여 데이터의 다층 고주파 및 저주파 정보를 모델링하고 융합합니다. 마지막으로, 서로 다른 구성 요소의 결과를 집계하여 출력을 얻습니다. 동시에, 주파수 영역에서 손실 함수를 계산하여 채널 내 자기상관관계를 분리합니다. 6개의 실제 데이터셋에 대한 실험 결과, McWC는 최첨단(state-of-the-art) 성능을 달성하며 뛰어난 계산 효율성과 과거 정보 추출 능력을 보여주었습니다.