먼 시점의 큰 그래디언트가 반드시 신뢰할 수 있는 것은 아니다: 장기 자기회귀 예측을 위한 신뢰도 가중치 기반 기여도 할당
Large Distant Gradients Need Not Be Reliable: reliability-weighted credit assignment for long-horizon autoregressive forecasting
자기회귀 예측에서 긴 예측 롤아웃(rollout)은 먼 시점의 감독 신호를 제공하지만, 시간차 역전파(BPTT)는 여러 자기회귀 단계를 거쳐 이러한 손실로부터 발생한 그래디언트를 전달합니다. 반복적인 야코비안(Jacobian) 곱은 예측 가능한 신호와 예측 불가능한 변화(innovation)를 동시에 증폭시켜 먼 시점의 그래디언트가 파라미터 업데이트를 지배하게 만들 수 있으므로, 먼 시점의 큰 그래디언트가 반드시 신뢰할 수 있는 학습 신호를 전달하는 것은 아닙니다. 이에 착안하여, 본 논문에서는 전체 순전파 롤아웃과 모든 단계의 손실을 보존하면서 내부 그래디언트 경로에 신뢰도 가중치를 부여하는 역전파 전용 개입 기법인 Internal Dual-Wiener routing(Internal-DW)을 소개합니다. 각 잔차 블록(residual block)에서 예측 가능한 학습 신호 보존과 예측 불가능한 변동 억제 간의 균형을 맞추는 항등 경로 및 비선형 경로에 대한 유계 위너 이득(bounded Wiener gain)을 유도하고, 경로 수준의 그래디언트 통계량과 명시적 노이즈 모델로부터 이를 추정합니다. 그래디언트 신호 대 잡음비(SNR)가 알려진 제어된 시스템에서, 원거리 그래디언트가 SNR이 감소하더라도 크기가 커질 수 있음을 보이며, Internal-DW가 예측 가능한 그래디언트 신호 복원 오류를 줄이고 예측 성능을 향상시킴을 입증합니다. 과거 이력이 지배적이고 외부 구동력이 약한 4개의 테스트베드에서 Internal-DW는 전체 BPTT 대비 예측 오차를 5.2%-13.8% 줄이고, 3개의 테스트베드에서 그래디언트 클리핑 및 야코비안 정규화보다 뛰어난 성능을 보였으며 전단 흐름(shear flow)에서는 유사한 성능을 보였고, 3개의 테스트베드에서 검증 기반으로 선택된 절단된 BPTT(TBPTT)를 능가했습니다. 또한 이들 4개 테스트베드 전반에서 적합된 최적 학습 구간(horizon) 범위를 확장하거나 보존합니다. 여러 벤치마크 전반에서 현재의 Internal-DW 추정기는 명확한 적용 한계를 가집니다. 즉, 활용 가능한 과거 이력이 제한적이거나 선택된 샘플러가 지배적인 구동 의존적 변동을 적절히 반영하지 못할 경우 그 이점이 감소하거나 반전됩니다. 본 결과는 장기 감독 신호를 유지하더라도 모든 역전파 기여도를 동일하게 신뢰할 필요는 없음을 보여줍니다.