PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10759v1cs.CV

MESSENGER: 자기회귀적 다음 프레임 예측을 통한 메모리 강화 순차 씬 플로우 추정

MESSENGER: Memory-Enhanced Sequential Scene Flow Estimation via Autoregressive Next-Frame Forecasting

씬 플로우(Scene flow)는 동적 시나리오에서 저수준 3D 모션 변위를 포착할 수 있습니다. 순간적인 두 프레임 모션에 의존하는 초기 쌍별(pairwise) 추정기는 장기적인 시간적 상관관계가 결여되어 있으며 미래 예측 시 외삽(extrapolation) 능력이 떨어지는 문제도 겪습니다. 최근 일부 연구에서 시퀀스-투-시퀀스 방식으로 다중 프레임 씬 플로우 추정을 시도하고 있으나, 일반적으로 입력 프레임이 증가함에 따라 막대한 연산 오버헤드가 발생하며 비효과적인 모션 전파로 인해 장기 예측 성능이 저하되는 한계가 있습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 MESSENGER라는 새로운 메모리 강화 순차 씬 플로우 파이프라인을 제안합니다. 연속적인 시퀀스 내에서 장기적인 시간적 의존성을 자연스럽게 충분히 발굴하기 위해, 과거의 플로우 추정치와 잠재 상태(latent states)를 명시적으로 저장하는 메모리 버퍼를 설계했습니다. 각 입력 프레임에 대해, 시간적으로 저장된 플로우와 상태는 다음 프레임 예측 방식으로 상관관계를 맺고 검색되어 현재의 초기화된 플로우를 예측합니다. 또한 신뢰할 수 없는 검색 결과를 필터링하고 누적 오차를 완화하기 위해 불확실성 인지 재가중치 모듈을 개발했습니다. nuScenes 및 Argoverse 2 데이터셋에 대한 광범위한 실험을 통해 MESSENGER의 SOTA(state-of-the-art) 성능을 입증하였으며, 장기 미래 외삽에서 EPE3D를 nuScenes에서 71.6%, Argoverse 2에서 67.7% 감소시켰습니다. 이러한 우수성은 네트워크가 과거 관측을 기반으로 다음 프레임 분포를 점진적으로 학습하도록 자연스럽게 유도하는 자기회귀적 예측 패러다임 설계 덕분입니다. 코드는 https://github.com/liujiuming123/Messenger 에서 공개될 예정입니다.

arXiv:2609.12890v3cs.LG

먼 시점의 큰 그래디언트가 반드시 신뢰할 수 있는 것은 아니다: 장기 자기회귀 예측을 위한 신뢰도 가중치 기반 기여도 할당

Large Distant Gradients Need Not Be Reliable: reliability-weighted credit assignment for long-horizon autoregressive forecasting

자기회귀 예측에서 긴 예측 롤아웃(rollout)은 먼 시점의 감독 신호를 제공하지만, 시간차 역전파(BPTT)는 여러 자기회귀 단계를 거쳐 이러한 손실로부터 발생한 그래디언트를 전달합니다. 반복적인 야코비안(Jacobian) 곱은 예측 가능한 신호와 예측 불가능한 변화(innovation)를 동시에 증폭시켜 먼 시점의 그래디언트가 파라미터 업데이트를 지배하게 만들 수 있으므로, 먼 시점의 큰 그래디언트가 반드시 신뢰할 수 있는 학습 신호를 전달하는 것은 아닙니다. 이에 착안하여, 본 논문에서는 전체 순전파 롤아웃과 모든 단계의 손실을 보존하면서 내부 그래디언트 경로에 신뢰도 가중치를 부여하는 역전파 전용 개입 기법인 Internal Dual-Wiener routing(Internal-DW)을 소개합니다. 각 잔차 블록(residual block)에서 예측 가능한 학습 신호 보존과 예측 불가능한 변동 억제 간의 균형을 맞추는 항등 경로 및 비선형 경로에 대한 유계 위너 이득(bounded Wiener gain)을 유도하고, 경로 수준의 그래디언트 통계량과 명시적 노이즈 모델로부터 이를 추정합니다. 그래디언트 신호 대 잡음비(SNR)가 알려진 제어된 시스템에서, 원거리 그래디언트가 SNR이 감소하더라도 크기가 커질 수 있음을 보이며, Internal-DW가 예측 가능한 그래디언트 신호 복원 오류를 줄이고 예측 성능을 향상시킴을 입증합니다. 과거 이력이 지배적이고 외부 구동력이 약한 4개의 테스트베드에서 Internal-DW는 전체 BPTT 대비 예측 오차를 5.2%-13.8% 줄이고, 3개의 테스트베드에서 그래디언트 클리핑 및 야코비안 정규화보다 뛰어난 성능을 보였으며 전단 흐름(shear flow)에서는 유사한 성능을 보였고, 3개의 테스트베드에서 검증 기반으로 선택된 절단된 BPTT(TBPTT)를 능가했습니다. 또한 이들 4개 테스트베드 전반에서 적합된 최적 학습 구간(horizon) 범위를 확장하거나 보존합니다. 여러 벤치마크 전반에서 현재의 Internal-DW 추정기는 명확한 적용 한계를 가집니다. 즉, 활용 가능한 과거 이력이 제한적이거나 선택된 샘플러가 지배적인 구동 의존적 변동을 적절히 반영하지 못할 경우 그 이점이 감소하거나 반전됩니다. 본 결과는 장기 감독 신호를 유지하더라도 모든 역전파 기여도를 동일하게 신뢰할 필요는 없음을 보여줍니다.

arXiv:2607.21080v1cs.LG

나비 효과를 미연에 차단하기: 자기회귀 기상 예측을 위한 자기 출력 미세조정(Self-Output Fine-Tuning, SOFT)

Nipping the Butterfly Effect in the Bud: Self-Output Fine-Tuning for Autoregressive Weather Prediction

장기 기상 예보는 대기 과학의 근본적인 과제이며, 자기회귀적 심층 학습 기상 예측(Deep Learning Weather Prediction, DLWP)이 주요 패러다임으로 부상했다. 자기회귀 파이프라인은 확장성과 유연성이 매우 높지만, 예측 오차는 긴 예보 구간에서 빠르게 증가한다. 본 연구에서는 이 오차 증가 현상을 이론적·실증적 관점 모두에서 분석한다. 분석 결과, 이러한 증가는 출력 오차와 입력 분포 변화 사이의 피드백 루프에 의해 촉진됨을 밝혔다. 구체적으로, 자기회귀 과정은 초기의 작은 출력 오차를 증폭시키고, 이는 후속 입력 분포를 점진적으로 왜곡하며, 대기 과학의 나비 효과를 연상시키고 궁극적으로 더 긴 구간에서 예보 정확도를 저하시킨다. 또한 이 분포 변화는 추론의 가장 이른 단계에서 기인하며, 첫 번째 자기회귀 단계만으로도 분포 외(out-of-distribution) 특성이 감지 가능함을 보였다. 이 문제를 완화하기 위해, 우리는 \textbf{Self-Output Fine-Tuning (SOFT)}를 제안한다. 이는 플러그 앤 플레이 전략으로, 모델 자체의 1-step 예측을 활용하여 첫 단계에서 발생하는 편향된 입력 분포를 보정한다. 광범위한 실험을 통해, 단순함에도 불구하고 SOFT가 장기 예보 과제에서 최첨단(state-of-the-art) 성능을 달성하고 예측 오차와 분포 불일치를 모두 크게 줄임을 입증했다. SOFT의 성공은 심층 학습 기상 예측의 근본적 파이프라인을 재검토하는 것의 중요성을 부각하며, 대기 과학을 위한 중요한 파이프라인 발전을 나타낸다.