Dense Optical Flow Prediction from a Static Image
원문 초록
Given a scene, what is going to move, and in what direction will it move? Such a question could be considered a non-semantic form of action prediction. In this work, we present a convolutional neural network (CNN) based approach for motion prediction. Given a static image, this CNN predicts the future motion of each and every pixel in the image in terms of optical flow. Our CNN model leverages the data in tens of thousands of realistic videos to train our model. Our method relies on absolutely no human labeling and is able to predict motion based on the context of the scene. Because our CNN model makes no assumptions about the underlying scene, it can predict future optical flow on a diverse set of scenarios. We outperform all previous approaches by large margins.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
동결 Flow는 잊는다: Latent-flow 월드 모델에서 소실된 움직임의 진단과 복원
Frozen Flows Forget: Diagnosing and Restoring Lost Motion in a Latent-flow World Model
동결된 자기지도(self-supervised) 잠재(latent) 공간에 flow를 통합한 latent 월드 모델은 안정적이고 저렴하게 학습되지만, 조작(manipulation)이 가장 의존하는 속성인 움직임(motion)을 조용히 잃어버린다. 사전학습된 flow는 조작 대상을 전혀 움직이지 않으며, latent만 사용하는 손실로 재학습하면 정지 상태와 텔레포트처럼 움직이는 motion 사이를 바꾸는 것에 그친다. 우리는 실패 원인을 표현(representation)이 아니라 학습(training) 신호에 두며, anchor-sparse하고 latent만 사용하는 supervision은 horizon을 따라 변화가 어디에 속하는지 말해주지 못한다. Decode-augmented rollout 학습(DART)은 표현을 동결한 채 flow만 decode-path supervision으로 재학습하여 이를 수정한다. DART는 전체 프로토콜에서 latent-only 부모 모델을 능가하고, motion의 시간적 구조를 복원하며, 예측 motion을 장면(scene)과 다시 결합한다; 더 큰 규모에서는 예측 품질이 더 개선되어 oracle-informed interpolation reference까지 남은 격차의 거의 절반을 줄인다. 마지막으로 평가에 관한 예상치 못한 발견을 보고한다: 픽셀 오류만으로는 동결된 예측을 보상한다.
LongE2V: 비디오 확산 모델을 활용한 장기 이벤트 기반 비디오 복원, 예측 및 프레임 보간
LongE2V: Long-Horizon Event-based Video Reconstruction, Prediction, and Frame Interpolation with Video Diffusion Models
희소 이벤트 스트림에서 고품질 비디오를 복원하는 것은 어려운 과제이다. 회귀 방법은 텍스처를 흐릿하게 만드는 경향이 있으며, 기존 생성 모델은 장기 안정성 확보에 어려움을 겪는다. 우리는 사전학습된 비디오 확산 사전 지식(prior)을 활용하여 이벤트 기반 비디오 복원, 예측, 프레임 보간을 통합적으로 처리하는 새로운 접근법인 LongE2V를 제안한다. 기반 비디오 모델을 미세조정함으로써, 우리의 접근법은 높은 데이터 효율성과 우수한 지각적 품질을 달성한다. 극도로 긴 시퀀스에서의 시간적 드리프트를 완화하기 위해 자기회귀적 언롤링(Autoregressive Unrolling)과 적응형 컨텍스트 전환(Adaptive Context Switching)을 도입한다. 또한 프레임 보간 시 정밀한 양방향 일관성을 보장하기 위해 교차 잔차 보정을 포함한 재인코딩 정렬(Reencoding Alignment with Cross Residual Correction)을 제안한다. 나아가, 이벤트 복셀 밀도 증강(Event Voxel Density Augmentation)은 다양한 센서 해상도에 걸쳐 강건성을 보장한다. 실세계 벤치마크에서의 광범위한 실험을 통해 LongE2V가 세 가지 과제 모두에서 최첨단 방법을 능가하며, 뛰어난 시간적 일관성과 제로샷 일반화 능력을 보임을 입증한다. 프로젝트 페이지: https://cdfan0627.github.io/LongE2V-page/
클래스 비지정 모션 예측을 위한 합성-실제 변환
Synthetic-to-Real Translation for Class-Agnostic Motion Prediction
모션 이해는 자율주행 시스템의 안전성과 견고성을 보장하는 데 매우 중요하며, 이에 따라 모션 예측에 대한 관심이 높아지고 있다. 이 분야의 핵심 과제 중 하나는 실세계 모션 레이블 취득에 드는 높은 비용이다. 따라서 합성 데이터에서 실제 데이터로 모션 지식을 전이할 수 있다면 이상적일 것이다. 이러한 맥락에서 우리는 모션 예측을 위한 합성-실제 변환(SRMP)의 가능성을 탐구한다. 그러나 가장 많이 사용되는 단순한 모션 회귀 방법들은 합성-실제 도메인 시프트에 특히 민감하여 신뢰할 수 없는 지식 변환을 초래한다. 이를 해결하기 위해 우리는 두 가지 핵심 구성요소를 통합한 모션 지식 변환 프레임워크를 포함하는 새로운 접근법을 제안한다: (1) 객체성 인식 모션 예측(objectness-aware motion prediction)으로, 모션 패턴과 객체성 사전 정보(objectness priors)의 결합 분포를 명시적으로 모델링하여 도메인 불변 특징(feature) 학습을 향상시키고, (2) 객체성 보조 모션 향상(objectness-aided motion enhancement)은 학습된 객체성 사전 정보를 활용하여 모션 노이즈를 필터링하는 모션 레이블 정제 메커니즘이다. 또한, SRMP 연구를 위한 최초의 합성 4D LiDAR 데이터셋인 Motion4D를 생성하기 위한 물리 기반 파이프라인을 제시하며, 이를 통해 합성 모션 데이터셋의 부재를 해소한다. 실험 결과는 우리의 접근법이 도메인 격차를 효과적으로 좁히고 실제 장면에서 우수한 성능을 발휘함을 보여준다.
MSTCGAN: Multiscale time conditional generative adversarial network for long-term satellite image sequence prediction
GRIP: Graph-based Interaction-aware Trajectory Prediction
지정가 주문서 예측을 위한 추론-연산 프런티어
The Inference-Compute Frontier for Limit Order Book Prediction
우리는 FI-2010에서 지정가 주문서 예측에 대한 경험적 추론-연산 프런티어를 규명한다. 저연산 및 중연산 모델에 적합시킨 멱법칙은, 해당 적합에서 가장 큰 예산의 $56$--$2{,}515$배에 달하는 연산량을 가진, 제외된 MLPLOB 방식의 믹서 계열까지 외삽된다. 아홉 개의 폴드와 다섯 개의 예측 수평선에 걸쳐, 실현된 목표 프런티어에서 통합 $R^2$는 $0.934$이며 상수 종점 외삽보다 RMSE가 59\% 낮고, 제외된 모든 운용점에서는 $0.731$이다. 측정된 지연 시간은 더 약한 관계를 보이며 모델 계열의 순위를 바꾼다. 따라서 우리는 연산을 조밀한 시간 및 특징 혼합에 집약하도록 FastBiNLOB을 설계한다. H120은 다섯 개의 시드 모두에서 네 개의 수평선 중 두 개에서 발표된 최첨단 macro-F1을 능가한다. 우리의 CPU/MPS 프로토콜에서 H96은 W128 MLPLOB 기준 대비 중앙값 지연 시간을 23.6\% 줄이고, H120은 TLOB에서 착안한 이중 축 어텐션 기준 대비 60.2\% 줄인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.