PDWN: Pyramid Deformable Warping Network for Video Interpolation
원문 초록
Video interpolation aims to generate a non-existent intermediate frame given the past and future frames. Many state-of-the-art methods achieve promising results by estimating the optical flow between the known frames and then generating the backward flows between the middle frame and the known frames. However, these methods usually suffer from the inaccuracy of estimated optical flows and require additional models or information to compensate for flow estimation errors. Following the recent development in using deformable convolution (DConv) for video interpolation, we propose a light but effective model, called Pyramid Deformable Warping Network (PDWN). PDWN uses a pyramid structure to generate DConv offsets of the unknown middle frame with respect to the known frames through coarse-to-fine successive refinements. Cost volumes between warped features are calculated at every pyramid level to help the offset inference. At the finest scale, the two warped frames are adaptively blended to generate the middle frame. Lastly, a context enhancement network further enhances the contextual detail of the final output. Ablation studies demonstrate the effectiveness of the coarse-to-fine offset refinement, cost volumes, and DConv. Our method achieves better or on-par accuracy compared to state-of-the-art models on multiple datasets while the number of model parameters and the inference time are substantially less than previous models. Moreover, we present an extension of the proposed framework to use four input frames, which can achieve significant improvement over using only two input frames, with only a slight increase in the model size and inference time.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
GERD: 기하학적 이벤트 응답 데이터 생성
GERD: Geometric event response data generation
이벤트 기반 비전 센서는 높은 시간적 해상도, 높은 동적 범위, 낮은 전력 소비를 제공하지만, 이벤트 기반 비전 모델은 기존 프레임 기반 비전 방법에 비해 뒤처져 있다. 우리는 이 격차가 이벤트 기반 시각 스트림을 지배하는 변환군(transformation groups)에 대한 체계적인 연구의 부족에 일부 기인한다고 주장한다. 컴퓨터 비전(CV) 발전에 기여한 기하학적 및 군론적(group-theoretic) 방법의 역할에 착안하여, 우리는 GERD를 제시한다: 정밀하게 제어된 아핀(affine), 갈릴레이(Galilean), 시간적 스케일링 변환 하에서 객체의 이벤트 기반 녹화물을 생성하는 시뮬레이터이다. 각 타임스텝에서 정답 변환(ground-truth transformations)을 제공함으로써, GERD는 실세계 데이터셋이나 현재의 이벤트 시뮬레이터로는 분리하기 어려운 기하학적 속성에 대한 가설 기반의 통제된 연구를 가능하게 한다. GERD는 실제 센서 데이터셋의 보완재로서 세 가지 노이즈 모델과 서브픽셀 모션을 지원한다. 우리는 기하학적 보장이 있는 문헌 모델들을 평가하여 학습에서의 활용 사례를 시연하고, GERD를 오픈 도구로 공개한다.
MEMFOF: High-Resolution Training for Memory-Efficient Multi-Frame Optical Flow Estimation
WAFT: Warping-Alone Field Transforms for Optical Flow
Multimodal Fusion SLAM with Fourier Attention
EndoMUST: Monocular Depth Estimation for Robotic Endoscopy via End-to-end Multi-step Self-supervised Training
MOL: Joint Estimation of Micro-Expression, Optical Flow, and Landmark via Transformer-Graph-Style Convolution
토론
이 논문과 연결된 포럼 글이 아직 없습니다.