Motion deblurring of faces
원문 초록
Face analysis is a core part of computer vision, in which remarkable progress has been observed in the past decades. Current methods achieve recognition and tracking with invariance to fundamental modes of variation such as illumination, 3D pose, expressions. Notwithstanding, a much less standing mode of variation is motion deblurring, which however presents substantial challenges in face analysis. Recent approaches either make oversimplifying assumptions, e.g. in cases of joint optimization with other tasks, or fail to preserve the highly structured shape/identity information. Therefore, we propose a data-driven method that encourages identity preservation. The proposed model includes two parallel streams (sub-networks): the first deblurs the image, the second implicitly extracts and projects the identity of both the sharp and the blurred image in similar subspaces. We devise a method for creating realistic motion blur by averaging a variable number of frames to train our model. The averaged images originate from a 2MF2 dataset with 10 million facial frames, which we introduce for the task. Considering deblurring as an intermediate step, we utilize the deblurred outputs to conduct a thorough experimentation on high-level face analysis tasks, i.e. landmark localization and face verification. The experimental evaluation demonstrates the superiority of our method.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Plug-and-Play 이미지 복원을 위한 확률적 디노이징 정규화(SNORE)
Plug-and-Play image restoration with Stochastic deNOising REgularization
Plug-and-Play(PnP) 알고리즘은 물리적 모델과 정규화(regularization)를 위한 심층 신경망(deep neural network)을 결합하여 이미지 역문제를 해결하는 일종의 반복적 알고리즘입니다. 인상적인 이미지 복원 결과를 보여주지만, 이러한 알고리즘들은 반복(iteration)이 진행됨에 따라 노이즈가 점점 줄어드는 이미지에 디노이저를 적용하는 비표준적인 방식에 의존합니다. 이는 디노이저가 재노이즈된(re-noised) 이미지에만 적용되는 디퓨전 모델(Diffusion Models, DM) 기반의 최신 알고리즘들과 대조적입니다. 우리는 적절한 수준의 노이즈가 있는 이미지에만 디노이저를 적용하는 확률적 디노이징 정규화(Stochastic deNOising REgularization, SNORE)라는 새로운 PnP 프레임워크를 제안합니다. 이 방법은 명시적인 확률적 정규화를 기반으로 하며, 이를 통해 악조건(ill-posed) 역문제를 해결하는 확률적 경사하강법(stochastic gradient descent) 알고리즘을 도출합니다. 이 알고리즘과 그 어닐링(annealing) 확장 버전에 대한 수렴(convergence) 분석을 제공합니다. 실험적으로 SNORE가 블러 제거(deblurring) 및 인페인팅(inpainting) 작업에서 최신 방법들(state-of-the-art methods) 대비 정량적 및 정성적으로 모두 경쟁력이 있음을 입증합니다.
Generative Latent Kernel Modeling for Blind Motion Deblurring
EAMamba: Efficient All-Around Vision State Space Model for Image Restoration
Visual-Instructed Degradation Diffusion for All-in-One Image Restoration
R3eVision: A Survey on Robust Rendering, Restoration, and Enhancement for 3D Low-Level Vision
Unsupervised Imaging Inverse Problems with Diffusion Distribution Matching
토론
이 논문과 연결된 포럼 글이 아직 없습니다.