arXiv:2304.03285

$\text{DC}^2$: Dual-Camera Defocus Control by Learning to Refocus

Hadi AlZayer, Abdullah Abuolaim, Leung Chun Chan, Yang Yang, Ying Chen Lou, Jia-Bin Huang, Abhishek Kar

제출 2023-04-06

원문 초록

Smartphone cameras today are increasingly approaching the versatility and quality of professional cameras through a combination of hardware and software advancements. However, fixed aperture remains a key limitation, preventing users from controlling the depth of field (DoF) of captured images. At the same time, many smartphones now have multiple cameras with different fixed apertures - specifically, an ultra-wide camera with wider field of view and deeper DoF and a higher resolution primary camera with shallower DoF. In this work, we propose $\text{DC}^2$, a system for defocus control for synthetically varying camera aperture, focus distance and arbitrary defocus effects by fusing information from such a dual-camera system. Our key insight is to leverage real-world smartphone camera dataset by using image refocus as a proxy task for learning to control defocus. Quantitative and qualitative evaluations on real-world data demonstrate our system's efficacy where we outperform state-of-the-art on defocus deblurring, bokeh rendering, and image refocus. Finally, we demonstrate creative post-capture defocus control enabled by our method, including tilt-shift and content-based defocus effects.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2402.01779v4eess.IV공통 태그 Deblurring공식 코드 · Papers with Code

Plug-and-Play 이미지 복원을 위한 확률적 디노이징 정규화(SNORE)

Plug-and-Play image restoration with Stochastic deNOising REgularization

Plug-and-Play(PnP) 알고리즘은 물리적 모델과 정규화(regularization)를 위한 심층 신경망(deep neural network)을 결합하여 이미지 역문제를 해결하는 일종의 반복적 알고리즘입니다. 인상적인 이미지 복원 결과를 보여주지만, 이러한 알고리즘들은 반복(iteration)이 진행됨에 따라 노이즈가 점점 줄어드는 이미지에 디노이저를 적용하는 비표준적인 방식에 의존합니다. 이는 디노이저가 재노이즈된(re-noised) 이미지에만 적용되는 디퓨전 모델(Diffusion Models, DM) 기반의 최신 알고리즘들과 대조적입니다. 우리는 적절한 수준의 노이즈가 있는 이미지에만 디노이저를 적용하는 확률적 디노이징 정규화(Stochastic deNOising REgularization, SNORE)라는 새로운 PnP 프레임워크를 제안합니다. 이 방법은 명시적인 확률적 정규화를 기반으로 하며, 이를 통해 악조건(ill-posed) 역문제를 해결하는 확률적 경사하강법(stochastic gradient descent) 알고리즘을 도출합니다. 이 알고리즘과 그 어닐링(annealing) 확장 버전에 대한 수렴(convergence) 분석을 제공합니다. 실험적으로 SNORE가 블러 제거(deblurring) 및 인페인팅(inpainting) 작업에서 최신 방법들(state-of-the-art methods) 대비 정량적 및 정성적으로 모두 경쟁력이 있음을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.