arXiv:1712.09078

Deep Blind Image Inpainting

Yang Liu, Jinshan Pan, Zhixun Su

제출 2017-12-25

원문 초록

Image inpainting is a challenging problem as it needs to fill the information of the corrupted regions. Most of the existing inpainting algorithms assume that the positions of the corrupted regions are known. Different from the existing methods that usually make some assumptions on the corrupted regions, we present an efficient blind image inpainting algorithm to directly restore a clear image from a corrupted input. Our algorithm is motivated by the residual learning algorithm which aims to learn the missing infor- mation in corrupted regions. However, directly using exist- ing residual learning algorithms in image restoration does not well solve this problem as little information is available in the corrupted regions. To solve this problem, we introduce an encoder and decoder architecture to capture more useful information and develop a robust loss function to deal with outliers. Our algorithm can predict the missing information in the corrupted regions, thus facilitating the clear image restoration. Both qualitative and quantitative experimental demonstrate that our algorithm can deal with the corrupted regions of arbitrary shapes and performs favorably against state-of-the-art methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.28342v1cs.CV공통 태그 Image Restoration, Image Inpainting

어텐션 마스킹, 잠재 공간 앵커링 및 정제를 통한 제로샷 객체 제거

Zero-Shot Object Removal via Attention Masking, Latent Anchoring, and Refinement

실제 이미지에서 객체를 제거하려면 마스크 내부에 그럴듯한 내용을 합성하는 것만으로는 부족하며, 방법은 잔여 객체 특징을 억제하고 편집되지 않은 장면을 보존한 뒤 주변 배경과 일관된 대체 내용을 생성해야 한다. 본 논문은 단계 기반 관점에서 객체 제거에 접근하며, 동결된 사전학습 Stable Diffusion 모델을 이용한 제약 잠재 공간 인페인팅(constrained latent inpainting)용 제로샷 프레임워크를 제안한다. 과제별 학습이나 모델 미세조정은 필요하지 않다. 이 방법은 SAM 기반 마스크 구성, BLIP 이미지-캡션 조건화, DDIM inversion, 배경 가중 마스크 null-text 최적화(NTI), 디코더 self-attention 마스킹, 마스크 외부 hard 잠재 공간 앵커링, 국소 renoise–denoise 정제를 하나의 통합 파이프라인에 결합한다. 정성적 사례, 정량적 국소 일관성 지표, ablation 연구로 평가하였다. 결과는 효과적인 객체 제거와 문맥상 일관된 대체 내용 생성을 보여준다. Ablation에 따르면 배경 가중 마스크 NTI는 구조적으로 복잡한 배경에서 특히 유리하며, NTI 없는 변형은 다른 평가 사례에서는 충분하다. 반복 정제는 1차 편집 이후 남는 객체 잔여물과 경계 아티팩트를 더 줄인다.

arXiv:2607.24140v1cs.CV공통 태그 Image Restoration, Image Inpainting

확률적 역학을 통한 이미지 인페인팅

Image Inpainting via Stochastic Dynamics

이미지 인페인팅은 구조적 일관성을 유지하면서 결손 영역을 복원하는 것을 목표로 한다. 본 연구는 데이터 기반 확률적 역학에 근거한, 신경망 학습 없이 동작하는 비모수적 방법을 제안한다. 마스킹된 이미지에서 출발하여, 결손 픽셀은 참조 데이터셋에서 직접 추정한 커널 가중 보정이 적용된 역시간 확률 미분 방정식을 통해 진화한다. 이 경험적 보정은 신경망을 학습하거나 모수적 밀도 모델을 적합하지 않고도, 재구성을 데이터 분포의 고밀도 영역으로 유도한다. MNIST, Fashion-MNIST, MVTec에서의 실험 결과, 제안 방법은 PSNR, SSIM, 시각적 품질 측면에서 Mean Fill, Telea, Navier-Stokes 인페인팅을 능가한다. CelebA에서는 경쟁력 있는 성능을 유지하며, 구조에 민감한 가림에 대해서도 그럴듯한 복원 결과를 생성한다. 이러한 결과는 이미지 인페인팅을 위한 비모수적 사전(prior)으로서 경험적 참조 통계의 효과를 보여준다.

arXiv:2607.24157v1cs.CV공통 태그 Decoder, Image Restoration

UniGen-AR: 자기회귀 모델링을 통한 통합 시각 생성

UniGen-AR: Unifying Visual Generation with Auto-Regressive Modeling

현대 컴퓨터 비전(CV) 파이프라인은 여전히 분절되어 있으며, 텍스트-이미지 생성, 편집, 복원, 전통적인 인식(perception)과 같은 작업이 각각 별도의 모델로 처리된다. 우리는 단일 모델이 통합된 멀티모달 인터페이스를 통해 다양한 이미지 형태의 출력을 생성하는 통합 시각 생성(UVG)을 연구한다. 확산(diffusion) 기반 시스템은 뛰어난 품질과 제어 가능성(controllability)으로 UVG를 주도하지만, 반복적 샘플링으로 인해 상당한 추론 지연이 발생하여 실용적 배포를 제한한다. 이러한 한계를 해결하기 위해, 범용 멀티모달 언어 모델(MLLM)과 효율적인 next-scale 시각 자기회귀(VAR) 디코더를 결합한 프레임워크인 UniGen-AR를 제안한다. 이 설계는 MLLM 기반 조건화(conditioning)의 유연성을 유지하면서 VAR 모델의 샘플링 효율성과 잠재 공간 통합(latent unification) 특성을 활용한다. 우리 프레임워크에서 MLLM은 자유 형식의 지시와 제어 신호를 통합 시퀀스로 인코딩하며, 이는 VAR 디코더가 네 가지 계열에 걸친 15개 이상의 작업에 대해 이미지 형태의 출력을 생성하도록 안내한다. 실험적으로 UniGen-AR는 확산 기반 베이스라인 대비 최대 19배 낮은 추론 지연을 달성하면서 출력 품질을 유지하거나 개선한다. 우리의 ablation 연구는 VQ-VAE 토크나이저(tokenizer) 설계, 특히 codebook 크기와 계층 구조가 UVG에서 VAR 확장성(scalability)의 핵심 요인임을 추가로 밝힌다. 이 결과는 시각 자기회귀 모델링이 통합 시각 생성을 위한 설득력 있고 효율적인 백본(backbone)임을 입증한다. 프로젝트 페이지: https://zpbao.github.io/projects/unigenar.

arXiv:2607.21904v1cs.CV공통 태그 Image Restoration, Image Inpainting

의료 영상 인페인팅에서의 확산 모델: 과제, 해결책 분류체계 및 향후 방향

Diffusion Models in Medical Image Inpainting: Challenges, Solution Taxonomy, and Future Directions

이미지 인페인팅은 가능한 한 시각적·의미적 일관성을 유지하면서 이미지의 누락되거나 손상된 영역을 복원하는 것을 목표로 한다. 의료 영상에서는 아티팩트, 정보 누락, 병리학적 변화가 진단 신뢰도와 하류 임상 응용을 저해할 수 있기 때문에 이 과제가 특히 중요하다. 최근 확산 모델(diffusion models)은 해부학적으로 일관된 복원을 생성할 수 있다는 점 때문에 의료 영상 인페인팅을 위한 최첨단 생성 접근법으로 부상했다. 본 서베이는 60편의 연구에 보고된 주요 아키텍처, 응용, 데이터셋, 평가 전략을 다루며 의료 영상 인페인팅을 위한 확산 기반 방법에 대한 체계적 검토를 제시한다. 또한 확산 기반 접근법에 대한 분류체계를 제안한다. 분석 결과, 확산 기반 의료 영상 인페인팅에 대한 연구 관심이 급격히 증가하고 있으며, 노이즈 제거 확산 확률 모델(denoising diffusion probabilistic models, DDPM)과 잠재 확산 모델(latent diffusion models, LDM)이 지배적인 아키텍처로 부상하고 있음을 보여준다. 검토된 연구들은 주로 아티팩트 제거, 데이터 증강, pseudo-healthy 조직 복원, 이상 탐지에 초점을 맞추며, 특히 자기공명영상(MRI)과 컴퓨터 단층촬영(CT) 영상에서 다루어진다. 전반적으로 확산 모델은 해부학적으로 그럴듯한 복원을 생성하고 하류 임상 과제를 지원하는 데 강력한 성능을 보여준다. 그러나 본 검토는 표준화된 벤치마크 부재, 제한된 데이터셋 다양성, 다양한 임상 응용 및 영상 시나리오 전반에 걸친 제한적인 검증 절차 등 중요한 과제도 강조한다.

arXiv:2607.11034v1cs.CV공통 태그 Decoder, Image Restoration

RTFVE: 실시간 얼굴 비디오 향상

RTFVE: Realtime Face Video Enhancement

화상 회의 애플리케이션은 개인 및 업무 용도 모두에서 채택이 급증하고 있다. 그러나 전 세계 많은 사용자들이 직면한 대역폭 제한으로 인해 이러한 애플리케이션의 최적 활용이 저해될 수 있다. 심층 학습(deep learning)은 저비트레이트 비디오를 향상시키는 솔루션을 제공하지만, 오늘날 대부분의 모델은 최신 압축 표준과 통합하기 어렵거나 고성능 GPU와 같은 특수 하드웨어를 필요로 하여 실용성이 낮다. 이러한 문제를 해결하기 위해, 임의의 비디오 디코더와 손쉽게 통합할 수 있고 일반 CPU에서 실시간으로 실행 가능한 실시간 얼굴 비디오 향상(RTFVE) 모델을 제안한다. 실험 결과, 본 모델은 여러 저비트레이트 설정에서 압축 비디오 기준선 대비 지각적 품질을 향상시키는 것으로 나타났다. 소스 코드는 https://github.com/varun-jois/RTFVE에서 공개될 예정이다.

arXiv:2607.05649v1cs.CV공통 태그 Image Restoration, Image Inpainting

REVIVE: 자율주행차량의 반달리즘 탐지 및 복원을 위한 멀티모달 프레임워크

REVIVE: A Multi-Modal Framework for Vandalism Detection and Recovery in Autonomous Vehicles

자율주행차량(AV)은 카메라 기반 인식 시스템을 손상시키는 반달리즘 유발 폐색 공격(VOA, Vandalism-induced Occlusion Attack)의 위협에 점점 더 많이 노출되고 있다. 탐지 프레임워크가 훼손된 이미지를 식별할 수 있는 반면, 물리적 폐색 이후 카메라 스트림의 유용성을 복원하는 방법은 아직 충분히 연구되지 않았다. 본 논문에서는 시각적 우수성을 위한 훼손 이미지 복원 및 향상 프레임워크인 REVIVE(Recovery and Enhancement of Vandalized Images for Vision Excellence)를 제안한다. 이 반달리즘 복원 파이프라인은 다음을 통합한다: (1) 이진 VOA 탐지, (2) 다중 클래스 VOA 패턴 식별, (3) EfficientNet 기반 U-Net 세그멘테이션, (4) BLIP(Bootstrapping Language-Image Pre-training) 가이드 Stable Diffusion 인페인팅, 직접 픽셀 대체, 또는 적응형 중앙값 필터링을 활용하는 유형 인식 복원. Stable Diffusion은 VOA 패턴에 따라 가변적인 복원 성능(패턴별 SSIM 0.667–0.867, PSNR 15.4–26.7dB)을 보이며, 정렬된 직접 픽셀 대체는 정렬 참조 조건 하에서 거의 동일한 복원을 달성한다. 500쌍의 추적된 정상/훼손 이미지 쌍에서, 복원되지 않은 VOA는 YOLOv8l 객체 탐지 재현율을 0.588로 저하시키는 반면, 직접 픽셀 대체는 정렬 참조 조건 하에서 재현율을 0.967, F1 점수를 0.970으로 복원한다. LaMa, Telea, Navier-Stokes 기준선은 이미지 유사도를 향상시키지만 하위 탐지 복원은 더 제한적이며, Stable Diffusion은 실시간 인식을 차단하는 단계가 아닌 품질 게이트가 적용되는 비동기 복원 분기로 처리된다. 본 논문에서는 하위 사용 전 복원 후보를 필터링하는 참조 가용 품질 게이트를 평가한다: 이를 적용하지 않을 경우 유형 인식 라우팅은 이미지당 재현율을 0.304로 저하시키는 반면, 적용 시 재현율은 복원되지 않은 기준선과 같거나 높은 0.608로 회복되어, 전달되는 스트림이 복원되지 않은 프레임보다 결코 나빠지지 않음을 보장한다. 따라서 REVIVE는 자율주행차량에서의 VOA에 대한 구조화된 복원 프레임워크를 제공한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.