arXiv:2307.07678

Both Spatial and Frequency Cues Contribute to High-Fidelity Image Inpainting

Ze Lu, Yalei Lv, Wenqi Wang, Pengfei Xiong

제출 2023-07-15

원문 초록

Deep generative approaches have obtained great success in image inpainting recently. However, most generative inpainting networks suffer from either over-smooth results or aliasing artifacts. The former lacks high-frequency details, while the latter lacks semantic structure. To address this issue, we propose an effective Frequency-Spatial Complementary Network (FSCN) by exploiting rich semantic information in both spatial and frequency domains. Specifically, we introduce an extra Frequency Branch and Frequency Loss on the spatial-based network to impose direct supervision on the frequency information, and propose a Frequency-Spatial Cross-Attention Block (FSCAB) to fuse multi-domain features and combine the corresponding characteristics. With our FSCAB, the inpainting network is capable of capturing frequency information and preserving visual consistency simultaneously. Extensive quantitative and qualitative experiments demonstrate that our inpainting network can effectively achieve superior results, outperforming previous state-of-the-art approaches with significantly fewer parameters and less computation cost. The code will be released soon.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2412.07041v4stat.ML공통 태그 Image Inpainting공식 코드 · Papers with Code

일반화 최소제곱법 기반 커널화 텐서 분해

Generalized Least Squares Kernelized Tensor Factorization

불완전한 다차원 텐서 구조 데이터를 복원하는 것은 많은 실제 응용에서 근본적인 과제이다. 평활성 제약 저순위 텐서 분해는 전역 및 장거리 상관관계를 효과적으로 포착하지만, 짧은 스케일, 고주파, 또는 국소적으로 변하는 구조를 특성화하는 데 종종 어려움을 겪는다. 본 연구는 다차원 시공간 데이터 완성을 위해 보완적인 일반화 최소제곱법 기반 커널화 텐서 분해(Generalized Least Squares Kernelized Tensor Factorization, GLSKF) 프레임워크를 제안한다. GLSKF는 GLS(Generalized Least Squares) 목적 함수 하에서 공분산 정규화된 저순위 전역 성분과 명시적으로 모델링된 국소 상관 잔차 성분을 가산적으로 통합하여, 전역 의존성과 국소적 변화를 모두 효과적으로 모델링할 수 있게 한다. 공분산 노름 정규화기는 두 성분 모두에서 시공간 의존성을 인코딩한다. 전역 분해에서 평활성을 강제하기 위해 잠재 인자 열에 구조화된 공분산이 부과되며, 반면 잔차의 국소 상관관계를 모델링하기 위해 컴팩트 지지(compactly supported) 희소 커널이 사용된다. 결측 데이터 하에서 공분산 행렬의 크로네커(Kronecker) 구조를 활용하고 빠른 공액 그래디언트(conjugate gradient) 해법을 용이하게 하는 블록 단위 선형계 업데이트를 갖춘 교대 최소제곱법(alternating least squares) 알고리즘을 개발한다. 효율적인 행렬-벡터 곱을 위해 국소 잔차 공분산 행렬의 희소성과 토플리츠(Toeplitz) 구조를 활용함으로써 추가적인 계산 이득을 얻는다. GLSKF를 네 가지 실제 다차원 데이터 완성 과제—교통 속도 대치, 컬러 이미지 완성, 디지털 영상 복원, MRI 데이터 재구성—에서 평가한다. 실험 결과는 GLSKF가 다양한 텐서 완성 과제에서 우수한 재구성 성능과 유리한 확장성을 달성함을 보여주며, 다차원 데이터 완성에 대한 광범위한 적용 가능성을 뒷받침한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.