arXiv:1802.04723

Joint Demosaicing and Denoising with Perceptual Optimization on a Generative Adversarial Network

Weishong Dong, Ming Yuan, Xin Li, Guangming Shi

제출 2018-02-13

원문 초록

Image demosaicing - one of the most important early stages in digital camera pipelines - addressed the problem of reconstructing a full-resolution image from so-called color-filter-arrays. Despite tremendous progress made in the pase decade, a fundamental issue that remains to be addressed is how to assure the visual quality of reconstructed images especially in the presence of noise corruption. Inspired by recent advances in generative adversarial networks (GAN), we present a novel deep learning approach toward joint demosaicing and denoising (JDD) with perceptual optimization in order to ensure the visual quality of reconstructed images. The key contributions of this work include: 1) we have developed a GAN-based approach toward image demosacing in which a discriminator network with both perceptual and adversarial loss functions are used for quality assurance; 2) we propose to optimize the perceptual quality of reconstructed images by the proposed GAN in an end-to-end manner. Such end-to-end optimization of GAN is particularly effective for jointly exploiting the gain brought by each modular component (e.g., residue learning in the generative network and perceptual loss in the discriminator network). Our extensive experimental results have shown convincingly improved performance over existing state-of-the-art methods in terms of both subjective and objective quality metrics with a comparable computational cost.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.14728v1cs.CV공통 태그 Generative Adversarial Network, Denoising

VQ-Touch: 센서 및 시나리오를 아우르는 데이터 효율적 촉각 생성 프레임워크

VQ-Touch: A Data-Efficient Tactile Generation Framework Across Sensors and Scenarios

촉각 이미지 생성은 고품질 촉각 데이터를 합성함으로써 비용이 많이 들고 마모에 취약한 센서에 대한 의존성을 크게 줄여, 로봇 지각 및 인간-기계 상호작용 시스템에서 촉각 정보 획득을 위한 효율적인 해결책을 제공한다. 그러나 기존 방법들은 특정 센서로부터의 대규모·다양한 데이터셋에 의존하며 효율적인 데이터 활용과 견고한 일반화 능력이 부족하여, 시각 정보가 제한된 환경에서 어려움을 겪는다. 이를 해결하기 위해, 교차 센서 및 다중 시나리오 응용을 모두 지원하는 촉각 생성 프레임워크인 VQ-Touch를 제안한다. 구체적으로, 데이터로부터 복잡한 변형 및 질감 특징을 효율적으로 추출하기 위해 효과적인 촉각 표현 학습기인 DM-VQGAN을 제안한다. 또한 통합 조건화 인터페이스를 갖춘 이산 확산 디코더를 도입하여 이미지 및 레이블과 같은 멀티모달 생성 작업을 지원하고, 퓨샷(few-shot) 혼합 학습을 통해 모델의 일반화 능력을 향상시켜 현재 주류 센서 및 그 변형과의 호환성을 달성한다. 실험 결과, VQ-Touch는 여러 작업에서 최신(state-of-the-art) 방법들을 능가한다.

arXiv:2609.27901v2cs.CV공통 태그 Denoising

모든 모달리티는 동등하지만, 비디오는 더 동등하다: 공동 비디오 생성에서 크로스-어텐션 격차 줄이기

All modalities are equal, but video is more equal: Closing the Cross-Attention Gap in Joint Video Generation

비디오는 외형, 기하학, 모션, 시간적 변화를 포착하여 물리적 사건을 풍부하게 표현합니다. 3D 신체 모션이나 오디오와 같은 다른 모달리티(modality)는 동일한 사건의 더 좁은 측면만을 인코딩합니다. 본 연구에서는 공동 멀티모달 확산 트랜스포머(joint multimodal diffusion transformer)가 교차 모달 대응(cross-modal correspondence)에서 그에 상응하는 비대칭성을 보임을 발견했습니다. 즉, 동반 모달리티는 비디오에 대해 강한 대응성을 형성하지만, 이들이 비디오를 제약하는 상호 대응성(reciprocal correspondence)은 실질적으로 훨씬 약하게 유지됩니다. 저자들은 두 방향을 비디오 토큰(token)에 대한 비교 가능한 대응 분포로 표현하고, 이들의 불일치를 상호 대응 격차(reciprocal correspondence gap)로 정의합니다. 또한 상호 교차 모달 어텐션 정규화(Reciprocal Cross-modal Attention Regularization)를 뜻하는 RecCAR를 제안합니다. 이는 이미 잘 확립된 비디오-모달리티 간 대응을 고정된 참조 기준으로 삼고, 더 취약한 모달리티-비디오 간 대응을 이에 맞춰 정렬하는 KL 정규화(regularizer) 기법입니다. 공동 비디오-모션 및 비디오-오디오 생성 전반에 걸쳐, RecCAR는 전반적인 생성을 개선하면서도 Human Anatomy 점수를 0.69에서 0.75로 향상시키고 오디오-비디오 비동기화(desynchronization)를 0.804에서 0.752로 감소시킵니다

토론

이 논문과 연결된 포럼 글이 아직 없습니다.