arXiv:2511.18037v3 cs.CV

Hybrid Event Frame Sensors: Modeling, Calibration, and Simulation

Yunfan Lu, Nico Messikommer, Xiaogang Xu, Liming Chen, Yuhan Chen, Nikola Zubic, Davide Scaramuzza, Hui Xiong

제출 2025-11-22

원문 초록

Hybrid event-frame sensors integrate an Event Vision Sensor (EVS) and an Active Pixel Sensor (APS) within a single chip, combining the high dynamic range and low latency of the EVS with the rich spatial intensity information from the APS. While this tight integration offers compact and temporally precise imaging, the complex circuit architecture introduces nontrivial noise patterns that remain poorly understood and unmodeled. In this work, we present the first unified statistics-based imaging noise model that jointly describes the noise behavior of APS and EVS pixels. Our formulation explicitly incorporates photon shot noise, dark current noise, fixed-pattern noise, and quantization noise, and links EVS noise to illumination level and dark current. Based on this formulation, we further develop a calibration pipeline to estimate noise parameters from real data and provide a detailed analysis of both APS and EVS noise behaviors. Finally, we propose H-ESIM, a statistically grounded simulator that generates RAW frames and events under realistic jointly calibrated noise statistics. Experiments on two hybrid sensors validate our model across multiple imaging tasks, including video frame interpolation and deblurring, demonstrating strong transfer from simulation to real data.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2511.18037v3제출 시각 미확인
  2. arXiv:2511.18037v2제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27893v1eess.IV공통 태그 Denoising, Image Denoising

하위 반프레임(lower semi-frames)을 이용한 이미지 디노이징

Image Denoising Using Lower Semi-Frames

가법적 백색 가우시안 노이즈(additive white Gaussian noise)에 대해, 무한 방향성 하위 반프레임(infinite directional lower semi-frame, DLSF)에 기반한 블라인드 이미지 디노이징 프레임워크를 제안한다. 제안 모델은 무계(unbounded) 반프레임(semi-frame) 연산자에 대한 resolvent 정규화(regularization)와 함께 스케일 의존적(scale-dependent) 방향 분석을 사용한다. 네 개의 방향 차분 채널(directional difference channel)의 결합 공분산(joint covariance)을 모델링하고 공분산 백화(covariance whitening)를 적용해 카이제곱(chi-square) 통계량을 얻음으로써, DLSF 영역에서 노이즈 분산(noise variance)을 직접 추정한다. 하위 꼬리 모멘트 추정량(lower-tail moment estimator)은 중位 절대 편차(median absolute deviation) 없이 블라인드 노이즈 추정을 제공한다. 추정된 노이즈 수준은 채널별 Wiener형 수축(channel-wise Wiener-type shrinkage)과 canonical-dual 합성(synthesis)에 반영되며, 이어 자동 중단(automatic stopping)을 갖는 데이터 일관(data-consistent) 반복 재구성(iterative reconstruction)이 수행된다. 노이즈 수준 15–30에서 세 장의 표준 그레이스케일 이미지에 대한 실험 결과, 평균 상대 노이즈 추정 오차는 3.28%이며 PSNR은 평균 7.45 dB, SSIM은 평균 0.367만큼 개선되었다. 30/255 노이즈에서는 추정 오차가 1.73%로 감소하고 평균 PSNR 이득은 8.31 dB였다. 결과는 효과적인 노이즈 억제와 구조 보존을 보여 주며, 매끄럽거나 에지가 지배적인 이미지에서 가장 강한 성능을 나타낸다.

arXiv:2609.22789v1cs.CV공통 태그 Denoising, Image Denoising

PixelART: 잠재 표현 또는 텍스트-이미지 사전학습 없이 이미지-층 분해

PixelART: Image-to-Layer Decomposition without Latents or Text-to-Image Pretraining

이미지-층 분해는 평탄화된 이미지를 편집 가능한 RGBA 층으로 변환하여 디자인 워크플로에서 요소 단위 편집을 가능하게 한다. 기존 확산(diffusion) 기반 시스템은 일반적으로 대규모 사전학습된 텍스트-이미지(T2I) 모델을 적응시키고 RGBA 오토인코더 또는 가변 층 아키텍처 모듈을 도입한다. 우리는 이 설계 선택을 재검토하며, 층 분해가 정말로 이러한 고중량 구성 요소를 필요로 하는지 묻는다. 우리는 이미지-층(I2L) 분해를 위해 처음부터 학습된 픽셀 공간 rectified-flow 트랜스포머인 PixelART를 제안한다. PixelART는 단일 스트림 멀티모달 확산 트랜스포머로 영역 RGBA 픽셀 패치를 직접 디노이징하며, RGBA-VAE, 사전학습 T2I 백본, 층별 디코더를 사용하지 않는다. 우리는 이 과제의 핵심 특성을 밝힌다. 고노이즈 타임스텝은 층 할당과 거친 층 구조를 결정하고, 저노이즈 타임스텝은 주로 색상, 알파, 텍스처, 경계를 정제한다. 이 관찰에 기반하여 고노이즈 층 할당 구간에서 학습 커버리지를 높이기 위해 terminal-boosted 타임스텝 샘플링 전략을 제안한다. 400만 개의 다층 디자인 템플릿으로 학습된 PixelART는 Design-Multi-Layer-Bench와 LICA에서 최근 Qwen-Image-Layered 모델 대비 파라미터 80% 이상 감소, 지연 시간 98% 감소, 메모리 85% 감소로 최첨단 층 분해 및 합성 재구성 성능을 달성한다. Ablation 실험은 픽셀 공간 $\mathbf{x}$-prediction, terminal-boosted 타임스텝 샘플링, 데이터/모델 스케일링이 핵심적임을 보여 주며, T2I 사전학습은 I2L 과제에 미미한 이득만 가져온다.

arXiv:2607.13802v1cs.CV공통 태그 Image Denoising, event camera

RainDancer: 빗줄기 지향 스파이킹 동역학 기반 RGB-Event 비디오 디레인

RainDancer: RGB-Event Video Deraining with Rain-Oriented Spiking Dynamics

비디오 디레인은 악천후 환경에서 신뢰할 수 있는 인식을 위해 비가 내리는 영상으로부터 깨끗한 시각적 콘텐츠를 복원하는 것을 목표로 한다. 기존 방법은 주로 RGB 시퀀스와 시간적 중복성에 의존하지만, RGB만으로 복원하는 방식은 빗줄기, 텍스처, 경계, 움직임, 가림 등이 유사한 시각적 패턴을 공유할 수 있는 동적 비 환경에서는 모호성이 남아 있다. 이벤트 카메라(event camera)는 높은 시간 해상도의 운동 민감 보조 단서를 제공하지만, 이벤트 스트림에는 센서 노이즈와 배경 유발 응답도 포함되므로 RGB-Event를 직접 융합하면 교차 모달 간섭이 발생할 수 있다. 이 문제를 해결하기 위해, 상호작용 전 분해(decompose-before-interact) 패러다임 기반의 점진적 RGB-Event 비디오 디레인 프레임워크인 RainDancer를 제안한다. 핵심 아이디어는 교차 모달 상호작용 전에 각 모달리티 내에서 빗줄기와 배경 성분을 분리하는 것이다. RGB 분기에서는 프레임 특징을 점진적으로 빗줄기와 배경 표현으로 분해한다. 이벤트 분기에서는 빗줄기 지향 스파이킹 신경망(spiking neural network) 모듈이 빗줄기 움직임과 연관된 희소하고 버스트형 이벤트 동역학을 포착한다. 그런 다음 구조 보존과 빗줄기 억제를 위해 의미적으로 정렬된 표현 간 구성요소 수준 융합을 수행한다. 또한 희소 이벤트 재구성, 구조적 일관성, 그래디언트 방향을 정규화하기 위해 이벤트 도메인 감독을 도입한다. 합성 및 실제 RGB-Event 비디오 디레인 데이터셋에 대한 실험은 우수한 정량적 성능, 시각적 품질, 하류 인식 견고성을 보여준다. 코드는 https://github.com/AE86-plus/RainDancer 에서 이용 가능하다.

arXiv:2607.11090v1cs.CV공통 태그 Denoising, Image Denoising

저조도 카메라가 색맹이 되는 이유: Raw 노이즈 제거에서의 색상 바이어스 제거

Why Low-Light Cameras Go Color Blind: Removing Color Bias in Raw Denoising

Raw 이미지는 빛의 확률적 특성과 센서 하드웨어의 불완전성으로 인해 본질적으로 노이즈에 취약하다. 실제 광자 수가 감소함에 따라 신호 대비 노이즈 비율이 저하되며, 따라서 저조도 환경에서 강건한 노이즈 제거는 고품질 결과물을 위해 특히 중요하다. 최근 데이터 기반 방법들은 높은 성능을 달성하지만, 일반적으로 수집 비용이 높고 어려운 대규모 노이즈-클린 이미지 쌍에 의존한다. 대안으로 파라메트릭 노이즈 모델이 합성 학습 데이터를 생성할 수 있지만, 이는 정밀한 카메라 캘리브레이션을 필요로 하며 미지의 장치에 대해서는 종종 비실용적이다. 본 연구에서는 저조도 Raw 노이즈 제거를 위한 카메라 무관(camera-agnostic), 캘리브레이션 불필요 패러다임을 제안한다. 블랙 레벨 오류로 인한 색상 바이어스가 성능 저하의 주요 원인이며 심각한 색상 왜곡을 유발함을 규명한다. 이를 완화하기 위해, 노이즈 입력의 전역 특징으로서 블랙 레벨 오류를 예측하는 바이어스 추정기 네트워크를 도입한다. ELD, SID, LRID 데이터셋에서 접근 방식을 평가하여 블라인드 노이즈 제거기 중 우수한 성능을, 특히 색상 보정 측면에서 입증한다. 많은 경우에서 더 강한 지도 학습(supervision)을 활용하는 방법들과 동등하거나 이를 능가하기도 한다. 또한, 널리 사용되는 SIDD 데이터셋의 정답(ground-truth) 이미지에 상당한 색상 바이어스가 존재함을 밝히며, 이는 학습된 모델에서 비현실적인 색상 재현을 초래한다. 이 문제를 해결하기 위한 새로운 정답 추출 프레임워크를 제안하고, 수정된 데이터셋에서 기존 방법들의 벤치마크를 제공한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.