arXiv:2610.15806v1 cs.CV

깊이 조건부 적응을 통한 참조 효율적인 멀티모달 비트스트림 손상 비디오 복원

Reference-Efficient Multimodal Bitstream-Corrupted Video Recovery via Depth-Conditioned Adaptation

Tianyi Liu, Jiaojiao Wang, Ye Lu, Kejun Wu, Chengtao Cai, Zhengguo Li, Chia-Wen Lin

제출 2026-10-11

저자 비고

arXiv Comments

11 pages, 4 figures

한국어 초록

손상된 비디오 비트스트림에서 시각적으로 충실한 콘텐츠를 복원하는 것은 신뢰할 수 있는 멀티미디어 통신 및 저장에 매우 중요합니다. 기존 방식들은 입력 비디오 시퀀스의 국소적 잔차(local residuals)와 비국소적(non-local) RGB 참조를 활용하지만, 두 원천 모두 디코딩 후 신뢰할 수 없게 될 수 있으며, 추가적인 참조를 처리하는 것은 수신측의 연산 및 메모리 부담을 증가시킵니다. 본 논문에서는 수신된 외관 정보가 손상되었을 때 전송 전 깊이(depth) 기반 기하학적 정보가 재구성을 돕는 RGB 및 깊이 정보를 활용한 멀티모달 비트스트림 손상 비디오 복원(MBSCVR)을 연구합니다. 우리는 더 높은 성능을 달성하기 위해 복원 윈도우당 단 하나의 선택된 비국소적 RGB 참조만을 선별하여 효과적으로 활용하는 새로운 MBSCVR 프레임워크를 제안합니다. 이 프레임워크는 참조 인코딩 전에 유효한 외관 정보와 깊이 호환성을 결합하는 신뢰성 인식 멀티모달 선택기를 통합합니다. 깊이 조건부 참조 적응(DCRA)은 선택된 RGB 단서를 특징(feature) 완성 및 콘텐츠 생성에 도입하는 한편, 프레임 정렬된 깊이는 완성 쿼리를 조건화합니다. 오라클 마스크를 적용한 완전한 BSCV 벤치마크에서, MBSCVR은 단 하나의 선택된 참조만을 사용하여 YouTube-VOS에서 32.30 dB, DAVIS에서 28.93 dB를 달성함으로써 전체 참조를 사용하는 B2SCVR을 각각 0.27 dB 및 0.33 dB 앞서고 두 서브셋 모두에서 SSIM을 향상시켰습니다. 동일 조건의 수신측 순방향 측정 결과에서는 지연 시간이 36.8% 감소하고 최대 메모리가 40.8% 감소한 것으로 나타났습니다. 이러한 결과는 간결한 기하학적 유도와 적응형 외관 처리가 멀티미디어 복원의 품질과 자원 간의 절충(trade-off)을 어떻게 개선하는지 보여줍니다.

원문 초록

Recovering visually faithful content from damaged video bitstreams is important for reliable multimedia communication and storage. Existing methods exploit local residuals and non-local RGB references of the input video sequence, but both sources can become unreliable after decoding, while processing additional references increases receiver computation and memory. This paper studies multimodal bitstream-corrupted video recovery (MBSCVR) using RGB and depth information, where pre-transmission depth-based geometry aids reconstruction when the received appearance is corrupted. We propose a novel MBSCVR framework that selects and effectively utilizes a single selected non-local RGB reference per recovery window to achieve higher performance. It integrates a reliability-aware multimodal selector that combines valid appearance with depth compatibility before reference encoding. Depth-Conditioned Reference Adaptation (DCRA) introduces selected RGB evidence into feature completion and content generation, while frame-aligned depth conditions completion queries. On the complete BSCV benchmark with oracle masks, MBSCVR uses one selected reference to achieve 32.30 dB on YouTube-VOS and 28.93 dB on DAVIS, surpassing full-reference B2SCVR by 0.27 and 0.33 dB and improving SSIM on both subsets. Matched receiver-forward measurements show 36.8\% lower latency and 40.8\% lower peak memory. These results demonstrate how compact geometric guidance and adapted appearance processing improve the quality--resource trade-off of multimedia recovery.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.15806v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.04781v2cs.CV공통 태그 Image Reconstruction, Image Restoration

적절한 잠재 공간에서의 초해상도: 동결된 비전 파운데이션 기저

Super-Resolution in The Right Latent Space: A Frozen Vision-Foundation Substrate

이미지 잠재 공간(latent space)에서 고해상도의 자연스럽고 선명한 이미지 임베딩은 하나의 다양체(manifold)를 형성합니다. 고해상도 이미지가 열화되면 해당 임베딩은 이 다양체 밖으로 밀려납니다. 따라서 실세계 초해상도(SR, super-resolution)는 열화된 임베딩을 다시 이 다양체로 매핑하는 작업이 됩니다. 이때 다양체 위의 임의의 위치가 아니라 입력이 여전히 담고 있는 시맨틱과 픽셀 세부 정보를 모두 보존하는 지점으로 매핑해야 합니다. 기존에 발표된 모든 방법은 이러한 매핑을 재구성 지향적 잠재 공간이나 픽셀 공간에서 구현합니다. 저자들은 이러한 공간이 SR에 적합하지 않은 기저(substrate)라고 주장합니다. 저해상도 및 열화된 이미지는 다양체에서 멀리 떨어진 곳에 임베딩되므로 매핑이 어렵고 연산 비용이 많이 듭니다. 또한 이러한 기저에는 시맨틱 정보가 부족하여 다양체 상의 정확한 지점을 찾아가기 어려우며, 열화가 심할 때 심각한 환각(hallucination)을 유발합니다. 따라서 적절한 잠재 공간에서 복원하는 것이 SR 작업에서 매우 중요합니다. 본 논문에서는 동결된 DINOv3-L의 23개 레이어를 융합한 잠재 공간이 SR 작업을 더 쉽게 만드는 공간 중 하나임을 보입니다. 열화된 이미지가 다양체 근처에 임베딩되며, 나아가 이 기저는 픽셀 기록부터 열화에 강건한 시맨틱에 이르기까지 계층적 정보를 포함하고 있어 모델이 다양체 상의 충실한 지점을 찾도록 유도합니다. 이 기저 위에서 415M 디코더는 재구성 및 적대적 목표 함수 하에 학습되어 열화된 임베딩을 다시 매핑하고 단일 패스로 픽셀 공간으로 디코딩합니다. 그 결과 제안하는 모델인 RAESR은 단일 H20 GPU에서 512x512 이미지당 37ms의 속도로 RealSR, DRealSR, LSDIR, DIV2K-Val 벤치마크에서 최신 적대적 및 확산 기반 복원기들 중 가장 우수한 충실도-지각 트레이드오프(fidelity-perception trade-off)를 달성합니다. 동일한 학습 방식으로 기저를 VAE 잠재 공간으로 교체했을 때는 모든 지표에서 성능이 저하되었습니다.

arXiv:2610.01512v1cs.CV공통 태그 Image Reconstruction, Image Restoration

VoxelSynth3D: 쌍을 이룬 합성 CLINIC-Metal 벤치마크를 활용한 해석 가능한 3차원 영상 도메인 금속 아티팩트 저감 기법

VoxelSynth3D: Interpretable Volumetric Image-Domain Metal Artifact Reduction with a Paired Synthetic CLINIC-Metal Benchmark

수술 후 근골격계 CT에서 발생하는 금속 아티팩트는 뼈-임플란트 및 인접한 연조직 경계면을 가립니다. 많은 금속 아티팩트 저감(MAR) 방식은 획득하기 어려운 원시 투영 데이터(raw projection)를 필요로 하거나, 스캐너 및 임플란트 종류에 따라 성능 변화(shift)가 발생할 수 있는 학습(training) 기반 모델을 사용합니다. 본 논문에서는 재구성된 CT를 위한 학습 불필요(training-free) 3차원 영상 도메인 프레임워크인 VoxelSynth3D를 제시합니다. 이 프레임워크는 지지 마스킹(support masking), 정규화된 조직 합성, 편차 게이팅(deviation gating), 제한적 에지 정제를 결합합니다. 탐지된 임플란트 복셀(voxel)은 출력에서 그대로 보존되는 반면, 보정은 주변 조직의 금속 유발 아티팩트를 대상으로 수행됩니다. 또한 우리는 깨끗한 타깃, 금속/아티팩트 마스크, 고정된 시드, 환자 수준의 분할을 갖춘 금속 없는 CTPelvic1K 볼륨으로부터 통제된 쌍을 이룬 합성 평가 리소스인 Synthetic CLINIC-Metal을 구축하였으며, 75개의 쌍을 이루지 않은 실제 금속 케이스는 정성적/무참조(no-reference) 평가만 거칩니다. 동작 지점은 거의 평탄한 검증(validation) 영역 내에서 고정되었습니다. 정확한 마스크 오라클 위치 지정을 통해 모든 방법은 금속이 제외된 조직 ROI를 공유합니다. 40개의 홀드아웃(held-out) 케이스에서 VoxelSynth3D는 RMSE를 801.48 HU에서 786.18 HU로 감소시켰으며(쌍체 이득 15.30 HU, 95% CI 11.68-19.23), 모든 케이스에서 성능을 개선하여 평가된 3D 가우시안 평활기보다 13.58 HU 더 뛰어난 성능을 보였습니다. 깨끗한 에지 일치도는 금속 바로 인접부에서는 감소했으나 5 mm를 벗어난 영역에서는 입력을 상회했습니다. 따라서 VoxelSynth3D는 국소적 구조적 트레이드오프를 수반하면서도 케이스 전반에 걸쳐 일관된 분포 내 조직 오차 감소를 제공합니다. 간격 인지 민감도 분석은 종합적인 광역 개선을 유지하면서 금속 근접 캘리브레이션을 개선 목표로 식별했습니다.

arXiv:2609.27227v1cs.CV공통 태그 Depth Estimation, Video Understanding

학습된 관절 운동 제약을 이용한 단안 영상 기반 수술 운동학

Surgical Kinematics from Monocular Video with Learned Articulated Motion Constraints

로봇 수술의 객관적 평가는 기구 운동학을 사용하며, 영상만 이용 가능한 경우 이를 재구성해야 한다. 우리는 단안 영상으로부터 기구의 위치, 방향 및 jaw 각도를 추정하는 운동학 재구성 네트워크를 제안한다. 시각 표현은 고정(frozen) DINOv3 특징에 대한 전역 어텐션 풀링과 파인튜닝된 SAM 3.1 마스크로 얻은 기구 랜드마크에서의 국소 풀링을 결합한다. 공유 트랜스포머 인코더와 시간적 합성곱 헤드는 이 표현을 마스크 기하, 단안 깊이, 및 팔(arm)별 다층 회귀 네트워크의 시각 상태 추정치와 통합한다. 위치 분기는 이동 거리를 보존하기 위해 변위 크기와 방향을 각각 예측한다. 예측된 상태 관측 및 운동 증분에 대해 미분 가능 가중 최소자승법으로 궤적을 맞추며, 누적 예측 회전에 상대적인 쿼터니언 관측을 표현하여 이차 방향 목적함수를 얻는다. 2,802개의 Open-H 에피소드에서 재구성을 평가한다. 주 Open-H 벤치마크에서 LiveMAE와 비교할 때, 본 방법은 경로 길이 평균 절대 오차를 0.45cm에서 0.34cm로 줄이고, 동작 분할을 위한 시간적 평균 평균 정밀도를 44.54%에서 54.44%로 높인다.

arXiv:2609.28439v1cs.CV공통 태그 Image Reconstruction, Image Restoration

HaRP: 듀얼 역방향 셔터 스캐닝을 통한 고동적범위 포토시퀀싱

HaRP: High Dynamic Range Photosequencing through Dual Reversed Shutter Scanning

모바일 사진 촬영에서 CMOS 센서의 도입은 기하학적 왜곡과 모션 아티팩트를 유발하는 롤링 셔터(RS) 효과로 인해 자주 저해됩니다. 특히 최근의 글로벌 리셋 롤링 셔터(RSGR) 모드는 일부 RS 문제를 완화하지만, 캡처 속도 저하와 다이내믹 레인지 압축을 포함한 주요 한계를 유발합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 RSGR 뷰와 반전된 RSGR 뷰를 모두 활용하는 새로운 듀얼 역방향 스캐닝 설정을 제안합니다. 이 솔루션은 프레임 전반의 다이내믹 레인지를 균형 있게 맞추기 위해 상호 보완적인 노출을 동기화함으로써 RSGR의 고유한 결함을 해결할 뿐만 아니라, 매우 동적인 장면에서도 HDR 포토시퀀싱을 위한 효과적인 방법을 제시합니다. 제안된 네트워크는 먼저 행 단위 상호 보완성을 수용하고 행 적응형 특징 정렬(alignment)을 통해 시각적 변위를 처리합니다. 이후 상관관계 유도 혼합 어텐션(mixattention) 블록을 기반으로 구축된 할루시네이션(hallucination) 모듈이 상호 강화된 특징을 통합하여 누락된 디테일을 복원합니다. 또한 동축 이미징 시스템을 구축하여 실제 데이터셋을 수집함으로써 수치 시뮬레이션을 넘어 견고한 학습과 평가를 가능하게 합니다. 실험 결과는 RSGR의 한계를 완화하고 HDR 재구성 기법을 발전시키는 측면에서 제안된 솔루션의 두 가지 이점을 입증합니다.

arXiv:2609.22390v1eess.IV공통 태그 Image Reconstruction, Image Restoration

SENSE 가속 뇌 MRI에서 해부학적으로 충실한 아티팩트 억제

Anatomically Faithful Artifact Suppression in SENSE Accelerated Brain MRI

배경: 4배 가속 sensitivity encoding(SENSE4)은 뇌 MRI 촬영 시간을 단축할 수 있으나, 노이즈를 증폭하고 기존 재구성 후 잔여 aliasing 아티팩트가 남을 수 있다. 목적: 이미지 도메인 정제(refinement) 프레임워크가 정량 측정에 필요한 해부학적 정보를 보존하면서 SENSE4 뇌 MRI 품질을 개선할 수 있는지 평가한다. 방법: 본 전향적 paired 연구에서 80명의 참가자가 fully sampled 및 4배 가속 SENSE T1-weighted MRI를 시행했다. 우리는 generalized self-attention과 상관 기반 잔차 아티팩트 정규화(regularization)를 통해 가속 재구성을 정제하는 Anatomy-aware Residual Attention Network(ART-Net)를 개발했다. 참가자 단위 분할로 학습, 검증, 독립 시험 코호트(45/5/30명)를 구성했다. 독립 시험 코호트에 대해 이미지 품질 및 해부학적 보존에 대한 정량, 분할 기반, 맹검 방사선과 평가를 시행했다. 결과: ART-Net은 평가된 방법 중 최고 수준의 재구성 성능을 보였으며, peak signal-to-noise ratio(31.03 +/- 2.88 dB)와 structural similarity index(0.963 +/- 0.022)를 달성했다. 또한 해부학적 충실도가 개선되어, 위축(atrophy) 평가와 관련된 medial temporal 구조(0.8824 +/- 0.0827) 및 whole-brain 영역(0.8857 +/- 0.0885)에 대해 수치상 최고 Dice 계수를 보였다. 더불어 ART-Net은 그래디언트(gradient) 충실도, 국소 대비 보존, 방사선과가 평가한 구조적 품질을 개선했다. 결론: ART-Net은 단일 기관 held-out 시험 코호트에서 SENSE4와 fully sampled T1-weighted 영상 간 일치를 개선하면서 분할 기반 해부학적 측정을 유지했다. 이러한 결과는 ART-Net이 영상 충실도를 높이고 신뢰할 수 있는 하위 해부학적 분석을 가능하게 함으로써 가속 뇌 MRI를 지원할 수 있음을 시사한다.

arXiv:2609.22479v1cs.CV공통 태그 Image Reconstruction, Video Understanding

단일 광자 비디오 촬영을 위한 시공간 플럭스 프로빙

Spatiotemporal Flux Probing for Single-Photon Videography

본 연구에서는 극단적인 광자 희소성 환경의 동적 장면에서 고속 비디오를 복원하는 문제를 다룹니다. 기존 방법들은 신호 대 잡음비(SNR)를 개선하기 위해 국소 시공간 윈도우 내에서 광자 검출을 집합하는 방식에 의존하지만, 이러한 국소적 그룹화는 전역적 구조를 버리게 되어 공간과 시간 모두에서 광자 검출이 희소한 극저조도 환경에서는 실패합니다. 본 연구에서는 모션과 조도를 모두 복원하는 데 필요한 정보가 광자 도달의 전체 시공간 패턴에 걸친 상관관계(correlation)에 인코딩되어 있음을 보입니다. 이러한 통찰을 바탕으로, 광자 스트림으로부터 기저 광 강도의 푸리에 계수(Fourier coefficients)를 직접 추정하는 시공간 플럭스 프로빙(spatiotemporal flux probing) 이론과 알고리즘을 개발합니다. 실험을 통해 본 접근법이 (1) 이전 방법보다 훨씬 적은 수의 광자로 빠른 모션과 시간적 조도 변화를 복원하고, (2) 감지된 특정 모션에 비디오의 초점을 자동으로 맞추는 속도 선택적 비디오 촬영을 가능하게 하며, (3) 단일 광자, 이벤트 및 스파이크 카메라를 포함한 다양한 센싱 모달리티 전반에 걸쳐 일반화됨을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.