arXiv:1903.11149

Pix2Vex: Image-to-Geometry Reconstruction using a Smooth Differentiable Renderer

Felix Petersen, Amit H. Bermano, Oliver Deussen, Daniel Cohen-Or

제출 2019-03-26

원문 초록

The long-coveted task of reconstructing 3D geometry from images is still a standing problem. In this paper, we build on the power of neural networks and introduce Pix2Vex, a network trained to convert camera-captured images into 3D geometry. We present a novel differentiable renderer ($DR$) as a forward validation means during training. Our key insight is that $DR$s produce images of a particular appearance, different from typical input images. Hence, we propose adding an image-to-image translation component, converting between these rendering styles. This translation closes the training loop, while allowing to use minimal supervision only, without needing any 3D model as ground truth. Unlike state-of-the-art methods, our $DR$ is $C^\infty$ smooth and thus does not display any discontinuities at occlusions or dis-occlusions. Through our novel training scheme, our network can train on different types of images, where previous work can typically only train on images of a similar appearance to those rendered by a $DR$.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13697v1cs.CV공통 태그 Image-to-Image Translation, Domain Adaptation

생성적 증강을 통한 AI 테스트 및 평가(T&E)의 의미적 커버리지 개선

Improving Semantic Coverage in AI Test & Evaluation through Generative Augmentation

AI 모델의 테스트 및 평가(T&E)에서 평가자는 일반적으로 홀드아웃(held-out) 테스트 데이터셋에만 접근할 수 있으며, 학습 데이터나 그 의미적 구성에 대한 정보는 알지 못한다. 시간대, 날씨, 장면 위치와 같은 핵심 입력 조건이 이 테스트 데이터셋에서 충분히 표현되지 않으면, 이러한 의미적 커버리지 격차로 인해 T&E 결과가 오도될 수 있다. 우리는 이러한 의미적 요인에 대한 정답 레이블 없이도 이를 탐지하고 채울 수 있는 3단계 생성형 AI 파이프라인을 제안한다. 첫 번째 단계에서는 비전-언어 모델(VLM)이 의미적 요인에 대해 제로샷 이진 레이블링을 수행하고, 임베딩 공간 클러스터링 단계를 통해 어떤 의미적 요인이 하위(downstream) 모델 동작에 가장 큰 영향을 미치는지 식별한다. 두 번째 단계에서는 디퓨전 기반 이미지-투-이미지(image-to-image) 모델이 기존에 충분히 표현된 이미지를 과소 표현된 의미 도메인으로 변환하여, 장면 내용은 보존하면서 고수준의 외형(appearance)만을 증강한다. 세 번째 단계에서는 증강된 이미지 임베딩에 대한 통계적 분석을 통해, 합성 이미지를 반영하기 전에 그것이 데이터셋 커버리지를 개선하는지 검증한다. 중요한 점은, 합성 데이터는 오직 테스트 세트를 보강하는 데에만 사용되며 T&E를 위한 모델 재학습은 수행하지 않는다는 것이다. 우리는 주간/야간 의미 격차 상황에서 이미지 분류와 객체 검출 양쪽에 대해 전체 파이프라인을 검증하였으며, 증강된 테스트 데이터셋이 누락된 의미적 요인에 노출된 모델과 그렇지 않은 모델을 더 잘 구별해내어, 완전히 커버리지를 갖춘 이상적인 데이터셋의 결론에 더 가까운 T&E 결론을 산출함을 보였다. 코드는 https://github.com/Hashe037/DEDUCE 에서 확인할 수 있다.

arXiv:2607.11295v2cs.CV공통 태그 Image-to-Image Translation, Domain Adaptation

획득 변동성 모델링 및 제어를 위한 메타데이터 지도 기반 영상 표현

Metadata Supervised Imaging Representations for Modelling and Controlling Acquisition Variability

생체의학 영상 데이터는 영상 장비, 획득 프로토콜, 촬영 기관, 재구성 설정의 차이로 인해 동일한 생체 구조가 현저히 다르게 나타날 수 있는 상당한 획득 변동성(acquisition variability)을 보입니다. 그 결과, 학습된 표현은 기저의 생물학적 정보와 획득 환경에 따른 외형을 얽히게(entangle) 만들어 해석 가능성, 일반화 성능, 임상 적용을 제한하게 됩니다. 본 연구에서는 의료 영상과 획득 메타데이터를 함께 모델링함으로써 이러한 변동 요인들을 분리(disentangle)할 수 있음을 보여줍니다. 대규모 임상 뇌 MRI 데이터를 사례 연구로 활용하여, 해부학적 구조와 조영도(contrast) 의존적 외형을 분리하는 표현을 학습합니다. 그 결과 도출된 프레임워크는 이종 영상 프로토콜의 체계화, 시퀀스 이해, 영상-메타데이터 불일치 및 영상 아티팩트(artifact) 탐지를 가능하게 하는 동시에, 다양한 획득 환경 전반에서 생물학적으로 유의미한 해부학적 특징을 보존합니다. 이러한 분리된 표현을 기반으로 생성 및 변환 기능도 추가로 지원하여, 메타데이터 조건부 사실적 3D 뇌 MRI 합성과 모달리티 간(cross-modality) 및 기관 간(cross-site) 적응을 위한 해부학 구조 보존 조화(harmonisation)를 모두 수행합니다. 본 연구 결과는 획득 변동성이 모델링, 감사(audit), 합성 및 제어가 가능한 영상화 과정의 구조화된 구성 요소임을 입증하며, 대규모 생체의학 영상 분야에서 획득 인식 표현 학습(acquisition-aware representation learning)을 위한 토대를 마련합니다.

arXiv:2609.22635v1eess.IV공통 태그 Image-to-Image Translation, Domain Adaptation

AWR-Net: 3차원 태아 뇌 초음파 합성을 위한 해부학적 구조와 외형 분리

AWR-Net: Decoupling Anatomy and Appearance for 3D Fetal Brain Ultrasound Synthesis

3차원 태아 뇌 초음파(ultrasound)는 비전리 방사선이며 비용 효율적인 영상 기법으로, 포괄적인 해부학적 평가를 위한 풍부한 공간 정보를 제공하지만, 데이터와 주석(annotation)의 부족으로 인해 그 발전이 제한되어 왔다. 이와 대조적으로, 태아 뇌 자기공명영상(magnetic resonance imaging, MRI)은 더 큰 데이터셋과 성숙한 분석 방법에 힘입어 더 발전된 상태이다. 이러한 자원을 활용하기 위해, 해부학적 레이블 맵(label map)은 태아 뇌 MRI에서 초음파로 지식을 전이하기 위한 유망한 모달리티 불변(modality-invariant) 가교 역할을 한다. 그러나 해부학적 구조가 초음파의 외형과 밀접하게 얽혀 있기 때문에 레이블 맵으로부터 초음파 영상을 생성하는 것은 여전히 어려운 과제로 남아 있다. 이 문제를 해결하기 위해, 우리는 해부학적 대응 관계 학습과 초음파 외형 적응을 데이터 수준과 모델 수준 모두에서 분리한다. 구체적으로, 우리는 웨이블릿 확산(wavelet diffusion)과 잔차 정제(residual refinement)를 결합한 2단계 프레임워크인 해부학적 웨이블릿 잔차 네트워크(anatomy wavelet residual network)를 제안한다. 첫 번째 단계는 웨이블릿 영역에서 아틀라스(atlas) 쌍을 이용해 레이블 맵으로부터 볼륨을 생성하도록 학습하고, 두 번째 단계는 이미지 영역에서 실제 임상 초음파로부터 유계(bounded) 잔차 보정을 학습한다. 이러한 분리를 통해 정상 및 비정상 해부학적 구조를 일관되게 보존하면서 사실적인 합성이 가능해진다. 실제 태아 뇌 초음파에 대한 실험 결과, 제안하는 방법은 대표적인 합성 방법들보다 우수한 성능을 보였으며, 정규화된 상호상관(normalized cross correlation)은 0.518로 가장 강력한 기준선(baseline)의 0.482 대비 우수했고, 프레셰 인셉션 거리(Fréchet Inception Distance)는 8.905로 가장 강력한 기준선의 13.319 대비 우수했다. 합성 품질을 넘어, 태아 뇌 MRI 레이블 맵으로부터 생성된 볼륨은 특히 중증 비정상 사례에서 다운스트림 분할(segmentation) 성능도 향상시켰다. 종합적으로, 이러한 결과는 제안된 프레임워크가 풍부한 태아 뇌 MRI 자원을 활용하여 3차원 초음파 분석을 발전시킬 잠재력을 지니고 있음을 보여준다.

arXiv:2607.03851v1cs.CV공통 태그 Image-to-Image Translation, Domain Adaptation

ContiStain: 지속적 다중 도메인 가상 IHC 염색을 위한 교차 도메인 관계 보존 증류

ContiStain: Cross-Domain Relation-Preserving Distillation for Continual Multi-Domain Virtual IHC Staining

통합 다중 가상 염색 모델은 매개변수 효율성, 공유된 병리학적 지식, 일관된 교차 바이오마커 표현을 촉진하면서 H&E 슬라이드로부터 확장 가능하고 비파괴적인 다중 분석을 가능하게 합니다. 그러나 임상 환경에서는 새로운 바이오마커에 대한 데이터가 일반적으로 시간에 따라 순차적으로 수집됩니다. 이러한 시간순으로 유입되는 데이터에 대한 미세조정은 순차적 최적화가 잠재 공간에서 바이오마커 표현들 간의 구조화된 관계를 교란시키기 때문에 이전에 학습된 바이오마커에 대한 심각한 성능 저하를 초래합니다. 이 문제를 해결하기 위해, 우리는 지속적 가상 염색을 위한 IHC 다중 도메인 관계 증류 프레임워크인 ContiStain을 제안합니다. 먼저 (i) 바이오마커 도메인 간 표현 간섭을 줄이기 위해 전문가 혼합(MoE) 특징 추출기를 사용하여 도메인 인식 구조화 특징 공간을 구성합니다. 이 안정화된 특징 공간을 기반으로, (ii) 지속적 적응 과정에서 학습된 바이오마커 도메인 간 교차 도메인 토큰 수준 코사인 유사도 행렬의 일관성을 명시적으로 강제하는 관계 보존 증류 전략을 제안합니다. 교차 도메인 구조적 일관성을 유지함으로써, ContiStain은 새로운 도메인에 대한 적응성을 유지하면서 망각을 완화합니다. 4개 도메인 순차적 가상 IHC 염색 설정 하에서 MIST 데이터셋에 대한 실험은 향상된 안정성을 보여주며, 순차적 미세조정 대비 FID와 ConchFID를 각각 11.1 및 60.9 감소시켜 확장 가능하고 견고한 다중 도메인 가상 염색을 가능하게 합니다. 코드는 https://github.com/ccitachi/ContiStain에서 공개되었습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.