arXiv:2411.16898

G2SDF: Surface Reconstruction from Explicit Gaussians with Implicit SDFs

Kunyi Li, Michael Niemeyer, Zeyu Chen, Nassir Navab, Federico Tombari

제출 2024-11-25

원문 초록

State-of-the-art novel view synthesis methods such as 3D Gaussian Splatting (3DGS) achieve remarkable visual quality. While 3DGS and its variants can be rendered efficiently using rasterization, many tasks require access to the underlying 3D surface, which remains challenging to extract due to the sparse and explicit nature of this representation. In this paper, we introduce G2SDF, a novel approach that addresses this limitation by integrating a neural implicit Signed Distance Field (SDF) into the Gaussian Splatting framework. Our method links the opacity values of Gaussians with their distances to the surface, ensuring a closer alignment of Gaussians with the scene surface. To extend this approach to unbounded scenes at varying scales, we propose a normalization function that maps any range to a fixed interval. To further enhance reconstruction quality, we leverage an off-the-shelf depth estimator as pseudo ground truth during Gaussian Splatting optimization. By establishing a differentiable connection between the explicit Gaussians and the implicit SDF, our approach enables high-quality surface reconstruction and rendering. Experimental results on several real-world datasets demonstrate that G2SDF achieves superior reconstruction quality than prior works while maintaining the efficiency of 3DGS.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.04203v2cs.CV공통 태그 Novel View Synthesis, Surface Reconstruction

Sparse-GS2Mesh: 희소 시점 표면 재구성을 위한 새로운 스테레오 시점 및 2DGS 기반 3D 가우시안 스플래팅

Sparse-GS2Mesh: 3D Gaussian Splatting Guided by Novel Stereo Views and 2DGS for Sparse View Surface Reconstruction

희소 시점(sparse-view) 환경에서의 표면 재구성(surface reconstruction)은 제한적인 기하학적 단서로 인해 여전히 어려운 과제로 남아 있습니다. 부호화 거리 함수(SDF) 기반의 볼륨 렌더링 방식은 지나치게 매끄러운 표면을 생성하는 경향이 있는 반면, 3D 가우시안 스플래팅(3DGS)은 시간 효율적이지만 신뢰할 수 있는 깊이 감독(depth supervision)의 부재와 주어진 입력 시점에서만 최적화된다는 한계로 인해 불완전한 기하학적 구조를 갖는 문제가 있습니다. 본 논문에서는 희소 시점으로부터의 표면 재구성을 위한 스테레오 인식 프레임워크인 Sparse-GS2Mesh를 제안합니다. 3DGS와 스테레오 매칭은 밀집 시점 환경에서 표면 재구성에 활용되어 왔으나, 본 연구에서는 3DGS의 과적합(overfitting) 문제를 완화하기 위해 에피폴라 깊이 사전확률(epipolar depth priors)을 사용해 3DGS를 먼저 초기화한 후 세 가지 핵심 요소를 적용함으로써 희소 시점 조건에서도 효과적으로 작동하도록 확장합니다: (I) 적응형 기준선(baseline) 선택, (II) 스테레오 매칭 네트워크를 활용한 미세조정(fine-tuning), 그리고 (III) 2D/3D 공동 정규화(regularization) 미세조정입니다. 에피폴라 깊이로 초기화되어 웜업된 3DGS가 주어지면, 적응형 기준선 선택 모듈은 각 희소 시점에 대해 합성할 기준선을 자동으로 결정합니다. 그런 다음 스테레오 매칭 네트워크로부터 깊이 정제 그래디언트를 역전파하여 3DGS를 미세조정함으로써, 스테레오 매칭에 특화되도록 3DGS를 효과적으로 조정합니다. 2D/3D 공동 정규화는 가까운 스테레오 시점에서의 취약한 기하학적 단서 문제를 해결하여 안정적인 재구성을 얻을 수 있도록 돕습니다. Sparse-GS2Mesh는 중첩이 거의 없는 설정에서 최고 수준(SOTA)의 방법들 대비 15%의 성능 향상을 달성하며, 중첩이 큰 설정에서도 대등한 결과를 보여줍니다. 코드는 공개될 예정입니다.

arXiv:2610.11011v1cs.CV공통 태그 Novel View Synthesis, Surface Reconstruction

PCAsplat: 국소 PCA 정규화를 적용한 가우시안 스플래팅

PCAsplat: Gaussian Splatting with Local PCA Regularization

가우시안 스플래팅(Gaussian splatting)은 포즈가 지정된 이미지로부터 3D 재구성(3D reconstruction)을 수행하기 위한 유연한 표현 방식으로 부상했습니다. 그러나 기존 방법들은 주로 래스터화 기반 손실을 사용하여 최적화되므로, 샘플링된 카메라 광선에 기여할 때만 스플랫을 지도(supervise)합니다. 따라서 가려지거나 샘플링된 시점에 거의 기여하지 않는 가우시안은 기하학적 그래디언트를 약하게 받거나 전혀 받지 못해 기저 표면에서 벗어나 표류하면서 원치 않는 부유물(floater)을 생성할 수 있습니다. 본 연구에서는 미분 가능한 국소 주성분 분석(PCA)에 기반한 가우시안 스플래팅용 기하학 인지 정규화 프레임워크인 PCAsplat을 제안합니다. 제안하는 PCA 정규화기는 가우시안 중심의 이웃에 직접 작용하므로 현재 학습 뷰에 기여하지 않는 가우시안도 업데이트할 수 있습니다. 또한 PCA 고윳값을 정규화하여 가우시안이 등방성 접평면 커버리지를 가지며 기저 표면으로 이동하도록 유도합니다. 아울러 각 가우시안 법선을 PCA로 추정한 이웃 법선과 정렬하여 일관된 방향성을 강제합니다. DTU, Tanks and Temples, NeRF Synthetic 데이터셋에 대한 실험 결과, PCAsplat으로 생성된 스플랫은 원치 않는 부유물을 대폭 줄이면서도 참조 표면의 샘플을 더 잘 근사함을 보여줍니다. 이렇게 표면에 정렬된 스플랫은 포인트 클라우드 분할(segmentation) 및 직접 포아송 재구성을 포함한 다운스트림 기하학 처리 작업을 가능하게 합니다. 또한 PCAsplat은 기존의 신규 시점 합성(novel view synthesis) 및 메시 추출 작업에서도 경쟁력을 유지합니다. 코드는 공개될 예정입니다.

arXiv:2607.21471v1cs.CV공통 태그 Novel View Synthesis, Surface Reconstruction

Future Rendering ≠ Future Surface: 관측 구간을 넘어선 동적 표면 재구성을 위한 벤치마크와 데이터셋

Future Rendering $\neq$ Future Surface: A Benchmark and Dataset for Dynamic Surface Reconstruction Beyond the Observed Window

동적 장면 재구성은 거의 항상 관측된 시간 구간 내에서 평가되지만, AR 오버레이, 로봇 상호작용, 예측적 계획(anticipatory planning)과 같은 배포 환경에서는 캡처된 시점을 넘어선 시점의 기하학, 즉 미래 표면(future surface)이 필요하다. 이를 측정하는 표준 벤치마크는 없다. 본 연구는 장면 다양성을 정확한 미래 ground truth와 반증(falsification) 통제와 교환하는, 미래 시점 표면 재구성을 위한 통제된 진단용 벤치마크 및 데이터셋 FutureSurf를 소개한다. 방법은 시퀀스의 관측된 처음 75%에서 학습하고, 추출된 프레임별 표면을 보류된 미래 구간에서 Chamfer distance로 채점한다. 절대 미래 CD를 주요 점수로, 미래/관측 격차를 진단 지표로 보고한다. 데이터셋에는 분석적으로 정의된 8가지 통제된 동작이 포함되며, 그중 3가지는 반증 통제이고, 프레임별 정확한 ground-truth 메시를 제공한다. 또한 ground truth 측의 복원 가능성(recoverability) 오라클도 제공한다. 릴리스에는 분할 파일, 채점 코드, 벤치마크 카드, Croissant 메타데이터가 포함된다. 통제된 동작에서 DG-Mesh 백본은 원칙적으로 예측 가능한 미래(관측된 동작으로 고정 규칙에 따라 5개 중 4개가 복원 가능)에 대해서도 2.7–4.1× 격차를 남기는 반면, 반증 통제는 설계대로 동작한다(표면 불변 동작은 격차가 없음). 기여된 데이터셋을 넘어, 이 격차는 6개의 애니메이션 DG-Mesh 에셋 장면과 두 번째 백본인 Deformable-3DGS(2.0–6.6×; 둘 다 deformation-MLP 시간 모델을 공유)에서도 지속된다. 벤치마크는 또한 미래 렌더링 품질과 미래 표면 정확도가 통계적으로 분리(decoupled)되어 있음을 보여주므로, 해당 분야에서 보고하는 신규 시점 합성(novel-view-synthesis) 지표가 미래 기하학을 반영하지 않는다. 미래 오차는 구조적이며, 표면이 움직이는 곳에 집중된다. 데이터셋, 평가 툴킷, 채점 코드는 Hugging Face와 GitHub(https://github.com/Ricky-S/futuresurf)에서 이용할 수 있다.

arXiv:2607.14470v1cs.CV공통 태그 Novel View Synthesis, Surface Reconstruction

G²SR: 빠르고 메모리 효율적인 가우시안 기반 표면 재구성을 위한 기하학적 방법

G$^2$SR: Geometric Methods for Fast and Memory-Efficient Gaussian-based Surface Reconstruction

소수 뷰(few-view) 표면 재구성은 소수의 포즈가 정해진 RGB 이미지로부터 장면의 가시 표면을 복원하여, 로봇이 온라인으로 탐색하고 상호작용하는 데 필요한 3D 모델을 제공한다. 이동형 플랫폼에서는 안전하고 효율적인 동작을 보장하기 위해 재구성이 빠르고 기하학적으로 정확해야 하면서 메모리 사용량도 작아야 한다. 3D 가우시안 스플래팅(3DGS)은 고품질 장면 표현을 제공하지만, 소수의 뷰로부터 구축하는 것은 서로 다른 많은 표면이 동일한 이미지를 재현할 수 있어 ill-posed이며, 이로 인해 전통적인 광도 기반(photometric) 방법은 "floater" 아티팩트에 취약해진다. End-to-end 방법은 대개 트랜스포머 기반의 대형 네트워크로 스플랫을 회귀하여 모호성을 해소하지만, 높은 연산량과 메모리를 요구하며 새로운 장면에 대한 일반화도 잘 되지 않는다. 우리는 G²SR을 제안한다. 이 방법은 과제의 well-posed한 핵심을 활용한다: 교차 뷰 2D 스플랫 대응이 주어지면 3D 스플랫은 다중 뷰 기하학으로부터 해석적으로 도출된다. G²SR은 경량 신경망 프론트엔드로 이미지 평면상의 2D 가우시안 스플랫을 검출·추적하고, 해석적 백엔드로 각각을 metric-scale 3D 스플랫으로 삼각측량한다. ScanNet, Replica, DTU에서 G²SR은 최신 end-to-end 방법의 기하학적 정확도와 동등하거나 이를 능가하면서, 384×512 해상도의 2·3뷰 입력에 대해 GPU 메모리 203MB 이내(5–107배 적음)에서 초당 69–89회 재구성 속도로 동작하여, 온라인 가우시안 기반 표면 재구성을 위한 실용적인 경로를 제공한다.

arXiv:2607.11285v2cs.CV공통 태그 Novel View Synthesis, 3DGS

SalientGS: 중요도 기반 MCMC 가우시안 할당을 통한 통합 SfM-to-3DGS 파이프라인

SalientGS: Unified SfM-to-3DGS with Importance-Guided MCMC Gaussian Allocation

비순서 이미지에서 3D 장면을 복원하는 작업은 고비용의 구조 복원(Structure-from-Motion, SfM) 전처리와 고정된 포즈 인터페이스로 인해 여전히 병목 현상이 발생한다. 우리는 통합 SfM-to-3D 가우시안 스플래팅(3DGS) 파이프라인인 SalientGS를 제안한다. 핵심 기여는 중요도 기반 마르코프 연쇄 몬테카를로(MCMC) 가우시안 할당으로, 다중 시점 잔차를 가우시안별 과소적합(underfit) 및 중복(redundancy) 신호로 집계한다. 이 신호들은 생성(birth)과 재배치(relocation) 모두를 과소적합 영역으로 편향시키는 매끄러운 중요도 가중 샘플링 분포를 정의한다. 이를 통해 기저의 확률적 그래디언트 랑주뱅 다이나믹스(SGLD)를 변경하지 않고, 잘 적합된 영역에서 용량을 재할당한다. SalientGS는 15분 이내에 최첨단 지각적 품질로 엔드투엔드 복원을 달성한다. 보충 자료에는 장면별 정성적 비교 및 이미지별 학습된 지각적 이미지 패치 유사도(Learned Perceptual Image Patch Similarity, LPIPS) 분석에 대한 전용 섹션이 포함되어 있으며, 실패 사례도 다룬다. 코드 및 평가 스크립트는 https://github.com/Six-Bit-TX/SalientGS에서 확인할 수 있다.

arXiv:2607.03765v1cs.CV공통 태그 Novel View Synthesis, Surface Reconstruction

법선 사전 정보를 활용한 고신뢰도 깊이 전파 기반 가우시안 스플래팅을 이용한 희소 뷰 표면 복원

Sparse-View Surface Reconstruction using Gaussian Splatting through High-Confidence Depth Propagation with Normal Priors

희소 뷰에서의 3D 복원은 3D 컴퓨터 비전(CV)에서 어려운 과제입니다. 3D 가우시안 스플래팅(3DGS)에 관한 최근 연구들은 희소 뷰 신규 뷰 합성에서 뛰어난 성과를 거두었으나, 제한된 기하학적 단서와 가우시안의 이산성으로 인해 희소 뷰에서 고품질 기하학적 표면을 복원하는 것은 여전히 난제로 남아 있습니다. 본 논문에서는 희소 뷰로부터 고충실도 표면 복원을 위한 새로운 3DGS 기반 방법을 제안합니다. 핵심 아이디어는 법선 기반 깊이 전파 접근법을 도입하는 것으로, 이를 통해 고신뢰도 영역의 깊이 정보를 저신뢰도 영역의 깊이 추정에 제약 조건으로 확장할 수 있습니다. 또한 가우시안의 이산성으로 인한 깊이 불연속 문제를 해결하기 위해 비정상 깊이 에지 인식 정규화(regularization)를 제안합니다. DTU 및 Tanks-and-Temples 데이터셋에 대한 광범위한 실험을 통해 본 방법이 희소 뷰 표면 복원에서 최신 방법들을 능가함을 입증합니다. 프로젝트 페이지: https://hanl2010.github.io/DP-GS.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.