Recent Trends in 3D Reconstruction of General Non-Rigid Scenes
원문 초록
Reconstructing models of the real world, including 3D geometry, appearance, and motion of real scenes, is essential for computer graphics and computer vision. It enables the synthesizing of photorealistic novel views, useful for the movie industry and AR/VR applications. It also facilitates the content creation necessary in computer games and AR/VR by avoiding laborious manual design processes. Further, such models are fundamental for intelligent computing systems that need to interpret real-world scenes and actions to act and interact safely with the human world. Notably, the world surrounding us is dynamic, and reconstructing models of dynamic, non-rigidly moving scenes is a severely underconstrained and challenging problem. This state-of-the-art report (STAR) offers the reader a comprehensive summary of state-of-the-art techniques with monocular and multi-view inputs such as data from RGB and RGB-D sensors, among others, conveying an understanding of different approaches, their potential applications, and promising further research directions. The report covers 3D reconstruction of general non-rigid scenes and further addresses the techniques for scene decomposition, editing and controlling, and generalizable and generative modeling. More specifically, we first review the common and fundamental concepts necessary to understand and navigate the field and then discuss the state-of-the-art techniques by reviewing recent approaches that use traditional and machine-learning-based neural representations, including a discussion on the newly enabled applications. The STAR is concluded with a discussion of the remaining limitations and open challenges.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
EgoHTR: 자아시점 4D 인간 지형 통과 시연
EgoHTR: Egocentric 4D Demonstrations of Human Terrain Traversal
비정형 지형에서 휴머노이드 로봇을 배치하는 것은 여전히 미해결 문제이다. 전통적인 강화학습은 실세계 상호작용의 막대한 복잡성 때문에 어려움을 겪는 반면, 인간 사전지식(human priors)을 활용하는 더 유망한 방법들은 맥락 인식이 부족한 모델에 국한되어 있다. 제한된 동작 합성은 기존 데이터셋 파이프라인이 어려운 환경에서 인간-장면(human-scene) 시퀀스를 포착하지 못하는 데서 비롯된 직접적인 결과이다. 휴머노이드 학습과 장면 재구성(scene reconstruction) 사이의 이러한 격차를 메우기 위해, 우리는 자아시점 인간-지형 재구성(Egocentric Human-Terrain Reconstruction, EgoHTR) 데이터셋을 제안한다. 우리는 자아시점 웨어러블과 휴대용 3D 스캐너로 구성된 다중 센서 설정을 사용하여 다양하고 복잡한 환경에서 55개의 장면 정렬(scene-aligned) 4D 인간 동작 시퀀스를 포착하는 재구성 파이프라인을 개발하고 오픈소스로 공개한다. 결과 데이터셋은 15만 프레임 이상으로 구성되며, 우리는 이를 모션 캡처(motion-capture) 정답(ground truth)과 비교 평가하여 최첨단 수준의 정확도를 보여 주고, 인간 동작 분석 및 합성을 위한 엄격한 벤치마크를 확립한다. 또한, 우리는 이 데이터를 활용하여 지각적(perceptive) 보행(locomotion) 정책을 학습하고, 재구성된 기준(reference) 동작에 대해 Unitree G1에서 하드웨어 배포를 시연한다. 우리의 파이프라인은 커뮤니티 주도의 데이터셋 확장을 가능하게 하며, 문제를 분해하여 연구자들이 불균일한 지형을 안정적으로 통과하는 기반적이고 맥락 인식이 가능한 로봇을 구축할 수 있도록 돕는다.
Kairos: 4D 씬 그래프에서 존재와 방향 흐름의 그라운딩 예측
Kairos: Grounded Forecasting of Presence and Directional Flow in 4D Scene Graphs
인간이 있는 환경에서 장기 자율 주행을 하려면, 로봇이 아직 관측하지 못한 시점에 사람이 있을지·어떻게 움직일지를 미리 예측해야 한다. 기존 보행자 motion 표현은 트레이드오프에 있다. 미래 활동만 예측하면 각 위치가 스칼라 rate로 축소되고, 전체 방향 분포를 모델링하면 그 분포가 시간에 고정된다. 우리는 계층적 3D 씬 그래프(3DSG)를 4D 씬 그래프(4DSG)로 확장하는 예측적 방향 흐름 메모리 Kairos를 제안한다. 재구성 기하의 관측된 모든 복셀(voxel)은 방향 혼합(mixture)과 존재(presence) rate를 저장하고, 스펙트럴 예측기는 임의의 미래 질의 시각에 대해 사람 존재 확률과 motion의 전체 방향 분포를 함께 예측한다. 인접 복셀 간 쌍별(pairwise) 흐름 의존성은 조건부 질의를 지원하며, 복셀별 예측 분산은 관측이 쌓일수록 좁아지는 보정된 credible interval을 준다. Kairos를 세 가지 실제 보행 환경—로봇 수집 캠퍼스 데이터셋, 쇼핑몰, 11개월간 연속 기록한 역 대합실—에서 평가했다. 학습 상태는 loop-closure 보정 후에도 일관되며, Kairos는 순찰 로봇이 접근 가능한 극히 일부 데이터만으로 학습함에도 전체 검출 스트림으로 학습한 전용 점유(occupancy) 및 flow 모델과 경쟁력 있는 예측을 낸다. 마지막으로 downstream 조우 확률(encounter-probability) 계획 과제에서 표현을 검증했는데, Kairos 예측 위에서 계산한 계획은 동일 성공률에서 시간 불변(time-invariant) 맵 기반 계획보다 더 많은 사람과 조우한다. 코드는 https://github.com/IacopomC/kairos 에서 제공한다.
Instant NuRec: 주행 장면 시뮬레이션을 위한 피드포워드 3D Gaussian 재구성
Instant NuRec: Feed-Forward 3D Gaussian Reconstruction for Driving Scene Simulation
3D 시뮬레이션 플랫폼은 end-to-end 정책 평가(evaluation)를 가능하게 하여 개발 비용을 줄이고 안전성을 향상시키기 때문에 자율주행에 핵심적이다. 최근 몇 년간 신경 시뮬레이션이 주류가 되었고, NuRec와 같은 방법이 중심적인 역할을 하고 있다. 그러나 이러한 방법들은 여전히 상대적으로 느리고, 일반적으로 장면별 튜닝이 필요하다. 본 연구에서는 단일 순전파(forward pass)로 짧은 다시점(multi-view) 주행 로그를 완전히 시뮬레이션 가능한 3D Gaussian Splatting(3DGS) 세계로 변환하는 피드포워드 신경 재구성 모델인 Instant NuRec를 제안한다. 이 모델은 보정된 카메라 리그의 다시점 입력을 받아 정적 및 동적 3DGS 레이어, 스카이 큐브맵(sky cubemap), 카메라별 ISP 보정으로 구성된 계층적 출력을 생성하며, 3DGUT를 통해 비 핀홀(non-pinhole) 카메라 모델에 대한 네이티브 지원을 제공한다. 이 모델은 10–20초 길이의 다중 카메라 장면을 약 1.5초 만에 재구성하며, Waymo Open 데이터셋에서 평가된 가장 강력한 기준선보다 PSNR이 2.01 dB 높은 성능을 달성한다. Instant NuRec는 NuRec에 깊이 통합되어 있으며, 폐루프(closed-loop) 시뮬레이션을 위해 AlpaSim과 호환된다.
RIGOR: 전방향 재구성을 위한 리그 정보 기반 기하학
RIGOR: Rig-Informed Geometry for Omnidirectional Reconstruction
피드포워드(feed-forward) 3D 재구성 분야의 최근 발전으로 이미지 스트림만으로 조밀한(dense) 장면 표현과 카메라 움직임을 복원할 수 있는 모델들이 등장했습니다. 그러나 이러한 예측은 긴 궤적에서, 특히 반복적인 구조, 약한 텍스처, 동적 물체나 사람이 존재하는 까다로운 환경에서 일관성을 잃기 쉽습니다. 이러한 문제를 완화하는 한 가지 방법은 넓은 공간적 커버리지를 제공하고 더 풍부한 시각적 정보를 포착하는 전방향(omnidirectional) 카메라를 사용하는 것입니다. 하지만 대다수의 모델은 360도 영상을 지원하지 않거나 추가적인 미세조정(fine-tuning)을 필요로 합니다. 이러한 두 가지 측면을 연결하기 위해, 본 연구에서는 동결된 피드포워드 원근 백본(backbone)을 유지하면서 각 파노라마를 4-뷰 가상 리그(virtual rig)로 활용하는 중력 정렬 전방향 비디오용 대규모 재구성 파이프라인인 RIGOR를 제시합니다. 이 리그 구조는 국소적으로 불일치하는 예측을 감지 및 복구하고, 순환적 4-뷰 합의(consensus)를 통해 루프 클로저(loop closure)를 검색하며, 전역 최적화(global optimization) 전에 재방문 후보를 기하학적으로 검증하는 데 사용됩니다. 검증된 제약 조건은 시퀀스를 따라 누적된 회전, 이동 및 스케일 드리프트를 수정하는 Sim(3) 포즈 그래프를 구동합니다. 본 연구는 까다로운 건설 현장 시퀀스에서 제안된 일관성 메커니즘이 피드포워드 기준선(baseline) 대비 궤적 정확도와 재구성된 기하학 모두를 향상시킴을 입증합니다. 코드는 다음 링크에서 제공됩니다: https://github.com/TangentH/RIGOR.
고�급 거리 수준 영상을 활용한 시각적 위치 추정의 정확도 잠재력
Accuracy potential of visual localization exploiting high-end street-level imagery
측량, 자율 항법, 로보틱스, 증강현실 등 많은 응용에는 기준 좌표계에 대한 정확한 자세 정보가 필요하다. 시각적 위치 추정은 가용성과 정확도가 자주 제한되는 GNSS 위치 결정을 보완할 수 있다. 그러나 시각적 위치 추정의 정확도 잠재력은 측량급 요구 사항에 비추어 체계적으로 조사된 적이 없으며, 그러한 조사에 충분히 정확한 정답 자세를 제공하는 공개 대규모 야외 데이터셋도 없다. 우리는 이 두 공백을 모두 다룬다. 첫째, FHNW Muttenz 데이터셋을 제시한다. 이는 약 1.5년 간격의 두 차례 모바일 매핑 캠페인으로 매핑된 연속 10 km 도로망을 포괄하며, 고해상도 기준 영상과 다섯 장면에서 네 대의 카메라로 촬영한 질의 시퀀스를 포함한다. 두 캠페인은 서로 5 mm의 정확도로 정합된다. 질의 영상을 기준 영상에 정합하면 위치 6-9 mm, 방향 0.1{\deg} 훨씬 미만의 정확도를 갖는 정답 자세가 얻어진다. 모든 영상은 약 2.5 cm의 정확도로 지오레퍼런싱되어 있다. 둘째, 이 데이터셋을 사용하여, 검증된 구성요소로 만든 모듈식 파이프라인으로 희소 특징 기반 시각적 위치 추정을 체계적으로 평가하며, 고해상도 기준 영상을 장면 표현으로 직접 사용한다. 주간 영상과 사전 보정된 카메라에서 기준 영상에 대한 자세 오차의 중앙값은 이동 1-5 cm, 회전 0.03-0.1{\deg}이다. 정확하게 지오레퍼런싱된 장면 표현이 주어지면, 시각적 위치 추정은 측량급 GNSS 위치 결정의 정확도에 근접할 뿐 아니라 전체 방향 정보도 제공한다. 데이터셋은 https://fhnw-muttenz-vl-dataset.github.io/ 에서 공개되어 있다.
파라메트릭 CAD 모델링을 위한 설계 의도 보존 에이전트 하네스
A Design-Intent-Preserving Agent Harness for Parametric CAD Modeling
파라메트릭 CAD 모델링은 목표 형상을 일치시킬 뿐 아니라 파라미터 편집 시에도 설계 의도를 보존해야 한다. 그러나 대부분의 기존 방법은 정적 형상 생성 정확도를 향상시키는 데 집중하며, 이후 편집을 좌우하는 종속성은 간과되는 경우가 많다. 이 문제를 해결하기 위해 우리는 이미지로부터 파라메트릭 CAD 모델을 생성하는 설계 의도 보존 에이전트 하네스인 DIP-CAD를 제시한다. DIP-CAD는 비전-언어 모델의 추론과 CAD 커널 연산을 결합하여 설계 의도를 부호화하는 종속성을 수립한다. 파라메트릭 CAD에서 이러한 종속성은 주로 모델링 명령의 기하 참조와 파라메트릭 스케치의 제약 조건을 통해 수립된다. 명령 수준에서는 ID 기반의 명시적 기하 참조가 모델링 명령을 선택된 면, 모서리 또는 꼭짓점에 결합한다. 스케치 수준에서는 로컬 좌표 브리지가 정확한 스케치 배치를 보장하여 스케치 제약 조건을 올바르게 수립하기 위한 토대를 제공한다. 스케치 프리미티브 간의 제약과 외부 투영 기하에 대한 제약은 스케치 내부 관계와 기존 기하에 대한 종속성을 모두 추가로 보존한다. 파라메트릭 CAD 모델링 과제를 위한 보다 포괄적인 데이터 기반을 제공하기 위해, 우리는 단계별 모델링 명령을 명시적 기하 참조를 통해 중간 CAD 모델과 연결하는 구조화된 데이터 형식의 Geometry Explicit Reference Dataset(GERD)을 도입한다. GERD-EVL과 DeepCAD 테스트 부분집합에서 DIP-CAD는 정적 모델 생성의 mIoU를 각각 11.1%, 5.6% 향상시킨다. 파라미터 편집 평가에서는 해당 mIoU 향상이 각각 7.0%, 4.2%이다. 사례 연구는 파라미터 편집이 설계 의도를 보존하면서 형상 갱신을 이끄는 방식을 추가로 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.