SplatFlow: Self-Supervised Dynamic Gaussian Splatting in Neural Motion Flow Field for Autonomous Driving
원문 초록
Most existing Dynamic Gaussian Splatting methods for complex dynamic urban scenarios rely on accurate object-level supervision from expensive manual labeling, limiting their scalability in real-world applications. In this paper, we introduce SplatFlow, a Self-Supervised Dynamic Gaussian Splatting within Neural Motion Flow Fields (NMFF) to learn 4D space-time representations without requiring tracked 3D bounding boxes, enabling accurate dynamic scene reconstruction and novel view RGB/depth/flow synthesis. SplatFlow designs a unified framework to seamlessly integrate time-dependent 4D Gaussian representation within NMFF, where NMFF is a set of implicit functions to model temporal motions of both LiDAR points and Gaussians as continuous motion flow fields. Leveraging NMFF, SplatFlow effectively decomposes static background and dynamic objects, representing them with 3D and 4D Gaussian primitives, respectively. NMFF also models the correspondences of each 4D Gaussian across time, which aggregates temporal features to enhance cross-view consistency of dynamic components. SplatFlow further improves dynamic object identification by distilling features from 2D foundation models into 4D space-time representation. Comprehensive evaluations conducted on the Waymo and KITTI Datasets validate SplatFlow's state-of-the-art (SOTA) performance for both image reconstruction and novel view synthesis in dynamic urban scenarios.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
SymRegFlow: 비디오 월드 모델을 위한 대칭 정규화 플로우 매칭
SymRegFlow: Symmetry-Regularized Flow Matching for Video World Models
플로우 매칭(flow matching) 기반 다중 시점 월드 모델은 사실적인 비디오를 생성하지만, 일반적으로 고정된 카메라 리그(rig)로 제한됩니다. 이를 연속적으로 변화하는 카메라 포즈로 확장하려면 포즈 범위가 조밀한 쌍을 이룬 포즈-비디오 관측 데이터가 필요하며, 이는 획득 비용이 큽니다. 본 연구에서는 정답 신규 시점 RGB 지도 없이도 연속적인 시점 전반에서 다중 시점 일관성을 갖춘 비디오를 생성하는 대칭 정규화 플로우 매칭 프레임워크인 SymRegFlow를 소개합니다. SymRegFlow는 각 대상 포즈에 대해 소스 시점을 기하학적으로 워핑하여 노이즈가 포함된 앵커(anchor)로 변환하고, 마스킹된 듀얼 앵커 지도와 앵커 간 디노이징 출력 일관성을 결합하여 앵커 고유의 오차를 완화합니다. 아핀 가우시안 대리 모델 하에서, 적절한 일관성 정규화(regularization)가 고정된 노이즈 수준에서 깨끗한 참조 최적값을 복원하여 단일 및 병합 앵커 기준선(baseline)을 확실히 능가함을 증명합니다. Cosmos-Drive-Dreams 및 nuScenes에 대한 실험은 고품질의 다중 시점 일관성을 지닌 자율주행 비디오 생성을 입증합니다. nuScenes에서 SymRegFlow는 평가된 기준선 중 가장 낮은 FVD 및 FVMD를 달성하여 최고 기준선 대비 FVD를 31% 이상 줄였으며, 소스 조건부 추론(inference)에서도 최고의 FID 및 인스턴스 보존 성능을 달성했습니다.
DyRAD: 동적 주행 장면을 위한 레이더 신규 시점 합성
DyRAD: Radar Novel View Synthesis for Dynamic Driving Scenes
기록된 센서 데이터로부터 동적 주행 장면을 재구성하는 기술은 기존 주행 궤적을 벗어난 관측값을 합성함으로써 자율주행 시스템의 폐루프(closed-loop) 평가를 지원합니다. 카메라 및 라이다(LiDAR)와 달리, 레이더는 도플러(Doppler) 효과를 통해 시선 방향 속도(radial velocity)를 직접 측정합니다. 그러나 기존 레이더 신규 시점 합성(novel-view synthesis) 방식들은 이러한 역량을 제대로 활용하지 못하고 있습니다. 동적 장면을 다루는 방법들은 거리-방위각(range-azimuth) 텐서만을 재구성하는 반면, 도플러를 렌더링하는 방법들은 정적 장면만을 가정합니다. 더욱이 레이더 신호 처리 특성상 각 반사 신호가 여러 빈(bin)에 걸쳐 퍼지기 때문에, 기존 표현 방식들은 이러한 번짐 효과를 장면 기하 구조에 흡수하여 시점이 이동할 때 왜곡된 렌더링을 유발합니다. 본 논문에서는 정적 배경 반사체와 움직임이 추적되는 동적 점 반사체를 활용해 동적 주행 장면을 모델링하고 완전한 거리-방위각-도플러(RAD) 텐서를 렌더링하는 DyRAD를 제안합니다. 반사체의 속도는 객체 추적 궤적으로부터 유도되어 시선 방향으로 투영되므로, 도플러는 렌더링된 출력이자 해당 추적을 위한 감독(supervision) 신호로 동시에 기능합니다. 결정적으로, 레이더의 신호 처리 체인에서 유도된 고정된 해석적 점 확산 함수(PSF)를 통해 반사체를 렌더링함으로써 센서로 인한 번짐이 장면 표현에 영구적으로 반영되는 것을 방지합니다. 이러한 분리는 장면 재구성 성능을 향상시킬 뿐만 아니라 제로샷(zero-shot) 센서 구성 전이를 가능하게 하여, 재적합(refitting) 과정 없이도 동일하게 재구성된 장면을 서로 다른 레이더 사양 하에서 렌더링할 수 있도록 지원합니다. 저자들은 선행 연구에서 검증되지 않은 경로 상 포즈 및 위치가 이동된 시점 모두를 아우르며 RADIal, Boreas 및 합성 벤치마크에서 DyRAD를 평가(evaluation)합니다. RADIal 데이터셋에서 DyRAD는 가장 강력한 기준선(baseline)의 26.9% 대비 90.7%의 기준 감지 객체에서 레이더 검출을 복원해 냅니다.
LINGO: 3D Gaussian Splatting을 활용한 희소 각도 X-ray 신규 시점 합성 및 CT 재구성을 위한 잠재 초기화와 그래디언트 최적화
LINGO: Latent Initialization and Gradient Optimization for Sparse-view X-ray Novel View Synthesis and CT Reconstruction with 3D Gaussian Splatting
신규 시점 합성(novel view synthesis) 및 희소 각도(sparse-view) X-ray 영상 기반 컴퓨티드 단층 촬영(Computed Tomography, CT) 재구성에서는 각도 커버리지가 부족하면 구조적 모호성과 누적 노이즈가 발생한다. 3D Gaussian Splatting(3DGS)을 X-ray 흡수 물리와 결합하면 유망한 결과를 얻을 수 있으나, 노이즈가 많은 초기화, 위치 민감도 부족, 저밀도 영역에서의 약한 그래디언트 문제가 있다. 본 논문에서는 이를 해결하기 위해 잠재 초기화 및 그래디언트 최적화(Latent Initialization and Gradient Optimization, LINGO) 통합 프레임워크를 제안한다. LINGO는 잠재 마스크 공간 초기화와 동적 그래디언트 최적화를 결합해 포인트 클라우드의 구조적 완전성을 높이면서 학습을 가속한다. X-ray 마스크로부터 voxel 수준 3D 필터를 구성해 배경 노이즈를 견고하게 억제하고 신뢰할 수 있는 기하학적 prior를 제공한다. 적응형 voxel 스케일링 전략과 동적 손실 스케일링을 통해 공간 해상도를 조절하고 저밀도 구조에서 그래디언트를 명시적으로 증폭한다. 초기화 품질 평가를 위해 Initialization Point Cloud Structural Deviation(IPSD) 지표를 도입한다. X3D 데이터셋 실험에서 신규 시점 합성 과제는 동일한 희소 각도 설정에서 baseline 대비 평균 PSNR(Peak Signal-to-Noise Ratio) 0.72, SSIM(Structural Similarity Index) 0.0039를 각각 개선했으며, 보통 30k 반복으로 학습되는 최신(state-of-the-art) 모델과 유사한 재구성 품질을 5k step 내에 달성했다. CT 재구성 과제에서도 평균 PSNR·SSIM이 각각 0.36, 0.0134만큼 향상되는 등 일관된 개선을 보였다. 이는 다양한 희소 각도 영상 시나리오에서 학습 가속과 재구성 품질 향상 모두에 LINGO가 효과적임을 보여준다.
VDGS: 항공 장면 재구성을 위한 가시성 기반 대규모 3D 가우시안 스플래팅
VDGS: Visibility-Driven Large-Scale 3D Gaussian Splatting for Aerial Scene Reconstruction
대규모 장면 재구성은 3D 매핑, 자율주행과 같은 로봇 자율 시스템에서 핵심적인 기반 기술이다. 최근 3D 가우시안 스플래팅(3D Gaussian Splatting, 3DGS)은 시각적 품질과 연산 효율성 모두에서 뛰어난 장점을 보이며, 대규모 장면 재구성을 위한 유망한 표현 방식으로 자리 잡았다. 그러나 대규모 장면에서는 과도한 메모리 소비와 UAV(무인 항공기) 촬영으로 인한 불균일한 시점 커버리지 등의 문제가 여전히 남아 있어 실제 응용을 제한하고 있다. 이를 해결하기 위해, 우리는 카메라 분포를 장면 모델링에 통합한 새로운 3DGS 프레임워크인 VDGS를 제안한다. VDGS는 감독(supervision) 강도를 정량화하기 위해 장면 앵커(anchor)에 대한 가시성 기반 통계를 도입한다. 이 통계는 장면 분할과 최적화가 부족한 영역에 대한 그래디언트 보정에 추가로 활용되어, 서로 다른 영역 간 균형 잡힌 최적화를 촉진한다. 여러 대규모 항공 장면 데이터셋에 대한 광범위한 실험을 통해, VDGS는 불균형한 시점 분포 상황에서 기존 방법들을 일관되게 능가하면서도, 시점 분포가 더 균일한 시나리오에서도 경쟁력 있는 성능을 유지함을 입증하였다.
RoadVGGT: 도로 구조 인식 피드포워드 도로 표면 재구성
RoadVGGT: Road-Structure-Aware Feed-Forward Road Surface Reconstruction
대규모 도로 표면 재구성은 고해상도 매핑, 자율주행 인식, 어노테이션, 시뮬레이션을 지원한다. 기존 도로 특화 최적화 방법은 고품질 도로 표현을 생성할 수 있지만, 일반적으로 장면별 학습과 주행 궤적 주변의 장면 의존적 커버리지 설계가 필요하여, 새로 수집된 도로에 대한 확장 가능한 재구성을 제한한다. 이러한 한계를 해결하기 위해, 테스트 시점 장면별 최적화 없이 간결한 가우시안 도로 표면을 재구성하는 도로 구조 인식 피드포워드 프레임워크인 RoadVGGT를 제안한다. RoadVGGT는 기하학적 파운데이션 모델을 사용하여 다중 뷰 이미지와 제공된 포즈 및 깊이 관측을 함께 활용하고, 학습된 가우시안 헤드를 통해 밀집한 픽셀 정렬 가우시안 속성을 예측한다. 이러한 밀집 예측을 대규모 도로 표면에 활용 가능하게 하기 위해, 일관된 미터법 세계 좌표계로 정렬하고 도로 정렬 XY 평면에서 신뢰도 가중 그리드 융합을 통해 중복 가우시안을 융합한다. 카테고리 인식 그룹화와 도로-보도 접합부 보호는 취약한 도로 구조 주변의 융합을 추가로 제어한다. 결과 표현은 RGB 및 의미론적 조감도(bird's-eye-view) 맵, 고도 추정, 새로운 시점 합성을 지원한다. RoadVGGT는 기존 방법의 장면별 최적화 필요성을 제거하고, 간결한 가우시안 표현으로 완전한 도로 표면을 재구성하며, 이미지 품질, 의미론적 매핑, 고도 정확도를 향상시킨다. 광범위한 실험은 확장 가능한 피드포워드 도로 표면 재구성을 위한 기하학적 파운데이션 모델의 잠재력을 입증한다.
GenSplatCodec: 원스텝 디퓨전 기반 피드포워드 가우시안 스플래팅 압축
GenSplatCodec: Feed-Forward Gaussian Splatting Compression via One-Step Diffusion
피드포워드 3D Gaussian Splatting(3DGS)은 장면별 최적화 없이 확장 가능한 장면 재구성을 가능하게 하지만, 저장 및 전송 비용이 큰 밀집된 가우시안을 생성한다. 기존 피드포워드 가우시안 압축 방법들은 디코딩을 결정론적 표현 복원으로 공식화하는데, 이는 낮은 비트레이트에서 고주파 텍스처와 시점 의존적 외관이 버려질 때 부적절해진다. 생성 모델이 유망한 대안을 제공하지만, 이를 독립적인 후처리로 사용하면 생성이 전송된 장면 구조와 분리되어 시점 간 일관성을 훼손한다. 이러한 한계를 해결하기 위해, 우리는 저비트레이트 가우시안 압축을 기하학 유도 생성 디코딩으로 재공식화하는 통합 피드포워드 가우시안 코덱인 GenSplatCodec을 제안한다. 우리는 이중 스트림 공식화 내에서 세부 인식 피드포워드 가우시안 코딩 방식을 제시하며, 여기서 결과로 얻어진 컴팩트한 가우시안 구조 스트림은 경량 참조 외관 스트림으로 보완된다. 또한 계층적 기하학 제어를 통해 디코딩된 구조 및 외관 단서를 공동으로 활용하여 고충실도이면서 시점 일관적인 novel view를 재구성하는 기하학 유도 원스텝 생성 디코딩 접근법을 도입한다. 마지막으로, 통합 코덱의 학습을 안정화하고 생성 디코더가 코덱에서 파생된 구조 및 외관 단서에 적응하도록 하는 3단계 최적화 전략을 개발한다. 다수의 데이터셋에 걸친 광범위한 실험을 통해 GenSplatCodec이 기존 방법들보다 일관되게 우수한 rate-distortion(RD) 성능을 달성함을 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.