SNeRF: Stylized Neural Implicit Representations for 3D Scenes
원문 초록
This paper presents a stylized novel view synthesis method. Applying state-of-the-art stylization methods to novel views frame by frame often causes jittering artifacts due to the lack of cross-view consistency. Therefore, this paper investigates 3D scene stylization that provides a strong inductive bias for consistent novel view synthesis. Specifically, we adopt the emerging neural radiance fields (NeRF) as our choice of 3D scene representation for their capability to render high-quality novel views for a variety of scenes. However, as rendering a novel view from a NeRF requires a large number of samples, training a stylized NeRF requires a large amount of GPU memory that goes beyond an off-the-shelf GPU capacity. We introduce a new training method to address this problem by alternating the NeRF and stylization optimization steps. Such a method enables us to make full use of our hardware memory capacity to both generate images at higher resolution and adopt more expressive image style transfer methods. Our experiments show that our method produces stylized NeRFs for a wide range of content, including indoor, outdoor and dynamic scenes, and synthesizes high-quality novel views with cross-view consistency.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
관찰된 정보로 반사를 안내하는 가우시안 스플래팅
Gaussian Splatting with Reflections Guided by What is Seen
NeRF(Neural Radiance Fields)와 3DGS(3D Gaussian Splatting)와 같은 새로운 시점 합성(novel view synthesis) 방법들은 일반적인 장면에서 인상적인 성능을 보여주었지만, 시점 의존적인(view-dependent) 반사(specular) 효과, 특히 근거리 반사(near-field reflection)를 포착하는 데 어려움을 겪는 경우가 많다. 기존 방법들은 무한히 먼 곳의 광원만을 표현하는 환경 맵(environment map)이나, 반사로부터의 간접적인 감독(supervision)에만 의존하는 환경 가우시안(environment Gaussian)을 활용하지만, 이러한 효과를 정확하게 모델링하기에는 충분하지 않다. 본 논문에서는 입력 이미지에서 직접 관찰 가능한 환경 정보를 활용하는 2DGS(2D Gaussian Splatting) 기반 프레임워크를 제안한다. 또한 본 접근법은 하이브리드 반사 외관 표현과 시점 의존적인 반사 모델링을 통합한다. 공개 벤치마크와 새롭게 구축한 근거리 반사 데이터셋에 대한 실험을 통해 본 방법이 우수한 렌더링 품질과 기하학적 정확도를 달성함을 입증한다.
Flash EQ-Linear: 그룹별 이산 푸리에 변환을 통한 등변 선형 층 가속
Flash EQ-Linear: Accelerating Equivariant Linear Layers via Group-wise Discrete Fourier Transform
등변(equivariant) 네트워크는 가중치 공유를 통해 기하학적 대칭을 구조적 사전 지식(prior)으로 내장하여, 비전 작업 전반에서 뛰어난 매개변수 효율성을 달성한다. 그러나 이러한 매개변수 효율성은 연산 효율로 이어지지 않는다. 기존 구현은 구조화된 가중치를 밀집(dense) 행렬로 펼친 뒤 범용 밀집 커널에 전달하므로, 등변 층의 FLOPs는 비등변(non-equivariant) 대응물보다 작지 않다. 본 논문에서는 현대 등변 아키텍처에서 가장 기본적이며 자주 사용되는 모듈인 등변 선형(EQ-Linear) 층이 본질적으로 그룹 차원을 따른 순환 합성곱(circular convolution)과 채널 차원을 따른 선형 변환의 합성임을 관찰한다. 이 관찰에 기반하여, 우리는 그룹 차원을 따른 푸리에 합성곱 정리(Fourier convolution theorem)와 실수 DFT의 켤레 대칭(conjugate symmetry)을 결합하여 복잡도를 $\mathcal{O}(NDC)$에서 $\mathcal{O}(NDC/T)$로 줄이는 정확한 가속 알고리즘인 Flash EQ-Linear를 제안한다. 또한 순전파와 역전파, FP32 및 FP16 정밀도를 모두 아우르는 Flash EQ-Linear 전용 CUDA 커널을 제공한다. 연산자 수준에서 Flash EQ-Linear는 PyTorch의 F.linear 대비 순전파 최대 ${2\times}$ 속도 향상을 달성한다. 네트워크 수준에서는 Flash EQ-ViT와 Flash EQ-Swin이 등변 및 비등변 베이스라인 모두에 대해 최대 ${1.7\times}$ end-to-end 속도 향상을 달성한다. 우리가 아는 한, 이는 등변 네트워크가 정확도, 매개변수 효율성, 추론 속도라는 세 축 모두에서 비등변 대응물을 엄격히 압도한 최초의 사례이다. 코드는 https://github.com/zhongchenzhao/FlashEQLinear 에서 이용할 수 있다.
Hash-QNeRF: 양자 신경 방사 필드를 위한 다중해상도 해시 인코딩
Hash-QNeRF: Multiresolution Hash Encoding for Quantum Neural Radiance Fields
신경 방사 필드(Neural Radiance Fields, NeRF)는 신규 시점 합성을 혁신했지만, 고전적 구현은 고충실도 렌더링에 여전히 계산 비용이 크다. QNeRF는 최근 진폭 임베딩, 매개변수화 양자 회로(PQC), 패리티 기반 측정, 체적 렌더링을 결합하여 게이트 기반 양자 컴퓨터에서 NeRF를 학습하는 것이 가능함을 보였다. 그러나 QNeRF는 공간 좌표에 고전적 사인파 위치 인코딩에 의존하며, 이는 장면 복잡도 및 해상도에 따라 확장성이 떨어진다. 본 연구에서는 시점 방향 인코딩, 진폭 MLP, 양자 회로, 패리티 측정, 출력 스케일링, 체적 렌더링 파이프라인은 그대로 유지한 채, 공간 좌표용 사인파 위치 인코딩을 Instant-NGP의 다중해상도 해시 인코딩으로 대체한다. 이 하이브리드 설계인 Hash-QNeRF는 학습 가능한 해시 그리드의 빠른 수렴과 메모리 효율성을 활용하면서도 양자 방사량 예측 단계를 유지한다. 합성 Blender 장면에서 최종 학습 손실 0.003534를 달성했으며, 이는 피팅된 배치에서 약 24.5 dB PSNR에 해당한다. Qiskit FakeKyiv 및 FakeTorino 백엔드를 사용한 잡음 강건성 실험에서는 상태 충실도가 0.93에서 0.98로 나타나, 해시 인코딩이 양자 회로의 잡음 내성을 저하시키지 않음을 보인다.
Deformable Triangle Splatting: 실시간 Radiance Field 렌더링을 위한 유연한 프리미티브
Deformable Triangle Splatting: Flexible Primitives for Real-Time Radiance Field Rendering
최근 radiance field 방법들은 가우시안 디스크부터 삼각형까지, 표면 정렬과 효율적인 래스터화를 제공하는 2D 프리미티브로 장면을 표현하지만, 모두 볼록(convex) 경계에 의존한다. 곡선 및 오목(concave) 구조는 과도한 수의 프리미티브를 요구한다. 우리는 Deformable Triangle Splatting을 제안한다. 이는 각 삼각형의 변마다 $K$개의 제어점을 추가하며, 각 제어점은 경계를 안쪽 또는 바깥쪽으로 이동시키는 단일 학습 가능 스칼라 변위(displacement)로 매개변수화되어, 3D 평면을 정의하는 세 개의 기본 정점을 유지하면서 비볼록(non-convex) 형상 표현을 가능하게 한다. 이러한 비볼록 프리미티브를 미분 가능하게 렌더링하기 위해, 삼각형의 barycentric 좌표 공간에서 래스터화 파이프라인을 설계하여 시점 일관(view-consistent) 렌더링을 보장한다. winding number 테스트는 각 픽셀이 변형된 프리미티브 내부에 있는지를 판별하며, sharpness와 corner smoothness라는 두 개의 학습 가능 매개변수로 제어되는 window function과 프리미티브당 스칼라 opacity가 함께 내부에서 경계로의 부드러운 opacity 전환을 생성한다. 검증은 다양한 실세계 장면에서 수행되며, 비체적(non-volumetric) 프리미티브 기반 최근 연구들을 시각적 품질과 범용성 측면에서 능가하면서도 여전히 경쟁력 있는 렌더링 효율을 달성한다.
Future Rendering ≠ Future Surface: 관측 구간을 넘어선 동적 표면 재구성을 위한 벤치마크와 데이터셋
Future Rendering $\neq$ Future Surface: A Benchmark and Dataset for Dynamic Surface Reconstruction Beyond the Observed Window
동적 장면 재구성은 거의 항상 관측된 시간 구간 내에서 평가되지만, AR 오버레이, 로봇 상호작용, 예측적 계획(anticipatory planning)과 같은 배포 환경에서는 캡처된 시점을 넘어선 시점의 기하학, 즉 미래 표면(future surface)이 필요하다. 이를 측정하는 표준 벤치마크는 없다. 본 연구는 장면 다양성을 정확한 미래 ground truth와 반증(falsification) 통제와 교환하는, 미래 시점 표면 재구성을 위한 통제된 진단용 벤치마크 및 데이터셋 FutureSurf를 소개한다. 방법은 시퀀스의 관측된 처음 75%에서 학습하고, 추출된 프레임별 표면을 보류된 미래 구간에서 Chamfer distance로 채점한다. 절대 미래 CD를 주요 점수로, 미래/관측 격차를 진단 지표로 보고한다. 데이터셋에는 분석적으로 정의된 8가지 통제된 동작이 포함되며, 그중 3가지는 반증 통제이고, 프레임별 정확한 ground-truth 메시를 제공한다. 또한 ground truth 측의 복원 가능성(recoverability) 오라클도 제공한다. 릴리스에는 분할 파일, 채점 코드, 벤치마크 카드, Croissant 메타데이터가 포함된다. 통제된 동작에서 DG-Mesh 백본은 원칙적으로 예측 가능한 미래(관측된 동작으로 고정 규칙에 따라 5개 중 4개가 복원 가능)에 대해서도 2.7–4.1× 격차를 남기는 반면, 반증 통제는 설계대로 동작한다(표면 불변 동작은 격차가 없음). 기여된 데이터셋을 넘어, 이 격차는 6개의 애니메이션 DG-Mesh 에셋 장면과 두 번째 백본인 Deformable-3DGS(2.0–6.6×; 둘 다 deformation-MLP 시간 모델을 공유)에서도 지속된다. 벤치마크는 또한 미래 렌더링 품질과 미래 표면 정확도가 통계적으로 분리(decoupled)되어 있음을 보여주므로, 해당 분야에서 보고하는 신규 시점 합성(novel-view-synthesis) 지표가 미래 기하학을 반영하지 않는다. 미래 오차는 구조적이며, 표면이 움직이는 곳에 집중된다. 데이터셋, 평가 툴킷, 채점 코드는 Hugging Face와 GitHub(https://github.com/Ricky-S/futuresurf)에서 이용할 수 있다.
GPU 친화적 그래픽스 텍스처 코딩을 이용한 3D Gaussian Splatting 데이터 압축
Compression of 3D Gaussian Splatting Data Using GPU-friendly Graphics Texture Coding
이미지 컬렉션으로부터 3D 장면을 모델링하는 기법(예: 3D Gaussian Splatting, 3DGS)은 시점 의존적(view-dependent) 외형을 갖는 그래픽스 프리미티브를 활용하여 고품질의 새로운 시점(novel view)을 생성할 수 있다. 3DGS에서는 시점 의존적 색상을 모델링하기 위해 구면 조화(spherical harmonic, SH)가 사용되며, 이로 인해 프리미티브당 다수의 SH 계수가 필요하고 메모리 요구량이 커진다. 이 문제를 완화하기 위해 압축 접근법들이 제안되었지만, 병렬 디코딩 및 렌더링을 위한 현대 그래픽 처리 장치(GPU)의 기능을 활용하지 못한다. 본 논문에서는 효율적인 병렬 GPU 디코딩을 위해 특별히 설계되었고 전용 하드웨어 가속을 지원하는 텍스처 압축 방식을 사용하여 SH 색상 계수를 압축하는 방법을 제안한다. 이러한 방법들이 프리미티브를 색상에 따라 국소적으로 그룹화하고 재정렬할 수 있다는 점을 활용하여 2D 텍스처보다 색상 계수를 더 효과적으로 압축할 수 있음을 보인다. 또한 무작위 접근(random access)을 유지하는 비트레이트(bit-rate) 제어 전략을 도입하여, 렌더링 성능을 저해하지 않으면서 대규모 병렬화를 가능하게 한다. BC1 및 BC7 텍스처 압축 포맷을 사용한 실험 결과, GPU 기반 디코딩을 통해 렌더링된 3DGS 장면의 시각적 품질에서 무시할 수 있거나 지각상 구별할 수 없는 저하만으로 달성할 수 있음을 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.