arXiv:2212.08328

MEIL-NeRF: Memory-Efficient Incremental Learning of Neural Radiance Fields

JaeYoung Chung, Kanggeon Lee, Sungyong Baik, Kyoung Mu Lee

제출 2022-12-16

원문 초록

Hinged on the representation power of neural networks, neural radiance fields (NeRF) have recently emerged as one of the promising and widely applicable methods for 3D object and scene representation. However, NeRF faces challenges in practical applications, such as large-scale scenes and edge devices with a limited amount of memory, where data needs to be processed sequentially. Under such incremental learning scenarios, neural networks are known to suffer catastrophic forgetting: easily forgetting previously seen data after training with new data. We observe that previous incremental learning algorithms are limited by either low performance or memory scalability issues. As such, we develop a Memory-Efficient Incremental Learning algorithm for NeRF (MEIL-NeRF). MEIL-NeRF takes inspiration from NeRF itself in that a neural network can serve as a memory that provides the pixel RGB values, given rays as queries. Upon the motivation, our framework learns which rays to query NeRF to extract previous pixel values. The extracted pixel values are then used to train NeRF in a self-distillation manner to prevent catastrophic forgetting. As a result, MEIL-NeRF demonstrates constant memory consumption and competitive performance.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.10690v1cs.CV공통 태그 Incremental Learning, NeRF

3D 가우시안 삼각측량을 통한 점진적 온라인 장면 재구성

Incremental Online Scene Reconstruction by 3D Gaussian Triangulation

점진적 장면 재구성(incremental scene reconstruction)은 실세계 응용에 필수적이다. 3D 가우시안 스플래팅(3D Gaussian Splatting)이 강력한 잠재력을 보이고 있음에도 불구하고, 대부분의 기존 접근법은 명시적 메시 추출을 위해 최적화된 가우시안을 중간 암시적 필드로 오프라인 변환해야 하며, 이는 다운스트림 태스크와의 원활한 통합을 저해한다. 이러한 한계를 해결하기 위해, 우리는 밀집 기하학적 가우시안 표현을 직접 삼각측량하여 고충실도 명시적 메시를 점진적으로 재구성하고 업데이트하는 새로운 온라인 프레임워크를 제안한다. 이 프레임워크는 고품질 렌더링과 점진적 표면 재구성을 모두 지원한다. 또한, 가우시안 집합으로부터 메시를 효율적으로 추출하고 업데이트하는 직접 메싱 알고리즘을 제시한다. 메시 정확도를 보장하기 위해, 3D 가우시안 프리미티브를 근사된 로컬 표면에 동적으로 정렬하는 평면 기반 풀링 제약(plane-based pulling constraint)을 적용한다. 나아가, 완전히 최적화된 과거 영역을 동적으로 동결(freezing)함으로써 장시간 시퀀스 처리 중 메모리 및 연산 오버헤드를 크게 줄인다. 공개 데이터셋에 대한 실험을 통해, 우리 방법이 렌더링 품질과 재구성 정확도 모두에서 기존 가우시안 기반 방법들을 능가함을 입증한다.

arXiv:2505.05474v2cs.CV공통 태그 NeRF공식 코드 · Papers with Code

3D 장면 생성: 종합 조사

3D Scene Generation: A Survey

3D 장면 생성은 몰입형 미디어, 로보틱스, 자율주행, 체화 AI(embodied AI) 등의 응용을 위해 공간적으로 구조화되고 의미론적으로 유의미하며 포토리얼리스틱(photorealistic)한 환경을 합성하는 것을 목표로 한다. 절차적 규칙(procedural rules)에 기반한 초기 방법은 확장성은 제공했으나 다양성은 제한적이었다. 딥 생성 모델(예: GAN, diffusion model)과 3D 표현(예: NeRF, 3D Gaussians)의 최근 발전은 실세계 장면 분포의 학습을 가능하게 하여 충실도, 다양성, 시점 일관성을 개선했다. diffusion model과 같은 최근 기법은 생성을 이미지 또는 영상 합성 문제로 재구성함으로써 3D 장면 합성과 포토리얼리즘(photorealism)을 연결한다. 본 조사는 최신(state-of-the-art) 접근법에 대한 체계적 개관을 제공하며, 이를 절차적 생성, 신경망 3D 기반 생성, 이미지 기반 생성, 영상 기반 생성의 네 가지 패러다임으로 구분한다. 각 방법의 기술적 기반, 트레이드오프, 대표적 결과를 분석하고, 널리 사용되는 데이터셋, 평가(evaluation) 프로토콜, 하류 응용을 검토한다. 마지막으로 생성 역량, 3D 표현, 데이터 및 주석, 평가의 핵심 과제를 논의하고, 더 높은 충실도, 물리 인식(physics-aware) 및 대화형(interactive) 생성, 통합 지각-생성 모델을 포함한 유망한 연구 방향을 개괄한다. 본 리뷰는 3D 장면 생성의 최근 진전을 정리하고 생성 AI, 3D 비전, 체화 지능의 교차점에서의 유망한 방향을 강조한다. 진행 중인 동향을 추적하기 위해 최신 프로젝트 페이지를 유지한다: https://github.com/hzxie/Awesome-3D-Scene-Generation.

arXiv:2506.11139v3eess.IV공통 태그 NeRF공식 코드 · Papers with Code

그리드는 종종 밀집 신호 압축에서 암시적 신경 표현(Implicit Neural Representations, INRs)보다 우수합니다

Grids Often Outperform Implicit Neural Representations at Compressing Dense Signals

암시적 신경 표현(Implicit Neural Representations, INRs)은 최근 인상적인 결과를 보여주었지만, 그 기본 용량, 암시적 편향, 스케일링 동작은 여전히 잘 이해되지 않고 있습니다. 우리는 다양한 유효 대역폭을 가진 2D 및 3D 실제 및 합성 신호와 토모그래피, 초해상도, 노이즈 제거를 포함한 과적합(overfitting) 및 일반화 작업 전반에 걸쳐 다양한 INRs의 성능을 조사합니다. 모델 크기와 신호 유형 및 대역폭에 따라 성능을 계층화하여, 서로 다른 INR 및 그리드 표현이 용량을 어떻게 할당하는지를 밝혀냅니다. 밀집 신호를 다루는 많은 작업에서, 보간이 적용된 간단한 정규화된 그리드는 동일한 파라미터 수를 가진 어떤 INR보다 더 빠르게 학습되며 더 높거나 대등한 품질로 도달함을 발견했습니다. 또한, 형태 윤곽과 같은 이진 신호 적합 작업과 같이 INRs가 그리드보다 우수한 성능을 보이는 제한적인 설정도 발견했습니다. 이는 향후 INRs의 개발과 활용을 가장 유리한 응용 분야로 유도하는 데 도움이 될 것입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.