Preface: A Data-driven Volumetric Prior for Few-shot Ultra High-resolution Face Synthesis
원문 초록
NeRFs have enabled highly realistic synthesis of human faces including complex appearance and reflectance effects of hair and skin. These methods typically require a large number of multi-view input images, making the process hardware intensive and cumbersome, limiting applicability to unconstrained settings. We propose a novel volumetric human face prior that enables the synthesis of ultra high-resolution novel views of subjects that are not part of the prior's training distribution. This prior model consists of an identity-conditioned NeRF, trained on a dataset of low-resolution multi-view images of diverse humans with known camera calibration. A simple sparse landmark-based 3D alignment of the training dataset allows our model to learn a smooth latent space of geometry and appearance despite a limited number of training identities. A high-quality volumetric representation of a novel subject can be obtained by model fitting to 2 or 3 camera views of arbitrary resolution. Importantly, our method requires as few as two views of casually captured images as input at inference time.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
FFaceNeRF: Few-shot Face Editing in Neural Radiance Fields
NeRF 기하 조형: 3D 인식 얼굴 GAN의 인간 선호 미세조정
Sculpting NeRF Geometry: Human-Preference Fine-Tuning of a 3D-Aware Face GAN
3D 생성을 위한 인간 피드백 강화학습(RLHF)은 여러 연구에서 이미 정착되었지만, 기존 파이프라인 대부분은 명시적 표면 표현을 최적화하며, 흔히 radiance field를 메시로 변환하고 표면 감독 데이터 위주로 학습한다. 우리는 대신 외부에서 제공되는 메시나 형상 prior 없이, radiance field 밀도($\sigma$) 값에 대한 학습된 보상으로 사전학습된 3D 인식 생성 모델을 직접 미세조정한다. 보상 모델은 사전학습이 필요 없고, 소량의 선호 샘플로 쉽게 학습되며, 3D 기하에서 견고한 개선을 이끈다. 무조건부 3D 인식 얼굴 GAN(EG3D)을 대상으로, 우리의 보상은 신경 radiance field(NeRF)의 연속 3D 밀도 필드를 직접 읽어 기하 전용 학습 신호를 제공하며, 텍스트 조건화, 메시 추출, 다중 시점 렌더링이 모두 필요하지 않다. 밀도 일관성 제약은 기하가 재형성되는 동안 2D 외관을 질적으로 유사하게 유지하며, 측정 가능하나 제한된 분포 비용(FID-50k가 4.09에서 6.66으로 증가)을 수반한다: 개념 증명으로 단일 어노테이터의 선호만으로 미세조정된 생성기를 학습했을 때, pairwise 비교의 74.4%에서 사용자가 선호하는 얼굴 기하를 생성한다.
3D 장면 생성: 종합 조사
3D Scene Generation: A Survey
3D 장면 생성은 몰입형 미디어, 로보틱스, 자율주행, 체화 AI(embodied AI) 등의 응용을 위해 공간적으로 구조화되고 의미론적으로 유의미하며 포토리얼리스틱(photorealistic)한 환경을 합성하는 것을 목표로 한다. 절차적 규칙(procedural rules)에 기반한 초기 방법은 확장성은 제공했으나 다양성은 제한적이었다. 딥 생성 모델(예: GAN, diffusion model)과 3D 표현(예: NeRF, 3D Gaussians)의 최근 발전은 실세계 장면 분포의 학습을 가능하게 하여 충실도, 다양성, 시점 일관성을 개선했다. diffusion model과 같은 최근 기법은 생성을 이미지 또는 영상 합성 문제로 재구성함으로써 3D 장면 합성과 포토리얼리즘(photorealism)을 연결한다. 본 조사는 최신(state-of-the-art) 접근법에 대한 체계적 개관을 제공하며, 이를 절차적 생성, 신경망 3D 기반 생성, 이미지 기반 생성, 영상 기반 생성의 네 가지 패러다임으로 구분한다. 각 방법의 기술적 기반, 트레이드오프, 대표적 결과를 분석하고, 널리 사용되는 데이터셋, 평가(evaluation) 프로토콜, 하류 응용을 검토한다. 마지막으로 생성 역량, 3D 표현, 데이터 및 주석, 평가의 핵심 과제를 논의하고, 더 높은 충실도, 물리 인식(physics-aware) 및 대화형(interactive) 생성, 통합 지각-생성 모델을 포함한 유망한 연구 방향을 개괄한다. 본 리뷰는 3D 장면 생성의 최근 진전을 정리하고 생성 AI, 3D 비전, 체화 지능의 교차점에서의 유망한 방향을 강조한다. 진행 중인 동향을 추적하기 위해 최신 프로젝트 페이지를 유지한다: https://github.com/hzxie/Awesome-3D-Scene-Generation.
그리드는 종종 밀집 신호 압축에서 암시적 신경 표현(Implicit Neural Representations, INRs)보다 우수합니다
Grids Often Outperform Implicit Neural Representations at Compressing Dense Signals
암시적 신경 표현(Implicit Neural Representations, INRs)은 최근 인상적인 결과를 보여주었지만, 그 기본 용량, 암시적 편향, 스케일링 동작은 여전히 잘 이해되지 않고 있습니다. 우리는 다양한 유효 대역폭을 가진 2D 및 3D 실제 및 합성 신호와 토모그래피, 초해상도, 노이즈 제거를 포함한 과적합(overfitting) 및 일반화 작업 전반에 걸쳐 다양한 INRs의 성능을 조사합니다. 모델 크기와 신호 유형 및 대역폭에 따라 성능을 계층화하여, 서로 다른 INR 및 그리드 표현이 용량을 어떻게 할당하는지를 밝혀냅니다. 밀집 신호를 다루는 많은 작업에서, 보간이 적용된 간단한 정규화된 그리드는 동일한 파라미터 수를 가진 어떤 INR보다 더 빠르게 학습되며 더 높거나 대등한 품질로 도달함을 발견했습니다. 또한, 형태 윤곽과 같은 이진 신호 적합 작업과 같이 INRs가 그리드보다 우수한 성능을 보이는 제한적인 설정도 발견했습니다. 이는 향후 INRs의 개발과 활용을 가장 유리한 응용 분야로 유도하는 데 도움이 될 것입니다.
UnMix-NeRF: Spectral Unmixing Meets Neural Radiance Fields
Self-Supervised Multimodal NeRF for Autonomous Driving
토론
이 논문과 연결된 포럼 글이 아직 없습니다.