arXiv:2512.17302v2 cs.CV

MatLat: PBR 텍스처 생성을 위한 머티리얼 잠재 공간

MatLat: Material Latent Space for PBR Texture Generation

Kyeongmin Yeo, Yunhong Min, Jaihoon Kim, Minhyuk Sung

제출 2025-12-19

저자 비고

arXiv Comments

CVPR 2026 (Highlight). Project page: https://matlat-proj.github.io

한국어 초록

본 논문에서는 주어진 3D 메시에 고품질 PBR 텍스처를 생성하기 위한 생성 프레임워크를 제안합니다. 대규모 PBR 텍스처 데이터셋이 부족한 상황에서, 본 접근법은 타깃 미세조정(fine-tuning)을 통해 머티리얼 잠재 공간인 MatLat을 학습하는 동시에, 사전학습된 잠재 이미지 생성 모델의 임베딩(embedding) 공간과 확산 사전확률(diffusion prior)을 효과적으로 활용하는 데 초점을 맞춥니다. 임베딩 네트워크를 고정하여 추가 PBR 채널 인코딩 시 분포 변화(distribution shift)를 초래하고 후속 확산 학습(training)을 저해하는 기존 방식과 달리, 본 연구에서는 최소한의 잠재 분포 편차만으로 새로운 머티리얼 채널이 통합될 수 있도록 사전학습된 VAE를 미세조정합니다. 나아가 잠재-이미지 간 매핑이 국소성(locality)을 보존하지 않는 한, 대응점 인식 어텐션(correspondence-aware attention)만으로는 뷰 간 일관성을 확보하기에 불충분함을 보입니다. 이러한 국소성을 강제하기 위해, 잠재 패치를 크롭하여 디코딩한 뒤 대응하는 이미지 영역과 정렬함으로써 강력한 픽셀-잠재 공간 대응을 유지하는 정규화(regularization) 기법을 VAE 미세조정에 도입합니다. 제거 연구(ablation study) 및 기존 베이스라인과의 비교를 통해 제안하는 프레임워크가 PBR 텍스처의 충실도를 향상시키며, 각 구성 요소가 최고 수준의 성능(SOTA)을 달성하는 데 필수적임을 입증합니다.

원문 초록

We propose a generative framework for producing high-quality PBR textures on a given 3D mesh. As large-scale PBR texture datasets are scarce, our approach focuses on effectively leveraging the embedding space and diffusion priors of pretrained latent image generative models while learning a material latent space, MatLat, through targeted fine-tuning. Unlike prior methods that freeze the embedding network, which leads to distribution shifts when encoding additional PBR channels and hinders subsequent diffusion training, we fine-tune the pretrained VAE so that new material channels can be incorporated with minimal latent distribution deviation. We further show that correspondence-aware attention alone is insufficient for cross-view consistency unless the latent-to-image mapping preserves locality. To enforce this locality, we introduce a regularization in the VAE fine-tuning that crops latent patches, decodes them, and aligns the corresponding image regions to maintain strong pixel-latent spatial correspondence. Ablation studies and comparison with previous baselines demonstrate that our framework improves PBR texture fidelity and that each component is critical for achieving state-of-the-art performance.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2512.17302v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.24729v1cs.CV공통 태그 Image Generation, Texture Synthesis

MicroZoom: 극한 스케일에서 구조를 보존하는 세부 합성

MicroZoom: Structure-Preserving Detail Synthesis at Extreme Scale

본 논문은 미시적 스케일에서 기가픽셀(gigapixel) 이미지 합성을 위한 생성 프레임워크인 MicroZoom을 소개한다. 일반 사진과 소수의 소비자급 현미경 근접 촬영이 주어지면, MicroZoom은 실제 참조의 재질 특성에 그라운딩(grounding)된 매끄러운 기가픽셀 해상도 이미지를 합성하여, 객체 전체 공간 범위에 걸친 미시적 질감의 탐색적 시각화를 가능하게 한다. 우리의 목표는 정확한 재구성이 아니라 그럴듯한 합성이다. 최대 350배 배율의 전체 이미지, 참조 기반, 극한 스케일 초해상도(super-resolution)에 집중하며, 이 설정은 두 가지 주요 과제를 제기한다: (1) 모호한 재질 경계 근처의 고손실 입력으로부터 질감 특화 세부 정보를 복원하는 것, (2) 직물 직조와 같은 반복 기하학과 같은 올바른 대규모 패턴 구조를 수백만 개의 지역 예측에 걸쳐 보존하는 것. 이를 2단계 캐스케이드(cascaded) 설계로 해결한다. 첫 단계에서는 전역 패턴 일관성을 복원하고, 두 번째 단계에서는 지역 질감 세부를 정제하며, 모호한 경계에서 합성을 안내하기 위해 분할(segmentation) 마스크를 보조적으로 사용한다. 자체 촬영한 일상 사물 모음에서 접근법을 검증하고, 전역적으로 일관되고 재질적으로 그라운딩된 기가픽셀 영상을 입증한다.

arXiv:2607.07817v1cs.CV공통 태그 Image Generation, Texture Synthesis

DreamCharacter-1: 3D 생성 파운데이션 모델에서 제품 수준의 캐릭터 생성까지

DreamCharacter-1: From 3D Generative Foundation Models to Product-Ready Character Generation

우리는 사전학습된 3D 파운데이션 모델을 고충실도의 프로덕션 수준 3D 캐릭터 생성으로 보정하는 경량 사후 적응 프레임워크인 DreamCharacter-1을 제시한다. 3D 파운데이션 백본을 기반으로 우리의 파이프라인은 세 가지 태스크 지향 구성 요소를 통합한다: (1) 기하학적 선호도 최적화를 통해 세밀한 표면 디테일을 향상시키는 기하학 사후 학습(geometry post-training), (2) 고해상도 텍스처를 합성하고 가려진 영역의 외관을 개선하는 텍스처 사후 학습(texture post-training), (3) 확장 가능한 배포를 가능하게 하는 추론 가속화(inference acceleration). 광범위한 정량적·정성적 실험을 통해 DreamCharacter-1이 시각적으로 설득력 있고 구조적으로 견고한 3D 캐릭터 에셋을 생성하며, 최신 캐릭터 생성 방법들을 일관되게 능가함을 입증한다.

arXiv:2607.10301v1cs.CV공통 태그 Image Generation

ChartSync: 시각-논리적 연쇄 차트 편집을 위한 벤치마크

ChartSync: A Benchmark for Visuo-Logical Cascading Chart Editing

생성형 이미지 편집 모델은 데이터 수정이 기하학적 동기화를 필요로 하는 구조화된 통계 차트를 처리하는 데 어려움을 겪는다. 우리는 이 과제를 시각-논리적 연쇄 편집(Visuo-Logical Cascading Editing, VLCE)으로 공식화한다. 그러나 기존 방법들은 국소적인 텍스트 대체에 국한되며 의존성을 인식하는 연쇄 업데이트에 어려움을 보인다. 이 능력을 체계적으로 평가하기 위해, 우리는 ChartSync를 소개한다. ChartSync는 정답에 대한 결정론적 시각-논리적 결합을 보장하는 프로그래밍 방식의 렌더링 파이프라인을 통해 구성된 전문가 검증 벤치마크이다. ChartSync는 9개 차트 범주와 4가지 과제 유형에 걸친 870개의 트리플렛으로 구성되며, 연쇄적인 텍스트-기하학 동기화를 특정적으로 테스트하는 235개의 기하학적으로 결합된 VLCE 인스턴스를 포함한다. 우리는 이 인스턴스들을 객관적 시각 지표와 비전-언어 모델 판사 패러다임을 결합한 이중 계층 프레임워크를 통해 평가함으로써, 저수준 충실도와 멀티모달 이해 및 추론을 함께 측정한다. 14개의 이미지 편집 모델과 하나의 코드 매개 파이프라인을 평가한 결과, 미묘한 능력 격차가 드러났다. 대부분의 오픈소스 모델은 기하학적 동기화에서 심각한 성능 저하를 보이는 반면, 두 개의 최전선 독점 모델만이 VLCE 능력의 창발적 징후를 나타냈으며, 이들의 잔여 오류는 주로 의미론적 고립과 배경 손상을 수반한다. 우리의 상세한 오류 분석은 이러한 실패 패러다임을 분해하여 미래 멀티모달 아키텍처를 안내할 핵심 메타 능력을 식별한다. ChartSync 데이터셋과 코드는 https://github.com/kaka-yjk/ChartSyncCodebase에서 공개적으로 배포된다.

arXiv:2609.14856v3cs.CV공통 태그 Image Generation

RAIN: 시맨틱 워터마크 추출을 위한 영역 인식 역전 네트워크

RAIN: Region-Aware Inversion Network for Semantic Watermark Extraction

확산 모델을 위한 시맨틱 워터마크는 시각적 품질을 보존하면서 생성 과정에 소유권 정보를 삽입하지만, 전통적으로 Gaussian-Shading 추출은 초기 노이즈를 복구하기 위해 다단계 확산 역전(multi-step diffusion inversion)을 필요로 합니다. 최근의 1단계(one-step) 방식들은 이러한 비용을 크게 줄일 수 있음을 보여줍니다. 본 연구에서는 확장된 플로우 매칭(extended flow matching)과 조건부 회귀(conditional regression)를 통해 이 문제를 다룹니다. 핵심 관찰은 높은 신호 대 잡음비(high-SNR) 이미지 종점 근처에서 고 SNR 영역의 확장된 플로우 매칭 첫 단계 출력으로 주어지는 유용한 노이즈 통계량을 복구하는 것이 전체 역전 궤적(inverse trajectory)을 재구성하는 것보다 훨씬 단순하며, Gaussian Shading은 복구된 잠재 변수(latent)가 올바른 워터마크 결정 영역 내에 유지되기만 하면 된다는 점입니다. 이러한 관찰을 바탕으로, 종점 복구를 이미지와 유사한 앵커와 노이즈 지향적 잔차로 분해하여 GPU 병렬 연산 활용 능력을 향상시키는 경량 프롬프트-프리 추출기를 제안합니다. 이를 통해 얻어진 방법은 반복적인 역전과 확산 규모 U-Net의 반복 평가(evaluation)를 피함으로써, 간결한 이론적 해석을 갖춘 효율적인 1단계 추출 파이프라인을 제공합니다. 노이즈 추출의 연산 비용은 OSI와 FARI 모두보다 낮습니다. GitHub 저장소는 https://github.com/TheLovesOfLadyPurple/RAIN-lightweight-NN-for-one-step-semantic-watermark-extraction 에서 확인할 수 있습니다.

arXiv:2607.11886v2cs.CV공통 태그 Image Generation

Read It Back: 사전학습된 MLLM은 텍스트-이미지 생성을 위한 제로샷 보상 모델이다

Read It Back: Pretrained MLLMs Are Zero-Shot Reward Models for Text-to-Image Generation

본 논문에서 우리는 SpectraReward를 제안한다. SpectraReward는 사전학습된 다중모달 대규모 언어 모델(MLLM)을 이미지 생성 강화학습을 위한 즉시 사용 가능한 보상 모델로 전환하는 추가 학습이 불필요한 보상 함수이다. SpectraReward는 MLLM에게 생성된 이미지를 판단하거나 분해된 검증 질문에 답하도록 요청하는 대신, 단일 이미지 조건부 교사 강제(teacher-forced) 순전파를 통해 원본 프롬프트가 생성된 이미지로부터 얼마나 잘 복원될 수 있는지를 측정한다. 이미지 조건부 프롬프트 로그-가능도의 평균을 보상으로 사용함으로써, 선호도 레이블이나 보상 모델 미세조정 없이 MLLM의 사전학습된 이미지-텍스트 정렬 능력을 직접 재활용한다. 나아가 우리는 Self-SpectraReward를 소개한다. Self-SpectraReward는 통합 다중모달 모델을 위한 특수 사례로, 정책 자체의 이해 브랜치가 생성 브랜치를 위한 보상 모델로 기능하여 외부 보상 모델이나 외부 지식 없이 폐쇄 루프 자기 개선 프레임워크를 형성한다. 광범위한 실험을 통해 SpectraReward를 검증하였으며, 이 연구는 두 가지 확산 모델, 세 가지 강화학습 알고리즘, 4B에서 235B 파라미터에 걸친 네 가지 MLLM 계열의 아홉 가지 보상 MLLM 백본, 다섯 가지 분포 외(out-of-distribution) 텍스트-이미지 벤치마크를 포괄한다. 실험 결과, SpectraReward와 Self-SpectraReward 모두 생성 성능을 유의미하고 일관되게 향상시키며 기존 MLLM 기반 보상 학습 방법을 능가하였다. 추가 분석에 따르면 더 큰 보상 MLLM이 항상 더 우수한 것은 아니며, Self-SpectraReward는 훨씬 더 큰 외부 보상 모델과 동등하거나 이를 능가할 수 있어, 보상-정책 정렬(reward-policy alignment)이 효과적인 이미지 생성 강화학습의 핵심 요인임을 시사한다. 프로젝트 페이지: https://huangrh99.github.io/SpectraReward/

토론

이 논문과 연결된 포럼 글이 아직 없습니다.