arXiv:2605.27813v2 cs.CV

확산 모델 해석을 위한 잔차화된 시간 희소 오토인코더

Residualized Temporal Sparse Autoencoders for Interpreting Diffusion Models

Calvin Yeung, Prathyush Poduval, Ali Zakeri, Zhuowen Zou, Mohsen Imani

제출 2026-05-27

한국어 초록

텍스트-이미지 확산 모델(diffusion model)은 반복적인 노이즈 제거(denoising)를 통해 이미지를 생성하므로, 내부 레이어는 단일 정적 표현이 아닌 활성화 궤적을 생성합니다. 최근 희소 오토인코더(SAE)를 사용하여 확산 활성화를 해석 가능한 특징(feature)으로 분해하려는 시도가 있었지만, 대부분의 접근법은 전체 궤적으로부터 학습하기보다는 개별 타임스텝을 분석하거나 시간에 조건을 부여합니다. 전체 궤적에 대해 하나의 SAE를 학습시키면 각 특징이 타임스텝 전반에 걸친 단일 궤적이 되지만, 인접한 활성화는 서로에 대해 대부분 선형적으로 예측 가능하므로 이러한 SAE는 단계마다 계속 이어지는 내용에 잠재 변수(latent)를 소모하게 됩니다. 본 연구에서는 이웃한 타임스텝 사이에 선형 예측기를 적합시키고 초기 활성화 및 이러한 동역학으로 설명되지 않는 잔차로 각 궤적을 표현하는 잔차화된 시간 SAE(ReSAE)를 소개합니다. 이 표현에서 SAE를 학습하는 것은 선형 동역학에 의해 유도된 메트릭 하에서 원본 궤적에 대해 학습하는 것과 동등하며, 선형적으로 예측 가능한 범위를 넘어서는 구조를 잠재 변수가 포착하도록 유도합니다. 각 잠재 변수의 디코더 방향은 노이즈 제거 시간에 걸친 특징 궤적으로서 활성화 공간에 다시 매핑됩니다. Stable Diffusion 1.5와 Diffusion Transformer 전반에서 ReSAE 특징은 전체 궤적에 걸쳐 나타나는 동시에 변화가 궤적에 유입되는 시점을 정확히 짚어내므로, ReSAE는 확산 모델이 시간에 따라 이미지를 생성하는 방식을 연구하는 데 자연스러운 도구가 됩니다.

원문 초록

Text-to-image diffusion models generate images by iterative denoising, so their internal layers produce trajectories of activations rather than single static representations. Sparse autoencoders (SAEs) have recently been used to decompose diffusion activations into interpretable features, but most approaches analyze individual timesteps or condition on time rather than learning from full trajectories. Training one SAE on whole trajectories would make each feature a single trajectory across timesteps, but adjacent activations are largely linearly predictable from one another, so such an SAE spends its latents on content carried forward from step to step. We introduce residualized temporal SAEs (ReSAE), which fit linear predictors between neighboring timesteps and represent each trajectory by its initial activation and the residuals these dynamics leave unexplained. Training an SAE on this representation is equivalent to training it on raw trajectories under a metric induced by the linear dynamics, and it encourages latents to capture structure beyond what is linearly predictable. Each latent's decoder direction maps back to activation space as a feature trajectory over denoising time. Across Stable Diffusion~1.5 and a Diffusion Transformer, ReSAE features span the whole trajectory while pinpointing when changes enter it, making ReSAE a natural tool for studying how a diffusion model generates an image over time.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2605.27813v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15724v1cs.LG공통 태그 Image Generation, Denoising, Text-to-Image Generation

확산 모델의 생성 환경 밝히기: 스펙트럼 유도 품질-다양성 확산 프레임워크

Uncovering the Generative Landscape of Diffusion Models: A Spectral-Guided Quality-Diversity Diffusion Framework

디노이징 확산 확률 모델(Denoising Diffusion Probabilistic Models)은 분자 설계부터 고해상도 이미지 합성에 이르기까지 다양한 분야에서 강력한 생성 사전 확률(generative prior)로 부상했습니다. 그러나 표준 확산 샘플링은 본질적으로 높은 가능도(likelihood) 영역에 편향되어 있어 출력의 다양성을 제한하는 경우가 많습니다. 많은 분야에서 단일한 고가능도 샘플만으로는 충분하지 않으며, 고성능 솔루션의 다양한 포트폴리오가 요구되므로 모델의 완전한 표현 범위를 밝혀내는 방법이 필요합니다. 본 논문에서는 품질-다양성(Quality-Diversity, QD) 최적화와 확산 모델을 통합함으로써 다양하고 성능이 뛰어난 출력을 발견할 수 있음을 보여줍니다. 먼저, 모델의 잠재 노이즈와 조건부 임베딩(embedding)을 직접 최적화하고 임베딩 모델을 활용하여 다양성을 정량화함으로써 QD를 확산 모델에 적용하는 프레임워크인 품질-다양성 확산(Quality-Diversity Diffusion)을 제안합니다. 둘째로, 모델의 입력-활성화 야코비안(Jacobian)의 주 특이 벡터를 분석하여 최대 의미론적 민감도 방향으로 탐색을 유도하는 새로운 h-공간 스펙트럼 변이(Spectral Mutation) 연산자를 도입합니다. 텍스트-투-이미지 생성에서 통합 접근 방식인 스펙트럼 유도 품질-다양성 확산(Spectral-Guided Quality-Diversity Diffusion)을 평가한 결과, 12개의 베이스라인 대비 우리 방법이 일관되게 가장 낮은 FID 점수를 달성하여 이미지 품질과 다양성 사이의 뛰어난 균형을 입증했습니다.

arXiv:2610.13344v1cs.CV공통 태그 Representation Learning, Image Generation, Denoising

롱 스킵 연결 없이 DiT 모델이 표현 학습자로서 성능이 저하되는 이유

Why DiT Models Underperform as Representation Learners without Long Skip Connections

디퓨전 특징(diffusion feature), 즉 디퓨전 모델 백본에서 추출된 중간 활성화는 생성과 시각적 이해(판별)를 통합하기 위한 유망한 접근법으로 부상했습니다. 디퓨전 백본이 디퓨전 트랜스포머(DiT)로 발전했음에도 불구하고, 기존 문헌에서는 DiT 모델이 더 강력한 생성 능력에도 불구하고 더 약한 특징을 산출하는 경향이 있음이 발견되었습니다. 이는 우수한 생성-이해 통합에 위협이 됩니다. 본 연구에서는 제어된 처음부터의 학습(from-scratch training)을 통해 롱 스킵 연결(LSC)이 특징 품질에 영향을 미침을 보여줍니다. 즉, LSC를 갖춘 DiT는 더 우수한 특징을 생성할 수 있습니다. 나아가 상세한 진단을 통해 이러한 효과를 유발하는 메커니즘을 밝혀냅니다. 구체적으로, 디퓨전 백본의 입력에는 잠재 이미지(latent image)와 디퓨전 노이즈가 모두 포함되며, 여기서 디퓨전 노이즈는 노이즈 형태로 나타나지만 실제로는 디퓨전 궤적의 정보를 반영합니다. 노이즈 변수($v$ 또는 $ε$)의 최종 예측을 수행하기 위해 디퓨전 백본에는 두 신호가 모두 필요합니다. 그러나 메인 백본을 통해 두 신호를 모두 전달하는 것은 사실상 이미지 신호를 노이즈로 "오염"시켜 특징 품질 저하로 이어집니다. 이에 비해 LSC는 디퓨전 노이즈를 필요한 곳으로 직접 지름길로 연결(shortcut)하여 메인 백본에 훨씬 약한 노이즈 신호만 남기므로 특징 품질을 향상시킬 수 있습니다. 더 넓은 영향력을 언급하자면, 이는 LSC가 단순한 트릭이 아니라 디퓨전 목표와 밀접하게 관련되어 있음을 밝혀냅니다. 코드는 https://github.com/Darkbblue/dit-lsc 에서 확인할 수 있습니다.

arXiv:2610.13944v1cs.CV공통 태그 Representation Learning, Image Generation, Denoising

InstantFusion: 이종 이미지 생성기를 위한 공유 잠재 인터페이스

InstantFusion: A Shared Latent Interface for Heterogeneous Image Generators

디퓨전/플로우(diffusion/flow) 모델은 이미지 생성의 사실상 표준 패러다임으로 자리 잡으며, 점차 이종의(heterogeneous) 아키텍처와 표현을 갖춘 다양한 현대적 생성기 계열을 탄생시켰습니다. 뛰어난 생성 능력에도 불구하고, 잠재 표현(latent representation)의 교차 모델 정렬(cross-model alignment)과 기반이 되는 디노이징 동역학(denoising dynamics)의 일관성은 여전히 충분히 연구되지 않았습니다. 본 연구에서는 흥미로운 교차 모델 호환성을 발견했습니다. 독립적으로 학습된 생성기들이 유사한 잠재 공간 구성을 보이며, 정렬되지 않은 모델 간에 중간 상태를 직접 전달하더라도 대략적인 시각적 콘텐츠는 여전히 보존될 수 있음을 확인했습니다. 이러한 관찰에 착안하여, 우리는 이종 이미지 생성기 간의 디노이징 궤적을 연결하는 경량 공유 잠재 인터페이스인 InstantFusion을 제안합니다. 구체적으로, 유연한 교차 모델 상태 변환을 가능하게 하기 위해 모델별 잠재 오토인코더(LAE)를 도입하여 서로 다른 생성기의 중간 상태를 공유 잠재 공간으로 투영한 뒤 이를 타깃 생성기의 잠재 공간으로 디코딩합니다. 이 공유 공간은 두 가지 상호보완적인 목표를 통해 제약됩니다. 즉, 일치하는 노이즈 수준에서 동일한 이미지로부터 파생된 중간 상태를 정렬하는 것과 이에 대응하는 로컬 디노이징 속도(velocity)를 동기화하는 것입니다. 학습이 완료되면 InstantFusion은 모든 모델 쌍에 대한 전용 매핑을 필요로 하지 않고도 고정된(frozen) 생성기 전반에서 디노이징이 매끄럽게 전환되도록 합니다. InstantFusion의 범용성은 가속화, 다중 선호도 조합, 교차 아키텍처 온-정책(on-policy) 지식 증류(distillation), 교차 모델 조합 전반에서 입증되었으며, 이러한 다양한 환경에서 경쟁력 있는 성능을 달성했습니다.

arXiv:2610.02203v1cs.CV공통 태그 Representation Learning, Image Generation, Denoising

임베딩 예측은 이미지 생성을 돕는다

Embedding Prediction Helps Image Generation

디퓨전 트랜스포머(diffusion transformer)에서는 클래스 레이블이나 텍스트 프롬프트를 한 번 임베딩한 뒤, 모든 노이즈 제거(denoising) 단계에서 동일한 조건을 재사용합니다. 본 연구에서는 예측된 임베딩이 대신 이러한 조건으로 기능할 수 있는지 질문을 던집니다. 차기 임베딩 예측 자기회귀(Next-Embedding Predictive Autoregression, NEPA)는 시퀀스에서 다음 연속 임베딩을 예측하도록 트랜스포머를 학습시킵니다. 생성 과정에서 깨끗한 이미지는 노이즈가 있는 이미지 뒤에 이어지므로, 그 임베딩은 조건과 노이즈가 있는 이미지 다음의 차기 임베딩이 됩니다. 본 연구에서는 다중 임베딩 예측(Multi-Embedding Prediction)을 통해 이들을 한 번에 모두 예측하도록 NEPA 모델을 학습시키며, 임베딩 조건부 생성(Embedding Conditioned Generation)에서는 매 노이즈 제거 단계마다 재계산되는 이러한 예측값들을 DiT 생성기의 조건으로 주어 조건부 신호가 현재의 노이즈 상태에 적응하도록 합니다. 클래스 조건부 ImageNet $256\times256$에 대한 실험을 통해 생성기의 조건, 다중 임베딩 예측 설계, 그리고 두 모델의 스케일링을 살펴봅니다. NEPA 모델은 모든 샘플링 단계에 두 번째 네트워크를 추가하며, 이를 적용하고 REPA와 결합한 최종 모델인 NEPA-DiT-XL은 REPA의 약 3분의 1 수준의 학습 연산량만을 사용하고도 1.32의 FID를 달성합니다.

arXiv:2610.02210v1cs.CV공통 태그 Image Generation, Denoising, Text-to-Image Generation

무어, 에셔, 펜로즈: 등각 골든 브레이드

Moore, Escher, Penrose: A Conformal Golden Braid

"내 평생 이렇게 기이한 작업을 해본 적이 없는 것 같다. 무엇보다도, 이 작품은 자기 자신이 등장하는 전시회 벽면의 판화를 흥미롭게 바라보는 한 젊은 남성을 보여준다. 어떻게 이런 일이 가능할까? 어쩌면 나는 아인슈타인의 휜 우주에서 그리 멀지 않은 곳에 있는지도 모른다." M.C. 에셔(M.C. Escher)는 자신의 1956년 석판화 '판화 회랑(Print Gallery)'에 대해 이렇게 썼다. 거의 반세기 후, 한 수학적 분석은 등각 거듭제곱 사상(conformal power map) $z \mapsto z^α$, $α\in \mathbb{C}$를 통해 이 기하학을 왜곡되지 않은 원본 이미지와 연결했다. 이러한 구조를 기반으로, 본 연구는 가중치가 동결된 텍스트-투-이미지 확산 모델(diffusion model)을 활용하여 새로운 자기참조적 장면을 생성한다. 프롬프트(prompt)만으로는 이러한 재귀성을 강제할 수 없으며, 사후 변환은 구조 간 연결을 부자연스럽게 남길 수 있다. 샘플링 중에 변환을 적용하는 것 또한 불충분한데, 디노이저(denoiser)가 의도된 왜곡을 "복구"해 버리거나 규정된 기하학에서 벗어날 수 있기 때문이다. 이에 본 연구는 재귀적 제약 조건에 적합하도록 비가역 이미지 변환 $T$의 일반화 역원(generalized inverse) $T^\dagger$를 구성한다. 이상적인 정식화에서 펜로즈 항등식(Penrose identity) $TT^\dagger T = T$는 $TT^\dagger$를 기하학적으로 허용 가능한 이미지로 사영하는 멱등 사영(idempotent projection)으로 만든다. 그러나 변환된 이미지만을 디노이징하는 것은 사영을 거치더라도 여전히 분포 외(out-of-distribution) 작업으로 남는다. 따라서 본 연구는 디노이징 단계를 $T$ 및 $T^\dagger$와 엮어내는 방식을 취한다. 원본 공간의 단계는 왜곡되지 않은 장면을 발전시키고, 변환된 공간의 단계는 최종 기하학에서의 외형과 연결성을 정교화한다. 이를 통해 '판화 회랑' 형태의 구성을 생성하고 추가적인 변환들을 탐색한다. 완성된 이미지를 왜곡하는 대신, 장면과 그 왜곡이 함께 생성되도록 유도한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.