arXiv:2609.23789v1 cs.LG

Belted Engression: 생성적 분포 회귀를 위한 충분 차원 축소

Belted Engression: Sufficient Dimension Reduction for Generative Distributional Regression

Wenxi Tan, Bing Li, Lingzhou Xue

제출 2026-09-22

한국어 초록

최신 조건부 생성 모델은 복잡한 공변량 의존성을 학습할 때 상당한 어려움에 직면한다. 충분 차원 축소(sufficient dimension reduction, SDR)는 이러한 의존성을 압축하는 원칙적인 접근법을 제공하지만, 기존의 SDR 프레임워크는 조건부 생성을 위해 정식화된 것이 아니다. 이러한 간극을 메우기 위해, 우리는 생성적 분포 회귀(generative distributional regression)를 위한 통합적이고 아키텍처 측면에서 매개변수 효율적인 프레임워크인 Belted Engression을 제안한다. 우리의 접근법은 충분 표현 학습(sufficient representation learning)에 기반한 종단간(end-to-end) 압축-후-생성(compress-then-generate) 패러다임을 확립하며, 생성 아키텍처에 구조적 병목(structural bottleneck)을 내장한다. 이론적으로, 우리는 표준 SDR 조건이 법칙 보존(law-preserving) 생성 분해와 동치임을 증명하며, 이 분해는 모집단 Belted Engression 목적 함수의 전역 최적해에서 달성된다. 나아가, 에너지 스코어(energy-score) 손실에 대한 국소적 Bernstein 유형 통제를 밝혀냄으로써, 기존 결과보다 더 날카로운 유한 표본 수렴률을 확립한다. 또한 이 벨트형(belted) 아키텍처가 엄밀하게 더 작으며, 구조화되지 않은 기준선 대비 점근적으로 사라지는 매개변수 수로 동작함을 증명한다. 광범위한 시뮬레이션과 실제 응용을 통해 Belted Engression이 더 적은 학습 가능한 매개변수로 우수한 분포 예측과 SDR 복원을 달성함을 보인다.

원문 초록

Modern conditional generative models face significant challenges when learning complex covariate dependencies. While sufficient dimension reduction (SDR) provides a principled approach to compress these dependencies, traditional SDR frameworks were not formulated for conditional generation. To bridge this gap, we propose Belted Engression, a unified and architecturally parameter-efficient framework for generative distributional regression. Our approach establishes an end-to-end compress-then-generate paradigm driven by sufficient representation learning, embedding a structural bottleneck into the generative architecture. Theoretically, we prove that the standard SDR condition is equivalent to a law-preserving generative factorization, which is achieved at the global optimum of the population Belted Engression objective. Furthermore, by uncovering a localized Bernstein-type control for the energy-score loss, we establish finite-sample convergence rates that are sharper than those of existing results. We also prove that this belted architecture is strictly smaller, operating with an asymptotically vanishing parameter count relative to the unstructured baseline. Extensive simulations and real-world applications demonstrate that Belted Engression achieves superior distributional prediction and SDR recovery with fewer trainable parameters.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.23789v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.