arXiv:2611.16142v1 math.OC

최적 정칙화기 학습을 위한 볼록체 위의 기울기 흐름

Gradient Flows over Convex Bodies for Learning Optimal Regularizers

Nilava Metya, Oscar Leong, Yong Sheng Soh

제출 2026-11-12

한국어 초록

본 논문은 볼록체의 모임 위에서 기울기 흐름을 기술하는 문제를 다룬다. 이는 역문제에서 제기되는 근본적인 질문에서 비롯된다. 정칙화 기법으로 비정치(ill-posed) 역문제를 풀고자 한다고 하자. 볼록 정칙화기의 최적 선택을 사전 데이터로부터 직접 학습할 수 있는가? 그러한 최적 정칙화기를 계산하는 수치 알고리즘이 주어졌을 때, 그 반복해의 진화를 기술하는 원리적인 방법이 있는가? 본 논문의 목적은 이러한 질문에 답하기 위한 토대를 마련하는 것이다. 이를 위해 부피 제약 하에서 사전 데이터 분포에 대한 게이지 평가의 기댓값을 최소화하는 볼록체를 찾는 것에 기반한 최적 정칙화기의 기준을 고려한다. 이 정식화는 처음에는 비볼록이지만 극(polar)으로 옮기면 숨은 볼록성을 지닌다. 전역 최적성을 보증하는 카루시-쿤-터커(KKT) 조건을 규명한다. 또한 $L^2$ 기울기 흐름과 하우스도르프 벌점을 갖는 최소화 이동 기법을 분석한다. 결과에 따르면 목적함수 격차는 기울기 흐름을 따라 지수적으로 감소하며, 하우스도르프 기법에 대해서는 목적함수 격차와 최적 볼록체까지의 거리 모두에 대해 차원에 의존하는 수렴률을 얻는다. 마지막으로 KKT 조건을 적용하여 명시적인 최적 볼록체를 찾는다. 최적 비볼록 정칙화기가 $\ell_p$-준노름($p \in (0,1)$)인 데이터에 대해서는 최적 볼록 정칙화기가 부피 정규화된 $\ell_1$-공이다. 쌍을 이룬 기저 원자로 기술되는 데이터에 대해서는 최적 볼록 정칙화기가 이동된 존오토프(zonotope)의 극이다.

원문 초록

We consider the question of describing gradient flows over the collection of convex bodies. This is motivated by foundational questions arising in inverse problems. Suppose we wish to solve an ill-posed inverse problem using regularization techniques. Can we learn an optimal choice of a convex regularizer directly from prior data? Given a numerical algorithm that computes such an optimal regularizer, is there a principled manner for describing the evolution of its iterates? The objective of this paper is to lay the foundation towards answering these questions. To this end, we consider a criterion of an optimal regularizer based on seeking a convex body that minimizes the expected gauge evaluation with respect to a prior data distribution subject to a volume constraint. The formulation is initially nonconvex, but admits hidden convexity by passing to its polar. We characterize the Karush-Kuhn-Tucker (KKT) conditions that certify global optimality. We also analyze the $L^2$-gradient flow as well as a minimizing movement scheme with the Hausdorff penalty. Our results show that the objective gap decays exponentially along the gradient flow and we obtain dimension-dependent rates for both the objective gap and distance to the optimal body for the Hausdorff scheme. Finally, we apply the KKT conditions to identify explicit optimal convex bodies. For data where the optimal nonconvex regularizer is the $\ell_p$-quasinorm, $p \in (0,1)$, the optimal convex regularizer is the volume-normalized $\ell_1$-ball. For data described by paired basis atoms, the optimal convex regularizer is the polar of a shifted zonotope.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.16142v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.