PyTorchKR Papers

최신 논문

총 10편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.11506v3cs.CV

역문제를 위한 확산 기반 최적화기의 원칙적 설계

Principled Design of Diffusion-based Optimizers for Inverse Problems

스코어 기반 확산 모델은 역문제에서 최첨단 성능을 달성하지만, 긴 추론 시간과 번거로운 하이퍼파라미터 튜닝으로 인해 실제 배포가 저해된다. 사전학습된 확산 모델은 재학습 없이 여러 태스크에 재사용할 수 있지만, 노이즈 스케줄과 사후 샘플링 가중치와 같은 추론 시점 하이퍼파라미터는 일반적으로 각 문제 설정마다 임시방편적인 조정이 필요하다. 우리는 불변성을 유도하는 원칙적 재매개화를 제안하여, 동일한 하이퍼파라미터를 재튜닝 없이 여러 문제에 걸쳐 재사용할 수 있게 한다. 또한 사후 샘플링을 최적화 문제로 재구성하는 RED-diff 프레임워크를 바탕으로, OptDiff 파이프라인을 추가로 개발한다. OptDiff는 추론을 가속하기 위한 볼록 최적화 도구의 통합을 용이하게 하는 간소화된 튜닝 프레임워크를 제공한다. 이미지 재구성, 디블러링, 초해상도에 대한 실험은 상당한 속도 향상과 향상된 이미지 품질을 보여준다.

arXiv:2610.02377v2math.NA

베이즈 역문제에서 빠른 사후분포 샘플링을 위한 플로우 매칭

Flow Matching for Fast Posterior Sampling in Bayesian Inverse Problems

Sampling from the posterior is the central task of computational Bayesian inverse problems. The standard workhorse in Bayesian inference---Markov chain Monte Carlo (MCMC)---is sequential, yields correlated samples, and must be rerun for each new observation. Conditional flow matching offers an amortized alternative: a transport map, trained once on joint samples of parameter and data, that yields independent approximate posterior samples for any observation at negligible online cost, without new likelihood evaluations. We give a careful, MCMC-literate assessment of flow matching for PDE-based inverse problems with function-valued parameters. Exploiting the flow's tractable density, we derive computable accuracy estimates for the learned posterior in total variation distance and Kullback--Leibler divergence and, moreover, propose a hybrid sampler that is made asymptotically exact by Metropolization. We validate the accuracy estimates and demonstrate amortization in several numerical examples, including electrical impedance tomography and a likelihood-free Lotka--Volterra model. Flow matching reproduces posterior means and credible bands closely at a fraction of the forward solves required by MCMC, but its accuracy degrades for concentrated posteriors and for observations that are atypical under the prior.

arXiv:2605.07393v2cs.AI

사후 확률 샘플링을 활용한 오프라인 정책 최적화

Offline Policy Optimization with Posterior Sampling

모델 기반 오프라인 강화학습(RL)의 근본적인 과제는 분포 외(OOD) 영역에서의 일반화와 활용 오류에 대한 강건성 사이의 트레이드오프에 있습니다. 이러한 트레이드오프를 해결하는 핵심은 모델이 기저의 물리적 역학(dynamics)과 일관성을 유지하는 OOD 영역을 탐험할 수 있도록 하는 데 있습니다. 그러나 제한된 데이터로는 역학 모델을 유일하게 식별할 수 없고 제약 없는 탐험은 위험하기 때문에 이를 달성하기는 어렵습니다. 기존 방법들은 종종 이러한 미묘한 차이를 간과하고 과도한 비관적 정규화를 통해 위험에 대처함으로써 강건성은 확보하지만 일반화를 희생합니다. 이를 해결하기 위해 본 논문에서는 역학 모델을 점 추정치가 아닌 확률 변수로 취급하는 PSPO를 제안합니다. 이러한 정식화는 본질적으로 OOD 영역에 대한 제어된 탐험을 가능하게 합니다. 사후 분포와 정책을 번갈아 업데이트함으로써 수렴이 보장되는 정규화된 최적화 알고리즘을 설계합니다. 표준 벤치마크 실험을 통해 PSPO가 최고 수준의 베이스라인 대비 우수한 성능을 달성함을 입증합니다. 추가 분석을 통해 본 제안 방법이 강건성을 유지하면서도 원하는 비관주의 배제(pessimism-free) 특성을 달성함을 확인하였으며, 소거 연구를 통해 제안된 각 모듈의 효과를 검증합니다.

arXiv:2601.22029v2cs.LG

관측 앙상블 조건 역문제: 응용 및 방법

Inverse Problems Conditioned on Observation Ensembles: Applications and Methods

본 논문은 앙상블 조건 역문제(EIP)라 명명하는 새로운 다변량 통계 문제를 소개한다. EIP의 목표는 순방향 과정(forward process) 하에서 사전분포(prior)의 pushforward에 따라 분포하는 앙상블을 역산하는 것이다. 고에너지 물리학(HEP)에서는 이 문제가 unfolding으로 잘 알려져 있으며, 검출기 효과로 왜곡된 관측으로부터 실제 물리 분포를 재구성하는 것을 목표로 한다. EIP는 전체 파형 역산(FWI)과 알려지지 않은 사전분포를 갖는 역영상(inverse imaging)에서도 등장한다. 우리는 앙상블 역생성 생성 모델(ensemble inverse generative models)이라 부르는 새로운 조건부 생성 모델 클래스를 기반으로 사후 샘pler를 구성하는 비반복적 추론 시점 방법을 제안한다. 사후 모델링에서 이 모델들은 단일 관측 위에 관측 집합에 포함된 앙상블 정보를 추가로 활용한다. 기존 방법과 달리, 제안 방법은 동일한 순방향 모델과 일치하되 넓은 범위의 사전분포에서 기원한 여러 진실-관측 쌍 집합에 걸친 학습을 통해 추론 시점에 순방향 모델을 명시적·반복적으로 사용하지 않는다. 실험적으로 이 학습 절차가 가능도 모델을 암묵적으로 인코딩하여, 어느 정도 보지 못한 사전분포에 대한 직접 사후 추론을 가능하게 함을 보인다. 역영상, HEP, FWI 분야의 여러 합성 및 실제 데이터셋에서 제안 방법을 벤치마크한다. 코드는 https://github.com/ZhengyanHuan/EIP 에서 제공한다.

arXiv:2603.08287v3stat.ML

Posterior Sampling Reinforcement Learning with Gaussian Processes for Continuous Control: Sublinear Regret Bounds for Unbounded State Spaces

기존 GP-PSRL(가우시안 과정 사후 샘플링 강화학습) 이론은 리그렛(regret) 증가율이 준최적이 아니거나 강한 평활성 가정, 무한 상태 공간 미반영 등의 한계가 있었다. Borell-Tsirelson-Ibragimov-Sudakov 부등식과 chaining 방법으로 실제 방문 상태가 거의 일정 반경 구 내에 있음을 보이고, 약한 평활성 조건에서 베이지안 리그렛 상한을 Õ(H√(γ_T T))로 증명해 PSRL 분석의 이론적 기반을 마련한다.

arXiv:2606.05242v2stat.ML

테이밍된 SGLD를 위한 결정론적 엔벨로프: 확률적 그래디언트 잡음 분리와 테이밍의 국소화

Deterministic Envelopes for Tamed SGLD: Decoupling Stochastic Gradient Noise and Localizing Taming

확률적 그래디언트 랑주뱅 역학(SGLD)에서 분모가 현재 확률적 그래디언트에 의존할 때 불편향 오라클조차 정상(stationary) 평균 이동 편향을 유발한다는 문제를 분석하고, 이를 해결하기 위해 현재 상태에 조건부로 결정론적인 분모를 유지하는 국소화된 결정론적 엔벨로프(deterministic envelope) 설계 프레임워크를 제안한다. 이론적 분석을 통해 오일러·엔벨로프·확률적 그래디언트 잔차로 정상 편향의 상한을 도출하고, 순수 국소 테이밍의 꼬리 불안정성을 보완하는 하이브리드 구성의 효과를 실험으로 확인한다.

arXiv:2606.24516v1cs.CV

What Do Flow-Based Inverse Solvers Approximate? A Posterior-Transport View

A growing family of training-free solvers -- FlowDPS, FLOWER, PnP-Flow and their diffusion ancestors (DPS, DAPS) -- repurpose a pretrained flow-matching prior to solve imaging inverse problems by adding a measurement-guidance term to the deterministic probability-flow ODE. Despite strong empirical results, what these per-step corrections actually approximate -- and how far the resulting samples are from the true posterior $p(x\mid y)$ -- has not been characterized. We give a posterior-transport account of flow-based inverse problem solving. Our starting point is a simple but consequential fact: for a \emph{deterministic} flow prior, Bayesian conditioning is realized entirely by a \emph{reweighting of the source distribution}, not by a drift correction; pushing the reweighted source through the \emph{unmodified} velocity field yields exact posterior samples. From this we show that trajectory-guidance solvers can be read as the minimum-kinetic-energy \emph{correction} field needed to morph the unconditional source into the posterior, and that FlowDPS / FLOWER / PnP-Flow correspond to distinct zeroth-order / Gaussian / proximal approximations of this single object; we bound the resulting posterior bias in Wasserstein distance. A controlled $2$D study with a closed-form posterior confirms the theory decisively: source reweighting matches the true posterior to the Monte-Carlo floor on every metric, whereas trajectory guidance incurs $200$--$800\times$ larger error and collapses posterior modes, \emph{regardless of guidance strength}. Guided by the analysis we propose a cheap, principled velocity-correction solver that is competitive across two in-domain priors (AFHQ, CelebA) and two out-of-distribution settings while, unlike point-estimate source-space optimizers, producing diverse posterior samples with uncertainty that correlates with reconstruction error.

arXiv:2606.22696v1cs.CV

NullFlow: 원스텝 생성적 재구성

NullFlow: One-Step Generative Reconstruction

우리는 원스텝 생성적 이미지 재구성을 위한 원칙적 프레임워크인 NullFlow를 제안한다. 핵심 아이디어는 생성적 흐름을 측정-일치(measurement-consistent) 부분공간으로 한정하는 것이다. 흐름이 이 부분공간을 벗어나지 않기 때문에 NullFlow는 기존 솔버와 달리 별도의 데이터 충실도(data-fidelity) 보정이 필요 없다. NullFlow는 흐름의 평균 속도를 학습하여 단일 네트워크 평가로 샘플링하며, 전통적인 flow matching 방법의 단계별 적분을 피한다. 우리는 이 제약된 흐름의 평균 속도가 전역 최소화기가 원스텝 사후 샘플러(one-step posterior sampler)인 학습 목표를 제공함을 증명한다. 이미지 인페인팅(image inpainting) 실험에서 NullFlow는 최첨단 확산(diffusion) 솔버와 동등한 성능을 달성하면서, 추론을 수백 번의 네트워크 평가에서 한 번으로 줄인다는 것을 보인다.

arXiv:2602.00176v2cs.CV

확산 역문제를 위한 노이즈 조건 주파수 노출을 이용한 사후 연속

Posterior Continuation with Noise-Conditioned Frequency Exposure for Diffusion Inverse Problems

확산 사후 샘플링은 사전학습된 확산 사전과 측정 일관성 가이던스를 결합하여 역문제를 해결합니다. 그러나 전 대역 가이던스는 높은 노이즈 수준에서 신뢰할 수 없을 수 있으며, 이 경우 깨끗한 추정치에는 스코어 유발 오류가 포함되고 고주파 측정 방향은 식별이 어렵습니다. 우리는 사후 가이던스가 순간 확산 노이즈 수준에 따라 측정 주파수를 노출해야 한다고 주장합니다. 이 원칙을 기반으로, 우리는 현재 신뢰할 수 있는 주파수 대역을 강조하는 가능도(likelihood)를 가진 중간 사후 분포의 집합을 구성하고 점차 전 대역 일관성으로 돌아가는 사후 연속 프레임워크를 제안합니다. 우리는 확산 예측기, 주파수 제한 가능도 정제, 그리고 신뢰할 수 있는 거친 보정을 반영하고 식별이 어려운 세부 사항은 연기하는 Haar 영역 커밋 규칙을 결합한 안정화된 샘플러를 통해 이 프레임워크를 구체화합니다. 초해상도, 인페인팅, 디블러링 전반에서, 우리의 방법은 FFHQ 및 ImageNet 평가 시 강력한 베이스라인 대비 모션 디블러링에서 최대 5 dB PSNR 향상을 포함하여 최신 수준과 대등하거나 경쟁력 있는 복원 성능을 달성합니다.

arXiv:2606.12710v1cs.LG

확산 기반 사후 샘플링을 위한 안정화된 경로 공간 접근법

A Stabilized Path-Space Approach to Diffusion-Based Posterior Sampling

비선형 연산자와 다중 모드 사후 분포에서 기존 휴리스틱 가이드 방식의 한계를 해결하기 위해, 확산 기반 사후 샘플링을 위한 안정화된 경로 공간 프레임워크를 제안합니다. 시간 재매개변화와 신뢰 영역 최적화를 통해 제어된 확률 과정을 학습함으로써 샘플링 정확도와 견고성을 향상시킵니다.