PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02260v2cs.AI

MintFlow: 제약 조건 기반 플로우 매칭을 위한 최소 궤적 개입

MintFlow: Minimal Trajectory Intervention for Constrained Flow Matching

플로우 매칭(Flow matching) 모델은 생성 모델링에서 뛰어난 성능을 보이며, 수많은 다운스트림 응용 분야에서는 생성된 샘플이 관측된 측정값이나 물리 법칙과 같은 규정된 제약 조건을 만족하도록 요구합니다. 그러나 기존의 제약 조건 기반 샘플러는 흔히 상충 관계(trade-off)에 직면합니다. 즉, 제약 조건을 강제하면 사전학습된 데이터 분포로부터 샘플이 크게 벗어날 수 있습니다. 이러한 상충 관계를 해결하기 위해, 본 논문에서는 사전학습된 플로우 궤적에 대한 최소한의 개입으로 제약 조건 강제를 공식화하는 학습 불필요(training-free) 제약 조건 기반 샘플링 프레임워크인 MintFlow를 제안합니다. MintFlow는 사전학습된 플로우 필드 하에서 이후의 상태 변화가 목표 제약 조건을 만족하도록 중간 플로우 상태의 최소 섭동(perturbation)을 탐색합니다. 사전학습된 플로우 필드를 변경하지 않고 유지하면서 플로우 상태를 최소한으로 섭동시킴으로써, MintFlow는 사전학습된 분포로부터의 불필요한 이탈을 최소화하면서 제약 조건을 강제합니다. 또한 수반 공식화(adjoint formulation)를 통해 이 섭동에 대한 닫힌 형식 표현(closed-form expression)을 도출하여 비용이 많이 드는 반복적 최적화를 배제합니다. 나아가 MintFlow는 필요한 섭동 크기와 잔여 플로우에 의한 증폭 사이의 균형을 맞추기 위해 개입 시점을 적응적으로 선택합니다. 생성형 비전 및 물리 시스템 모델링의 다양한 태스크 전반에 걸쳐, MintFlow는 경쟁력 있는 수준으로 제약 조건을 만족하는 동시에 최신 제약 조건 기반 기법들보다 사전학습된 생성 분포를 훨씬 더 잘 보존합니다.

arXiv:2405.15379v3stat.ML

제약 조건 하에서의 로그-오목(log-concave) 샘플링을 위한 랜덤화 중점(Randomized Midpoint) 방법

Randomized Midpoint Method for Log-Concave Sampling under Constraints

본 논문에서는 볼록하고 콤팩트한 집합 위에서 지지되는 로그-오목(log-concave) 분포로부터 샘플링하는 문제를 연구하며, 특히 제약 영역 내에서의 과감쇠(overdamped) 및 운동학적(kinetic) Langevin 확산의 랜덤화 중점(randomized midpoint) 이산화에 초점을 맞춥니다. 우리는 투영 연산자를 통해 제약 조건을 처리하는 근접(proximal) 프레임워크를 재검토하고, 유클리드(Euclidean), Bregman, 및 게이지(Gauge) 투영을 포괄하는 더 일반적인 공식을 개발합니다. 결과적으로 도출된 매끄러운 근사를 통해 제약 조건 하에서 Langevin 알고리즘과 그 변형들을 통합적이고 분석 가능한 방식으로 해석할 수 있습니다. 이 프레임워크 내에서, 우리는 매끄러운 대체 함수와 목표 분포 사이의 Wasserstein-$q$ $(q\geqslant 1)$ 거리에 대한 수렴 보장을 확립합니다. 또한 상호 보완적인 하한을 도출하여, 결과가 차수(order)에 있어 거의 최적임을 보여줍니다. 이러한 정밀한 근사 해석을 바탕으로, 우리는 랜덤화 중점 Langevin 알고리즘에 대한 새로운 수렴 보장을 얻고, 제약 조건 하에서 기본(vanilla) 및 운동학적(kinetic) Langevin 몬테카를로 방법에 대한 정교화된 경계를 도출함으로써, 제약 기반 확산 샘플링에 대한 이론적 이해를 발전시킵니다.