Nyström 근사를 통한 확장 가능한 연산자 학습 및 디노이징 응용
Scalable Operator Learning via Nyström Approximation With Denoising Applications
한국어 초록
본 논문에서는 벡터값 재생 커널 힐베르트 공간에서의 벡터값 회귀를 위해 Nyström 부분표본추출을 연구한다. 표준 커널 방법은 대규모 커널 행렬의 구성과 역행렬 계산으로 인해 계산 비용이 과도하게 발생하는 문제가 흔하며, 이는 대규모 데이터셋에 대한 확장성을 제한한다. 이 병목을 극복하기 위해, 본 연구는 함수적 출력을 수용하는 Nyström 부분표본추출 기반의 효율적인 연산자 학습 알고리즘을 제안한다. 지표 함수로 특징지어지는 일반적인 소스 조건—고전적인 Hölder형 및 연산자-단조 프레임워크를 넘어서는—하에서, 제안된 추정량에 대해 minimax-최적 수렴 속도를 확립한다. 제안된 프레임워크의 응용으로 함수 디노이징 문제를 고려한다. 고전적인 디노이징 방법이 일반적으로 특정 신호 표현이나 노이즈 모델에 맞춰 설계되는 것과 달리, 본 접근법은 디노이징을 일반적인 연산자 학습 프레임워크 안에서 공식화한다. 신호 디노이징, 실시간 오디오 디노이징, 이미지 디노이징, 역 Radon 변환 재구성, 에너지 효율 예측에 대한 수치 실험은 제안된 방법이 계산 비용을 대폭 줄이면서도 전체 커널 방법과 비슷한 성능을 달성함을 확인한다.
원문 초록
In this paper, we study Nyström subsampling for vector-valued regression in vector-valued reproducing kernel Hilbert spaces. Standard kernel methods often suffer from prohibitive computational costs due to the construction and inversion of large kernel matrices, which limits their scalability to large datasets. To overcome this bottleneck, we propose an efficient operator learning algorithm based on Nyström subsampling that accommodates functional outputs. Under general source conditions characterized by index functions-extending beyond the classical Hölder-type and operator-monotone frameworks-we establish minimax-optimal convergence rates for the proposed estimator. As an application of the proposed framework, we consider function denoising problems. Unlike classical denoising methods, which are typically tailored to specific signal representations or noise models, our approach formulates denoising within a general operator learning framework. Numerical experiments on signal denoising, real-time audio denoising, image denoising, inverse Radon transform reconstruction, and energy-efficiency prediction confirm that the proposed method achieves performance comparable to full kernel methods while substantially reducing computational cost.
요약
벡터값 재생 커널 힐베르트 공간(vRKHS)에서 Nyström 부분표본추출 기반 연산자 학습으로 대규모 커널 행렬 계산 병목을 줄이고, 지표 함수로 특징지어진 일반 소스 조건에서 minimax-최적 수렴 속도를 확립한다. 신호·오디오·이미지 디노이징, 역 Radon 변환 재구성, 에너지 효율 예측 실험에서 전체 커널 방법과 유사한 성능을 훨씬 낮은 계산 비용으로 달성한다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.26652v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Color Image Restoration Exploiting Inter-channel Correlation with a 3-stage CNN
확산 모델을 위한 트랜스포머 기반 문맥 내 스코어 연산자 학습
Transformer-based In-Context Score Operator Learning for Diffusion Models
확산 모델(Diffusion model)은 일반적으로 단일 목표 분포나 학습(training) 중에 고정된 조건부 변수로 색인화된 분포 계열의 생성 동역학을 학습합니다. 이는 소수의 예제만으로 이전에 보지 못한 새로운 분포에 적응하는 능력을 제한합니다. 본 연구에서는 각 목표 분포를 메타 분포에서 추출된 태스크로 취급하고 추론(inference) 시점에 경험적 문맥 집합(context set)으로 지정하는, 확산 모델을 위한 문맥 내 솔루션 연산자 학습(in-context solution operator learning) 프레임워크를 소개합니다. 제안하는 방법은 문맥 샘플, 노이즈가 추가된 쿼리 포인트, 확산 시간을 태스크 종속적인 스코어로 매핑하는 문맥 내 스코어 연산자를 학습하여, 재학습이나 매개변수(parameter) 업데이트 없이도 보지 못한 태스크에서 역확산 샘플링을 가능하게 합니다. 핵심 관찰 사항은 태스크 종속적 스코어가 가우시안 커널(Gaussian kernel) 조건부 평균 표현을 허용한다는 점입니다. 이의 경험적 Nadaraya--Watson 근사는 우리가 구성한 트랜스포머(transformer) 클래스의 모델을 통해 정확하게 표현될 수 있으며, 이는 제안된 쿼리 종속적 어텐션(attention) 아키텍처에 대한 원리적 토대를 제공합니다. 이 연산자는 여러 태스크 분포에 걸친 분할 상환 노이즈 제거 스코어 매칭(amortized denoising score matching)을 통해 학습됩니다. 또한 문맥 크기, 학습 태스크 수 및 태스크 내 샘플 수, 모델 복잡도, 고유 차원 및 주변 차원의 영향을 정량화하는 일반화 오차 경계를 확립합니다. 수치적으로는 Navier-Stokes, ERA5 기후 데이터, QuickDraw 스케치, Food-101을 포함한 다양한 과학 및 시각 데이터셋에서 본 방법을 평가합니다. 실험 결과는 제안된 방법이 비교적 단순한 태스크 계열에서는 우수한 성능을 보이는 반면, 태스크 복잡도가 증가함에 따라 성능이 저하됨을 보여줌으로써 확산 모델을 위한 문맥 내 학습(ICL)의 가능성과 한계를 모두 보여줍니다.
SpectralCache: 스펙트럼 특징 캐싱을 통한 확산 기반 월드 모델 가속화
SpectralCache: Accelerating Diffusion-Based World Models via Spectral Feature Caching
확산(diffusion) 기반 월드 모델은 고품질의 대화형 환경 생성을 가능하게 하지만, 노이즈 제거(denoising) 과정에서 반복적인 트랜스포머(Transformer) 평가로 인해 상당한 추론(inference) 오버헤드가 발생합니다. 기존 캐싱 기법들은 주로 특징(feature)이나 토큰(token) 수준의 시간적 중복성을 활용할 뿐, 확산 특징의 기저에 있는 수학적 구조는 거의 탐색하지 않았습니다. 본 연구에서는 월드 모델의 특징이 인접한 노이즈 제거 단계 전반에 걸쳐 매우 안정적인 특이 부분공간(singular subspace)을 보이며, 이들의 특잇값(singular value)은 예측 가능한 진화 패턴을 따른다는 점을 밝혀냅니다. 이러한 관찰을 바탕으로, 안정적인 특이 부분공간을 재사용하고 선형 외삽법(linear extrapolation)을 통해 저차원 특잇값만을 추정하는 학습(training)이 필요 없는 스펙트럼 캐싱 프레임워크인 SpectralCache를 제안합니다. 나아가 인접한 전체 계산 특징 간의 스펙트럼 일관성을 활용하여, 특잇값 스케일링을 통해 계산 비용이 큰 특정 백본 평가를 건너뜁니다. 대표적인 월드 모델을 대상으로 한 광범위한 실험을 통해 SpectralCache가 생성 품질을 유지하면서 추론 효율성을 일관되게 향상시킴을 입증합니다. HunyuanWorld-Voyager-13B에서 SpectralCache는 정적 장면에 대해 65.90의 WorldScore를 유지하면서 5.22배 가속을 달성하여, 기존의 학습 불필요 캐싱 기법보다 추론 효율성 면에서 크게 우수한 성능을 보였습니다.
TRAC: 효율적인 자기회귀 비디오 생성을 위한 궤적 인식 재사용 및 적응형 보정
TRAC: Trajectory-aware Reuse and Adaptive Correction for Efficient Autoregressive Video Generation
본 논문에서는 효율적인 자기회귀(AR) 비디오 생성을 위한 학습(training) 불필요 프레임워크인 TRAC(trajectory-aware reuse and adaptive correction)을 제시합니다. 기존의 가속 기법들은 주로 양방향 어텐션(attention)을 사용하는 단일 궤적 생성을 목표로 합니다. 반면 AR 비디오 생성은 청크(chunk) 단위의 노이즈 제거 궤적들을 순차적으로 결합합니다. 그 결과, 생성 과정 전반에 걸쳐 근사 오차가 누적되고 전파됩니다. TRAC은 견고한 누적 스케줄링(RCS), 자기회귀 궤적 인식 가이던스 스케줄링(ATGS), 스펙트럼 구조 보정(SSC)의 세 가지 구성 요소로 이 문제를 해결합니다. RCS는 누적 롤아웃(rollout) 오차와 청크 간/프롬프트(prompt) 변동을 기반으로 캐시 재사용 일정을 선택합니다. ATGS는 전체 AR 궤적을 따라 CFG 갱신을 조율합니다. SSC는 첫 번째 청크의 저주파 구조를 복원하여 장기적인 구조적 손실(loss)을 바로잡습니다. SkyReels-V2 및 FramePack-F1에 대한 실험 결과, TRAC은 기존 방법들과 비교하여 AR 비디오 생성에서 가장 높은 추론(inference) 효율성과 최고의 생성 품질을 모두 달성함을 보여줍니다.
관측 불가능한 이미지 구조의 확산 기반 복원을 위한 연속적 사후 확률 융합
Consecutive Posterior Fusion for Diffusive Recovery of Unobservable Image Structures
심각한 부적절성(ill-posed)을 지닌 이미징 역문제(inverse problem)를 해결하기 위해서는 측정치로부터 관측할 수 없거나 약하게 제약된 이미지 구조를 복원해야 합니다. 확산 모델(diffusion model)은 이러한 누락된 정보를 추론(inference)하기 위한 표현력 있는 학습 기반 사전 분포(prior)를 제공하며, 사후 확률 샘플링(posterior sampling)은 역과정(reverse process) 전반에 걸쳐 측정 일관성(measurement consistency)을 결합합니다. 그러나 표준 확산 사후 확률 샘플러는 이전 사후 교정에 포함된 정보를 명시적으로 활용하지 않고 순간적인 측정 인지 추정치에만 의존합니다. 본 논문에서는 재학습이나 추가적인 디노이저(denoiser) 평가 없이도 연속적인 측정 인지 추정치를 융합하여 관측 불가능한 이미지 구조의 확산 기반 복원을 향상시키는 추론 시점 전략인 연속적 사후 확률 융합 노이즈 제거 확산 영공간 모델(CPF-DDNM)을 제안합니다. 우리는 치역/영공간(range/null-space) 분해를 통해 연속적 융합이 측정치에 의해 결정되는 성분을 보존하면서 사전 분포 기반 영공간 추정치에만 배타적으로 작용함을 보여주는 DDNM 내에서 이 원리를 구현합니다. 이를 통해 CPF-DDNM에 대한 기하학적 해석과 외삽(extrapolative) 영역을 포함하여 최적의 시간 의존적 융합 계수를 특성화하는 국소 오차 분석을 제공합니다. 희소각(sparse-view) 및 모의 저선량 컴퓨터 단층촬영(CT), 의료 영상 초해상도(super-resolution)에 대한 실험 결과, DDNM 대비 일관된 개선과 확산 기반 역문제 해결 모델 대비 경쟁력 있는 성능을 보여줍니다.
FloodDiffusion 2: 효율적이고 경로 제어가 가능한 스트리밍 모션 생성
FloodDiffusion 2: Efficient and Path Controllable Streaming Motion Generation
우리는 최신 스트리밍 모션 생성 모델인 FloodDiffusion(FD1)을 기반으로 하는 효율적이고 제어 가능한 프레임워크인 FloodDiffusion 2(FD2)를 제시한다. FD1은 그럴듯한 모션을 생성하지만, 어텐션 설계가 전체 히스토리에 대해 반복적인 계산을 요구하기 때문에 효율성이 낮고, 실제 응용을 위한 정밀한 궤적 제어가 부족하여 제어 가능성이 제한적이라는 문제가 있다. 이러한 한계를 해결하고 생성 품질을 향상시키기 위해 FD2는 세 가지 개선 사항을 도입한다. 첫째, Partial Attention은 확정된 히스토리 표현(finalized history representation)을 활성 윈도우(active window)와 독립적으로 만들어, KV 캐싱 추론(KV-cached inference)과 효율적인 학습을 위한 공유 히스토리 패킹(shared-history packing)을 가능하게 한다. 둘째, 회귀 손실(regression loss)에 대한 필요충분(necessary-and-sufficient) 브레그만(Bregman) 기준을 확립하여 디퓨전(diffusion)의 조건부 평균 속도장(conditional-mean velocity field)을 보존한다. 이 기준은 온라인 순방향 동역학(forward kinematics, FK) 평가 없이도 모션 기하학(motion geometry)을 포함하는 FK 유도 이차 손실(FK-induced quadratic loss)을 이끌어낸다. 셋째, FD2는 자연스러운 신체 모션을 유지하면서 캐릭터의 루트 궤적(root trajectory)을 제어하기 위한 정밀한 경로 조건화(path conditioning)를 도입한다. 실험 결과, FD2는 학습 연산량을 4.6배 줄이고 디노이징(denoising)을 11.29배 가속화하여 긴 시퀀스에서 업데이트당 2.303ms에 도달한다. 이러한 효율성 향상과 더불어 FD2는 FD1보다 모션 품질을 개선하며, 스트리밍 방법들 중 SEED에서 0.048, HumanML3D에서 0.053이라는 최첨단(state-of-the-art) FID 점수를 달성한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.