PyTorchKR Papers

최신 논문

총 226편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.23134v1cs.LG

지수 기울기를 통한 확산 가이드 검색(DiffTilt): 안전-중요 시스템 반증에의 적용

Diffusion-Guided Search via Exponential Tilting (DiffTilt): An Application to Falsification of Safety-Critical Systems

자율 및 사이버-물리 시스템에서 드문 안전-중요 실패를 발견하는 것은 검증(verification) 및 검증(validation)에서 근본적인 과제이다. 기존 반증(falsification) 접근법은 환경과 시스템 실행에 대한 결합 분포를 인수분해하는 조건부 샘플링 전략에 의존하며, 따라서 곱셈적 희귀성 효과(multiplicative rarity effects)의 영향을 받는다: 실패를 유발하는 입력과 실패를 유발하는 실행 궤적(trace)이 동시에 희박하여 전수 탐색을 사실상 불가능하게 만든다. 본 논문은 환경과 실행에 대한 확산 모델 유도 결합 분포를 지수적으로 기울이는(exponentially tilt) 분포적 프레임워크인 DiffTilt를 제안한다. 확산 가이드 샘플링이 결합 공간에서 중요도 샘플링(importance sampling)으로 정확히 해석될 수 있음을 보이며, 가이던스 점수가 실패 관련 행동을 향해 확률 질량의 KL-최적 재배치를 유도함을 보인다. 또한 기울기(tilting)가 실패 확률을 증명 가능하게 증폭하고, 곱셈적 희귀성에 의해 제한되는 조건부 샘플링을 엄격히 능가함을 보인다. 이 프레임워크에서 결합 생성 모델은 시나리오에 대한 재사용 가능한 사전분포(prior) 역할을 하며, 테스트 대상 시스템을 충실히 표현할 필요가 없다. 대신 비용이 큰 시스템 시뮬레이션은 시나리오 품질을 특성화하는 스코어링 함수를 학습하는 데에만 사용되어, 선택적이고 적응적인 활용을 가능하게 한다. ARCH-COMP 벤치마크에서 DiffTilt를 연구하고, 시나리오 생성이 보상이 아닌 잘 정의된 명세(specification)에 의해 가이드될 때 여러 접근법의 동작을 보여주는 추가 트랙터-트레일러 벤치마크를 제안한다. 제안 방법은 최신(state-of-the-art) 접근법 대비 경쟁력 있거나 향상된 반증 성능을 달성하며, 명세 정의가 STL 공식에 국한되지 않을 때 더 큰 이득을 보인다.

arXiv:2607.23844v1cs.CV

OmniCache: 확산 모델을 위한 다차원 계층적 특징 캐싱

OmniCache: Multidimensional Hierarchical Feature Caching For Diffusion Models

SD3, FLUX, 최근의 비디오 확산 트랜스포머 등 고해상도 이미지 및 비디오 확산 모델은 생성 품질을 크게 향상시켰지만, 많은 샘플링 단계에 걸쳐 어텐션 집약적인 디노이저를 반복적으로 평가하기 때문에 추론 시 여전히 비용이 많이 든다. 우리는 모델 가중치를 변경하거나 재학습하는 대신 중간 확산 특징의 중복성을 활용하여 이 비효율성을 해결한다. 이미지 및 비디오 생성에서 프레임 내, 프레임 간, 모션, 디노이징 단계의 네 가지 상호 보완적인 중복성 원천을 식별한다. 이 분석을 바탕으로 Token Cache, Frame Cache, Block Cache, Layered Cache를 통해 다차원 특징 재사용을 수행하는 통합 계층적 캐싱 프레임워크인 OmniCache를 제안한다. 매칭된 특징을 평균화하는 토큰 병합(token-merging) 기준선과 달리, OmniCache는 유사도 매칭으로 캐시 가능한 특징을 선택하고 중복 계산을 건너뛰며, 위치적으로 일관된 캐시된 활성화를 복원하여 특징 순서와 시공간 구조를 보존한다. 그 결과 이 프레임워크는 시간적 층에서 공간적 특징을, 공간적 층에서 시간적 특징을 재사용하며, Layered Cache는 모델-층 수준에서 단계 간 중복성을 포착한다. SD3, SVD-XT, Latte에서 OmniCache는 각각 최대 35%, 25%, 28%의 추론 지연을 줄이면서, 학습 없는 설정에서 시각적 충실도와 모션 일관성을 유지한다.

arXiv:2607.23680v1cs.CV

견고하고 주석 효율적인 식물 스트레스 표현형 분석을 위한 섭동 인식 확산 가이드 하이브리드 분할

Perturbation-Aware Diffusion-Guided Hybrid Segmentation for Robust and Annotation-Efficient Plant Stress Phenotyping

농업 영상에서의 의미 분할(semantic segmentation)은 종종 도메인 내(in-domain) 프로토콜 하에서 평가되지만, 실제 배포에서는 외관 섭동, 제한된 주석, 교차 도메인(cross-domain) 이동에 대한 견고성이 필요하다. 본 논문은 U-Net, DeepLabV3+, SegFormer 백본이 거친 마스크를 생성하고, 이를 Denoising Diffusion Probabilistic Models (DDPM), 잠재 확산(latent diffusion), 또는 의미 가이드 확산(semantic-guided diffusion)으로 정제하는 확산 가이드 하이브리드 분할 프레임워크를 제안한다. 해당 프레임워크는 PlantSegV3에서 3x3 아키텍처 스크리닝 연구를 통해 평가되며, 이어 경계 제약 최적화, 섭동 가이드 재학습, 저데이터 평가, 제약 하이퍼파라미터 스크리닝, 통제된 교차 도메인 적응을 수행한다. PlantSegV3에서 최고로 선정된 하이브리드 모델은 정제된 평균 Intersection-over-Union (mIoU) 71.83%와 정제된 Boundary-F1 26.10%를 달성하며, 선정된 모델들은 감독을 대폭 줄인 조건에서도 안정성을 유지하여 강한 주석 효율성을 보여준다. 섭동 분석은 그레이스케일 변환, 안개, 거친 드롭아웃, 그림자를 가장 파괴적인 외관 변화로 식별하며, 그에 따른 증강 정책이 재학습 동안 견고성을 크게 향상시킨다. 적응된 모델은 제한된 타깃 감독 하에서 외부 농업 데이터셋으로의 효과적인 전이를 추가로 보여주며, 이는 확산 정제와 경계 인식 최적화가 전이 가능한 구조적 사전(prior)을 제공함을 시사한다. 전반적으로, 결과는 섭동 인식 재학습과 결합된 신중하게 매칭된 백본-정제기 쌍이 현실적인 자원 및 분포 제약 하에서 구조적 윤곽화와 견고성을 개선할 수 있음을 보여준다.

arXiv:2607.22772v1eess.IV

적응형 스코어 증류를 이용한 생성형 비디오 압축

Generative Video Compression with Adaptive Score Distillation

확산 모델(diffusion model)은 초저비트레이트(ultra-low bitrate)에서 비디오 압축을 위한 강력한 생성 능력을 제공한다. 기존 확산 기반 비디오 코덱은 원래 텍스트 조건 생성(text-conditioned generation)용으로 개발된 베이스 모델을 적응시키는 반면, 압축을 위해 설계되고 학습(training)된 확산 모델은 아직 탐구되지 않았다. 이 공백을 메우기 위해, 압축을 위해 처음부터 학습된 비디오 확산 모델 위에 구축한 생성형 비디오 코덱(Generative Video Codec, GenVC)을 제안한다. 우리가 아는 한, 이는 최초의 압축 지향 비디오 확산 모델이다. 이 모델을 픽셀 공간(pixel space)에서 직접 구현하며, 세밀한 시공간(spatio-temporal) 세부를 복원하는 전역-국소(global-to-local) 계층 구조를 사용하여 압축된 표현으로부터 고품질 생성형 재구성을 가능하게 한다. 추론(inference)을 가속하기 위해 분포 매칭 증류(distribution matching distillation, DMD)를 사용하여 다단계 모델을 단일 단계로 증류한다. 그러나 DMD를 직접 적용하면 학생 모델(student)이 움직임이 정지된(motion-stalled) 재구성으로 향하게 된다. 이는 교사 측 가이던스 실패에 기인한다. 학생이 유발한 섭동이 고정된 교사의 학습 영역을 벗어나면, 교사의 가이던스가 오도될 수 있어 DMD 업데이트가 학생의 drift를 교정하기보다 강화하게 된다. 이로 인한 피드백 루프를 끊기 위해, 정답(ground-truth) 방향과의 정렬(alignment)에 따라 DMD 업데이트를 게이팅(gating)하는 Adaptive Score Distillation을 제안하여, 일관된 움직임을 갖춘 고품질 재구성을 가능하게 한다. 실험 결과, GenVC는 초저비트레이트에서 최첨단 지각 품질(perceptual quality)을 달성하며, LPIPS를 맞춘 조건에서 GLVC 대비 평균 62.5%의 비트레이트 절감, FID를 맞춘 조건에서 71.3%의 비트레이트 절감을 보인다. 십억 규모의 사전학습(pre-trained) 백본을 계승하는 기존 코덱과 달리, 우리의 확산 모델은 478.0M 파라미터만을 가지며 A100 GPU에서 단일 단계로 1080p 비디오를 15.1 fps로 디코딩한다.

arXiv:2607.22599v1cs.AI

시계열 예측을 위한 불확실한 구성 요소를 향한 확산 궤적의 차분화

Differencing the Diffusion Trajectory toward Uncertain Components for Time Series Forecasting

확산 모델은 확률적 시계열 예측을 위한 널리 사용되는 프레임워크가 되었으며, 관측된 과거 이력을 조건으로 미래 값의 분포를 모델링한다. 그러나 시계열 예측에서 미래는 관측된 과거 이력의 연속이므로, 표준 확산 과정이 다루지 못하는 비대칭성이 생긴다. 저주파로 변하는 내용은 관측된 연속성에 의해 대부분 결정되는 반면, 고주파 역학이 잔여 불확실성의 대부분을 담는다. 기존 확산 기반 예측기는 생성 전 외부 규칙을 통해 이 비대칭성을 분리하지만, 이로 인해 오염(corruption) 궤적은 이력이 이미 목표의 어떤 부분을 고정(anchor)할 수 있는지를 알지 못한다. 우리는 DiffDiff를 제안한다. DiffDiff는 이러한 예측 가능성 비대칭성을 확산 궤적 자체에 내재화하여, 단일 end-to-end 확산 과정이 목표의 어떤 부분을 이력이 이미 고정할 수 있는지 인식하도록 하는 확산 프레임워크이다. DiffDiff는 순방향 연산자를 스텝 의존적으로 만들어, 노이즈가 섞인 중간 상태가 목표 자체에서 2차 차분 구조로 점진적으로 이동하도록 한다. 동시에 조건화 경로(conditioning pathway)는 각 확산 스텝마다 단계 적응형 게이트(stage-adaptive gate)로 균형을 맞춘 값 영역(value-domain) 및 차분 이력 정보를 디노이저(denoiser)에 제공한다. 종단 분포는 표준 가우시안에 수렴하여 기존 샘플러와의 호환성을 유지한다. 네 개의 예측 구간에 걸친 7개 벤치마크에서 DiffDiff는 6개의 확산 기준선(baseline)을 능가하며, 분석 결과 DiffDiff가 이력에 의해 고정된 내용을 재구성하는 부담을 덜면서 목표의 가장 불확실한 구성 요소에 확산의 생성 노력을 집중함을 확인한다.

arXiv:2607.22199v1cs.LG

스코어 기반 확산 모델에서 스코어 근사에서 분포 근사로

From Score Approximation to Distribution Approximation in Score-Based Diffusion Models

스코어 기반 확산 모델은 생성 모델링에서 눈에 띄는 실증적 성공을 거두었지만, 근사 이론적 기반은 여전히 불완전하다. 특히, 고전적 범용 근사 정리들이 신경망이 스코어 함수를 근사할 수 있음을 보장하더라도, 그러한 근사 보장이 역확산 과정에 의해 생성되는 확률 분포의 근사로 이어지는지는 여전히 불분명하다. 본 논문에서는 이 두 개념 사이의 엄밀한 정량적 연결을 확립한다. 구체적으로, 신경망이 참 스코어 함수를 충분히 정확하게 근사하면, 해당 역확산 모델에 의해 생성되는 확률 분포가 Kullback-Leibler(KL) 발산 관점에서 목표 데이터 분포에 가깝다는 것을 증명한다. 다만 이는 순방향 확산 과정의 종단 분포와 역과정 초기화에 사용된 사전분포(prior) 사이의 불가피한 불일치까지를 허용한 결과이다. 더 정확히 말하면, 분포 근사 오차에 대한 명시적 상한을 스코어 근사 오차, 확산 노이즈 스케줄, 종단 사전분포 불일치로 표현하여 유도한다. 우리의 분석은 Hornik의 범용 근사 정리, 경로 공간에서의 Girsanov 정리, 상대 엔트로피에 대한 데이터 처리 부등식을 결합한다. 유한 표본 통계적 설정과 데이터 분포에 대한 구조적 가정 하에서 스코어 근사를 연구하는 최근 연구를 보완하여, 본 연구는 고전적 신경망 근사 이론에 기반한 근사 이론적 분석을 전개한다. 그 결과로 얻어진 정리는 스코어 함수에 대한 신경망 근사와 역확산 모델에 의해 생성되는 확률 분포의 근사를 연결하는 단순하고 명시적인 보장을 제공한다.

arXiv:2607.21606v1cs.AI

TILT: 모델 내재 보상으로 확산 모델의 구성적 생성 개선

TILT: Improving Compositional Generation in Diffusion Models with a Model-Intrinsic Reward

강력한 텍스트-이미지 생성 모델의 최근 발전으로, 복잡한 구성적 프롬프트에 더 충실한 이미지를 생성하기 위해 샘플링 궤적을 수정하는 테스트 타임(test-time) 방법을 개발하는 것이 점점 더 중요해졌다. 우리는 테스트 타임 보상 정렬(reward alignment)을 통해 구성적 텍스트-이미지 생성을 수행하는 학습 없는(training-free) 프레임워크인 TILT를 제안한다. 우리는 구성적 실패를 결합 분포와 단일 개념 분포 간의 겹치는 모드로 해석하고, 모든 개념이 공동으로 존재하는 샘플을 선호하는 보상을 정의한다. 이 보상은 기본 모델에 내재되어 있으며 외부 감독이나 보상 모델을 필요로 하지 않는다. 이는 확산 샘플링을 위한 원칙적인 가이딩 단계와 닫힌 형태(closed-form)의 기울어진(tilted) 목표 분포를 갖는 KL 제약 목적함수를 산출한다. 개념 분포의 상호작용과 위 보상은 자연스럽게 두 가지 서로 다른 가이딩 전략으로 이어지며, 각각의 이점을 균형 있게 조절하는 하이브리드 접근법이 더 강한 성능을 낸다. T2ICompBench 프롬프트에 대한 실험에서, 우리 방법은 이전 베이스라인과 비교하여 이미지 품질을 유지하면서 구성적 정렬(alignment)을 개선함을 보여준다.

arXiv:2607.22386v1cs.CV

확산 모델을 위한 상관관계 인식 및 가우시안성 보존 강건 잠재 각도 워터마킹

Correlation-Aware and Gaussianity-Preserving Robust Latent Angular Watermarking for Diffusion Models

확산 모델을 위한 잠재 공간 워터마킹은 워터마크를 잠재 사전분포에 직접 내장하여, 모델 파라미터에 비침습적이고 생성 과정과 원활하게 통합되는 장점을 누린다. 그러나 잠재 가우시안성 위반 또는 잠 latent inversion 과정에서의 정상 및 악의적 교란(perturbation)에 대한 민감성으로 인해, 기존 방법은 워터마크 탐지 또는 제거 공격에 취약하다. 또한 간과된 문제는 워터마킹 후 i.i.d. 잠재 조건 위반으로, 이는 잠재 상관관계 저하와 생성 충실도 손실을 초래한다는 점이다. 이는 FID로 외부적으로 측정되었지만, 내부 상관관계 구조는 아직 엄밀하게 특성화되지 않았다. 위 문제를 해결하기 위해, 등방성(isotropic) 가우시안의 회전 불변성에 영감을 받아, 가우시안성을 보존하면서 불연속(disjoint) 잠재 요소 쌍 간의 대칭각(기준 쌍 대비 $\pmπ/2$)으로 워터마크 비트를 인코딩하는 \textit{Latent Angular Watermarking (LAW)}를 제안한다. 대칭각($π$-분리) 인코딩은 비트 값 간 기하학적 분리를 최대화하며, 디코딩 각도 오차 분산이 잠 latent 쌍의 노름에 비례함을, 즉 $\operatorname{var}(Δφ) \propto 1/ρ^2$임을 증명한다. 또한 워터마크 비트를 기하학적으로 가장 안정적인 잠 latent 차원에 고정하는 크기 기반(magnitude-driven) 변형 LAW-M를 제안하여 추가적인 강건성 향상을 얻는다. 이론적으로, 유도된 상관관계 저하에 대한 엄밀한 특성화를 제공하며, 워터마크가 삽입된 잠 latent의 자기상관(autocorrelation) 구조를 폐형(closed form)으로 유도하고, 상관관계가 고정된 $\pmπ/4$ 값을 갖는 희소하고 구조화된 비대각(off-diagonal) 요소 집합으로 제한됨을 증명한다.

arXiv:2607.22352v1cs.CV

시간 역전 영상: 과거 인간-환경 상호작용 재구성을 위한 다중모달 벤치마크 및 프레임워크

Time-Reversed Imaging: A Multimodal Benchmark and Framework for Reconstructing Past Human-Environment Interactions

우리는 희미해지는 다중모달 흔적로부터 장면에서 방금 일어난 일을 추론하는 새로운 패러다임인 시간 역전 영상(time-reversed imaging)을 제안한다. 비디오 프레임을 외삽하거나 보간하는 대신, 우리의 목표는 열, 자외선, 가시 스펙트럼에서 관측 가능한 잔류 물리적 흔적으로부터 과거 인간-환경 상호작용을 추론하는 것이다. 이 문제를 연구하기 위해, 우리는 시간 역전 영상을 위한 최초의 개념 증명(proof-of-concept) 데이터셋인 TRACE-HEI를 제시한다. 이 데이터셋은 앉기, 접촉, 물체 이동, 액체 유출과 같은 행동의 동기화된 삼중모달 비디오 시퀀스를 포함하며, 다양한 재질에 걸쳐 촬영되었고 접촉 후 최대 3분까지 기록되었다. 벤치마크를 확립하기 위해, 우리는 검출된 흔적의 구조화된 텍스트 설명을 추출하고 이를 사용하여 그럴듯한 과거 프레임을 재구성하기 위한 비전-언어(vision-language) 기반 확산 모델(diffusion model)을 제약하는 다중모달 추론 접근법을 제안한다. 실험 결과, 희미해지는 흔적로부터 최근 사건을 추론하는 것은 도전적이지만, 상호 보완적인 모달리티가 해의 모호성을 줄일 때 실현 가능함을 보여준다. 본 연구는 시간 역전 영상을 위한 최초의 계산 및 실험적 기반을 정의하며, 비전, 물리학, 생성적 추론을 연결하고 즉각적 관측을 넘어선 장면 이해의 새로운 방향을 연다.

arXiv:2607.22091v1cs.CV

확산 모델의 노출 바이어스(exposure bias) 감소를 위한 스펙트럴 사전

Spectral Prior for Reducing Exposure Bias in Diffusion Models

확산 모델은 반복적 샘플링 과정에서 오류가 누적되는 문제가 흔하며, 이를 노출 바이어스(exposure bias)라고 부릅니다. 우리는 학습과 추론 사이에 주파수 의존적 불일치가 체계적으로 존재함을 밝혔으며, 이는 주파수 의존적 SNR 오류로 해석할 수 있습니다. 중요한 점은, 이러한 불일치의 방향이 모델과 타임스텝에 따라 달라져 고정된 보정 규칙이 일반화되지 않는다는 것입니다. 우리는 Spectral Alignment(SPA)를 제안합니다. 이는 중간 예측의 파워 스펙트럼을 사전 계산된 사전(prior)에 맞추도록 보정하는 경량의 guidance 기반 방법입니다. 우리 접근법은 두 단계로 구성됩니다: (1) 학습 데이터로부터 매개변수적 스펙트럼 모델의 오프라인 적합(fitting), (2) 효율적인 FFT 기반 그래디언트 계산을 통한 추론 시점 guidance입니다. SPA는 계산 오버헤드가 최소(3-4%)이며 Classifier-Free Guidance(CFG)와 상호 보완적입니다. 픽셀 공간 모델(DDPM, ADM)부터 잠재 확산 모델(SD2.0, SDXL), flow-matching 모델(SD3.5, FLUX)에 이르는 다양한 아키텍처에서 일관된 개선을 입증했습니다. 구현은 https://github.com/SonyResearch/SPA 에서 제공됩니다.

arXiv:2607.21904v1cs.CV

의료 영상 인페인팅에서의 확산 모델: 과제, 해결책 분류체계 및 향후 방향

Diffusion Models in Medical Image Inpainting: Challenges, Solution Taxonomy, and Future Directions

이미지 인페인팅은 가능한 한 시각적·의미적 일관성을 유지하면서 이미지의 누락되거나 손상된 영역을 복원하는 것을 목표로 한다. 의료 영상에서는 아티팩트, 정보 누락, 병리학적 변화가 진단 신뢰도와 하류 임상 응용을 저해할 수 있기 때문에 이 과제가 특히 중요하다. 최근 확산 모델(diffusion models)은 해부학적으로 일관된 복원을 생성할 수 있다는 점 때문에 의료 영상 인페인팅을 위한 최첨단 생성 접근법으로 부상했다. 본 서베이는 60편의 연구에 보고된 주요 아키텍처, 응용, 데이터셋, 평가 전략을 다루며 의료 영상 인페인팅을 위한 확산 기반 방법에 대한 체계적 검토를 제시한다. 또한 확산 기반 접근법에 대한 분류체계를 제안한다. 분석 결과, 확산 기반 의료 영상 인페인팅에 대한 연구 관심이 급격히 증가하고 있으며, 노이즈 제거 확산 확률 모델(denoising diffusion probabilistic models, DDPM)과 잠재 확산 모델(latent diffusion models, LDM)이 지배적인 아키텍처로 부상하고 있음을 보여준다. 검토된 연구들은 주로 아티팩트 제거, 데이터 증강, pseudo-healthy 조직 복원, 이상 탐지에 초점을 맞추며, 특히 자기공명영상(MRI)과 컴퓨터 단층촬영(CT) 영상에서 다루어진다. 전반적으로 확산 모델은 해부학적으로 그럴듯한 복원을 생성하고 하류 임상 과제를 지원하는 데 강력한 성능을 보여준다. 그러나 본 검토는 표준화된 벤치마크 부재, 제한된 데이터셋 다양성, 다양한 임상 응용 및 영상 시나리오 전반에 걸친 제한적인 검증 절차 등 중요한 과제도 강조한다.

arXiv:2508.13826v4eess.IV

디퓨전 모델을 이용한 심장 볼륨 재구성을 위한 잠재 공간 보간 학습

Latent Interpolation Learning Using Diffusion Models for Cardiac Volume Reconstruction

심장 자기공명(CMR) 영상은 심혈管 질환의 진단 및 관리에 핵심적인 도구이지만, 2D 단축면 슬라이스의 희소(sparse) 취득으로 인해 부피 정보가 불완전해지는 경우가 많아 그 유용성이 종종 제한된다. 이러한 희소 슬라이스로부터 정확한 3D 재구성은 포괄적인 심장 평가에 필수적이지만, 기존 방법들은 사전 정의된 보간 방식(예: 선형 또는 구면)에 대한 의존, 계산 비효율성, 분할 레이블이나 움직임 데이터와 같은 추가 의미론적 입력에 대한 의존 등의 과제에 직면한다. 이러한 한계를 해결하기 위해, 우리는 세 가지 핵심 혁신을 도입하는 새로운 Cardiac Latent Interpolation Diffusion(CaLID) 프레임워크를 제안한다. 첫째, 디퓨전 모델 기반의 데이터 주도형 보간 방식을 제시하며, 이는 희소 슬라이스 간의 복잡한 비선형 관계를 포착하고 재구성 정확도를 향상시킨다. 둘째, 잠재 공간(latent space)에서 동작하는 계산 효율적인 방법을 설계하여 3D 전심 업샘플링 시간을 24배 단축하고, 이전 방법 대비 계산 부담을 줄인다. 셋째, 희소 2D CMR 영상만을 입력으로 사용하여 기준선(baseline) 방법 대비 SOTA 성능을 달성하며, 형태학적 가이던스와 같은 보조 입력의 필요성을 제거하여 워크플로를 단순화한다. 우리는 이 방법을 2D+T 데이터로 확장하여 시공간 역학의 효과적 모델링과 시간적 일관성을 보장한다. 광범위한 부피 평가와 하위 분할 작업을 통해 CaLID가 우수한 재구성 품질과 효율성을 달성함을 보여준다. 기존 접근법의 근본적 한계를 해결함으로써, 우리 프레임워크는 공간 및 시공간 전심 재구성의 최신 기술 수준을 발전시키며, 심혈관 영상을 위한 견고하고 임상적으로 실용적인 해결책을 제공한다.

arXiv:2607.21200v1stat.ML

수문 시계열 확률적 보간 및 예측을 위한 트랜스포머 기반 확산 모델

Transformer-based Diffusion models for Hydrological Time Series Probabilistic Imputation and Forecasting

관측이 제한된 수문기상 시계열 모델링은 수계 시스템 및 수자원 모니터링, 또한 홍수나 가뭄 위험 평가에서 핵심 과제이다. 기본 프로세스의 높은 변동성과 가용 측정값의 희소성으로 인해, 전통적인 통계적 접근법은 종종 그 역학을 정확히 표현하는 데 어려움을 겪는다. 이러한 맥락에서, 심층 학습의 최근 발전은 여러 관측 지점에서 샘플링된 복잡한 시간적 프로세스의 표현과 생성을 개선할 유망한 방향을 제공한다. 본 연구는 수문학적 시계열의 시뮬레이션 및 재구성에 트랜스포머 기반 확산 모델의 적용을 조사한다. 제안된 프레임워크는 북동부 프랑스의 석회암 고원에 위치하며 숲과 경작지로 덮인 세 인접 상류 유역에 분포한 여섯 지점에서 수량과 수질의 공동 모델링에 적용된다. 해당 모델은 15년 이상 LNE 계량학 전문성과 Andra의 월별 품질 관리 협력을 통해 품질 관리되었고 센서 드리프트 및 고장이 보정된 가용 관측 데이터를 사용하여 보정 및 검증된다. 그 성능은 시계열 모델링에 일반적으로 사용되는 여러 확립된 기준선 접근법과 비교된다. 정량적 평가 지표를 사용하여 두 가지 설정—불완전한 시계열의 보간(imputation)과 향후 수문학적 조건의 예측(forecasting)—에서 제안 방법이 관측 신호의 핵심 시간적 특성을 재현하는 능력을 평가한다. 결과는 트랜스포머 기반 접근법의 효과를 뒷받침하며 수문학적 데이터에 존재하는 복잡한 패턴을 포착하고 시뮬레이션하는 능력을 강조한다. 특히 결과는 확산 모델이 예측과 보간 모두에서 가변적인 결측 데이터를 갖는 관측 설정 하에서 현실적인 시계열 분포를 효율적으로 샘플링할 수 있음을 나타낸다.

arXiv:2607.20550v1cs.LG

SBDD를 넘어서: 다약리학 및 다중 표적 약물 설계에서의 기하 심층 학습

Beyond SBDD: Geometric Deep Learning in Polypharmacology and Multi-target Drug Design

구조 기반 약물 설계(SBDD)의 전통적인 "하나의 약물, 하나의 표적" 패러다임은 보상적 신호 전달 경로와 약물 내성의 출현으로 인해 암 및 신경퇴행성 질환과 같은 다인자 질환 치료에 자주 부적합하다. 다약리학(polypharmacology)은 시너지적 치료 전략을 제공하지만, 다중 표적이 부과하는 기하학적 제약을 동시에 만족할 수 있는 리간드의 합리적 설계는 여전히 주요한 계산 병목으로 남아 있다. 본 리뷰는 이러한 한계를 극복하기 위한 강력한 통합적 접근법으로 기하 심층 학습(geometric deep learning, GDL)을 제시한다. 우리는 비유클리드 분자 데이터를 활용하여 고유한 3차원(3D) 구조적 상호의존성을 포착하는 불변 그래프 신경망부터 SE(3)-등변 확산 모델까지 다양한 GDL 아키텍처를 체계적으로 조사한다. 기하 임베딩(embedding)을 통한 공유 결합 포켓의 특성화, 이질적 그래프 융합을 통한 다중 표적 생물활성 예측, 이중 표적 리간드의 de novo 생성을 포함하여 세 가지 핵심 차원에 걸친 GDL 적용을 비판적으로 분석한다. 특히 경쟁하는 결합 부위 간의 복잡한 기하학적 충돌을 자율적으로 해결하기 위해 확산 모델과 강화학습을 통합하는 새로운 구조 조건 생성 알고리즘에 특별한 중점을 둔다. 또한 이러한 모델을 검증하는 데 있어 다중 모달 오믹스 통합과 특화된 기하 벤치마킹(benchmarking) 인프라의 핵심적 역할을 평가한다. 방법론적 발전을 종합함으로써, 본 리뷰는 우연적 탐험에서 합리적이고 구조 주도적인 다약리학적 분자 공학으로의 약물 발견 패러다임 전환을 설명하며, 차세대 치료제의 복잡성을 탐색하기 위한 명확하고 구조화된 가이드를 제공한다.

arXiv:2607.20540v1cs.LG

원자에서 엔트로피까지: 볼록 영역에서 확산 학습을 위한 최적 노이즈 할당

From Atoms to Entropy: Optimal Noise Allocation for Diffusion Training in the Convex Regime

확산 모델은 어떤 노이즈 수준에서, 얼마나 학습해야 할까? 이 선택의 중요성에도 불구하고, 현재의 노이즈 스케줄은 대체로 휴리스틱이나 경험적 튜닝에 기반한다. 본 연구에서는 확산 학습에서 점근적으로 최적인 노이즈 수준 할당을 연구하기 위한 일반적인 통계적 프레임워크를 개발한다. 첫 번째 주요 결과는 서로 다른 시점 간에 정보가 전파될 수 있는 완전 결합 영역에 관한 것이다. 볼록성 또는 Polyak-Łojasiewicz형 가정 하에서, 최적화된 학습 스케줄이 유한 개의 노이즈 수준에 집중된 원자적 최소화자(atomic minimizer)를 갖음을 보인다. 두 번째 주요 결과는 신경망의 시간적 특화를 모델링하기 위한 이상화된 독립 학습자 영역에 이 프레임워크를 특수화한 것이다. 추가적인 특징-노이즈 분리 조건 하에서, 랜덤 행렬 분석은 정보 이론적 대리(proxy)로 이어진다: 분리된 샘플링 밀도는 생성적 엔트로피율, 즉 순방향 과정을 따라 조건부 엔트로피가 증가하는 비율의 제곱근에 비례한다. Dirac 혼합, 저차원 매니폴드, MNIST를 포함하여 결합 목적함수를 직접 최적화할 수 있는 통제된 설정에서 이러한 예측을 검증한다. 이러한 설정에서 최적화된 스케줄은 일관되게 유한 지원(finite-support)이며, 매끄러운 엔트로피 대리는 신경망 모델에서 원자적 최적값을 밀접하게 추적하고, 이론이 시사하는 바와 같이 주로 완전 결합 파라미터 경우에서 붕괴한다. 그런 다음 전체 스케줄 최적화가 현재 계산 불가능한 대규모 실험에서 엔트로피 스케줄을 평가한다. 결과는 제곱근 엔트로피 스케줄링이 이산 영역에서 학습 효율을 상당히 개선할 수 있으며, 연속 이미지에서는 표준 EDM 스타일 휴리스틱과 경쟁력을 유지함을 나타낸다.

arXiv:2601.21284v2cs.LG

PILD: 확산 기반 물리 정보 학습

PILD: Physics-Informed Learning via Diffusion

확산 모델은 복잡한 데이터 분포를 모델링하는 강력한 생성 도구로 부상했지만, 순수하게 데이터 기반인 특성 때문에 물리 법칙을 반드시 준수해야 하는 공학 및 과학 문제에서의 적용 가능성이 제한된다. 본 논문은 확산 모델링과 물리적 제약을 라플라스 분포에서 샘플링된 가상 잔차 관측을 갖는 확률적 잔차 공식화를 통해 통합하는 프레임워크인 Physics-Informed Learning via Diffusion(PILD)를 제안한다. 노이즈가 있는 확산 상태에서 이 공식화를 실용적으로 만들기 위해, Jensen-gap-aware 적응형 잔차 스케일을 도입하며, 이는 잔차 가능도 주변화로 유발되는 바이어스를 줄인다. 또한 조건부 과제를 위해 물리 조건부 정렬(alignment) 메커니즘을 개발하여, 디노이징(denoising) 과정 동안 중간 잠재 표현(latent representation)이 관측 조건과 일관되게 유지되도록 한다. 제안된 프레임워크는 간결하고 모듈식이며, 상미분방정식(ODE), 편미분방정식(PDE), 대수 방정식 또는 부등식 제약으로 규정되는 문제에 광범위하게 적용 가능하다. 공학 및 과학 과제에 걸친 광범위한 실험에서 PILD가 대표적인 물리 정보 기반 및 확산 기반 베이스라인 대비 물리적 충실도(physical fidelity)와 예측 정확도를 향상시킴을 보여준다.

arXiv:2607.20913v1cs.AI

효율적인 확산 모델 미세조정을 위한 소스 프라이어 기반 선택적 적응

Source-Prior-Driven Selective Adaptation for Efficient Diffusion Model Finetuning

새로운 도메인이나 스타일을 위해 대규모 확산 모델을 미세조정할 때는 트레이드오프가 존재한다. 타깃 특화 생성을 개선하면 종종 사전학습된 모델의 폭넓은 생성 능력이 저하된다. 기존의 전체 미세조정 및 매개변수 효율적 미세조정 방법은 일반적으로 이 트레이드오프를 암묵적으로만 다룬다. 본 연구에서는 확산 모델을 효율적으로 미세조정하여 유리한 트레이드오프를 달성하기 위한 새로운 소스 프라이어 기반 선택적 적응 방법을 제안한다. 우리 방법은 두 가지 핵심 관찰에 기반한다: (1) 일반적인 생성 능력의 손실은 사전학습된 매개변수 간에 매우 불일치하며, (2) 모델의 일반적인 생성 능력에 상대적으로 작은 영향을 미치는 매개변수는 계층과 매개변수 유형에 걸쳐 구조적으로 불일치한 상태를 유지한다. 이러한 관찰에 동기를 부여받아, 우리는 먼저 하류 적응에 더 적합한 매개변수를 명시적으로 식별하기 위한 정적 마스크를 학습하고, 선택된 부분집합에 대해 구조화된 업데이트 전략을 구성한다. 실험 결과, 우리 방법은 기존의 강력한 베이스라인보다 더 나은 적응-보존 트레이드오프를 달성한다.

arXiv:2607.20545v1cs.AI

StrideDiffusion: 시계열 생성을 위한 확산 모델 가속

StrideDiffusion: Accelerating Diffusion Models for Time-series Generation

확산 모델은 시계열 생성에서 경쟁력 있는 생성기가 되었지만, 추론 시 필요한 순차적 디노이징 단계가 많아 실용적 사용이 제한된다. 기존의 빠른 샘pler는 보통 고정되거나 일반적인 타임스텝 일정을 사용하며, 시계열 확산의 독특한 특성을 간과한다: 역과정 동안 서로 다른 스펙트럴 대역이 서로 다른 속도로 진화한다는 점이다. 우리는 StrideDiffusion을 제안한다. 이는 학습 없이 스펙트럴을 인식하는 샘pler로, 대역 수준 활동에 따라 디노이징 stride를 적응적으로 선택한다. 각 단계에서 StrideDiffusion은 상대적 대역 에너지, 로그 파워 drift, 위상 속도를 모니터링하여 고주파 역학이 여전히 활성인지, 아니면 궤적이 안정적인 저주파 구조에 의해 지배되는지 판별한다. 그런 다음 빠르게 변하는 대역이 활성일 때는 세밀한 단계를, 거친 성분만 남았을 때는 더 큰 점프를 취한다. 대역별 안정성 분석은 비활성 주파수 대역이 결정론적 아핀 역 업데이트 하에서 점프 크기에 대해 선형적으로만 변함을 보여주며, 단계 크기 지표로서의 스펙트럴 활동에 대한 국소적 정당화를 제공한다. 6개의 무조건적 시계열 생성 벤치마크에서 StrideDiffusion은 500/1000 디노이징 단계 대신 14-66회의 함수 평가만 사용하여, 생성 품질을 유지하거나 개선하면서 최대 18.9배의 실측 시간 가속을 달성한다. 조건부 보간(imputation) 및 예측(forecasting)에서도 비교 가능한 예측 정확도로 5-14배의 평균 가속을 추가로 제공한다. 이러한 결과는 스펙트럴 진화가 빠른 시계열 확산 샘플링을 위한 실용적이고 원칙적인 신호를 제공함을 보여준다. 코드는 https://anonymous.4open.science/r/stridediff-ts 에서 이용 가능하다.

arXiv:2607.21591v1cs.CV

점진적 시드 가지치기를 통한 디퓨전 모델의 추론 시 스케일링

Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning

디퓨전 및 flow-matching 모델이 조건부 이미지 생성을 지배하고 있지만, 이러한 모델에 대한 추론 시 스케일링은 자기회귀(autoregressive) 언어 모델에 비해 훨씬 덜 발전되어 있다. 최종 품질이 초기 노이즈 시드에 매우 민감하기 때문에, 많은 접근법은 블랙박스 보상 하에서 시드 탐색이나 재샘플링에 추가 연산을 투입하지만, 일반적으로 추론 전반에 걸쳐 일정한 메모리 사용량을 유지한다. 우리는 이 제약을 완화하면 아직 충분히 탐구되지 않은 추론 시 스케일링 축을 활성화할 수 있음을 보인다: 탐험을 앞단에 집중하고, 초기에 많은 시드를 평가하며, 공격적으로 가지치기함으로써 고정된 연산 예산을 더 효과적으로 사용할 수 있다. 점진적 시드 가지치기(Progressive Seed Pruning, PSP)는 중간 디노이징 추정치에 점수를 매기고 후보 집합을 점진적으로 좁혀 유망한 궤적만 완전히 디노이징하며, 모델 평가 총 횟수는 고정된 상태를 유지한다. 디퓨전 및 flow-matching 백본 전반에서 PSP는 보상 유도 선택을 일관되게 개선하며, 동일한 연산량에서 best-of-N, importance-sampling, tree-search 기준선보다 더 높은 GenEval 점수(자동)와 프롬프트 정렬에 대한 더 나은 인간 평가를 달성한다. 프로젝트 페이지: https://www.vision.caltech.edu/psp. 코드: https://github.com/rogerioagjr/psp.

arXiv:2607.14749v3eess.AS

WanSong v1.0 기술 보고서

WanSong v1.0 Technical Report

최근 음악 생성 파운데이션 모델(foundation model)이 산업계의 큰 관심을 받고 있다. 그러나 효율적인 생성과 높은 충실도의 장형(long-form) 오디오를 달성하면서 제어 가능성(controllability)을 지원하는 것은 여전히 어렵다. 이러한 요구를 충족하기 위해, 우리는 장형·상업급(commercial-grade) 곡 생성을 위한 단순하면서도 강력한 접근법인 \textbf{WanSong}을 제시한다. 자기회귀(autoregressive, AR) 및 캐스케이드 다단계 파이프라인(\eg, AR 뒤에 확산이 이어지는 방식)과 달리, \textbf{WanSong}은 순수 확산 기반 모델로, 최대 5분 길이의 고충실도 다국어 곡을 직접 생성하며 단일 실행(single run)으로 이중 스템(dual stems, 보컬과 배경 음악)을 출력한다. 또한 우리의 확산 프레임워크는 step-distillation을 통한 더 빠른 추론을 가능하게 하고, 하류 편집 작업을 지원하기 위한 미세조정 및 맞춤화를 위한 효율적인 경로를 제공한다.