PyTorchKR Papers

최신 논문

총 8편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10850v2cs.LG

유사한 예측 적합도와 상이한 잠재 동역학: 뇌 질환 맞춤형 모델에서 학습된 동역학적 구조 특성화

Similar Predictive Fit but Different Latent Dynamics: Characterizing Learned Dynamical Structure in Personalized Models of Brain Disorders

AI 모델이 임상 의사결정 및 맞춤형 치료로 나아감에 따라, 모델이 무엇을 학습하는지 이해하는 것은 단순한 예측 정확도를 넘어 매우 중요합니다. 본 연구에서는 예측 적합도가 유사하더라도 개인화된 잠재 동역학(latent dynamics)이 임상적으로 연관된 차이를 드러내는지 조사합니다. Temple University EEG Corpus(TUEG)로 사전학습된 경량 CNN-트랜스포머(Transformer) 뇌파(EEG) 파운데이션 모델을 사용하여 세그먼트 수준의 표현을 추출합니다. Temple University Epilepsy Corpus(TUEP)를 활용하여 표현들을 공유 잠재 상태 공간으로 매핑하고, 각 피험자에게 독립적으로 희소 다항 로지스틱 전이 분포(mLTD)를 적합하여 개인화된 전이 의존성 그래프 $W_n$을 얻습니다. 분석 대상은 $n{=}198$명의 피험자(뇌전증 99명 / 비뇌전증 99명)입니다. $k{=}4$에서 뇌전증 피험자는 훨씬 더 조밀한 학습된 의존성 구조를 나타내며($p{=}1.1\times10^{-7}$), $k{=}6$에서도 동일한 패턴을 보입니다(19.90 대 13.46; $p{=}5.2\times10^{-5}$). 그래프 유래 특징들은 5-겹 피험자별 교차 검증(cross-validation) 하에서 중간 수준의 집단 구별 능력을 제공합니다($k{=}4$에서 AUROC 0.68; $k{=}6$에서 0.65). 대조적으로, 홀드아웃 로그 가능도(log-likelihood)는 $k{=}4$에서 두 집단 간에 거의 동일하며($-0.992$ 대 $-0.991$; $p{=}0.95$), 다음 상태 예측 역시 유사하게 일치합니다(AUROC 0.855 대 0.861; $p{=}0.54$). 따라서 유사한 예측 적합도가 유사한 학습 동역학을 의미하지는 않습니다. 즉, 개인화된 모델이 학습한 내부 동역학 구조에는 상당한 차이가 있더라도, 두 집단은 대등한 수준으로 예측 가능할 수 있습니다. 이러한 차이는 개인화된 임상 모델에서 예측 성능과 함께 학습된 구조를 평가해야 할 필요성을 시사합니다.

arXiv:2610.02801v2cs.AI

VIGOR: 모델 기반 강화학습에서 잠재 공간 일관성을 통한 제로샷 시각적 일반화

VIGOR: Zero-Shot Visual Generalization via Latent-Space Consistency in Model-Based Reinforcement Learning

Model-based reinforcement learning (MBRL) achieves strong sample efficiency by planning in learned latent dynamics but degrades substantially under unseen visual distractions such as background, lighting, or camera changes. Unlike model-free RL, where encoder perturbations affect only single-step predictions, MBRL suffers from a two-level vulnerability: distractions push encoder outputs out of distribution, and these errors compound through recursive latent rollouts. We propose visual generalization via latent-space consistency in model-based RL (VIGOR), which enables zero-shot generalization to unseen distractions while retaining its backbone's sample efficiency. VIGOR comprises three interdependent components: (i) asymmetric weak-to-strong augmentation, which pairs weak-only and weak-to-strong latent views within a batch; (ii) dynamics-level consistency, which enforces augmentation-invariant transition predictions via direct latent regression; and (iii) encoder-level stabilization, which prevents encoder drift under the cross-augmentation supervision of (ii). On the DeepMind Control Suite (DMC) and Robosuite, VIGOR instantiated on TD-MPC2 outperforms state-of-the-art model-free and model-based baselines in zero-shot generalization, surpassing the second-best baseline by 3.4% on DMC and 43.6% on Robosuite, with sample efficiency comparable to its backbone and fewer environment interactions than the other baselines. Ablations show that VIGOR is augmentation-agnostic: augmentations from distinct perturbation families preserve strong generalization, confirming that latent-space consistency, not the augmentation choice, drives robustness. A second instantiation on DreamerV3, a structurally distinct recurrent state-space model, also improves zero-shot generalization on both benchmarks, indicating backbone-agnostic benefits. Code and videos: https://vigor-gen.github.io/.

arXiv:2605.16682v2cs.LG

식별 후 실현: 부분 관측으로부터 잠재 포트-해밀토니안 역학의 대조 학습

Identify then Realize: Contrastive Learning of Latent Port-Hamiltonian Dynamics from Partial Observations

관측 공간에서의 직접적인 모델링이 불가능할 때, 특히 부분적이고 고차원적인 관측 하에서는 잠재 상태 표현과 역학(dynamics)을 식별하는 것이 필수적입니다. 이러한 환경에서는 표현 학습(representation learning)과 물리 인식(physics-aware) 모델링이 본질적으로 결합되어 있습니다. 본 논문에서는 보존계 및 소산계(dissipative systems)의 잠재 포트-해밀토니안(port-Hamiltonian) 모델을 학습하기 위한 2단계 '식별 후 실현(identify-then-realize)' 프레임워크인 CIPHER를 제안합니다. 첫째, 대조 학습 교사(contrastive teacher) 모델이 인코더와 신경 상미분 방정식(Neural ODE)을 공동으로 학습하여 관측 이력으로부터 예측 상태 표현을 획득합니다. 둘째, 학생 모델은 인코딩된 관측 미래를 일치시킴으로써 가역적 비선형 좌표 변환과 포트-해밀토니안 역학을 학습합니다. 저자들은 미분동형사상(diffeomorphism) 하에서 물리적 상태를 복원하고 그 역학을 포트-해밀토니안 형태로 실현하기 위한 충분조건을 규명합니다. 노이즈가 없는 데이터셋과 노이즈가 있는 데이터셋 10종에 걸쳐, CIPHER는 복잡한 시스템에 대한 장기 예측(long-horizon forecast)을 개선함으로써 최신 베이스라인에 필적하거나 이를 능가하는 성능을 보였습니다. 추가 연구를 통해 과도하게 지정된 잠재 차원에 대한 견고성과 pH 매개변수화로부터 얻는 추가적인 예측 성능 이득을 확인했습니다.

arXiv:2607.21645v1cs.LG

다중 지평선 일관성의 기하학: 잠재 역학이 수축할 때와 그렇지 않을 때

Multi-Horizon Consistency as Geometry: When Latent Dynamics Contract, and When They Do Not

다중 지평선 잠재 일관성은 비디오 예측기와 월드 모델에서 흔한 학습 조절 요소이지만, 실무자들은 이것이 전이 기하학에 어떤 영향을 미치는지 거의 알지 못한다. 우리는 다단계 잠재 합의에 대한 가중치인 lambda를 진단적 제어 변수로 취급하고, 경험적 확장 프록시 L20,q95와 지평선-20 예측 오류 E20을 함께 측정한다. Moving-MNIST에서(임계 쌍에서 n=6 seeds), lambda를 0에서 0.8로 높이면 L20이 4.96 +/- 2.01에서 1.01 +/- 0.06으로 감소한다(paired t p=0.005, Wilcoxon p=0.031)하고 E20은 절반으로 줄어든다(0.365에서 0.177, paired t p=1.1e-13). 6개 seed 중 4개가 lambda=0.8에서 L<1을 넘는다. 동일한 손실은 E20이 개선되는 경우에도 action-conditioned Pendulum-v1이나 CartPole-v1, 또는 KTH Actions 비디오에서 모집단 L<1을 만들어내지 않는다. MMNIST에 대한 연관적 매개 분석은 r-hat=0.94(95% CI [0.88, 1.00], n=27, B=2000)를 제공한다; lambda는 무작위화되지 않았다. 방어적 검증(아키텍처 베이스라인, 외생적 스트레스, WorldTest, MPC, 스케일링)은 대체로 좁은 주장을 뒷받침한다: 소프트 일관성은 수동적(passive) 비디오를 거의 수축적(near-contractive) 구간으로 밀어낼 수 있으며, 그 구간은 도메인에 제한된다. 확률적 forcing 법칙 L20 ~ 1.23 + 1.82 eta at lambda=0.8(bootstrap slope CI [1.73, 1.92], R^2=0.96)은 보정된 eta_eff를 통해 제어 도메인을 동일한 곡선 위에서 통합한다. lambda in {0.4, 1.2}에서의 완전한 공동 슬라이스(30/30 cells, 5 eta x 3 seeds)는 유사한 선형 L20(eta) 기울기(~1.69 및 ~2.00)를 보여준다; 우리는 연속적인 (lambda, eta) 표면을 적합하지 않는다. 우리는 DreamerV3 또는 TD-MPC2 수익(returns)을 보고하지 않는다.

arXiv:2607.11073v1cs.LG

AeroMELD: A Linear Embedding of Aerosol Populations for Diagnostics and Latent Dynamics

Accurately representing atmospheric aerosol populations is essential for simulating aerosol-cloud interactions, radiative forcing, and ice nucleation, yet existing reduced schemes impose structural assumptions that limit their ability to capture composition diversity and mixing state. Machine-learning approaches offer more flexible representations, but standard autoencoders do not preserve the mathematical structure of aerosol populations and therefore cannot support physically meaningful process operators. We introduce AeroMELD (Aerosol Measure Embedding for Latent Dynamics), a mathematically grounded framework for constructing low-dimensional latent variables that retain this structure. We show that any permutation-invariant linear encoder must take a scale-shape decomposition, with total number concentration represented explicitly and latent shape given by a barycentric combination of per-particle embeddings. This aggregated latent state retains the diagnostic expressiveness of a Deep Sets model by moving the nonlinear post-aggregation stage into the learned diagnostic map while preserving latent linearity. Using particle-resolved data as ground truth, we encode weighted particle populations directly rather than binned aerosol states; size-resolved mass and number distributions serve only as diagnostic targets and visual summaries. The latent space accurately reconstructs these distributions, CCN spectra, optical coefficients, and immersion-freezing behavior while preserving the linear population structure needed for hybrid ML-physics models. Although the experiments focus on diagnostic reconstruction, the embedding is designed so that emissions and mixing can be represented exactly and nonlinear microphysical processes learned in a controlled latent space. This work establishes a foundation for learning aerosol-process evolution directly in latent space.

arXiv:2607.10362v1cs.LG

잠재 세계 모델에서 예측 가능성의 제어 이론

A Control Theory of Predictability in Latent World Models

잠재 세계 모델(latent world model)은 학습된 표현 공간에서 미래 상태를 예측하도록 학습되며, 이후 후보 행동을 순방향으로 시뮬레이션하여 행동을 선택하는 플래너(planner) 내부에 배포된다. 현재의 관행은 보류 데이터에 대한 단일 또는 다단계 롤아웃 손실인 예측 오차를 학습 및 모델 선택 목적함수로 채택하며, 예측 오차가 낮을수록 더 나은 제어를 달성한다고 가정한다. 우리는 이 가정이 구조적인 이유로 신뢰할 수 없음을 보인다: 플래너는 학습 분포가 아니라 후보 행동이 도달하는 상태들에서 모델을 쿼리하며, 이 상태들은 일반적으로 데이터 매니폴드를 벗어나기 때문에 데이터 평균 오차만으로는 제어를 보장할 수 없다. 따라서 우리는 목적함수를 플래너가 결정한 계획에서의 예측 계획 비용과 실제 계획 비용 간의 불일치로 재정의하고, 플래너의 차선성(suboptimality)이 이 불일치의 두 배로 상한이 결정됨을 증명한다. 반면 데이터 평균 예측 오차는 이를 상한 짓지도 추적하지도 못한다. 선형 제어 가정 하에서 이 불일치는 두 항으로 분리된다. 첫 번째는 작은 매니폴드 내(on-manifold) 잔차로, 이 영역에서는 예측 동역학과 실제 동역학이 일치하며 잠재 전이 연산자(latent transition operator)의 비정규성(non-normality)을 통한 스펙트럼 페널티(spectral tax)로 값이 결정된다. 두 번째는 매니폴드 외(off-manifold) 발산으로, 행동이 상태를 매니폴드 밖으로 이동시켜 두 동역학이 발산하며, 이 발산이 결정적 항(binding term)으로 어떠한 데이터 평균 오차로도 상한이 결정되지 않는다. 합성 연산자(synthetic operator)를 통해 가격 공식을 검증하고, 잠재 모델 예측 제어(latent model-predictive control) 실험을 통해 이 분리를 확인한다: 시드(seed) 전반에 걸쳐 단일 단계 검증 손실은 제어 성공과 사실상 무상관인 반면, 플래너 도달 가능 측도(planner-reachable measure)에 대한 충실도 점수(fidelity score)는 이를 추적한다.

arXiv:2606.31232v1cs.AI

Delta-JEPA: Learning Action-Sensitive World Models via Latent Difference Decoding

Delta-JEPA는 재구성 없는 잠재 세계 모델(latent world model) 학습 시 발생하는 표현 붕괴(collapse) 문제를 해결하기 위해, 연속 관측 간 잠재 변위(latent displacement) $\Delta z_t = z_{t+1} - z_t$로부터 행동을 복원하는 Latent Difference Action Decoder(LDAD)를 제안한다. 기존 역 동역학(inverse dynamics) 방식이 두 상태 임베딩을 단순 연결해 행동을 추론하는 것과 달리, 변위 수준의 감독을 통해 서로 다른 행동이 구별 가능한 잠재 전이를 유도하도록 강제함으로써 4가지 시각적 연속 제어 태스크에서 JEPA 기반 베이스라인 대비 플래닝 성능을 향상시켰다.

arXiv:2605.05092v2cs.RO

Driver-WM: 교통 상황 조건 잠재 세계 모델 기반 운전자 중심 인캡(in-cabin) 동역학 롤아웃

Driver-WM: A Driver-Centric Traffic-Conditioned Latent World Model for In-Cabin Dynamics Rollout

안전한 L2/L3 주행 자동화는 공유 제어(shared-control) 전환 동안 휴먼-인-더-루프(human-in-the-loop) 반응을 예측하는 것을 요구한다. 대부분의 주행 세계 모델(world model)은 외부 환경을 예측하는 반면, 인캡(in-cabin) 지능은 순전히 인식 지향적이며 운전자 동역학에 대한 다단계 롤아웃(rollout) 능력이 부족하다. 우리는 차량 외부(out-cabin) 교통 맥락에 따라 인과적으로 조건된 인캡(in-cabin) 동역학을 롤아웃하는 운전자 중심 잠재 세계 모델인 Driver-WM을 제안한다. 이 공식화는 물리적 운동학(kinematics) 예측과 보조적 행동 및 정서적 의미 인식을 통합한다. 동결된(frozen) 비전-언어(vision-language) 특징으로 구성된 압축적 잠재 공간에서 동작하는 Driver-WM은 이중 스트림(dual-stream) 아키텍처를 채택하여 외부 교통과 내부 운전자 상태를 각각 별도로 인코딩한다. 이 두 스트림은 게이트(gate) 기반 인과 주입(causal injection) 메커니즘을 통해 방향적으로 결합되며, 학습된 벡터 게이트를 사용해 외부 맥락 교란을 변조하면서 시간적 인과성을 엄격히 강제한다. AIDE에서의 실험은 반응적 고운동 클립에 대한 견고한 장기 예측, 향상된 운전자/교통 의미 정렬, 그리고 외부-내부 메커니즘을 드러내는 제어된 개입을 보여준다.