arXiv:2606.07488v1 cs.LG

CoMetaPNS: 심장 전기생리학 시뮬레이션을 위한 지속적 메타학습 개인화 신경망 대리 모델

CoMetaPNS: Continually Meta-learning Personalized Neural Surrogates for Cardiac Electrophysiology Simulations

Ryan Missel, Xiajun Jiang, Linwei Wang

제출 2026-06-05

한국어 초록

개인화된 가상 심장 시뮬레이션은 모델 개인화와 계산 비용 측면에서 문제에 직면해 있습니다. 신경망 대리 모델(neural surrogate)은 최첨단 솔루션을 제공하지만, 일반적으로 효율적인 개인화나 일반화 가능한 모델 학습 중 하나만 다룹니다. 최근 연구는 세트 조건부 대리 모델과 메타학습된 상각 추론(amortized inference)을 통한 퓨샷 생성 모델링을 통해, 제한된 피험자별 문맥 데이터를 사용하여 대리 모델을 개인화하는 과정을 학습함으로써 이 문제를 재정의합니다. 그러나 이러한 방법들은 알려진 작업 식별자가 있는 정적이고 다양한 학습 분포를 가정합니다. 새로운 데이터가 도착하면, 치명적 망각(catastrophic forgetting, 모델이 새로운 작업을 학습할 때 이전 작업을 잊어버리는 현상)을 피하기 위해 모든 이전 데이터를 사용한 비용이 많이 드는 재학습이 필요합니다. 이는 종종 레이블이 없는 데이터가 순차적으로 도착하고 전체 재학습이 불가능한 임상 환경에서 주요한 제약 사항입니다. 본 논문은 정보를 지속적으로 통합할 뿐만 아니라 들어오는 데이터가 알려진 동적 소스에서 비롯되었는지 알 수 없는 소스에서 비롯되었는지 식별할 수 있는 개인화된 신경망 대리 모델을 달성하기 위한 새로운 지속적 메타학습 프레임워크를 제시합니다. 메모리 버퍼에 대한 지속적 베이지안 가우시안 혼합 모델을 활용하여, 우리의 프레임워크는 효과적인 메타학습에 필요한 시간에 따른 데이터의 식별자와 관계를 추론할 수 있습니다. 합성 심장 데이터에 대한 실증적 결과는 기존 기준선(baseline)과 비교하여 우수한 시뮬레이션 예측, 계산 확장성, 그리고 치명적 망각에 대한 저항성을 입증합니다.

원문 초록

Personalized virtual heart simulations face challenges in model personalization and computational cost. While neural surrogates offer state-of-the-art solutions, they typically address either efficient personalization or training generalizable models. Recent work reframes this by learning the process of personalizing a surrogate using limited subject-specific context data, through few-shot generative modeling with set-conditioned surrogates and meta-learned amortized inference. These methods, however, assume a static and diverse training distribution with known task identifiers. When new data becomes available, they require costly retraining with all prior data to avoid catastrophic forgetting - a phenomena where the model forgets earlier tasks when trained on new ones. This is a major limitation in clinical settings where often unlabeled data arrives sequentially and full retraining is infeasible. This paper presents a new continual meta-learning framework to achieve personalized neural surrogates able to not only continually integrate information but also identify whether incoming data stems from a known or unknown dynamics source. By leveraging a continual Bayesian Gaussian Mixture Model over a memory buffer, our framework can infer the identifiers and relationships of data over time - required for effective meta-learning. Empirical results on synthetic cardiac data demonstrate superior simulation forecasting, computational scalability, and resilience to catastrophic forgetting compared to existing baselines.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.07488v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.17508v3cs.LG공통 태그 Bayesian Inference, Meta-Learning, Few-Shot Learning

검색-증강 해석 가능 학습: 헬스케어 분야의 태스크별 제로샷 모델을 향하여

Retrieval-Augmented Interpretable Learning: Towards Task-Specific Zero-Shot Models in Healthcare

본 논문에서는 자연어 태스크 설명과 이전에 학습된 태스크별 예측기 메모리로부터 계수 공간 구조를 합성하여 태스크별 해석 가능 모델을 제로샷(zero-shot)으로 생성하는 확률론적 메타러닝 프레임워크인 검색-증강 해석 가능 학습(Retrieval-Augmented Interpretable Learning, RAIL)을 소개합니다. RAIL은 관련된 소스 태스크를 검색하고, 계수 공간을 통해 구조를 전이하며, 원래의 진단 특징(feature) 공간에서 새로운 예측기를 생성함으로써 특징 수준의 설명과 함께 제로샷 및 퓨샷(few-shot) 임상 시술 예측을 가능하게 합니다. 이러한 확률론적 정식화는 검색, 모델 계수, 예측 전반에 걸친 불확실성을 제공하여 불확실성을 인식하는 배포를 지원합니다. 즉, 불확실한 예측이나 불안정한 설명은 자동 결정으로 처리되는 대신 추가적인 임상 검토를 거치도록 플래그를 지정할 수 있습니다. 이는 예측 태스크가 심각하게 롱테일(long-tailed) 특성을 띠고, 새로운 임상 목표가 빈번하게 발생하며, 모델이 검토 가능하고 불확실성을 인지하며 인간의 감독과 호환되어야 하는 헬스케어 환경에 RAIL을 특히 적합하게 만듭니다. 롱테일 임상 시술 예측 태스크 전반에 걸쳐 RAIL은 데이터가 부족한 환경에서의 모델 생성을 개선하고, 임상 정보를 반영한 태스크 표현의 이점을 활용하며, 모델 동작을 더욱 투명하게 만드는 검색, 불확실성, 계수 수준의 진단을 제공합니다. 이러한 결과는 해석 가능성과 신뢰성을 유지하면서 새로운 태스크에 적응할 수 있는 확장 가능한 임상 예측 시스템을 향한 방향을 제시합니다.

arXiv:2610.13411v1cs.LG공통 태그 Bayesian Inference, Meta-Learning

시스템 식별을 위한 문맥 내 학습: 확률적 정식화, 긴 시퀀스 처리 및 벤치마크 검증

In-Context Learning for System Identification: Probabilistic Formulation, Long-Sequence Handling, and Benchmark Validation

전통적인 시스템 식별(system identification)은 일반적으로 두 단계로 이루어집니다. 먼저 학습(training) 데이터를 처리하여 관심 대상 시스템의 모델을 추정하고, 그 후 해당 모델을 사용하여 새로운 입력 쿼리에 대한 출력을 예측합니다. 이와 대조적으로, 최근의 문맥 내 학습(ICL) 접근 방식은 명시적인 모델 추정을 거치지 않고, 제로샷(zero-shot) 방식으로 학습 데이터와 쿼리 입력으로부터 직접 출력으로 매핑하는 메타 모델을 학습합니다. 이 방식은 대규모 합성 생성 데이터셋에서 오프라인으로 학습된 메타 모델을 활용하여 시스템 식별 알고리즘의 동작을 모사합니다. 본 연구에서는 시스템 식별을 위한 이러한 메타학습(meta-learning) 프레임워크를 세 가지 방향으로 발전시킵니다. 첫째, 트랜스포머(Transformer) 기반 인코더-디코더와 긴 학습 시퀀스 처리에 특화된 메커니즘을 결합하여 긴 시계(horizon)에 걸쳐 보정된(calibrated) 예측을 가능하게 하는 통합 확률적 메타 식별 아키텍처를 개발합니다. 둘째, 사전학습된 메타 모델이 고전적 시스템 식별을 위한 불확실성 인식 합성 데이터 생성기 역할을 수행하여, 실제 데이터가 부족할 때 매개변수 모델(parametric model)을 정규화하는 태스크 맞춤형 데이터를 제공할 수 있음을 보여줍니다. 셋째, 표준 비선형 시스템 식별 벤치마크와 도전적인 OOD(out-of-distribution) 시나리오에서 프레임워크를 체계적으로 평가하여, SOTA(state-of-the-art) 방법들과 견줄 만한 정확도 및 강력한 일반화 성능을 입증하며, 여기에는 입력 전용 적응만으로도 상당한 분포 변화를 처리하기에 충분한 사례들도 포함됩니다.

arXiv:2609.28122v1stat.ML공통 태그 Meta-Learning, Few-Shot Learning

NPBoost: 그래디언트 부스팅 고정 효과를 갖는 Neural Process

NPBoost: Neural Processes with Gradient-Boosted Fixed Effects

Neural Process(NP)는 모델 기반 메타러너로, 확률적 과정(stochastic process)을 암묵적으로 학습하고 작은 컨텍스트 집합으로부터 새 과제에 적응한다. NP의 대부분 확장은 신경망 아키텍처 개선에 초점을 맞춘다. 우리는 대신 메타학습과 혼합효과(mixed-effects) 모델이 공유하는 계층적 해석에서 동기를 받은 확장을 개발한다. 구체적으로 Neural Process Boosting(NPBoost)을 제안하며, 구조화된 반응 변동성을 과제 간 공유되는 트리 부스팅 고정 효과와 과제 간 확률적 변동을 포착하는 NP 임의 효과로 분해한다. 부스팅 알고리즘으로 두 구성요소를 공동 학습하도록 하며, 이 과정에서 NP는 잔차적인 과제별 구조를 학습하고 트리 앙상블은 과제 간 공통 패턴을 추정한다. 합성 및 실제 표 형식(tabular) 메타학습 문제 전반에서, 공유 구조에 불연속성이나 부스팅된 트리가 효과적으로 표현할 수 있는 기타 불규칙 패턴이 있을 때 이 분해는 표준 NP보다 성능이 개선된다.

arXiv:2608.14824v2eess.AS공통 태그 Meta-Learning, Few-Shot Learning

코끼리 발성 분류를 위한 매개변수 없는 퓨샷 평가

A Parameter-Free Few-Shot Evaluation for Elephant Vocalisation Classification

우리는 Elephant Voices(EV) 및 Linguistic Data Consortium(LDC) 데이터셋에서 고정된 사전학습 임베딩 위의 코끼리 발성에 대한 최근접 중심(centroid) 분류의 매개변수 없는 에피소드 평가를 제시한다. 우리가 묻는 것은 모든 라벨 데이터로 학습한 분류기에 어떤 임베딩이 최적인지가 아니라, 클래스당 예시(exemplar) 수가 달라질 때 가장 단순한 분류기가 어떻게 수행되는지이다. 각 클래스는 지원(support) 임베딩의 평균으로 모델링되고 각 쿼리는 제곱 유클리드 거리 하에서 가장 가까운 중심에 할당되므로 학습 가능한 매개변수는 없다. 평가는 mel frequency cepstral coefficient(MFCC) 특징과 함께 고정된 Perch(ver. 1), Perch(ver. 2), HuBERT(base, layer 2) 임베딩을 대상으로 하며, 학습된 분류기와 동일한 계층화 $K$-fold 교차 검증(validation) 프로토콜 하에서 $N$-way $k$-shot으로 수행한다. 이 임베딩 모델들 중 어느 것도 코끼리 울음 유형을 구별하도록 학습되지는 않았다. 더 작은 EV 데이터셋에서는 중심 분류기가 뚜렷이 데이터 효율적이다. Perch(ver. 1) 또는 Perch(ver. 2) 임베딩을 사용하면 평균 정밀도(mAP)에서 예시 한두 개부터 전 데이터로 학습한 로지스틱 회귀(LR) 기준선(baseline)을, 예시 두 개부터 순환(recurrent) 기준선을 추월한다. 강한 지도 end-to-end 기준선이 학습된 축소된 울음 유형 집합에서도 Perch(ver. 2) 임베딩을 쓰는 중심 분류기는 예시 두 개부터 mAP에서 해당 기준선을 역시 추월한다. 더 큰 LDC 데이터셋에서는 순환 기준선이 고려한 모든 $k$ 값에 대해 우위를 유지한다. LR만이 추월되며, 그것도 mAP에서만이다. 따라서 최근접 중심 분류는 예시가 적고 고정 임베딩이 이미 울음 유형을 분리할 때 바로 그때 선호된다.

arXiv:2609.27244v1cs.LG공통 태그 Bayesian Inference, Continual Learning

온라인 적응을 위한 베이지안 신경망의 전체 공분산 스무딩

Full-Covariance Smoothing of Bayesian Neural Networks for Online Adaptation

신경망의 층은 상태 공간 모델의 시간 단계로 취급할 수 있으며, 이는 베이지안 학습을 스무딩 문제로 바꾼다. 순전파는 네트워크를 통해 가우시안 모멘트를 전파하고, 역방향 Rauch–Tung–Striebel 패스는 가중치 사후분포를 닫힌 형으로 갱신한다. 이러한 방법은 불확실성을 고려하여 각 관측치로부터 단일 패스로 학습하며, 그래디언트 기반 반복이나 replay 없이 수행되므로 온라인 적응과 데이터 효율적 학습에 잘 맞는다. 그러나 기존 스무딩 기반 방법은 활성화에 걸친 공분산이 대각에만 제한되어 뉴런 간 상관을 버린다. 우리는 네트워크의 비선형 활성화를 통한 전체 공분산 전파를 가능하게 하는 교차 공분산 항등식으로 이 한계를 극복한다. 각 층의 아핀 출력만 가우시안으로 근사하는 층당 한 단계 스무더를 유도하며, 이는 잡음이 있는 관측을 갖는 결정론적 시스템과 출력 통계로 기술되는 확률적 시스템 모두에 적용된다. 비정상 분류, 온라인 역학 학습, 비전-언어-행동 모델의 정책 적응에서 이 방법을 시연하였고, 다른 스무딩 기반 방법보다 일반적으로 더 정확함을 확인하였다.

arXiv:2609.27679v1cs.LG공통 태그 Meta-Learning, Few-Shot Learning

정형 파운데이션 모델은 문맥 내에서 무엇을 계산하는가? 어텐션 게이트 업데이트를 통한 현장 표현 정제

What Do Tabular Foundation Models Compute In Context? In-Situ Representation Refinement through Attention-Gated Updates

모든 테이블이 새로운 지도학습 태스크를 정의할 때, 정형 파운데이션 모델(tabular foundation model)은 재사용 가능한 어떤 계산을 학습해야 하는가? 본 연구에서는 현장 표현 정제(in-situ representation refinement)를 개발한다. 이는 서포트 레이블(support label)이 에피소드의 표현 업데이트를 유도하고, 이러한 업데이트가 모델 파라미터를 변경하지 않고도 레이블이 없는 쿼리로 전이되도록 한다. 정규화된 LOO(leave-one-out) 목적식은 서포트 보정과 이에 대한 쿼리 확장을 도출한다. 주요 항은 어텐션(attention) 기반의 읽기와 상태 의존적 스케일링을 분리하며, 이는 선택된 저랭크 특징 상호작용 및 유형화된 메모리를 갖춘 어텐션 게이트 기반의 FFN 없는 문맥 스택인 RefineICL의 동기가 된다. RefineICL-L24는 AMLB29에서 0.93836 OVR-AUC와 0.87173 정확도에 도달한다. 벤치마크 기반의 연장 학습 버전은 38개 데이터셋의 TabArena 스냅샷에서 1644.8 Elo를 달성하여 동일한 평가 하에서 TabPFN-3보다 31.4 Elo 높은 수치를 기록한다. 또한 두 가지 TabZilla 뷰 모두에서 TabPFN-v3 대비 보고된 4가지 지표를 모두 향상시킨다. 동일 조건의 10만 회 업데이트 깊이 그리드에서, 확장된 FFN은 일관된 검증(validation) 이점을 제공하지 못하며 L8에서 최대 추론(inference) 메모리를 60.2% 더 많이 사용한다. 내부 개입 실험에 따르면 서포트 표현은 단순한 정적 레이블 소스 이상임을 보여준다. 즉, 쿼리 출력을 보존한 채 중간 서포트 업데이트 하나를 제거하면 테스트된 72개 에피소드 전체에서 최종 쿼리 교차 엔트로피(cross-entropy)가 증가한다. 종합적으로 이러한 유도 과정과 개입 실험은 어텐션 게이트 업데이트가 문맥 내에서 어떻게 태스크 특화 예측기를 구성할 수 있는지를 설명한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.