arXiv:2606.18677v1 cs.LG

스트림 학습에서 표 형식 파운데이션 모델을 위한 제한된 컨텍스트 관리

Bounded Context Management for Tabular Foundation Models on Stream Learning

Jinmo Lee, Doyun Choi, Moongi Choi, Jaemin Yoo

제출 2026-06-17

한국어 초록

표 형식 스트림 학습은 분포 이동(distribution shift) 하에서 순차적으로 도착하는 예시에 대한 예측을 필요로 한다. 일반적인 방법들은 모델 상태를 갱신하여 적응하는 반면, 표 형식 파운데이션 모델(TFM)은 라벨이 붙은 컨텍스트를 조건으로 문맥 내(in-context) 방식으로 예측하므로 스트림 학습을 위한 자연스러운 대안이 된다. 이는 과제를 모델을 어떻게 갱신할지에서 컨텍스트를 어떻게 관리할지로 전환시킨다. 우리는 컨텍스트 관리에 대한 세 가지 실용적 요구사항—최근 예시 보존, 불확실한 예시 유지, 중복 예시 제거—을 도출하는 미래 정보 관점을 제안한다. 우리는 이러한 요구사항을 엔트로피 게이트 입장(entropy-gated admission)과 중복 인식 퇴출(redundancy-aware eviction)을 갖춘 컨텍스트 관리 정책인 CURE(Context management via Uncertainty-aware admission and Redundancy aware Eviction)로 구현한다. 7개 스트림에서 CURE는 고전적 스트림 학습기 대비 최대 27.0% 상대 성능 향상을 보이며, 여러 TFM 백본에서 견고하고 다른 정책 변형 중 1위를 달성한다. 코드와 데이터셋은 https://github.com/morcellinus/CURE-ICML-FMSD 에서 이용할 수 있다.

원문 초록

Tabular stream learning requires predictions on sequentially arriving examples under distribution shift. While standard methods adapt by updating model states, tabular foundation models (TFMs) make predictions conditioned on a labeled context in an in-context manner, making them a natural alternative for stream learning. This shifts the challenge from how to update the model to how to manage the context. We propose a future information view that yields three practical requirements for context management: preserve recent examples, retain uncertain examples, and remove redundant examples. We instantiate these requirements as CURE (Context management via Uncertainty-aware admission and Redundancy aware Eviction), a context-managing policy with entropy-gated admission and redundancy-aware eviction. Across seven streams, CURE shows up to 27.0% relative improvement over classical stream learners, remains robust across multiple TFM backbones, and ranks first among other policy variants. Code and datasets are available at https://github.com/morcellinus/CURE-ICML-FMSD.

요약

표 형식 스트림 학습에서 테이블 파운데이션 모델(TFM)은 모델 상태 갱신 대신 제한된 라벨 컨텍스트를 문맥 내(in-context)로 관리해야 하며, 핵심 과제는 어떤 과거 예시를 유지할지 결정하는 것이다. 미래 정보 관점에서 최근성·불확실성·중복성을 반영한 CURE는 엔트로피 게이트 입장과 중복 인식 퇴출로 구현되었고, 7개 스트림에서 고전적 스트림 학습기 대비 최대 27.0% 상대 성능 향상과 여러 TFM 백본에서 정책 변형 중 1위를 달성했다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.18677v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13411v1cs.LG공통 태그 Uncertainty Quantification, In-Context Learning

시스템 식별을 위한 문맥 내 학습: 확률적 정식화, 긴 시퀀스 처리 및 벤치마크 검증

In-Context Learning for System Identification: Probabilistic Formulation, Long-Sequence Handling, and Benchmark Validation

전통적인 시스템 식별(system identification)은 일반적으로 두 단계로 이루어집니다. 먼저 학습(training) 데이터를 처리하여 관심 대상 시스템의 모델을 추정하고, 그 후 해당 모델을 사용하여 새로운 입력 쿼리에 대한 출력을 예측합니다. 이와 대조적으로, 최근의 문맥 내 학습(ICL) 접근 방식은 명시적인 모델 추정을 거치지 않고, 제로샷(zero-shot) 방식으로 학습 데이터와 쿼리 입력으로부터 직접 출력으로 매핑하는 메타 모델을 학습합니다. 이 방식은 대규모 합성 생성 데이터셋에서 오프라인으로 학습된 메타 모델을 활용하여 시스템 식별 알고리즘의 동작을 모사합니다. 본 연구에서는 시스템 식별을 위한 이러한 메타학습(meta-learning) 프레임워크를 세 가지 방향으로 발전시킵니다. 첫째, 트랜스포머(Transformer) 기반 인코더-디코더와 긴 학습 시퀀스 처리에 특화된 메커니즘을 결합하여 긴 시계(horizon)에 걸쳐 보정된(calibrated) 예측을 가능하게 하는 통합 확률적 메타 식별 아키텍처를 개발합니다. 둘째, 사전학습된 메타 모델이 고전적 시스템 식별을 위한 불확실성 인식 합성 데이터 생성기 역할을 수행하여, 실제 데이터가 부족할 때 매개변수 모델(parametric model)을 정규화하는 태스크 맞춤형 데이터를 제공할 수 있음을 보여줍니다. 셋째, 표준 비선형 시스템 식별 벤치마크와 도전적인 OOD(out-of-distribution) 시나리오에서 프레임워크를 체계적으로 평가하여, SOTA(state-of-the-art) 방법들과 견줄 만한 정확도 및 강력한 일반화 성능을 입증하며, 여기에는 입력 전용 적응만으로도 상당한 분포 변화를 처리하기에 충분한 사례들도 포함됩니다.

arXiv:2610.13764v1stat.ML공통 태그 Uncertainty Quantification, In-Context Learning

사전 데이터 적합 네트워크는 베이지안 추론을 얼마나 잘 상각하는가?

How Well Do Prior-Data Fitted Networks Amortize Bayesian Inference?

사전 데이터 적합 네트워크(PFN)는 합성 사전 분포의 베이지안 사후 예측 분포(PPD)를 근사하도록 학습되지만, 근사 품질에 대한 연구 결과는 놀라울 정도로 부족합니다. 경험적 위험 최소화 관점을 취하여, 본 연구는 PFN의 배포 오차를 사전 분포 오차, 컨텍스트 오차, 상각 오차로 분해하고, 현실적인 사전 분포 하에서 기준 PPD와 비교하여 상각 오차를 측정합니다. 실험 결과, PFN은 대체로 목표 PPD를 매우 잘 복원하는 것으로 나타났습니다. 그럼에도 불구하고, 사전 사전학습 분포 하의 희귀한 설정에서는 모델 크기를 스케일링할 때조차 잔여 상각 오차의 일부가 지속됨을 발견했습니다. 이는 독립적으로 사전학습된 PFN 간의 불일치로 나타나며, 추론 시 예측기에 대한 불확실성을 남깁니다. 이에 대한 해결책으로 여러 유형의 베이지안 모델 평균을 연구하였으며, 이를 통해 이러한 불확실성을 일관되게 줄이고 풀사이즈 TabICLv2 모델에 이르기까지 예측을 개선할 수 있음을 확인했습니다.

arXiv:2610.02687v2cs.AI공통 태그 Continual Learning, In-Context Learning

컨텍스트와 메모리의 분리: 토큰 효율적인 테스트 시간 지속 학습을 위한 구조화된 메모리

Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning

대규모 언어 모델(LLM)은 에이전트가 도메인 특화 지식을 통합하고 경험을 통해 적응해야 하는 기업, 과학, 의료 분야의 애플리케이션에 점점 더 많이 배포되고 있습니다. 컨텍스트 엔지니어링은 추론(inference) 시점에 제공되는 지침, 전략, 근거를 통해 모델 동작을 개선함으로써 가중치(weight) 업데이트의 실용적인 대안을 제시합니다. 그러나 온라인에서 컨텍스트를 적응시키는 과정은 일반적으로 많은 비용이 드는 시행착오를 수반하며, 쿼리가 독립적으로 처리되는 경우가 많아 유용한 경험이 다음으로 이어지지 못합니다. 메모리 시스템은 상호작용 전반에 걸쳐 정보를 보존하여 이러한 한계를 해결하지만, 공유된 컨텍스트에 정보를 지속적으로 덧붙이는 방식은 컨텍스트가 확장됨에 따라 토큰(token) 비용 증가, 컨텍스트 윈도우(context window) 한계, 성능 저하 문제에 직면합니다. 본 논문에서는 컨텍스트 최적화(optimization)에 대한 통합된 정식화를 도입하고, 에이전트 메모리 시스템 업데이트가 모델의 컨텍스트에 대한 최적화 업데이트 절차로 해석될 수 있음을 보여줍니다. 이러한 관점은 메모리 설계와 그 효율성을 연구하기 위한 원칙적인 프레임워크를 제공하고자 합니다. 이어서 재사용 가능한 전략을 축적, 정제, 조직화하고 연결하는 경량 그래프 기반 메모리인 GraphMemory를 제안합니다. 각 쿼리에 대해 GraphMemory는 관련 서브그래프만을 검색하여, 모델에 전체 메모리를 노출하지 않고도 온라인 컨텍스트 적응을 가능하게 합니다. 제한된 검색 조건 하에서 검색되는 메모리의 양은 처리되는 예시 수가 증가하더라도 일정하게 유지됩니다. 실험 결과, GraphMemory는 베이스라인 대비 약 81~85% 적은 메모리 구축 토큰을 사용하면서도 경쟁력 있는 다운스트림 성능을 달성함을 보여줍니다.

arXiv:2609.26951v1math.ST공통 태그 Uncertainty Quantification, Continual Learning

순차적 모델 학습에서의 롤링 컨포멀 예측

Rolling Conformal Prediction in Sequential Model Training

우리는 순차적 모델 학습(sequential model training) 환경을 위한 분포 무관(distribution-free) 예측 추론 방법인 롤링 컨포멀 예측(Rolling Conformal Prediction, rolling-CP)을 소개한다. 구체적으로, 데이터 스트림 $(X_1,Y_1),(X_2,Y_2),\dots$가 주어졌을 때, 각 시점 $n$에서 학습된 모델은 관측된 이력 $\{(X_i,Y_i)\}_{i<n}$에 의존할 수 있다. 이러한 설정은 대규모 데이터셋에 대한 단일 패스(one-pass) 학습, 그리고 배포 중 언어 모델의 지속적 미세조정 또는 테스트 시점 적응(test-time adaptation)을 포함한 현대의 순차적 학습에서 자연스럽게 나타난다. Rolling-CP는 먼저 새로 들어오는 각 관측값을 현재 예측기에 대해 보정(calibration)한 다음, 이를 이후의 학습에 편입시킨다(roll into). 이를 통해 데이터 분할이 필요하지 않게 된다. 놀랍게도, 시점 $n=1,2,\dots$의 모델들이 서로 완전히 다른 특성과 정확도 수준을 가질 수 있음에도 불구하고, 교환 가능(exchangeable) 데이터에 대해서는 안정성에 대한 어떠한 가정이나 모델 학습 과정에 대한 어떠한 제약 없이도 주변 커버리지(marginal coverage) 보장을 확립할 수 있으며, 이는 익숙한 보편적인 2배 인자 보장(목표 수준 $1-\alpha$ 대비 최악의 경우 $1-2\alpha$ 커버리지를 보장)의 형태를 띤다. i.i.d. 데이터 스트림의 경우, 시간에 대해 균등하게(uniformly) 성립하는 고확률 학습 조건부(training-conditional) 유효성을 추가로 증명하며, 안정성 조건 하에서는 커버리지 보장이 $1-\alpha$에 가까워지도록 더욱 정교해진다. 순차 회귀, 다중 클래스 SGD, 단일 패스 신경망 학습에 대한 수치 실험은 rolling-CP의 실용적 효과를 추가로 보여준다.

arXiv:2609.27244v1cs.LG공통 태그 Uncertainty Quantification, Continual Learning

온라인 적응을 위한 베이지안 신경망의 전체 공분산 스무딩

Full-Covariance Smoothing of Bayesian Neural Networks for Online Adaptation

신경망의 층은 상태 공간 모델의 시간 단계로 취급할 수 있으며, 이는 베이지안 학습을 스무딩 문제로 바꾼다. 순전파는 네트워크를 통해 가우시안 모멘트를 전파하고, 역방향 Rauch–Tung–Striebel 패스는 가중치 사후분포를 닫힌 형으로 갱신한다. 이러한 방법은 불확실성을 고려하여 각 관측치로부터 단일 패스로 학습하며, 그래디언트 기반 반복이나 replay 없이 수행되므로 온라인 적응과 데이터 효율적 학습에 잘 맞는다. 그러나 기존 스무딩 기반 방법은 활성화에 걸친 공분산이 대각에만 제한되어 뉴런 간 상관을 버린다. 우리는 네트워크의 비선형 활성화를 통한 전체 공분산 전파를 가능하게 하는 교차 공분산 항등식으로 이 한계를 극복한다. 각 층의 아핀 출력만 가우시안으로 근사하는 층당 한 단계 스무더를 유도하며, 이는 잡음이 있는 관측을 갖는 결정론적 시스템과 출력 통계로 기술되는 확률적 시스템 모두에 적용된다. 비정상 분류, 온라인 역학 학습, 비전-언어-행동 모델의 정책 적응에서 이 방법을 시연하였고, 다른 스무딩 기반 방법보다 일반적으로 더 정확함을 확인하였다.

arXiv:2607.24031v1cs.AI공통 태그 Uncertainty Quantification, Continual Learning

장기 뇌-기계 인터페이스를 위한 불확실성 기반 자기 주도 학습 기반 순환 적응-일반화 프레임워크

A Cyclic Adaptation-Generalization Framework with Uncertainty-Guided Self-Paced Learning for Long-Term Brain-Machine Interfaces

뇌-기계 인터페이스(BMI)는 뇌와 외부 장치를 연결하여 재활, 인간 성능 증강, 인간 중심 로봇공학에서 큰 잠재력을 지닌다. 그러나 침습적 BMI는 신경 드리프트(neural drift)로 인해 장기 배치에 있어 중대한 과제에 직면한다. 신경 드리프트는 시간이 지남에 따라 디코딩 성능을 저하시키고 빈번한 재보정을 필요로 한다. 신경 드리프트를 완화하기 위해 설계된 기존 방법들은 일반적으로 도메인 적응(DA) 또는 도메인 일반화(DG) 중 하나에만 의존하며, 신경 서브도메인에 걸친 세밀한 분포 변화를 포착하지 못하는 경우가 많아 성능이 제한된다. 이러한 한계를 극복하기 위해, 우리는 불확실성 기반 자기 주도 의사 라벨링(UnSPL) 메커니즘 하에서 목표 도메인 정제를 위해 DA와 DG를 시너지하는 강건한 프레임워크인 Uncertainty-guided Self-paced Cycling(UnSPC)를 제안한다. 도메인 간 서브도메인 신경 드리프트를 처리하기 위해 UnSPL은 노이즈에 강건한 순위 전략으로 신뢰할 수 있는 의사 라벨 샘플을 반복적으로 탐색하여 추가 미세조정을 수행하도록 제안된다. 이러한 고품질 샘플을 활용하여, 우리는 DA와 DG를 반복적 순환 내에서 통합하여 전역 및 서브도메인 드리프트를 점진적으로 완화하는 새로운 Cycling Adaptation and Generalization(CycAG) 전략을 도입한다. 이 순환 과정은 진화하는 목표 분포에 대한 효과적인 정렬을 가능하게 하면서 강건하고 전이 가능한 표현을 보존하여, 장기 신경 드리프트 하에서의 성능 저하를 완화한다. 다수의 신경 디코딩 데이터셋에 대한 광범위한 실험은 UnSPC의 효과와 강건성을 입증한다. 우리가 아는 한, 제안한 UnSPC는 의사 라벨링과 DA 및 DG를 순환적으로 통합한 최초의 방법으로, 안정적인 장기 BMI 제어를 향한 길을 열어준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.