arXiv:2611.24075v1 cs.AI

시계열 파운데이션 모델의 반복적 도메인 증분 적응

Recurrent Domain Incremental Adaptation of Time-Series Foundation Models

Sachith Abeywickrama, Peiliang Gong, Emadeldeen Eldele, Min Wu, Chau Yuen

제출 2026-11-19

한국어 초록

사전학습된 시계열 파운데이션 모델(TSFM)은 다운스트림 분류 과제에 강력한 표현을 제공한다. 그러나 변화하는 운영 조건에서 TSFM을 적응시키는 일은 여전히 어렵다. 모델은 새로 관측된 조건에서 성능을 높이면서도 이미 학습한 조건의 성능을 희생하지 않아야 하며, 흔히 소량의 레이블된 보정 집합만 주어지고 추론 시에는 운영 조건을 알지 못한다. 본 연구는 이러한 어려움에 중요한 기하학적 구조가 있음을 발견하였다. 운영 조건이 변화하면 TSFM의 임베딩 공간은 균일하게 이동하지 않으며, 일부 국소 영역은 크게 변하는 반면 다른 영역은 거의 변하지 않는다. 따라서 전역 적응은 이미 올바르게 분류된 임베딩까지 불필요하게 이동시킬 수 있다. 이를 해결하기 위해 새로운 방법인 PACT(Piecewise Adaptation via Chart Transport)를 제안한다. PACT는 고정된 소스 임베딩 공간을 국소 차트로 분할하고, 각 새로운 조건의 영향을 받는 영역에 대해 경량의 잔차 수송을 학습한다. 항등 경로는 항상 유지되며, 학습된 게이트가 각 입력에 대해 항등 경로와 누적된 수송 중에서 부드럽게 선택한다. 사전학습된 TSFM 인코더, 분류기 헤드, 이전에 학습된 수송은 고정된다. 도착하는 조건마다 레이블된 보정 데이터 5%만 사용하고 테스트 시 조건 식별 정보가 없는 상황에서, PACT는 네 가지 조건으로 구성된 베어링 결함 스트림 전반에서 평균 macro-F1을 0.95 이상으로 유지한다. 동질적인 과제와 레이블 공간에서는 공개 벤치마크 전반에서도 유사한 유지-적응 양상이 관찰된다. 코드는 https://github.com/Sachithx/PACT 에서 확인할 수 있다.

원문 초록

Pretrained Time-Series Foundation Models (TSFMs) provide strong representations for downstream classification tasks. Yet adapting a TSFM under changing operating conditions remains challenging. A model must improve on each newly observed condition without sacrificing conditions it has already learned, often from only a small labeled calibration set and without knowing the operating condition at inference time. We find that this difficulty has an important geometric structure. Under an operating-condition shift, the embedding space of a TSFM does not move uniformly: some local regions change substantially, while others remain nearly unchanged. Consequently, a global adaptation can unnecessarily move embeddings that were already correctly classified. To address this, we propose the novel PACT (Piecewise Adaptation via Chart Transport). PACT partitions the frozen source embedding space into local charts and learns lightweight residual transports for the regions affected by each new condition. An explicit identity path is always retained, and a learned gate softly selects among the identity and accumulated transports for each input. The pretrained TSFM encoder, classifier head, and previously learned transports remain fixed. With only 5% labeled calibration data per arriving condition and no condition identity at test time, PACT maintains an average macro-F1 above 0.95 across a four-condition bearing-fault stream. Under homogeneous tasks and label spaces, similar retention-adaptation behavior is observed across public benchmarks. Code is available at https://github.com/Sachithx/PACT.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24075v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.