A Hybrid Active-Passive Approach to Imbalanced Nonstationary Data Stream Classification
원문 초록
In real-world applications, the process generating the data might suffer from nonstationary effects (e.g., due to seasonality, faults affecting sensors or actuators, and changes in the users' behaviour). These changes, often called concept drift, might induce severe (potentially catastrophic) impacts on trained learning models that become obsolete over time, and inadequate to solve the task at hand. Learning in presence of concept drift aims at designing machine and deep learning models that are able to track and adapt to concept drift. Typically, techniques to handle concept drift are either active or passive, and traditionally, these have been considered to be mutually exclusive. Active techniques use an explicit drift detection mechanism, and re-train the learning algorithm when concept drift is detected. Passive techniques use an implicit method to deal with drift, and continually update the model using incremental learning. Differently from what present in the literature, we propose a hybrid alternative which merges the two approaches, hence, leveraging on their advantages. The proposed method called Hybrid-Adaptive REBAlancing (HAREBA) significantly outperforms strong baselines and state-of-the-art methods in terms of learning quality and speed; we experiment how it is effective under severe class imbalance levels too.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
연속 학습을 위한 Soft-TransFormers
Soft-TransFormers for Continual Learning
잘 초기화된 복권 티켓 가설(Well-initialized Lottery Ticket Hypothesis, WLTH)에서 영감을 받아, 우리는 Soft-TransFormers(Soft-TF)를 제안한다. 이는 고정된 사전학습 트랜스포머를 선택된 셀프 어텐션(self-attention) 레이어의 query, key, value, output 투영(projection)에 대한 실수값 곱셈 마스크로 구성된 과제별 소프트 서브네트워크를 통해 적응시키는 연속 학습(continual learning) 프레임워크이다. 마스크는 1로 초기화되므로 최적화는 정확히 사전학습 해법에서 시작하며, 마스크 공간 경사하강법은 본질적으로 백본의 지배적 경로를 조절하는 방향으로 편향된다. 우리는 표준 볼록-리ipschitz 가정 하에서, 수렴 속도와 마스크만 사용하는 미세조정의 매개변수 편향(drift) 모두가 사전학습 가중치에서 과제 최적 구성까지의 거리에 의해 제어됨을 증명한다. 이러한 제한된 편향은 두 가지 성질을 만든다. 백본과 과제별 마스크가 덮어쓰이지 않으므로 망각은 구조적으로 제거된다. 또한 모든 과제 서브네트워크가 공유 사전학습 해법 근처에 머물기 때문에, 잘못된 마스크라도 거의 범용적인 함수에 가까운 함수를 평가하므로 과제 추론 오류는 대체로 무해하며, 클래스 증분(class-incremental) 정확도는 과제 추론 신뢰성과 분리된다. 플러그인으로 Soft-TF는 L2P, DualPrompt, HiDe-Prompt, NoRGa와 결합되며, 과제 키 매칭, 엔트로피-그래디언트 기준, 또는 학습된 과제 식별 분류기로 마스크를 선택한다. Split-CIFAR100, Split-ImageNet-R, CUB-200, 5-Datasets 등 클래스 증분 학습 벤치마크에서 Soft-TF는 유사한 학습 가능 매개변수 예산에서 프롬프트 기반, 어댑터 기반, LoRA 스타일 기준선들을 일관되게 능가하면서, 수정되지 않은 백본과 동일한 추론 비용을 유지한다.
Addressing Imbalanced Domain-Incremental Learning through Dual-Balance Collaborative Experts
Lite-RVFL: A Lightweight Random Vector Functional-Link Neural Network for Learning Under Concept Drift
CL-LoRA: Continual Low-Rank Adaptation for Rehearsal-Free Class-Incremental Learning
Hypergraph Tversky-Aware Domain Incremental Learning for Brain Tumor Segmentation with Missing Modalities
Privacy-Aware Lifelong Learning
토론
이 논문과 연결된 포럼 글이 아직 없습니다.