arXiv:2012.06789

Knowledge Capture and Replay for Continual Learning

Saisubramaniam Gopalakrishnan, Pranshu Ranjan Singh, Haytham Fayek, Savitha Ramasamy, ArulMurugan Ambikapathi

제출 2020-12-12

원문 초록

Deep neural networks have shown promise in several domains, and the learned data (task) specific information is implicitly stored in the network parameters. Extraction and utilization of encoded knowledge representations are vital when data is no longer available in the future, especially in a continual learning scenario. In this work, we introduce {\em flashcards}, which are visual representations that {\em capture} the encoded knowledge of a network as a recursive function of predefined random image patterns. In a continual learning scenario, flashcards help to prevent catastrophic forgetting and consolidating knowledge of all the previous tasks. Flashcards need to be constructed only before learning the subsequent task, and hence, independent of the number of tasks trained before. We demonstrate the efficacy of flashcards in capturing learned knowledge representation (as an alternative to the original dataset) and empirically validate on a variety of continual learning tasks: reconstruction, denoising, task-incremental learning, and new-instance learning classification, using several heterogeneous benchmark datasets. Experimental evidence indicates that: (i) flashcards as a replay strategy is { \em task agnostic}, (ii) performs better than generative replay, and (iii) is on par with episodic replay without additional memory overhead.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02283v2cs.LG공통 태그 Incremental Learning, Continual Learning

MLoRA: 상대 응답 부분공간 선택과 모멘텀 직교화를 통한 지속적 저랭크 적응

MLoRA:Continual Low-Rank Adaptation via Relative-Response Subspace Selection and Momentum Orthogonalization

저랭크 적응(LoRA)은 지속 학습을 위한 매개변수 효율적 접근법을 제공하지만, 명목상의 랭크가 유효 적응 용량의 손실을 가릴 수 있다. 우리는 \emph{스펙트럼 가소성 붕괴}를 규명한다. 순차적 적응 중 업데이트 에너지가 소수의 특이 모드에 집중되어, 사용 가능한 저랭크 공간의 상당 부분이 활용되지 못한다. 이는 간섭 회피만으로는 한계가 있음을 드러낸다. 과거 표현을 보호한다고 해서 남은 적응 용량이 새로운 과제에 반응하거나 효과적으로 활용된다는 보장은 없다. 이 문제를 해결하기 위해 우리는 용량 할당과 활용을 함께 제어하는 \texttt{MLoRA}를 제안한다. 첫째, 과거 화이트닝은 누적된 과거 응답에 비해 현재 과제 응답이 강한 입력 방향을 식별하여, 학습 중 고정되는 과제 적응형 기저를 만든다. 둘째, 모멘텀 업데이트의 근사 극분해(polar) 직교화는 선택된 공간 내의 스펙트럼 집중을 줄인다. 정규직교 기저는 인자 업데이트의 스펙트럼을 유도된 가중치 업데이트로 정확히 전달함으로써 이 두 메커니즘을 연결한다. 우리는 정확한 부분공간 선택에 대한 max-min 특성화를 수립하고, 제어된 단계 간 비등방성 하에서 누적 스펙트럼 경계를 도출한다. 다섯 개의 클래스 증분 벤치마크와 여덟 가지 증분 설정에서 \texttt{MuLoRA}는 보고된 16개 지표 중 15개에서 가장 높은 평균 정확도를 달성한다.

arXiv:2610.02278v1cs.LG공통 태그 Incremental Learning, Continual Learning

CLEAN: 구조적 격리를 통한 개념 공간 확장 하에서 심리측정학적으로 일관된 점진적 인지 진단

CLEAN: Psychometrically Consistent Incremental Cognitive Diagnosis under Concept-Space Expansion via Architectural Isolation

인지 진단(Cognitive Diagnosis, CD)은 지식 개념에 대한 학습자의 숙련도를 프로파일링하는 지능형 교육의 기본 과제입니다. 실제 학습 플랫폼에서는 새로 추가되는 문항들이 이전에 보지 못한 개념을 지속적으로 도입하므로, 기저의 개념 공간을 동적으로 확장해야 합니다. 그러나 기존의 점진적 인지 진단 모델들은 고정된 개념 공간을 가정하여 새 문항의 그래디언트(gradient)가 과거 경로를 덮어쓰고 치명적 망각(catastrophic forgetting)을 유발하도록 방치합니다. 더욱 심각한 점은 이러한 방법들이 과거 진단을 보존하기 위해 연성 제약 조건(soft constraints)에만 의존한다는 것입니다. 이러한 제약 조건은 인지 진단에서 심리측정학적 일관성(psychometric consistency)으로 알려진 요구 사항인, 점진적 업데이트 이후의 진단 불변성 조건을 만족하지 못할 수 있습니다. 따라서 우리는 개념 공간 확장을 지원하는 동시에 과거 진단의 점별 불변성(pointwise invariance)에 대한 구조적 보장을 제공하는 새로운 점진적 인지 진단 프레임워크인 CLEAN(Continual Learning with Expandable and Architecturally Isolated Networks)을 제안합니다. 구체적으로, CLEAN은 먼저 엄격한 위상학적 이분할 프로토콜을 도입하고, 과거 진단 함수를 동결하며, 결정론적 직교 열 마스킹을 적용하여 그래디언트 간섭을 차단합니다. 둘째로, 개념 확장을 수용하기 위해 미세 분산 초기화(micro-variance initialization)가 적용된 확장 가능한 풀 랭크(full-rank) 브랜치를 배치하여 새로운 개념을 학습합니다. 마지막으로, 이러한 구조적 설계가 구조적으로 불변성을 달성하는지 검증하기 위해 과거 특성의 섭동을 정량화하는 표현 표류(Representation Drift, RD)를 공식화합니다. 3개의 대규모 교육 데이터셋에 대한 광범위한 실험을 통해, CLEAN이 제로 RD를 달성하여 구조적 격리를 통해 이전 문항 지표를 정적 앵커와 동일하게 보존하는 동시에, 새 문항에 대해서도 강력한 연속 학습(continual learning) 베이스라인과 경쟁력 있거나 우수한 성능을 유지함을 입증합니다.

arXiv:2610.02661v1cs.LG공통 태그 Incremental Learning, Continual Learning

AIGS: 비정상 데이터 스트림에서의 온라인 표현 학습을 위한 적응형 점진적 게이팅 시스템

AIGS: Adaptive Incremental Gating System for Online Representation Learning in Non-Stationary Data Streams

사물 웹(WoT) 및 엣지 컴퓨팅 환경의 실시간 데이터 스트림은 잠재적인 체제 변화(regime changes)를 거치며 진화하는 경우가 많습니다. 엄격한 계산 제약 하의 온라인 표현 학습(online representation learning)에서 핵심 문제는 유용한 과거 지식을 유지하면서 개념 드리프트(concept drift)에 신속하게 반응하는 안정성-가소성 딜레마(stability-plasticity dilemma)를 해결하는 것입니다. 기존 방법들은 고정된 업데이트 일정이나 롤링 윈도우를 사용합니다. 그러나 이러한 방식은 급격한 변화가 발생할 때 매개변수 경직화(parameter ossification)를 겪고, 스트림이 안정적으로 유지될 때는 계산 자원을 낭비합니다. 본 논문에서는 경량 폐루프 상태 인지 적응 프레임워크인 적응형 점진적 게이팅 시스템(AIGS, Adaptive Incremental Gating System)을 제안합니다. AIGS는 최근 변동성에 대해 현재 재구성 오차를 정규화하는 내생적 잔차 피드백 메커니즘인 Shock Ratio를 도입합니다. 이 신호는 학습 가소성과 기억 유지 사이를 부드럽게 보간하는 연속 가소성 컨트롤러(Continuous Plasticity Controller)를 구동합니다. 표현 학습을 폐루프 제어 메커니즘으로 다룸으로써, AIGS는 치명적 망각(catastrophic forgetting)을 방지하고 지연 시간에 민감한 엣지 디바이스에 적합한 스텝당 엄격한 선형 복잡도 $\mathcal{O}\left(k\cdot d\right)$를 유지합니다. 교통 네트워크, 기상 시스템, 산업 인프라를 아우르는 실제 스마트 시티 동적 스트림에 대한 실험은 도메인에 따라 뚜렷한 이점을 보여줍니다. Electricity Transformer Temperature 데이터셋에서 AIGS는 점진적인 성능 저하 상황에서 8.31(ETTm1) 및 9.88(ETTm2) 스텝의 예방적 조기 경보 리드 타임을 달성합니다. Performance Measurement System 교통 데이터셋에서는 급격한 변화 이후 훨씬 빠른 변화 후 회복 속도를 보입니다. 노이즈가 매우 심한 Weather 데이터셋에서는 확률적 노이즈 과적합을 방지하면서 이상치 재현율을 향상시킵니다. 이러한 결과는 AIGS가 자원 제약이 있는 엣지 모니터링 시스템을 위한 실용적인 플러그 앤 플레이 어댑터임을 입증합니다.

arXiv:2607.22931v1cs.LG공통 태그 Incremental Learning, Continual Learning

롱테일 분포를 위한 스펙트럼 인식 해석적 클래스 증분 학습

Spectral-Aware Analytic Class-Incremental Learning for Long-Tailed Distributions

해석적 지속 학습(Analytic Continual Learning, ACL)은 그래디언트 기반 접근법에 대한 계산 효율적인 대안을 제공한다. 최근 ACL 방법은 재귀 최소자승(Recursive Least Squares, RLS)에 기반하며, 다른 대안들과 비교해 최첨단(state-of-the-art) 결과를 달성했다. 그러나 롱테일(long-tailed) 분포가 특징인 클래스 증분 학습(Class-Incremental Learning, CIL) 시나리오에서는 크게 부진한다. 자기상관(Gram) 행렬의 불량 조건화(ill-conditioning)는 RLS의 알려진 한계이지만, 우리는 클래스 불균형이 이 문제를 뚜렷한 스펙트럼 병리(spectral pathology)로 악화시킴을 보인다: "꼬리(tail)" 클래스는 심각한 스펙트럼 붕괴(spectral collapse)를 겪어, 그 부분공간(subspace)이 수치적으로 잡음과 구별할 수 없게 된다. 표준 릿지 회귀(Ridge Regression, $L_2$)는 등방성 정규화(isotropic regularization)를 적용하기 때문에 이를 효과적으로 해결하지 못한다 — 이는 머리(head) 클래스를 과도하게 축소하지 않고 꼬리를 안정화하기에 불충분한 균일한 페널티이다. 이를 해결하기 위해, 우리는 롱테일 학습을 스펙트럼 정규화 문제로 다루는 이론적으로 정당화된 프레임워크인 Geometry-Spectral Rectification(GSR)을 제안한다. 모든 고유값을 균일하게 페널티하는 표준 등방성 정규화(릿지)와 달리, GSR은 이방성(anisotropic) 스펙트럼 필터로 작동하여 꼬리 클래스의 붕괴된 고유값을 선택적으로 팽창(inflate)시킨다. 우리는 Gram 행렬의 붕괴된 꼬리 고유방향(eigen-direction)을 선택적으로 팽창시키는 구조화된, 데이터 의존적 스펙트럼 섭동 행렬 $Δ$를 구성한다. 이론적 분석은 GSR이 Gram 행렬의 안정 순위(stable rank)를 개선함을 보장하여 수치적 안정성을 확보함을 증명한다. 광범위한 실험은 GSR이 해석적 CIL에서 새로운 최첨단을 수립하며, 롱테일 설정에서 계산 효율성과 견고한 일반화(generalization) 사이의 우수한 트레이드오프를 제공함을 보여준다.

arXiv:2607.22994v1cs.CV공통 태그 Incremental Learning, Continual Learning

학습 없는 생성형 리플레이 기반 클래스 증분 학습에서 합성-실제 도메인 단축 경로 극복

Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning

클래스 증분 학습(CIL)은 모델이 치명적 망각(catastrophic forgetting)을 피하면서 지속적으로 새로운 지식을 습득해야 한다. 예시(exemplar) 리플레이는 효과적이지만 프라이버시와 저장 공간 측면에서 우려를 제기한다. 따라서 생성형 리플레이가 실현 가능한 대안으로 부상했으며, 추가 학습 없이 고정된 사전학습(pre-trained) 텍스트-이미지(T2I) 모델을 사용해 이전 클래스 데이터를 합성한다. 그러나 증분 학습 중 합성된 이전 클래스 데이터와 실제 새 클래스 데이터를 직접 혼합하면 성능이 크게 저하된다는 것을 관찰했다. 이 문제는 모델이 의미적 클래스 단서 대신 도메인 판별(discriminative) 특징에 의존하는 "도메인 단축 경로(domain shortcut)"에서 비롯된다. 이를 해결하기 위해 DREAM($\underline{\mathbf{D}}$omain-$\underline{\mathbf{R}}$egularized $\underline{\mathbf{E}}$xemplar-free $\underline{\mathbf{A}}$lignment $\underline{\mathbf{M}}$odel)을 제안한다. DREAM은 학습 없는 생성기로 이전 클래스 데이터를 합성하고, 부분공간(subspace) 정정(rectification)과 직교 투영(orthogonal projection)을 통해 도메인 단축 경로를 제거하며, 실제 데이터에 고정된(real-anchored) 프로토타입 정규화(prototype regularization)로 의미적 정렬(alignment)을 강화한다. 4개 데이터셋에 대한 광범위한 실험에서 DREAM은 기존 예시 없는 CIL 방법을 능가하며 최첨단(state-of-the-art) 성능을 달성한다. 소스 코드는 https://github.com/Light-ZhangTao/DREAM 에서 제공된다.

arXiv:2607.23981v1cs.CV공통 태그 Incremental Learning, Continual Learning

오픈 월드 객체 검출을 위한 멀티모달 의미-확률적 객체성

Multimodal Semantic-Probabilistic Objectness for Open World Object Detection

오픈 월드 객체 검출(OWOD)은 검출기가 알려진 범주를 인식하고, 보지 못한 범주의 이름 없는 객체를 발견하며, 새로 주석이 달린 클래스를 점진적으로 학습해야 한다. PROB는 디코더-쿼리 공간에서 클래스에 구애받지 않는 확률적 객체성(objectness)을 모델링하여 미지 객체 발견을 개선한다. 그러나 시각적 객체성만으로는 객체 같은 쿼리가 어려운 알려진 인스턴스, 보지 못한 범주의 객체, 또는 배경 잡음에 해당하는지 판별할 수 없어, 알려진-미지(known-unknown) 결정 경계가 모호해진다. 우리는 MSPO를 제안한다. 이는 PROB에 작업 인식(task-aware) 알려진 범주 언어 사전(prior)을 보강하는 경량 의미 보정(semantic calibration) 프레임워크로, 검출기 아키텍처와 점진적 학습 프로토콜은 그대로 유지한다. 현재 알려진 각 범주에 대해 MSPO는 범주 속성, 시각적 외형, 전형적인 장면, 기능적 용도를 포괄하는 확장 텍스트 설명을 구성하고, 고정(frozen) CLIP 텍스트 인코더로 이를 인코딩한다. 디코더 쿼리 특징은 동일한 의미 공간으로 투영되어, 현재 알려진 범주 의미로부터의 지지(support)를 추정한다. 이 의미적 증거는 PROB의 시각적 객체성과 융합되어, OWOD를 개방 어휘(open-vocabulary) 분류로 바꾸지 않고 알려진/미지 예측을 보정한다. 중요하게, MSPO는 미래 범주 이름을 절대 사용하지 않으며, 평가 동안 모든 보지 못한 범주는 이름 없는 상태로 유지된다. M-OWODB 및 S-OWODB에서의 실험은 MSPO가 강력한 PROB 기준선의 주요 집계 지표를 개선하면서 경쟁력 있는 미지 재현율을 유지함을 보여준다. 또한 초기 미지 혼동 지표를 개선하고 PASCAL VOC 최종 mAP를 최대 2.7 포인트 향상시킨다. 이러한 결과는 표준 OWOD 설정에서 알려진 범주 언어 의미가 확률적 객체성에 대한 효과적인 보정 신호를 제공함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.