시간축에 견고한 지속 학습 스파이킹 신경망을 위한 로컬 시간축 게이트
Local Timescale Gates for Timescale-Robust Continual Spiking Neural Networks
한국어 초록
스파이킹 신경망(spiking neural networks, SNN)은 뉴로모픽 하드웨어에서 에너지 효율적인 인공지능을 구현할 것으로 기대되지만, 특히 지속 학습(continual learning) 상황에서 빠른 적응과 장기 기억을 모두 요구하는 과제에는 어려움을 겪는다. 우리는 이중 시간 상수 동역학과 적응형 게이팅 메커니즘을 결합한 뉴런 모델인 로컬 시간축 게이팅(Local Timescale Gating, LT-Gate)을 제안한다. 각 스파이킹 뉴런은 빠른 시간축과 느린 시간축의 정보를 병렬로 추적하며, 학습된 게이트가 이들의 영향을 국소적으로 조절한다. 이 설계는 개별 뉴런이 느린 맥락 정보를 보존하면서도 빠른 신호에 반응할 수 있게 하여 안정성-소성 딜레마(stability-plasticity dilemma)를 해결한다. 우리는 추가로 생물학적 항상성(homeostasis)에서 영감을 받아 발화 활동을 안정화하는 분산 추적 정규화를 도입한다. 실험적으로 LT-Gate는 순차 학습 과제에서 정확도와 보존력을 크게 향상시킨다. 까다로운 시간적 분류 벤치마크에서 LT-Gate는 약 51%의 최종 정확도를 달성하며, 이는 최근의 헤비안(Hebbian) 지속 학습 기준선의 약 46%와 기존 SNN 방법들의 더 낮은 정확도에 비해 우수하다. 외부 리플레이(replay)나 고비용 직교화(orthogonalization)를 요구하는 접근법과 달리, LT-Gate는 국소 업데이트만으로 동작하며 뉴로모픽 하드웨어와 완전히 호환된다. 특히 LT-Gate는 온칩 학습을 위해 Intel의 Loihi 칩이 가진 특성(서로 다른 감쇠율을 갖는 다중 시냅스 트레이스)을 활용한다. 본 연구 결과는 다중 시간축 게이팅이 SNN의 지속 학습 성능을 크게 향상시킬 수 있음을 보여주며, 평생 학습(lifelong-learning) 과제에서 스파이킹 신경망과 기존 딥러닝 네트워크 간의 격차를 줄인다.
원문 초록
Spiking neural networks (SNNs) promise energy-efficient artificial intelligence on neuromorphic hardware but struggle with tasks requiring both fast adaptation and long-term memory, especially in continual learning. We propose Local Timescale Gating (LT-Gate), a neuron model that combines dual time-constant dynamics with an adaptive gating mechanism. Each spiking neuron tracks information on a fast and a slow timescale in parallel, and a learned gate locally adjusts their influence. This design enables individual neurons to preserve slow contextual information while responding to fast signals, addressing the stability-plasticity dilemma. We further introduce a variance-tracking regularization that stabilizes firing activity, inspired by biological homeostasis. Empirically, LT-Gate yields significantly improved accuracy and retention in sequential learning tasks: on a challenging temporal classification benchmark it achieves about 51 percent final accuracy, compared to about 46 percent for a recent Hebbian continual-learning baseline and lower for prior SNN methods. Unlike approaches that require external replay or expensive orthogonalizations, LT-Gate operates with local updates and is fully compatible with neuromorphic hardware. In particular, it leverages features of Intel's Loihi chip (multiple synaptic traces with different decay rates) for on-chip learning. Our results demonstrate that multi-timescale gating can substantially enhance continual learning in SNNs, narrowing the gap between spiking and conventional deep networks on lifelong-learning tasks.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
희소 분산 메모리를 위한 순위 기반 N-of-M 코드: 현대 뉴로모픽 아키텍처 대비 잡음 견고성에서 표현 효과와 학습 효과의 분리
Rank-Order N-of-M Codes for Sparse Distributed Memory: Disentangling Representation and Learning Effects in Noise Robustness Against Contemporary Neuromorphic Architectures
대규모 언어 모델(LLM)은 지속적 학습 시스템으로서 여전히 한계를 지니며, 이는 명시적 온라인 에피소드 메모리로서의 희소 분산 메모리(Sparse Distributed Memory, SDM)에 대한 관심을 새롭게 불러일으키고 있다. CALM(Nechesov and Ruponen, 2025)은 임계값-이진 인코더를 미해결 설계 문제로 지목한다. 본 논문은 대안으로서 순위 기반 N-of-M 인코딩(Furber et al., 2007)을 평가한다. 세 가지 기여를 제시한다. 첫째, 충실한 재구현을 통해 공개된 아키텍처를 검증하며, WheelSDM과 RankOrderSDM 간의 완전한 동등성(10개 시드 전체에서 코사인 유사도 1.0000)을 확인하고, 간섭 하에서 RDLIF 뉴런의 문서화된 발산을 재현한다. 둘째, 다중 시드 용량 실험에서 RankOrderSDM이 스케일된 구성의 포화 시점에서 StandardSDM을 13.4 퍼센트 포인트 앞서고, 공개된 아키텍처 규모에서는 0.8 퍼센트 포인트 앞서는 것을 보인다. 셋째, 비트 오류율(BER) 견고성 실험을 통해 표현 효과와 학습 효과를 분리하며, 큰 견고성 향상이 주로 순위 기반 인코딩과 MAX-Hebbian 학습의 상호작용에서 비롯되는 반면, 인코더 단독으로는 동일한 학습 조건 하에서 미미한 이점만 제공함을 보인다. GloVe-100 임베딩에 대한 실험은 실제 구조적 데이터에서 이 작지만 일관된 인코딩 이점을 확인하는 한편, 문장 임베딩은 낮은 메모리 부하에서 천장 효과를 나타낸다. 부가 분석에서는 이상적인 순위 기반 인코딩이 4비트 정밀도(precision)에서 SpikingMamba의 SI-LIF 뉴런에 비해 컴포넌트 수준 인코딩 에너지를 절반만 필요로 하지만, 디코더 비용이 전체 시스템 에너지를 지배함을 보인다. 이러한 결과는 원래 순위 기반 SDM 아키텍처의 어떤 구성 요소가 현대 메모리 증강 AI 시스템에 측정 가능한 이점을 제공하는지를 규명하며, CALM과 같은 아키텍처에 대한 실용적 지침을 제시한다.
에이전시 감지에서 작업 수행으로: 자기유발 크레딧이 최소 스파이킹 에이전트에서 지속적인 행동적 자아를 구축한다
From Detecting Agency to Doing Work: Self-Caused Credit Builds a Durable Behavioral Self in a Minimal Spiking Agent
자신과 세계를 구별할 수 있는 에이전트가 어떻게 그 구별에 의해 지속적으로 형성되는가? 최근 연구는 예측 시스템이 자신의 에이전시를 감지할 수 있음을 보여주지만(Ye, 2026), 에이전시 감지는 지속적이고 자기 형성된 행동을 설명하지 못한다. 우리는 에이전시 게이팅된 느린 크레딧 — 느린 매개변수 업데이트를 구동하는 결합 항 Own*Agency*Salience — 이 언로드 후 행동적 잔류를 생성함을 보인다: 스파이킹 기질(Nengo LIF/PES)에서, 학습된 자기보존 선택이 에피소드 버퍼 제거 후에도 유지되며(보존 비율 0.96, N=50), 느린 디코더를 리셋하거나 에이전시 게이트를 제거하면 붕괴된다. 에이전시 비교기를 재현하고 느린 크레딧 채널만을 토글함으로써, 우리는 명확한 분리를 발견한다: 동일한 에이전시 이득에서, 자기 크레딧이 느린 작업을 수행할 때만 지속적 행동이 발달한다(언로드 후 자기보존 1.00 대 0.00). 동일한 분리는 24차원 부분 관측 제어에서도 성립하며(0.74 대 0.00), 가소성 작업 분석은 유역 변형이 순 자기 크레딧 작업과 동일함을 보여준다. 외인성 간섭 하에 순차적으로 학습된 8개 태스크에 걸쳐, 곱셈적 거부권 또한 망각을 방지한다: 가산 풀링이 우연 수준의 재현율로 붕괴하고, 에이전시 없는 어블레이션이 우연 이하로 떨어지며, 에피소드/리플레이 기준선이 언로드 후 우연 수준에 머무는 상황에서도 이전 태스크를 유지한다(최종 언로드 후 정확도 0.88, 망각 0.13) — 리플레이 버퍼 없이, 태스크 경계 의존적 보호 메커니즘 없이(N=50). 우리는 지속적 잔류를 운영적 행동적 자아로 형식화하고, 느린 작업을 수행하는 자기유발 크레딧이 자아를 발달시키는 에이전트를 위한 필수 구성 요소임을 주장한다. 의식에 대한 어떠한 주장도 하지 않는다.
강화학습은 잊는다! 연속적 정책 최적화를 향하여
RL Forgets! Towards Continual Policy Optimization
금융 분야 음성에 지속 학습 정규화가 필요한가? 실적 발표 컨퍼런스 콜 ASR에서의 EWC 및 mini-KFAC 연구
Does Financial Speech Need Continual Learning Regularization? A Study of EWC and mini-KFAC on Earnings Call ASR
실적 발표 컨퍼런스 콜(Earnings call) 전사는 새로운 녹음 데이터를 통해 자동 음성 인식(ASR) 시스템을 업데이트하지만, 이전에 학습한 금융 음성 패턴에 대한 치명적 망각(catastrophic forgetting) 위험이 존재하는 현실적인 지속 학습(continual learning) 시나리오를 제시합니다. 일반 도메인 음성 코퍼스에서 학습된 Whisper-small을 Earnings22 벤치마크에 적응(adaptation)시킨 결과, 그 반대의 현상이 나타났습니다. 평가된 모든 방법론이 적응 과정에서 망각을 겪기보다는 동일한 도메인의 유보(held-out) 금융 음성 데이터에서 성능 향상을 보였습니다. 이러한 태스크 상호보완성(task complementarity)으로 인해 정규화(regularization)는 오히려 역효과를 낳게 됩니다. 그럼에도 불구하고 정규화가 필요한 상황에서는, 층(layer)별 mini-Kronecker-Factored Approximate Curvature(mini-KFAC) 근사가 표준 대각 탄성 가중치 통합(diagonal Elastic Weight Consolidation, EWC)보다 더 낮은 단어 오류율(WER)과 더 안정적인 최적화를 달성하는 것으로 나타났습니다. 본 연구 결과는 지속 학습 제약을 적용하기 전에 태스크 상호보완성을 먼저 평가해야 하며, 제약이 필요한 경우에는 대각 EWC보다 mini-KFAC EWC를 선호해야 함을 시사합니다.
LLM 지속 학습에서 특이벡터 선택을 통한 안정성-가소성 균형 유지
Stability-Plasticity Balance via Singular-Vector Selection in LLM Continual Learning
대규모 언어 모델(LLM)의 도메인 특화 지속 적응(continual adaptation)은 치명적 망각(catastrophic forgetting)을 유발할 위험이 있어, 새로운 능력을 습득하는 것과 사전학습(pretraining) 중에 학습된 능력을 보존하는 것 사이의 근본적인 긴장 관계를 형성합니다. 매개변수 효율적 미세조정(PEFT)은 학습 가능한 매개변수 수를 제한하여 이 문제를 완화하지만, 기존 방법들은 가소성(plasticity)을 어디에 할당하고 안정성(stability)을 어디에 보존해야 할지 결정하는 원칙적인 단위를 결여하고 있습니다. 본 연구에서는 이러한 절충(trade-off)을 관리하기 위한 자연스러운 단위로 특이벡터 채널(singular-vector channel)을 식별합니다. 각 채널은 입력-출력 변환을 나타내며, 이는 새로운 지식을 습득하기 위해 업데이트되거나 사전학습된 능력을 보존하기 위해 고정될 수 있습니다. 이러한 관점을 바탕으로, 특이벡터 채널을 선택적으로 업데이트하는 매개변수 효율적 지속 학습 방법인 SVC를 제안합니다. 미세조정 전에 SVC는 도메인 특화 데이터를 사용하여 각 채널의 적응 이점을 추정하고, 고정된 공개 일반 도메인 코퍼스를 망각 비용 추정을 위한 과거 활성화 프록시로만 사용합니다. 그런 다음 니(knee) 기반 비용 스크리닝, 파레토 프론트(Pareto-front) 필터링, 오츠 임계값 처리(Otsu thresholding)를 통해 이 점수들을 바탕으로 학습 가능한 채널을 적응적으로 선택합니다. 4개 LLM 제품군과 8개 다운스트림 태스크에 걸친 실험 결과는 SVC가 기존 PEFT 베이스라인 대비 강력한 다운스트림 성능을 달성하는 동시에 사전학습된 능력을 더 잘 보존함을 보여줍니다. 채널 스코어링 및 선택에 대한 추가 분석은 특이벡터 채널 수준에서의 선택적 가소성이 효과적인 지속적 LLM 적응을 가능하게 함을 입증합니다.
CLEAN: 구조적 격리를 통한 개념 공간 확장 하에서 심리측정학적으로 일관된 점진적 인지 진단
CLEAN: Psychometrically Consistent Incremental Cognitive Diagnosis under Concept-Space Expansion via Architectural Isolation
인지 진단(Cognitive Diagnosis, CD)은 지식 개념에 대한 학습자의 숙련도를 프로파일링하는 지능형 교육의 기본 과제입니다. 실제 학습 플랫폼에서는 새로 추가되는 문항들이 이전에 보지 못한 개념을 지속적으로 도입하므로, 기저의 개념 공간을 동적으로 확장해야 합니다. 그러나 기존의 점진적 인지 진단 모델들은 고정된 개념 공간을 가정하여 새 문항의 그래디언트(gradient)가 과거 경로를 덮어쓰고 치명적 망각(catastrophic forgetting)을 유발하도록 방치합니다. 더욱 심각한 점은 이러한 방법들이 과거 진단을 보존하기 위해 연성 제약 조건(soft constraints)에만 의존한다는 것입니다. 이러한 제약 조건은 인지 진단에서 심리측정학적 일관성(psychometric consistency)으로 알려진 요구 사항인, 점진적 업데이트 이후의 진단 불변성 조건을 만족하지 못할 수 있습니다. 따라서 우리는 개념 공간 확장을 지원하는 동시에 과거 진단의 점별 불변성(pointwise invariance)에 대한 구조적 보장을 제공하는 새로운 점진적 인지 진단 프레임워크인 CLEAN(Continual Learning with Expandable and Architecturally Isolated Networks)을 제안합니다. 구체적으로, CLEAN은 먼저 엄격한 위상학적 이분할 프로토콜을 도입하고, 과거 진단 함수를 동결하며, 결정론적 직교 열 마스킹을 적용하여 그래디언트 간섭을 차단합니다. 둘째로, 개념 확장을 수용하기 위해 미세 분산 초기화(micro-variance initialization)가 적용된 확장 가능한 풀 랭크(full-rank) 브랜치를 배치하여 새로운 개념을 학습합니다. 마지막으로, 이러한 구조적 설계가 구조적으로 불변성을 달성하는지 검증하기 위해 과거 특성의 섭동을 정량화하는 표현 표류(Representation Drift, RD)를 공식화합니다. 3개의 대규모 교육 데이터셋에 대한 광범위한 실험을 통해, CLEAN이 제로 RD를 달성하여 구조적 격리를 통해 이전 문항 지표를 정적 앵커와 동일하게 보존하는 동시에, 새 문항에 대해서도 강력한 연속 학습(continual learning) 베이스라인과 경쟁력 있거나 우수한 성능을 유지함을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.