PyTorchKR Papers

최신 논문

총 37편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2505.06417v2cs.NE

Sigma-Delta Neural Network Conversion on Loihi 2

학습된 인공 신경망(ANN)을 시그마-델타 신경망(SDNN)으로 변환하는 새로운 방법을 제안하며, Intel의 Loihi 2가 지원하는 그레이디드 스파이크(graded spike)를 활용해 시간적·공간적 희소성(temporal/spatial sparsity)을 동시에 활용한다. 드론 탐지 태스크에서 변환된 SDNN을 Loihi 2에 현장 배포하여 NVIDIA Jetson Xavier 대비 에너지-지연 곱(energy-delay product) 측면에서 유의미한 효율성 향상을 달성했다.

arXiv:2308.05810v4cs.CV

이미지 인식을 위한 스핀트로닉스: 데이터 기반 시뮬레이션을 통한 성능 벤치마킹

Spintronics for image recognition: performance benchmarking via data-driven simulations

스핀트로닉스(spintronics) 기반 소용돌이 스핀-토크 발진기(STVO)의 비선형 동역학을 활성화 함수로 활용하는 극한 학습 머신(ELM) 구조를 제안하며, 데이터 기반 Thiele 방정식 접근법(DD-TEA)으로 시뮬레이션하여 반복적인 실험 없이 하이퍼파라미터 탐색을 가능하게 했다. MNIST에서 최신 수준의 정확도를 달성했으며, STVO 동역학의 성능이 reLU·sigmoid 등 기존 소프트웨어 활성화 함수와 동등함을 입증했다.

arXiv:2607.00286v1cs.NE

Self-Organized Learning in Oscillatory Neural Networks with Memristive Signed Couplings

멤리스터 기반 억제성 결합(inhibitory coupling)을 활용한 진동 신경망(ONN)에서 자기조직화 학습을 구현하는 뉴로모픽 회로 설계를 제시하며, Wien bridge 오실레이터와 멤리스터를 결합해 양방향 유효 가중치(signed effective weight)를 실현했다. 회로 시뮬레이션을 통해 억제성 결합이 없는 네트워크는 반위상(anti-phase) 어트랙터를 유지하지 못해 완전 동기화로 붕괴됨을 입증하고, 억제성 결합이 있는 네트워크는 노이즈 입력 제거 및 자기연상 패턴 회상에 성공함을 보였다.

arXiv:2606.31789v1cs.NE

교차 개체 선제적 경고를 위한 공유 연상 메모리 기반 분산 계층적 시간 메모리

Distributed Hierarchical Temporal Memory with Shared Associative Memory for Cross-Entity Preemptive Warning

대규모 분산 시스템의 다변량 시계열 이상 탐지에서 기존 방법들이 각 데이터 스트림을 독립적으로 처리해 사후 대응에 머무른다는 한계를 극복하기 위해, 공유 연상 메모리(SAM)를 결합한 신경형태학적 프레임워크 D-HTM을 제안한다. D-HTM은 희소 분산 표현(SDR) 공간에서 이상 전조 패턴을 관련 에이전트 간에 공유함으로써, SMD·SMAP·MSL 벤치마크에서 경쟁력 있는 사후 탐지 성능을 유지하면서 이상 발생 평균 8.1 샘플 전에 선제적 경고를 발령하는 데 성공했다.

arXiv:2606.30676v1cs.NE

결합 중요도 점수화를 통한 에너지 효율적 스파이킹 신경망의 임계성 제약 반복 가지치기

Criticality-Constrained Iterative Pruning for Energy-Efficient Spiking Neural Networks via Combined Importance Scoring

뉴로모픽 하드웨어 배포를 위한 스파이킹 신경망(SNN) 가지치기에서 연속 완화 함정, 그라디언트 정체, 좀비 가중치 버그라는 세 가지 실패 모드를 규명하고, 가중치 크기와 대리 그래디언트 임계성을 결합한 임계성 제약 이차 가지치기(CQP)를 제안한다. MNIST에서 90% 희소성 시 95.6% 정확도를 달성하며, 가중치 희소화와 KL 발산 기반 시간적 절단을 결합해 70% 희소성에서 추론당 에너지를 73% 절감한다.

arXiv:2606.29099v1cs.NE

통합 복소수값 신경망: 이벤트 기반 뉴로모픽 학습을 위한 크기-위상 계산 모델

Unified Complex-valued Neural Network: A Magnitude-Phase Computational Model for Event-Driven Neuromorphic Learning

인공 신경망(ANN)은 정확한 연속값 표현을 제공하는 반면, 스파이킹 신경망(SNN)은 이벤트 기반 시간적 처리를 제공하지만, 값 인코딩과 타이밍 다이나믹스를 단일 계산 구조 내에서 학습해야 할 때 두 패러다임 모두 한계에 직면한다. 본 논문은 비대칭 복소수값 상태를 통해 연속 활성화와 위상 기반 이벤트 생성을 통합하는 새로운 신경 계산 모델인 통합 복소수값 뉴런(UCN, Unified Complex-valued Neuron) 기반 신경망을 소개한다. UCN에서 크기(magnitude)는 신호 강도를 인코딩하고, 위상(phase)은 내재적 시간 진화와 값 스파이크 방출을 제어한다. 먼저 역전파(BP)와 시간에 따른 역전파(BPTT)를 결합한 기초 학습 프레임워크를 개발하여 크기 및 위상 경로를 통합적으로 최적화한다. 계산 복잡도를 줄이기 위해 이벤트 기반 적응형 위상 학습(EAPL, event-driven adaptive phase learning) 규칙을 보다 효율적인 대안으로 도입한다. 제안된 모델은 객체 추적과 Lorenz 어트랙터 학습을 통해 평가된다. 실험 결과, UCN 기반 신경망(UCNN)은 뉴로모픽 및 엣지-AI 응용을 위한 희소 이벤트 기반 계산을 유지하면서 정확하고 안정적이며 해석 가능한 시공간 학습을 제공함을 보인다.

arXiv:2606.28907v1cs.NE

대규모 병렬 뉴로모픽 하드웨어에서 효율적인 그래프 탐색을 위한 확장성 로드맵

Road to scalability for efficient graph search on massively parallel neuromorphic hardware

가중 그래프에서의 최단 경로를 효율적으로 계산하는 것은 다양한 응용 분야를 가진 근본적인 문제다. 뉴로모픽(neuromorphic) 하드웨어 플랫폼은 대규모 병렬 및 효율적인 연산을 제공하여 병렬성 트레이드오프를 변화시킬 것으로 기대된다. 본 연구에서는 뉴로모픽 시스템에서 활용 가능한 로컬 연산과 네트워크 통신을 활용하도록 설계된 분산 최단 경로 알고리즘인 NEURO-MAPP(Neuromorphic-based Min-Add Parallel Propagation)을 제안한다. SpiNNaker 2 플랫폼에 최적화된 알고리즘 구현을 제공하고, 다양한 합성 그래프 및 실세계 그래프를 대상으로 성능을 평가한다. 평가 결과는 최신 CPU에서의 Dijkstra 알고리즘과 비교된다. NEURO-MAPP 구현은 대부분의 그래프 유형에서 실행 시간 측면의 확장성이 우수하며, 거의 모든 경우에서 최단 경로 쿼리당 에너지 소비가 CPU 구현보다 적음을 확인하였다. 이러한 결과는 희소하고 스파이크(spike) 기반 통신을 특징으로 하는 뉴로모픽 하드웨어가 그래프 탐색 및 관련 작업에서 확장 가능하고 에너지 효율적인 연산 플랫폼으로서의 잠재력을 지님을 보여준다.

arXiv:2606.28600v1cs.NE

적응형 심부 뇌 자극을 위한 뉴로모픽 에너지 인식 학습

Neuromorphic Energy-Aware Learning for Adaptive Deep Brain Stimulation

뉴로모픽 및 엣지 컴퓨팅 연구는 신경망 컨트롤러의 추론 비용 절감에 집중해 왔으나, 물리적 폐루프 시스템에서는 액추에이터가 효율적인 컨트롤러에 맞먹거나 이를 초과하는 에너지를 소비할 수 있다. 따라서 효율적인 컨트롤러는 필요조건이지만 충분조건은 아니며, 추론이 더 이상 지배적이지 않게 되면 액추에이터가 절감 대상이 되는 비용으로 부각된다. 본 논문에서는 액추에이터 에너지를 강화학습 보상에 직접 통합하는 접근법인 에너지 인식 학습(energy-aware learning)을 소개하고, 이를 파킨슨병 치료를 위한 폐루프 심부 뇌 자극(DBS)에 적용하여 시연한다. 생물물리학적 피질-기저핵-시상 회로 모델에서 훈련된 심층 스파이킹 Q-네트워크는, 지속적 DBS 대비 자극 전하량을 80.0% 줄이면서 병리적 알파-베타 진동을 45.2% 억제하는 방법을 학습한다. 희소성 제약 지식 증류를 통해 정책을 SynSense XyloAudio 3 뉴로모픽 프로세서에 0.52 mW 추론 전력으로 압축하며, 이는 기존 엣지 하드웨어 상의 동등한 인공 신경망 대비 추론당 에너지를 28.1배 낮춘다. 자극 에너지와 추론 효율을 공동 최적화함으로써, 본 프레임워크는 이식형 신경 조절 장치의 두 가지 주요 전력 수요를 동시에 해결한다.

arXiv:2511.08065v1cs.CV

I2E: Real-Time Image-to-Event Conversion for High-Performance Spiking Neural Networks

스파이킹 신경망(SNN) 학습을 가로막는 이벤트 스트림 데이터 부족을 해소하기 위해 I2E는 정적 이미지를 고품질 이벤트 스트림으로 실시간 변환하며, 병렬화된 합성곱으로 미세안구운동(microsaccadic eye movement)을 시뮬레이션해 기존 방법 대비 300배 이상 빠른 변환과 SNN 학습 시 온더플라이 데이터 증강을 가능하게 한다. I2E-ImageNet으로 학습한 SNN은 60.50%로 이벤트 기반 ImageNet 최고 정확도를 기록했고, 합성 I2E 데이터 사전학습 후 CIFAR10-DVS에서 파인튜닝한 sim-to-real 방식은 92.5% 정확도를 달성해 합성 이벤트 데이터가 실제 센서 데이터의 고충실도 대리가 될 수 있음을 보였다.

arXiv:2606.23532v1cs.ET

SkyWater 130 nm 기반 오픈소스 LFSR 기반 확률적 누설 적분-발화 뉴런: 설계, 확률적 특성 분석 및 발화율 코딩

An Open-Source LFSR-Based Stochastic Leaky Integrate-and-Fire Neuron in SkyWater 130 nm: Design, Stochastic Characterisation, and Rate Coding

SkyWater 130 nm 표준 셀 CMOS에 16비트 LFSR과 8항목 활성화 테이블, 누설 적분-발화(LIF) 코어로 구성된 오픈소스 확률적 스파이킹 뉴런을 설계·공개하고, 비트 정확 모델로 확률적 특성과 발화율(rate coding) 제어를 분석했습니다. 시뮬레이션 기준 약 10,600 제곱 마이크로미터 면적에서 50 MHz 타이밍을 만족하며 cocotb 검증을 통과했고, 입력 가중치·임계값·불응기로 출력 발화율을 단조적으로 조절할 수 있습니다.

arXiv:2606.22635v1cs.ET

신경형 실리콘 스위트의 설계 및 개발: PVT 센싱, 확률적 LIF 추론, 온칩 STDP 학습, 크로스바 프로그래밍

Design and Development of a Neuromorphic Silicon Suite: PVT Sensing, Stochastic LIF Inference, On-Chip STDP Learning, and Crossbar Programming

SkyWater 130 nm 표준 셀 CMOS 공정에서 PVT 센서, 확률적 leaky integrate-and-fire(LIF) 뉴런, 온칩 spike-timing-dependent plasticity(STDP) 학습 제어기, 멤리스터 크로스바 프로그래밍 제어기 네 IP 블록을 공통 SPI 레지스터 인터페이스로 통합한 엣지 신경형(morphic) 하드웨어 스위트를 설계·검증했다. 각 블록은 단일 타일·50 MHz 목표에 맞춰 99개 cocotb 테스트를 통과했고 Tiny Tapeout tapeout에 제출되었으며, 결과는 시뮬레이션과 구현 플로우 기반이며 제조 실리콘 측정은 보고되지 않았다.

arXiv:2606.22621v1cs.AR

온-칩 신경망을 위한 다중 레벨 저항성 시냅스: 준연속 전도도 상태를 갖는 멤리스티브 크로스바 패브릭의 물리 기반 설계

Multi-Level Resistive Synapses for On-Chip Neural Networks: A Physics-Based Design of a Memristive Crossbar Fabric with Quasi-Continuous Conductance States

저항성 통신을 기반으로, 이 논문은 밀집된 전도도 상태 스펙트럼을 지원하는 다중 레벨 멤리스티브 시냅스를 갖춘 온-칩 신경망의 물리 기반 설계를 제시한다. 이온 전송 물리학으로부터 도출하여 상태 변수 모델을 개발하고, 열 잡음·드리프트·양자화된 전도도 조건 하에서 저장 가능한 하위 레벨을 정량화한다. 이 소자들을 1T1R 크로스바 패브릭으로 조합하고, 배선 저항 하에서 아날로그 벡터-행렬 곱(VMM)의 선형대수를 도출하며, 부호 있는 가중치를 위한 차동 시냅스를 설계한다. 다층 파이프라인은 추론, 역전파, 가중치 업데이트를 아날로그 도메인에서 물리적으로 실행한다. 인-시츄 외적 학습 규칙, 전도도 격자 위에서의 이산화, 그리고 그에 따른 양자화 잡음을 도출한다. 에너지, 면적, 용량, 타일 간 모델을 제공하며, 이 기판이 대규모 언어 모델(LLM)에 이상적으로 적합함을 보인다. 본 설계는 가중치 이동을 제거함으로써 이진 ReRAM 및 기존 CMOS를 능가한다. 소재 스택(HfO_2 기반), FEOL/BEOL CMOS 파운드리 통합 플로우, 독립형 SPICE 모델, 완전한 멤리스티브-FPGA 뉴로모픽 시스템, 그리고 전류 모드 트랜스리니어 소프트맥스를 갖춘 인-메모리 셀프 어텐션 엔진을 상세히 기술한다. 마지막으로, 3진 BitNet 데이터패스는 고급 CPU 및 GPU 대비 수 자릿수 향상된 토큰당 효율을 예측한다. 그 결과는 고밀도 아날로그 인-메모리 신경망 프로세서를 위한 독립적인 하드웨어 네이티브 청사진이다.

arXiv:2606.19039v1cs.NE

스파이킹 신경망을 위한 적응형 음성-스파이크 인코딩

Adaptive Speech-to-Spike Encoding for Spiking Neural Networks

연속 음향 신호와 스파이킹 신경망(SNN)의 이산 처리 간 불일치를 줄이기 위해 R-LIF 백본과 엔드-투-엔드로 공동 학습되는 학습 가능한 잔차 음성-스파이크 인코더를 제안한다. Google Speech Commands v2에서 최대 94.97% 정확도를 달성했고 35k 매개변수 경량 모델도 89.8%를 기록했으며, 인코더는 신호 재구성보다 클래스 분리를 강화하는 작업 정렬 스파이크 표현을 학습한다.

arXiv:2606.17853v1cs.NE

스파이킹 뉴런의 생물학적 타당성 자동 평가를 위한 최적화 프레임워크

An Optimization Framework for Automated Assessment of Biological Plausibility of Spiking Neurons

생물학적 타당성(biological plausibility)은 뉴로모픽 컴퓨팅과 스파이킹 신경망(SNN)의 핵심 개념이지만, 정의가 일관되지 않고 정량화하기 어렵습니다. 본 연구에서는 스파이킹 뉴런 모델의 생물학적 타당성을 자동으로 평가하는 오픈 소스 프레임워크를 제안합니다. 우리의 방법은 이지케비치(Izhikevich)가 제안한 분류를 따르며, 생물학적 시스템에서 관찰되는 전형적인 뉴런 발화 패턴을 모델이 재현하는 능력을 평가하는 아이디어를 기반으로 합니다. 이러한 패턴을 목적 함수로 인코딩하고 그에 따라 모델 파라미터를 최적화함으로써, 본 프레임워크는 사전 해석적 모델링 없이 실증적 평가를 가능하게 합니다. 뉴런 모델을 블랙 박스로 취급함으로써, 동적 능력을 특성화하는 실용적이고 유연한 수단을 제공합니다. 우리는 여러 기존 모델과 이전에 탐색되지 않은 커스텀 모델에서 프레임워크의 효과를 입증합니다. Python으로 구현되었으며 PyTorch와 Norse 라이브러리와 호환되는 이 프레임워크는 머신러닝 환경에 맞춰져 있습니다. 이는 정확도, 에너지 효율성, 견고성, 적응성과 같은 네트워크 수준 성능 지표와 생물학적 타당성 간의 관계에 대한 체계적인 연구를 위한 시작점으로 의도되었습니다.

arXiv:2603.18104v5cs.AI

적응형 도메인 모델: 기하학적 및 뉴로모픽 AI를 위한 베이지안 진화, 웜 로테이션 및 원칙 기반 학습

Adaptive Domain Models: Bayesian Evolution, Warm Rotation, and Principled Training for Geometric and Neuromorphic AI

지배적인 AI 학습 방식은 IEEE-754 연산에 대한 역방향 자동 미분을 가정합니다. 추론 대비 학습의 메모리 오버헤드, 옵티마이저 복잡도, 그리고 학습 과정에서의 기하학적 속성 구조 열화는 이러한 연산 기반(substrate)이 초래하는 결과입니다. 본 논문은 세 가지 선행 연구 결과를 기반으로 대체 학습 아키텍처를 개발합니다: 설계 시점 검증 가능 속성으로서 스택 적격 그래디언트 할당과 정확한 quire 누적을 확립하는 차원 타입 시스템 및 결정론적 메모리 관리 프레임워크(Haynes 2026); 기하 대수 연산을 통해 타입 수준 불변성으로서 등급(grade) 보존을 확립하는 프로그램 하이퍼그래프(Haynes 2026); 그리고 기존에 추론 전용으로 간주되던 하드웨어 타겟에서도 포지트(posit) 연산을 효율적으로 구현 가능하게 만드는 b-posit 경계 체제 설계(Jonnalagadda et al. 2025)입니다. 이들의 결합을 통해 추론 풋프린트의 약 두 배로 제한되는 깊이 독립적 학습 메모리, 등급 보존 가중치 업데이트, 정확한 그래디언트 누적이 가능해지며, 이는 손실 함수 최적화 모델과 스파이크 타이밍 의존형 뉴로모픽 모델에 균일하게 적용됩니다. 우리는 베이지안 증류(Bayesian distillation)를 소개합니다. 이는 ADM 학습 체제를 통해 범용 모델의 잠재적 사전 구조를 추출하는 메커니즘으로, 도메인 특화 학습을 위한 데이터 부족 부트스트래핑 문제를 해결합니다. 배포를 위해 우리는 웜 로테이션(warm rotation)을 소개합니다. 이는 서비스 중단 없이 업데이트된 모델이 활성 추론 경로로 전환되는 운영 패턴으로, PHG 인증서와 서명된 버전 기록을 통해 정확성이 형식화됩니다. 그 결과는 범용 모델보다 작고 정밀하며, 지속적으로 적응 가능하고, 도메인의 물리적 구조에 대해 검증 가능하게 정확하며, 기존 모델로부터 초기화 가능한 도메인 특화 AI 시스템 부류가 탄생했습니다.

arXiv:2606.13516v1cs.NE

스트리밍 레이더 신호의 스펙트럼 추정을 위한 적응형 주파수 공명-발화 뉴런

Adaptive-Frequency Resonate-and-Fire Neurons for Spectral Estimation of Streaming Radar Signals

FMCW 레이더의 FFT 기반 방식이 가진 메모리 및 지연 문제를 해결하기 위해, 입력 신호의 주파수에 동적으로 적응하는 적응형 공명-발화(ARF) 뉴런 기반의 신경형 처리 방법을 제안한다. 샘플 단위로 작동하여 메모리 사용량을 추적 대상 수에 비례하게 최적화하고, 다중 목표 추적이 가능함을 입증했다.

arXiv:2606.11236v1cs.NE

A2SG: 깊은 스파이킹 신경망 학습을 위한 적응적·비대칭 대리 그래디언트

A2SG:Adaptive and Asymmetric Surrogate Gradients for Training Deep Spiking Neural Networks

깊은 스파이킹 신경망(SNN) 학습은 대리 그래디언트로 인한 날카로운 손실 경관과 시간적 불일치 때문에 여전히 어렵다. 이러한 어려움을 해결하기 위해, 우리는 적응적이고 비대칭적인 대리 그래디언트 A2SG라는 통합 프레임워크를 제안한다. 적응적 그래디언트는 시공간 적응을 위한 유효 구간을 조정하여 공간적 그래디언트 변동을 줄이고, 시간에 따른 그래디언트의 방향적 일관성을 유지한다. 비대칭 그래디언트는 막전위가 더 높은 뉴런에 더 큰 그래디언트를 할당함으로써 뉴런 역학을 반영하며, 우리는 이들이 대칭적 대리보다 더 낮은 변동을 산출함을 증명한다. 우리의 분석은 추가로 국소 그래디언트 변동과 손실 경관의 곡률 사이의 직접적인 연관을 확립하며, A2SG가 어떻게 더 평평한 최솟값으로의 수렴을 촉진하고 일반화를 향상시키는지에 대한 원칙적인 설명을 제공한다. 우리는 CNN 기반 및 트랜스포머 기반 SNN을 포함한 다양한 모델에 대해, 정적 및 뉴로모픽 데이터셋을 사용한 이미지 분류와 세그멘테이션(segmentation) 등 다양한 작업에 걸쳐 광범위한 실험을 수행한다. 결과는 A2SG가 정확도와 에너지 효율을 일관되게 향상시켜, 깊은 SNN 학습을 위한 범용적이고 신뢰할 수 있는 해법임을 보여준다. 우리의 코드는 https://github.com/KIST-NCL/A2SG.git에서 제공된다.