arXiv:2405.12382

Stochastic Reservoir Computers

Peter J. Ehlers, Hendra I. Nurdin, Daniel Soh

제출 2024-05-20

원문 초록

Reservoir computing is a form of machine learning that utilizes nonlinear dynamical systems to perform complex tasks in a cost-effective manner when compared to typical neural networks. Many recent advancements in reservoir computing, in particular quantum reservoir computing, make use of reservoirs that are inherently stochastic. However, the theoretical justification for using these systems has not yet been well established. In this paper, we investigate the universality of stochastic reservoir computers, in which we use a stochastic system for reservoir computing using the probabilities of each reservoir state as the readout instead of the states themselves. In stochastic reservoir computing, the number of distinct states of the entire reservoir computer can potentially scale exponentially with the size of the reservoir hardware, offering the advantage of compact device size. We prove that classes of stochastic echo state networks, and therefore the class of all stochastic reservoir computers, are universal approximating classes. We also investigate the performance of two practical examples of stochastic reservoir computers in classification and chaotic time series prediction. While shot noise is a limiting factor in the performance of stochastic reservoir computing, we show significantly improved performance compared to a deterministic reservoir computer with similar hardware in cases where the effects of noise are small.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2505.17740v2cs.LG공통 태그 Time Series Prediction공식 코드 · Papers with Code

혼돈 시계열 예측을 위한 텐서 네트워크 접근법

A tensor network approach for chaotic time series prediction

혼돈 시계열(chaotic time series)을 정확하게 예측하는 것은 복잡한 도전 과제입니다. 뉴로모픽(neuromorphic)에서 영감을 받은 접근법인 리저버 컴퓨팅(reservoir computing)은 이 작업을 위한 강력한 도구로 등장했습니다. 이는 광범위한 매개변수 튜닝 없이 동적 시스템(dynamical systems)의 메모리와 비선형성을 활용합니다. 그러나 리저버 아키텍처(reservoir architecture)를 선택하고 최적화하는 것은 여전히 미해결 문제입니다. 차세대 리저버 컴퓨팅(Next-generation reservoir computing)은 절단된 볼테라 급수(truncated Volterra series)에 기반한 비선형 벡터 자기회귀(nonlinear vector autoregression)를 사용하여 이 문제를 단순화함으로써 하이퍼파라미터 복잡성을 줄입니다. 그럼에도 불구하고 후자는 최대 단항식 차수(maximum monomial degree)에 따라 매개변수의 지수적 성장 문제를 겪습니다. 텐서 네트워크(tensor network)는 다차원 배열을 저차원 구조로 분해하여 차원의 저주(curse of dimensionality)를 완화함으로써 이 문제에 대한 유망한 해결책을 제공합니다. 본 논문은 혼돈 시계열 예측을 위해 기존에 제안된 텐서 네트워크 모델의 적용을 탐구하고, 기존 에코 상태 네트워크(echo state networks)와 비교하여 정확도와 계산 효율성 측면에서의 장점을 입증합니다. 최첨단(state-of-the-art) 텐서 네트워크 접근법을 활용함으로써 텐서 네트워크와 리저버 컴퓨팅 연구 커뮤니티 간의 격차를 해소하고, 두 분야의 발전을 촉진할 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.