PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2510.08944v2cs.LG

변동성 인지 순환 신경망(VARNN): 시퀀스 회귀 모델링에서 시간적 편차 포착을 위한 잔차 메모리 모델

Variability Aware Recursive Neural Network (VARNN): A Residual-Memory Model for Capturing Temporal Deviation in Sequence Regression Modeling

실세계 시계열 회귀는 비정상성(non-stationarity), 이분산성(heteroscedasticity), 체제 변화(regime changes)를 수반하는 경우가 많으며, 이러한 환경에서는 최근의 예측 오차가 모델 예측과 관측값 간의 국소적 시간 불일치에 대한 구조화된 정보를 포함할 수 있습니다. 따라서 이러한 오차를 표현하고 재사용하는 방법을 학습하는 것은 이후 예측에 유용한 정보를 제공할 수 있습니다. 본 논문에서는 지도 시계열 회귀를 위한 잔차 인지 아키텍처인 변동성 인지 순환 신경망(Variability-Aware Recursive Neural Network, VARNN)을 소개합니다. VARNN은 최근의 예측 오차로부터 명시적인 잔차 메모리 상태를 학습하고, 이를 활용하여 후속 예측을 조건화합니다. 구체적으로 VARNN은 짧은 문맥에 걸쳐 스칼라 예측 혁신(innovation)을 학습된 비선형 벡터값 잔차 표현으로 매핑합니다. 에너지, 헬스케어, 환경 도메인에 걸친 9개 데이터셋 전반에서 VARNN은 비교 대상인 정적, 시차(lag) 기반 및 시퀀스 모델 베이스라인보다 더 낮은 테스트 MSE를 달성했습니다. 또한 목표 지향적 절제 연구(ablation study)를 통해 학습된 투영 잔차 메모리가 직접적인 스칼라 잔차 피드백보다 예측 정확도를 향상시킴을 보여주며, 예측 편차에 대한 학습된 비선형 표현의 이점을 뒷받침합니다.

arXiv:2609.27186v1cs.LG

산일 시스템을 위한 데이터 기반 이산 시간 딥 순환 신경망 기반 모델링

Data-driven discrete-time deep recurrent neural network-based modeling for dissipative systems

물리 인공지능(Physical AI)은 실세계의 동역학을 더 잘 이해하고 예측하며 제어하는 AI 시스템을 개발하는 데 기여하며 점점 더 많은 주목을 받고 있습니다. 이를 달성하기 위해서는 높은 예측 정확도를 달성할 뿐만 아니라 동역학 시스템의 근본적인 물리적 특성을 보존하는 AI 모델이 필요합니다. 본 논문에서는 구조적 가중치 제약과 전용 학습 알고리즘을 통해 안정성 및 에너지 산일(energy dissipation)과 관련된 핵심 특성인 산일성(dissipativity)을 명시적으로 강제하는 딥 이산 시간 산일 순환 신경망(DissipNet)을 제안합니다. 구조적 설계에 의해, 제안된 신경망은 고유한 안정성을 보존하면서 산일 동역학을 학습할 수 있으며, 이는 랴푸노프 이론(Lyapunov theory)을 사용하여 엄밀하게 분석됩니다. 지배 방정식을 학습 손실에 반영하지만 산일성이나 수동성(passivity)과 같은 내부 해석적 특성의 보존을 보장하지 않는 물리 정보 신경망(PINN)과 달리, 본 접근 방식은 모델 수준에서 안정성에 대한 명시적인 보장을 제공합니다. 우리는 여러 모델링 응용 사례를 통해 제안된 방법의 효과를 입증하고, 나이브 순환 신경망(RNN) 및 PINN 기반 모델과 성능을 비교합니다.

arXiv:2607.14321v1cs.CE

순환 신경망을 이용한 강자성 적층 코어 유한요소 시뮬레이션에서 히스테리시스와 와전류 고려

Accounting for Hysteresis and Eddy Currents in Finite Element Simulations of Ferromagnetic Laminated Cores using a Recurrent Neural Network

적층 코어 전기 기계의 유한요소 시뮬레이션에 히스테리시스와 와전류를 포함하는 것은 계산적으로 어렵다. 각 적분점과 모든 비선형 반복마다 적층 내부의 장을 해석하면, 히스테리시스를 무시한(anhysteretic) 시뮬레이션보다 계산 비용이 여러 차수 높아져, 이러한 접근법은 설계 적용에 비실용적이 된다. 반면, 자기 포화만을 고려하는 단순화 모델은 전기 기계의 토폴로지와 작동 조건이 복잡해질수록 점점 부적절해지고 있다. 이러한 맥락에서, 머신러닝 대리 모델링(surrogate modeling)은 복잡한 전자기 거동을 효율적이고 정확하게 근사할 수 있는 유망한 대안으로 떠올랐다. 본 논문에서는, 등방성 적층 코어에 대한 적층 코어 재료 모델의 대리 모델로 순환 신경망을 학습시키고, 이를 자기 벡터 퍼텐셜(magnetic vector potential) 공식화에 기반한 현실적인 2차원 자기역학(magnetodynamic) 유한요소 시뮬레이션에 통합한다. 제안 방법은 참조 적층 코어 모델과 매우 잘 일치하면서, 계산 비용을 히스테리시스를 무시한 시뮬레이션의 약 2배 수준으로 제한한다. 전기 기계 시뮬레이션에서 나타나는 자기장 시퀀스를 모방하도록 설계된 충분히 다양한 인공 생성 자기장 시퀀스로 순환 신경망을 학습함으로써, 제안 방법은 다양한 유한요소 시뮬레이션에 쉽게 적용할 수 있다. 또한, 학습된 대리 모델은 기존 계산 프레임워크에 쉽게 통합할 수 있는 독립형 구성 요소로 제공된다. https://gitlab.onelab.info/getdp/lamnet 에서 공개적으로 이용할 수 있다.

arXiv:2605.24709v2cs.LG

실시간 순환 학습을 활용한 부분 관측 가능성 환경에서의 스트리밍 강화학습

Streaming Reinforcement Learning under Partial Observability with Real-Time Recurrent Learning

부분 관측(partial observability) 환경에서 스트리밍 강화학습(Streaming RL)을 가능하게 하기 위해, 대각 순환 아키텍처인 Recurrent Trace Units(RTU)에 실시간 순환 학습(RTRL)을 결합하여 리플레이 버퍼 없이도 선형 시간·메모리 복잡도로 정확한 시간적 크레딧 할당을 구현한다. MemoryChain, POPGym, 마스킹된 MuJoCo 벤치마크에서 기존 스트리밍 TBPTT(1) 기준선이 실패하는 상황에서도 성능을 유지하며, 배치 PPO와 경쟁력 있는 결과를 달성한다.

arXiv:2607.03055v1cs.LG

SHiPPO: 이송된 다항식 투영을 활용한 순환 메모리

SHiPPO: Recurrent Memory with Transported Polynomial Projections

HiPPO의 고정 채널 좌표 한계를 극복하기 위해, SHiPPO(Sylvester HiPPO)는 온라인 다항식 투영 메모리를 이동하는 채널 프레임으로 이송하여 Sylvester 계수 동역학을 도출하는 새로운 순환 메모리 사전(prior)을 제안한다. Mamba 스타일의 선택적 SSM과 호환되는 스캔 효율적 실현을 도출하고, 제어된 진단 실험을 통해 이미 기록된 메모리에 대한 이송 메커니즘이 쓰기 랭크 증가와 독립적인 별개의 채널 상호작용 수단임을 실증한다.