PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.22662v1cs.LG

카오스 동역학계를 위한 LSTM 변형: Lorenz attractor에 대한 실증 연구

LSTM Variants for Chaotic Dynamical Systems: An Empirical Study on the Lorenz Attractor

Lorenz attractor와 같은 카오스 동역학계를 예측하는 것은 악명 높게 어렵다. 작은 수치 오차는 긴 자기회귀(autoregressive) 롤아웃 동안 기하급수적으로 증폭된다. 본 연구는 AI-DEEDS 2026 Chaotic Systems Challenge를 위해 7가지 순환 및 합성곱 아키텍처를 조사한다: vanilla LSTM, 가산적(additive) 어텐션이 있는 LSTM, Bidirectional LSTM(BiLSTM), Huber 손실로 학습한 BiLSTM, Temporal Convolutional Network(TCN), CNN front-end 뒤에 LSTM이 이어지는 구조, CNN front-end 뒤에 BiLSTM이 이어지는 구조. 모든 모델은 동일한 전처리, 시퀀스 길이, 롤아웃 절차를 공유하여 각 설계 선택의 기여를 분리한다. 챌린지는 예측을 0–100 척도로 채점하며, 높을수록 더 좋다. 리더보드 점수는 45.72에서 58.81 사이이며, Huber 손실로 학습한 BiLSTM이 가장 강한 구성이다. 두 가지 발견이 두드러진다: (i) 단방향 기준선에 가산적 어텐션을 추가하면 성능이 10점 이상 저하되었고, (ii) LSTM 또는 BiLSTM 앞에 CNN front-end를 붙이는 것은 도움이 되지 않았고 점수를 약간 떨어뜨렸다. 쌍(pair)별 RMSE 측정은 BiLSTM 계열이 더 어려운 쌍(6–7)에서 더 잘 일반화함을 확인하며, LSTM + Attention 모델은 해당 구간에서 붕괴한다(6번 쌍에서 RMSE 최대 8.94). 카오스 영역에서 양방향 맥락과 견고한(robust) 손실이 왜 도움이 되는 반면, 어텐션과 CNN front-end가 이 설정에서 실패하는 이유를 논의한다.