PyTorchKR Papers

최신 논문

총 12편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.01819v2eess.SY

쿠프만 연산자 이론: 기초, 제어 및 응용

Koopman operator theory: fundamentals, control, and applications

쿠프만 연산자(Koopman operator)는 매우 복잡한 동적 시스템에 대한 대역적 선형 표현을 제공할 수 있다는 점에서 상당한 주목을 받아왔습니다. 이 연산자는 실수 또는 복소수 값을 갖는 관측 가능 함수(observable function)라는 관점을 통해 비선형 동역학을 선형적인 방식으로 기술합니다. 확장 동적 모드 분해(EDMD), 커널(kernel) EDMD 및 머신러닝 기법과 같은 데이터 기반 기술을 활용하여 유한 데이터 오차 한계가 수반된 유한 차원 근사를 생성할 수 있습니다. 본 튜토리얼 논문에서는 쿠프만 연산자 이론과 시스템 및 제어 분야에서의 활용에 대한 간결한 입문을 제공합니다. 특히 데이터 기반 대리 모델, 입력이 존재하는 시스템으로의 확장, 쿠프만 연산자 이론을 활용한 제어기 설계에 초점을 맞춥니다. 아울러 핵심 기법인 EDMD와 쿠프만 MPC를 시연합니다. 이를 위해 관심 있는 독자가 시스템 및 제어 분야에서의 쿠프만 연산자를 단계별로 직접 경험해 볼 수 있도록 GitHub 소스 코드가 포함된 시뮬레이션 연구를 함께 제공합니다.

arXiv:2609.32652v2cs.AI

기하학 기반 소프트 상태 추상화의 예측 한계 및 쿱만 폐포

Prediction Limits and Koopman Closure of Geometry-Induced Soft State Abstractions

소프트 상태 표현(soft state representation)은 각 상태에 합이 1인 음이 아닌 클래스 가중치 벡터를 할당합니다. 본 연구에서는 이러한 가중치의 구성과 상태 동역학이 선형 예측의 정확도를 어떻게 공동으로 결정하는지 조사합니다. 고정된 임의의 가측 표현(measurable representation)에 대해, 지정된 스펙트럼 노름(spectral norm) 한계를 가진 행렬들 중 모집단 최소 평균 제곱근 예측 오차에 대한 유한 표본 신뢰 하한을 유도합니다. 이 한계는 각 참조 클래스 내 후속 좌표의 변동과 소프트 입력이 제공할 수 있는 개선 정도를 비교합니다. 또한 예측 행렬을 적합하지 않고도 독립적인 평가 쌍으로부터 계산됩니다. 선택된 허용 오차를 초과하는 한계는 해당 행렬 클래스 전체에 대해 그 허용 오차를 배제하며, 0인 한계는 결론을 내릴 수 없음을 의미합니다. 커널 아핀 헐 머신(Kernel Affine Hull Machines)을 사용하여 구성된 좌표의 경우, 재구성 점수 마진이 참조 라벨과의 불일치를 제어하며 예측 오차 한계에 반영됩니다. 정확한 결정론적 선형 진화 하에서, 잉여 계수 벡터를 고려하여 쿱만(Koopman) 및 재생핵 힐베르트 공간(RKHS) 수반 해석도 확립합니다. 4개 상태 연구에서는 보고된 117,000개의 복제 데이터셋에 걸쳐 신뢰 하한을 해석적으로 알려진 최적값과 비교합니다. 그런 다음 파일럿 데이터에서 선택된 반데르폴(Van der Pol) 표현을 두 가지 전이 법칙 각각에 대해 32개의 독립적인 데이터셋에서 평가합니다. 보고된 한계는 적합된 행렬 노름에서는 양수이지만, 더 큰 노름 한계에서는 0이 될 수 있습니다. 추가적인 예측 연구를 통해 좌표 변동, 공통 예측 목표, 장기 시계(long-horizon) 오차를 검토합니다. 이러한 결과는 재구성 클래스와의 일치도, 달성 가능한 예측 정확도, 정확한 연산자 폐포(operator closure)를 구별합니다.

arXiv:2607.22399v1stat.ML

유한 궤적로부터 에르고딕 동역학 시스템 학습

Learning Ergodic Dynamical Systems from a Finite Trajectory

우리는 에르고딕(ergodic) 확률적 동역학 시스템의 단일 유한 궤적로부터 학습하는 문제를 고려한다. 더 구체적으로, 시간 동질(time-homogeneous) 마르코프(Markov) 과정을 정의하는 이산 시간 자율 확률 시스템을 연구한다. 먼저 비선형 최소자승법(nonlinear least squares)으로 최적 1-단계 예측 함수를 추정하고, 과정의 불변 측도(invariant measure)에 대해 측정된 높은 확률 보장(high-probability guarantees)을 도출한다. 이러한 결과는 궤적 데이터의 비독립적·비동일분포적 특성이 고전적 통계적 학습 분석을 어떻게 수정하는지를 명시적으로 보여준다. 그런 다음 이 프레임워크를 고차 시스템과 유한 상태 공간으로 확장한다. 마지막으로, 동일한 최소자승법과 농도(concentration) 논증이 쿠프만 연산자(Koopman operator) 학습으로 자연스럽게 확장됨을 보인다. 우리의 접근법은 통계적 학습 이론과 마르코프 사슬에 대한 정량적 에르고딕 이론의 도구를 결합한다. 특히, 균일 기하학적 에르고딕(uniformly geometrically ergodic) 마르코프 사슬의 힐베르트 공간 값 가법 함수(additive functional)에 대한 농도 부등식(concentration inequality)에 의존한다.

arXiv:2409.17340v2cs.RO

EMG 센싱을 통한 Koopman 기반 그립력 예측

Koopman-driven grip force prediction through EMG sensing

뇌졸중이나 다발성 경화증과 같은 질환으로 인한 손 기능 상실은 일상 활동에 상당한 영향을 미친다. 로봇 재활은 손 기능 회복을 위한 도구를 제공하며, 표면 근전도(sEMG)에 기반한 새로운 방법들은 사용자의 상태에 따라 장치의 힘 출력을 조절할 수 있게 하여 재활 결과를 개선한다. 본 연구는 단일 sEMG 센서 쌍을 사용하여 medium wrap grasp(중간 감싸기 파지) 중 정확한 힘 추정을 달성하는 것을 목표로 하며, 정밀한 예측을 위해 센서 요구량이 증가하는 문제를 해결한다. 13명의 피험자에 대해 두 가지 전완 위치에서 sEMG를 측정하였으며, 손 다이나모미터(hand dynamometer)로 결과를 검증하였다. 유연한 신호 처리 단계를 수립하여, 처리된 sEMG 신호(의미 있는 근육 활동을 나타냄)와 그립력 사이에서 높은 피크 상호 상관을 얻었다. 이후 민감도 분석(sensitivity analysis)을 통해 영향력 있는 파라미터를 식별하였다. 새로운 데이터 기반 Koopman 연산자 이론 기반 접근법과 문제 특화 데이터 리프팅(data lifting) 기법을 활용하여, 처리된 sEMG 신호로부터 그립력을 추정하고 단기 예측하는 방법론을 고안하였다. 추정된 그립력에 대해 가중 평균 절대 백분율 오차(wMAPE) 약 5.5%를 달성하였으며, 0.5초 예측 구간(prediction horizon)의 예측에서는 wMAPE 약 17.9%를 얻었다. 이 방법론은 감지 위치가 오차 지표에 미치는 영향이 유의미하지 않아 정밀한 전극 배치에 대해 견고함이 입증되었다. 이 알고리즘은 매우 빠르게 실행되어, 0.5초 분량의 sEMG 신호 배치를 처리·추정·예측하는 데 약 30ms만 소요되므로 실시간 구현을 가능하게 한다.

arXiv:2607.12243v1cs.LG

클러스터 가중 EDMD

Cluster-Weighted EDMD

확장 동적 모드 분해(EDMD)는 데이터로부터 Koopman 연산자를 근사하지만, 상태 공간의 서로 다른 영역이 서로 다른 국소 동역학을 보일 때 단일 전역 연산자는 비효율적이다. 우리는 소프트 위상공간 분할과 클러스터별 EDMD 연산자를 공동으로 학습하는 Cluster-Weighted EDMD(CW-EDMD)를 제안한다. 그 기대-최대화(EM) 목적 함수는 기하적 근접성과 예측 잔차를 모두 기반으로 각 전이를 할당하여, 클러스터가 데이터가 밀집된 곳이 아니라 국소 Koopman 모델이 정확한 곳에 특화되도록 한다. Lorenz, 감쇠 진자, Duffing 시스템에서 36가지 설정과 10개 시드에 걸쳐 CW-EDMD는 동일 차수 EDMD보다 1-step 예측과 5s 롤아웃 예측에서 성능을 개선한다. 288회의 쌍별 비교에서 258건에서 유의미한 오차 감소, 4건에서 증가, 26건에서 차이 없음이 관찰되었다. 1-step 오차의 중앙값 감소율은 각각 진자, Duffing, Lorenz에서 57배, 2.7배, 12배이다.

arXiv:2607.11344v1math.OC

쿠프만 연산자 회귀를 이용한 스위칭 비선형 시스템 제어 학습

Learning to control switching nonlinear systems with Koopman operator regression

이 연구에서는 유한 행동 공간을 가진 비선형 시스템의 식별 및 제어 문제를 다룬다. 알려지지 않은 동역학은 재생 커널 힐베르트 공간에서의 쿠프만 연산자 회귀를 통해 유한 샘플로부터 추정되며, 제어 변수의 값에 의해 스위치가 결정되는 선형 스위칭 예측 모델을 산출한다. 폐루프 제어를 수행하기 위해, 학습된 동역학은 시변 단계 비용을 가진 무한 수평 최적 제어 문제에 활용되며, 이는 모델 예측 제어(MPC)를 통해 해결된다. 이론적 분석에서는 쿠프만 동역학 근사에 대한 학습 수렴율을 도출한다. 또한 적절한 가정 하에, 정확한 쿠프만 동역학의 경우와 학습된 동역학의 경우 모두에서 모델 예측 제어 전략의 준최적성(sub-optimality)을 정량화한다. 더핑 진동자(Duffing oscillator)에 대한 수치 시뮬레이션이 이론적 결과를 뒷받침한다.

arXiv:2607.08978v1cs.LG

IoT 시스템에서 다변량 시계열 이상 탐지를 위한 연합 저랭크 쿠프만 학습

Federated Low-Rank Koopman Learning for Multivariate Time-Series Anomaly Detection in IoT Systems

분산 IoT 시스템은 물리적 자산, 서버, 임베디드 센싱 플랫폼을 모니터링하기 위해 다변량 시계열 스트림을 생성한다. 비정상적인 시간적 동작을 탐지하는 것은 결함 진단, 예지 정비, 보안에 있어 매우 중요하다. 그러나 실제 IoT 이상 탐지는 분산되고 비독립동일분포(non-IID)인 데이터, 제한된 대역폭, 그리고 엣지 디바이스의 제약된 연산 및 메모리로 인해 어려움을 겪는다. 본 논문은 분산 IoT 다변량 시계열을 위한 자원 효율적인 연합 쿠프만 이상 탐지 프레임워크인 FedKAD를 제안한다. 대규모 신경망 모델의 학습과 통신이 필요한 딥러닝 기반 이상 탐지기와 달리, FedKAD는 경량 슬라이딩 윈도우 쿠프만 표현을 통해 정상 시간적 역학을 학습한다. 연합 학습은 저랭크 합의 문제로 정식화되며, 원시 센서 스트림과 로컬 축소 역학은 디바이스에 유지되고 소형 부분공간 변수만이 서버와 교환된다. 직교정규성 제약 하에서 공유 표현을 최적화하기 위해 연합 Stiefel-ADMM 알고리즘을 개발하고, 부분 클라이언트 참여 하에서의 수렴 및 정류성 분석을 제공한다. 추론 시, 각 클라이언트는 관측된 미래 궤적과 학습된 쿠프만 역학 간의 예측 잔차를 측정하여 로컬에서 이상을 탐지한다. 널리 사용되는 네 개의 다변량 시계열 이상 탐지 벤치마크에 대한 실험에서 FedKAD는 연합 딥러닝 기준선 대비 탐지 성능을 유지하거나 향상시키는 것으로 나타났다. IoT 배포 관점에서 더욱 중요한 점은, FedKAD가 신경망 기준선 대비 최대 $2.1\times10^3$배 빠른 학습, $80\times$ 낮은 통신량, $79\times$ 낮은 추론 지연을 제공함으로써 자원이 제한된 엣지 디바이스에 대한 적합성을 확인했다는 것이다.

arXiv:2410.23467v3cs.LG공식 코드 · Papers with Code

쿠프만 기반 순환 신경망

Koopman-informed recurrent neural networks

쿠프만 연산자 이론(Koopman operator theory)과 랜덤 특징 네트워크를 결합하여 역전파 없이 순환 신경망(RNN)의 가중치를 구성하는 Koopman-informed RNN(KIRNN)을 제안한다. 은닉층 파라미터를 무작위로 샘플링하고 외부 가중치를 확장 동적 모드 분해(extended dynamic mode decomposition)로 구성함으로써, 혼돈 동역학 시스템 예측 및 실세계 데이터 실험에서 기존 그라디언트 기반 방법과 유사한 예측 정확도를 유지하면서 학습 시간을 크게 단축한다.

arXiv:2606.19303v1cs.LG

P-K-GCN: 딥 시공간 초해상도를 위한 물리 기반 증강 Koopman 향상 그래프 합성곱 네트워크

P-K-GCN: Physics-augmented Koopman-enhanced Graph Convolutional Network for Deep Spatiotemporal Super-resolution

시공간 역학의 고충실도 시뮬레이션은 계산 비용이 과도하여, 거친 입도의 입력으로부터 고해상도 데이터를 재구성할 수 있는 효율적인 초해상도 기술이 필요합니다. 전통적인 데이터 기반 방법은 종종 물리적 제약이 부족하며, 단순한 물리 정보 기반 학습은 불규칙한 공간 기하학적 구조와 복잡하게 진화하는 시간적 역학을 다루는 데 어려움을 겪습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 불규칙한 기하학적 구조에서의 시공간 초해상도를 위한 물리 기반 증강 Koopman 향상 그래프 합성곱 네트워크(P-K-GCN)를 제안합니다. 구체적으로, 거친 그래프(coarse graph)로부터 공간 의존성을 직접 추출하도록 연속적인 스플라인 기반 GCN을 먼저 설계하고, 시간적 진행이 선형화되는 압축된 잠재 공간으로 비선형 역학을 사영하기 위해 Koopman 연산자 이론을 통합했습니다. 둘째, 예측 충실도와 견고성을 높이기 위해 데이터 기반 재구성이 물리 법칙을 준수하도록 강제하는 물리 기반 손실(loss)을 통해 최적화 목적함수를 증강했습니다. 마지막으로, 엄밀한 이론적 분석을 제공하여 물리 증강과 Koopman 정규화(regularization)가 Rademacher 복잡도를 감소시키고 일반화 경계를 강화함으로써 수학적으로 초해상도 오차의 감소를 보장함을 입증했습니다. 본 프레임워크는 희소한 저해상도 측정값으로부터 3D 심장 기하학적 구조 전반에 걸쳐 공간적으로 고해상도인 심장 전기 역학을 재구성하는 작업에서 평가되었습니다. 수치 실험 결과, 제안하는 방법이 기준선(baseline) 모델 대비 우수한 정확도를 달성함을 확인했습니다.

arXiv:2606.17465v1cs.LG

생성 모델링을 위한 페룬-프로베니우스 연산자 매칭

Perron--Frobenius Operator Matching for Generative Modeling

우리는 적분 PF 연산자를 통해 밀도 진화(density evolution)를 매칭하여 플로우(flow), 확산(diffusion), 및 점프(jump) 모델을 아우르는 생성 프레임워크인 페룬-프로베니우스 연산자 매칭(PFOM)을 소개합니다. 우리는 브레그만 발산(Bregman divergence) 중에서 쿨백-라이블러 발산(Kullback--Leibler divergence)만이 밀도 수준(density-level)과 샘플 조건부(sample-conditioned) 목적 함수 사이의 동등성을 보존함을 증명하며, 이는 쿠프만 경로 매칭(Koopman path matching)과 동등한 실용적인 손실(loss)을 제공합니다. 또한, 우리는 이산화(discretization)를 안정화하고 수렴(convergence)을 가속화하는 네스테로프 가속 학습(training) 및 샘플링 방법을 개발했습니다. 가우시안 혼합(Gaussian mixtures) 및 투문(two-moons) 데이터셋에서 PFOM은 경험적 검증(validation)을 통해 더 빠른 KL/$W_2$/MMD 감소와 개선된 실시간 효율성(wall-clock efficiency)을 달성했습니다. PFOM은 연산자 이론적 식별(operator-theoretic identification)과 현대적 생성 모델링을 통합하며, 적응형 사전(adaptive dictionaries) 및 고차원 응용으로 가는 길을 엽니다.

arXiv:2606.17070v1physics.ao-ph

KFTD: 연속 해양 시공간 예측을 위한 쿠프만-푸리에 시간 미분 가능 네트워크 (Koopman-Fourier Time-Differentiable Network)

KFTD: Koopman-Fourier Time-Differentiable Network for Continuous Ocean Spatiotemporal Forecasting

정확한 해양 예측은 기후 모니터링과 재해 조기 경보에 중요합니다. 그러나 해양 시공간 예측은 복잡한 동적 시스템 모델링과 계산 효율성 확보라는 이중적인 과제에 직면해 있습니다. 우리는 효율적이고 확장 가능한 시공간 모델링을 위해 보간(interpolation)과 예측(prediction)을 분리하는 시간 연속(time continuous) 2단계 패러다임인 KFTD(Koopman Fourier Time-Differentiable) 네트워크를 제안합니다. 복잡한 비선형 동역학을 쿠프만(Koopman) 선형 공간으로 매핑하고 푸리에 분석(Fourier analysis)을 활용하여 임의의 하위 단계(sub-steps)에서 시간 연속 보간을 가능하게 합니다. 경량 잔차 네트워크(residual network)가 고충실도(high fidelity) 중간 상태를 사용하여 최종 예측을 생성합니다. 디퓨전 모델(diffusion models)과 달리, KFTD는 다단계 노이즈 샘플링(multi step noise sampling)을 제거하고 시간 연속적으로 시스템을 직접 진화시켜 4배의 계산 속도 향상을 달성합니다. 또한, 엔드투엔드(end-to-end) 방식으로 임의의 PDE 제약 조건을 지원하는 DPP 손실(DPP Loss)을 도입하여 순수 데이터 기반 접근 방식의 물리적 일관성 병목 현상을 해결합니다. 4개의 해양 데이터셋에 대한 실험 결과, 우리의 시간 연속 프레임워크가 평균 5.6%의 MSE(Mean Squared Error)를 감소시켰으며(SST의 경우 최대 12.7%), MCVD 대비 효율성을 76.25% 향상시킴을 확인했습니다.

arXiv:2606.13422v1quant-ph

혼돈 예측을 위한 양자 정보 기반 머신러닝에서 실용적 양자 우위의 기초

Foundations of Practical Quantum Advantage in Quantum-Informed Machine Learning for Predicting Chaos

혼돈 역학 시스템 예측을 위한 양자 정보 기반 머신러닝에서 Q-Priors와 결합 벨 측정을 활용해 복사-측정 복잡도에서 양자-고전 분리를 입증하고, 난류 유동 및 중기 날씨 예측 성능을 개선했다.