PyTorchKR Papers

최신 논문

총 6편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.26972v1cs.LG

TinyUDE: 리-테일러 제트 매칭을 통한 마이크로컨트롤러 기반의 솔버 없는 범용 미분 방정식

TinyUDE: Solver-Free Universal Differential Equations on Microcontrollers via Lie-Taylor Jet Matching

범용 미분 방정식(UDE) 학습(training)은 전통적으로 수치적 ODE 솔버를 통한 역전파에 의존하므로, 엣지 마이크로컨트롤러의 성능을 크게 초과하는 메모리 사용량을 발생시킵니다. 본 논문에서는 관측된 시스템 상태의 1차 및 2차 시간 도함수(derivative)에 하이브리드 벡터장을 직접 피팅하는 솔버 없는(solver-free) 학습 프레임워크인 리-테일러 제트 매칭(Lie-Taylor jet matching)을 제시합니다. 절단된 리-테일러 제트(truncated Lie-Taylor jet)인 이러한 도함수는 사비츠키-골레이(Savitzky-Golay) 필터링을 통해 온디바이스에서 온라인으로 추정되며, 자동 미분 소프트웨어 없이도 완전한 해석적 그래디언트를 생성합니다. 본 연구는 동일한 동역학, 노이즈 모델, 네트워크 아키텍처 및 평가 지표를 공유하는 기존 기준선(baseline)(고정 스텝 RK4 적분, 다중 슈팅, 정확한 이산 수반 변수법, Adam)과 비교하여 솔버를 제거하는 것이 정확도를 저하시키는지 평가합니다. 단순한 도함수 매칭은 센서 노이즈 환경에서 성능이 저하되지만, 본 연구의 노이즈 적응형 메커니즘인 전비율 위상 천이 샘플링, 레저버 버퍼, 가중치(weight) 평균화를 적용한 코사인 어닐링 최적화(optimization), 온디바이스 노이즈 추정, 다항식 미스핏 품질 게이팅을 통해 이러한 격차를 해소하고 역전시킵니다. 감쇠 진자 및 혼돈 이중 진자 실험에서, 제안하는 방법은 동일한 데이터 윈도우에서 기준선 정확도와 일치하거나 이를 능가하며 모델링되지 않은 감쇠 계수를 복원합니다. 0%에서 5%까지의 노이즈 수준 전반에서, 수 메가바이트의 솔버 테이프와 비교해 108 kB의 정적 메모리 내에서 기준선의 0.65배에 해당하는 기하평균 상대 필드 오차를 달성합니다. ESP32 마이크로컨트롤러에서의 온디바이스 실행은 61.3 kB의 정적 메모리와 업데이트당 7.24 ms(25 Hz에서 18.1% 듀티 사이클) 내에서 0.0020의 필드 오차에 도달하고 감쇠 계수를 c = 0.400(실제값 0.400)으로 복원하여, 수치 솔버 없이도 실시간 온디바이스 학습이 실현 가능함을 입증합니다.

arXiv:2607.22910v1cs.LG

방향성 비순환 그래프를 넘어서: 인과적 영과 인과 미분방정식

Beyond Directed Acyclic Graphs: Causal Zeros and Causal Differential Equations

Pearl의 구조적 인과 모델(SCM) 프레임워크는 방향성 비순환 그래프(DAG)와 do-연산(do-calculus) 위에 구축되어 있으며, 인과 추론을 위한 지배적인 형식 언어이다. 그러나 이는 두 가지 구조적 제약을 지닌다: 모든 관계는 사전에 방향성 인과 간선으로 지정되어야 하고, 피드백 순환은 금지된다. 본 논문은 이러한 제약을 압박하는 두 클래스의 현상을 검토한다. 첫째, 이상기체 법칙이 대표적인 경우인 대칭적 물리·경제 제약은 고유한 인과 방향을 갖지 않는다. 방향은 개입(intervention) 하에서만 나타나며, 어떤 변수를 풀 대상으로 할지는 개입의 일부로 지정되어야 한다. 우리는 활성화 연산자(activation operator)를 추가하여 확장 인과 모델(Extended Causal Model) 내에서 이러한 제약을 인과적 영(causal zeros)으로 형식화하며, 이는 국소 가해성(local solvability)과 그래프 허용성(graph-admissibility) 조건을 따른다. 둘째, 여기서 고려하는 유한 전파 상태공간 시스템 클래스에 대해, 겉보기 순간 순환을 억압된 시간의 인공물로 취급하고 인과적 영과 피드백 모두를 인과 미분방정식(CDE)에 기반한다. 이들에서 과도(transient) 영역은 시간 전개된 비순환 인과 과정이며, 인과적 영은 끌어당기는 평형 다양체의 정의 함수로 나타난다. 주기적·혼돈 attractor는 동일 역학의 추가 영역을 정의하며, attractor-상대 개입(attractor-relative intervention)을 통해 다룬다. 우리는 확장된 do-연산, 식별 가능성 조건, 반사실 의미론, 및 열린 문제들을 제시한다.

arXiv:2607.06292v1math.NA

미분 방정식에 대한 가우시안 프로세스 근사의 통합적 관점

A unified perspective of Gaussian process approximation for differential equations

미분 방정식 근사를 위한 가우시안 프로세스(Gaussian process) 기반 수치 방법론들이 파편화된 문제를 해결하기 위해, 도함수 매칭(derivative matching) 해석을 통해 미분 방정식 제약을 가능도(likelihood)에 통합하는 통합 베이지안(Bayesian) 프레임워크를 제시한다. 이 프레임워크는 매개변수 추정과 방정식 풀이를 모두 지원하며, physics-informed Gaussian process, 잠재 힘 모델(latent force model), 동역학 시스템 식별 등 다양한 기존 방법론들이 이 공통 확률적 관점 안에서 통일적으로 이해될 수 있음을 보인다.

arXiv:2606.13179v1cs.ET

미분 방정식과 행렬 방정식 풀이를 위한 현대 아날로그 컴퓨팅

Modern analog computing for solving differential and matrix equations

최근 인공지능과 과학적 컴퓨팅과 같은 데이터 집약적 애플리케이션의 계산 요구량 증가에 힘입어, 아날로그 컴퓨팅이 다시금 주목받고 있습니다. 계산 작업의 다양성과 아날로그 CMOS 회로 및 저항성 메모리 기술의 최근 발전을 바탕으로, 우리는 이러한 진화하는 환경을 현대 아날로그 컴퓨팅이라 지칭합니다. 이러한 맥락에서 본 논문은 미분 방정식 풀이, 행렬 방정식 풀이, 행렬-벡터 곱셈이라는 세 가지 핵심 계산 프리미티브를 식별하고, 이들 간의 연관성을 탐구합니다. 또한, 개별 부품, 집적 회로, 저항성 메모리 장치를 사용하여 구현된 아날로그 컴퓨팅 연산자의 다양한 하드웨어 구현 방식도 살펴봅니다. 이 중에서 저항성 메모리 어레이는 구현 효율성 덕분에 특히 유망한 것으로 부상하고 있습니다. 이어 본 논문은 고급 아날로그 CMOS 회로와 저항성 메모리 어레이를 모두 활용하여 미분 방정식과 행렬 방정식을 해결하는 현대 아날로그 컴퓨팅의 최신 진보를 조사합니다. 마지막으로, 이 회로들의 응용 분야, 정밀도 및 확장성 문제와 그 잠재적 해결책, 인메모리 컴퓨팅과의 관계, 그리고 아날로그 컴퓨팅 고유의 계산 복잡도에 대해 논의합니다. 본 논문은 아날로그 컴퓨팅에 대한 통합적인 관점을 제공하며, 그 장점과 최신 개발 동향, 그리고 당면 과제를 조명하고 아울러 차세대 컴퓨팅의 새로운 지평을 여는 핵심적인 기술로서 그 위상을 정립합니다.

arXiv:2606.12050v1cs.LG

PINNs를 위한 신뢰할 수 있는 오차 추정: 하한 및 상한 사후 경계

Reliable Error Estimation for PINNs: Lower and Upper A Posteriori Bounds

물리 정보 신경망(PINNs)은 미분 방정식을 풀기 위해 머신러닝과 물리 법칙을 결합합니다. 기존 결과는 PINN 예측 오차에 대한 엄밀한 사후 상한(upper bound)을 제공하지만, 계산 가능한 양측 오차 포괄(enclosure)을 얻기 위해서는 완전한 인증(certification)에 보완적인 하한(lower) 정보가 필요합니다. 본 논문에서는 국소적 강 단조성(localized strong monotonicity) 조건 하에서 적절한 인증된 상태 공간 영역에 대한 상미분 방정식(ODE)에서의 PINN 오차에 대해 계산 가능한 사후 하한(lower bound)을 도출합니다. 우리는 이러한 추정치를 단측 리프시츠(one-sided Lipschitz) 조건 하에서 보완적인 국소적 상한(upper bound)과 결합합니다. 이 조건은 이전 연구에서 사용된 전역 리프시츠(global Lipschitz) 가정보다 약하며 더 날카로운 상한 오차 밴드(band)를 생성할 수 있습니다. 결과적으로 도출된 경계는 신경망 근사, ODE 잔차(residual), 그리고 국소적 단조성 및 성장 상수에만 의존하므로, 정확한 해에 접근할 필요가 없습니다. 선형 시불변(linear time-invariant) 및 시변(time-varying) 시스템의 경우, 시스템 행렬의 대칭 부분의 최소 및 최대 고유값(eigenvalue)에 관한 명시적인 공식을 추가로 도출합니다. 또한 PINNs에서 초기 조건의 소프트 적용(soft enforcement)과 하드 적용(hard enforcement)의 차이점을 논의하고, 정확한 적용이 스칼라 하한 인증서(lower certificate)를 무의미하게 만들 수 있는 이유를 설명합니다. 선형 설정에서 사소하지 않은 하한 정보를 회복하기 위해, 좌표 단위 벡터에 기반한 부호 잔차(signed-residual) 유한 프로브(finite-probe) 인증서를 사용합니다. 또한 인증서 기반 학습(certificate-informed training) 전략을 수립합니다. 여기서 전파된 상한 인증서는 보조 정규화기(regularizer)로 사용되며, 하한 인증서는 사후 학습(post-training) 진단 도구로 남습니다. 전체적으로, 제안된 프레임워크는 ODE의 PINN 근사에 대해 엄밀하고 실제로 계산 가능한 오차 인증서를 제공하며, 가정이 검증될 수 있는 영역과 모델(model) 클래스를 명시합니다.

arXiv:2606.07152v1cs.NE

방정식 풀이를 위한 데이터 불필요 기호 회귀 접근법

A Data-Free Symbolic Regression Approach for Solving Equations

과학에서 나타나는 많은 방정식은 현재 이용 가능한 해석적 기법으로 풀 수 없어, 명시적인 기호 표현을 얻지 못한 채 수치적으로 풀리고 있다. 기존 기호 회귀(symbolic regression) 접근법은 기호 표현을 복원할 수 있지만, 지배 방정식(governing equation)만이 아니라 기저 과정에서 얻은 학습 데이터가 필요하다. 우리는 방정식 풀이를 미분 가능한 기호 모델에 대한 최적화(optimization) 문제로 공식화하는 프레임워크인 기호 방정식 솔버(SES, Symbolic Equation Solver)를 제안한다. SES는 방정식과 초기 또는 경계 조건으로부터 목적 함수를 구성하여, 입력-출력 쌍 데이터의 필요성을 제거한다. 학습된 모델은 명시적인 기호 형태로 표현되어 추가 분석을 가능하게 한다. 우리는 대표적인 대수 방정식과 미분 방정식에 SES를 평가하였으며, 대수 방정식계, 초월항을 포함한 방정식, 상미분 방정식(ODE), 서로 다른 초기 또는 경계 조건을 갖는 편미분 방정식(PDE)을 포함한다. 이러한 설정 전반에 걸쳐 SES는 해당 해석적 해와 일치하는 간결한 기호 표현을 복원한다.