arXiv:2609.22984v1 cs.LG

LPINNs: 물리 정보 신경망을 위한 첫 번째 층 게이트 국소화

LPINNs: First-Layer Gated Localization for Physics-Informed Neural Networks

Lakshay Chawla, Hardik Jain

제출 2026-09-22

한국어 초록

물리 정보 신경망(PINN)은 계산 영역 전반에서 하나의 공유된 표현을 사용하므로, 긴 영역 및 고계 도함수 연산자에서 최적화(optimization)가 어려워질 수 있습니다. 본 연구에서는 영역을 분할하거나 경계면 손실(interface loss)을 추가하지 않고 첫 번째 층 단위에 수용장(receptive field)을 부여하기 위해, 기존 구조를 그대로 유지한 완전 연결 PINN의 첫 번째 은닉 활성화 값에 입력 의존적 국소화 함수를 곱하는 최소한의 대안을 연구합니다. 비선형 조화 진동자(HO), 긴 공간 구간에서의 열 방정식, 그리고 인위적으로 설계된 4차원(4D) 4계 문제에 대해 총 10개의 대응 시드(paired seed)를 사용하여 각각 최대 세 가지 매개변수화를 갖는 13개 계열의 국소화 함수를 선별 평가합니다. 동일한 계산 예산에서 세 가지 구성이 해의 오차를 크게 줄였습니다: (i) $2\pi$ HO 영역에서 고정된 가우시안 국소화 함수는 3천 에포크(epoch)에서 평균 해 RMSE를 $4.8369\times10^{-1}$에서 $8.83\times10^{-3}$으로 낮춥니다. (ii) 학습 가능한 중심과 폭을 가진 역이차(inverse-quadratic) 계열은 $8\pi$ 열 영역에서 1만 에포크 기준 $2.896\times10^{-1}$에서 $3.06\times10^{-2}$로 낮춥니다. (iii) 고정된 범프(bump) 국소화 함수는 $4\pi$ 4D 영역에서 1만 에포크 기준 $1.75947\times10^{1}$에서 $2.260\times10^{-1}$로 낮춥니다. 이 세 가지 비교에서 모든 대응 시드의 성능이 개선되었습니다. 또한 이 선별 평가는 해당 메커니즘이 무조건적인 이득을 주는 것은 아님을 보여줍니다. HO에서는 13개 계열 중 2개만이 기준선을 능가했으며, 나머지 11개 중 10개는 9배에서 23배 더 나빴습니다. 4D에서는 4개 계열이 무한대/발산 값을 가졌고 5개는 기준선보다 3자릿수(orders of magnitude) 이상 더 나빴습니다. 세 방정식 모두에서 기준선을 능가한 것은 역이차 계열뿐이었습니다. 전반적으로 이러한 결과는 첫 번째 층 국소화가 긴 영역 및 고계 문제에서 기존 기준선 PINN에 대해 측정 가능한 개선을 제공할 수 있음을 보여줍니다.

원문 초록

Physics-informed neural networks (PINNs) use one shared representation over the computational domain, which can become difficult to optimize on long domains and for high-order operators. We study a minimal alternative: multiply the first hidden activation of an otherwise unchanged dense PINN by input-dependent localization functions, giving first-layer units receptive fields without partitioning the domain or adding interface losses. We screen 13 families of localization functions, in up to three parameterizations each, on a nonlinear harmonic oscillator (HO), a heat equation on a long spatial interval, and a manufactured four-dimensional (4D) fourth-order problem, with ten paired seeds throughout. Three configurations give large reductions in solution error at matched budgets: (i) Fixed Gaussian localization functions on the $2\pi$ HO domain cut mean solution RMSE from $4.8369\times10^{-1}$ to $8.83\times10^{-3}$ at 3k epochs. (ii) The inverse-quadratic family with learnable centers and widths cuts it from $2.896\times10^{-1}$ to $3.06\times10^{-2}$ on the $8\pi$ heat domain at 10k epochs. (iii) Fixed bump localization functions cut it from $1.75947\times10^{1}$ to $2.260\times10^{-1}$ on the $4\pi$ 4D domain at 10k epochs. Every paired seed improves in these three comparisons. The screen also shows that the mechanism is not a free win: on HO only 2 of 13 families beat the baseline, and 10 of the remaining 11 are 9 to 23 times worse; on 4D four families are non-finite and five are more than three orders of magnitude worse than the baseline. The inverse-quadratic family is the only one that beats the baseline on all three equations. Overall, these results show that first-layer localization can provide measurable improvements to baseline PINNs on long-domain and high-order problems.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.22984v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.