PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.10474v1cs.LG

검증 가능한 물리학을 활용한 강화학습: 연속 보상을 통한 대규모 언어 모델 사후 학습

Reinforcement Learning with Verifiable Physics: Post-training LLMs with Continuous Rewards

편미분 방정식(PDE)은 과학 및 공학 모델링의 근간이지만, 신뢰할 수 있는 수치 솔버를 구축하는 것은 여전히 노동 집약적이며 이산화 기법, 안정성 조건, 경계 처리에 대한 전문 지식을 요구한다. 최근 연구에서는 PDE 풀이를 대규모 언어 모델(LLM)의 코드 생성 과제로 구성하기 시작했지만, 기존 접근 방식은 주로 추론 시점에서 작동하며 모델 자체를 적응시키기보다는 프롬프팅, 디버깅, 자기 수정, 테스트 시간 스케일링에 의존한다. 동시에, 검증 가능한 보상을 활용한 강화학습이 코드 및 수학 추론을 위한 사후 학습 패러다임으로 부상했지만, 이러한 검증기는 일반적으로 이진적이다: 컴파일러가 실행되거나, 테스트가 통과되거나. 이러한 신호는 과학적 정확성의 등급 구조를 무시하는데, 두 솔버가 모두 실행되더라도 해의 정확도에서 수십 배 이상 차이가 날 수 있다. 본 연구에서는 다중 PDE 솔버 코드 생성을 위한 강화학습 사후 학습 프레임워크인 RLVP(Reinforcement Learning with Verifiable Physics)를 소개한다. RLVP는 하이브리드 검증기로 이 검증 가능성 격차를 해소한다: 엄격한 프로그램 유효성 검사가 실행 가능성을 보장하는 한편, 연속 물리학 보상이 함수 공간 정확도와 PDE 잔차 일관성을 평가한다. 단일 정책이 쌍곡형, 포물형, 타원형, 비압축성 유동 시스템을 아우르는 다양한 PDE 계열에 걸쳐 사후 학습된다. RLVP는 PDE 벤치마크에서 사전학습 및 지도학습 단독 기준 모델 모두를 능가하며, 보류된 PDE에 대한 제로샷 성능 향상 전이를 보여준다. RLVP로 사후 학습된 소규모 LLM이 분포 내 PDE 솔버 생성에서 최첨단 모델을 프롬프팅하는 것보다 우수한 성능을 발휘할 수 있음을 보인다. 학습된 정책은 수치적 모티프에서 조합성의 증거를 나타낸다: 학습에 사용된 PDE로부터 습득한 스텐실, 시간 진행 기법, 경계 처리 기본 요소를 재조합하여 미지의 PDE 문제를 위한 솔버를 생성한다.

arXiv:2512.23192v4cs.LG

PGOT: 복잡한 편미분방정식을 위한 물리-기하 연산자 트랜스포머

PGOT: A Physics-Geometry Operator Transformer for Complex PDEs

편미분방정식(PDE) 풀이를 위한 효율적인 트랜스포머(Transformer)가 메시 포인트를 잠재 토큰으로 집계하는 과정에서 고주파 경계 정보를 체계적으로 소실시키는 기하학적 앨리어싱(geometric aliasing) 문제를 분석하고, 이를 해결하기 위해 다중 스케일 기하 인코딩을 명시적으로 주입하는 SpecGeo-Attention과 흐름의 이질성에 따라 선형·비선형 경로를 동적으로 선택하는 TaylorDecomp-FFN을 결합한 PGOT를 제안한다. PGOT는 선형 계산 복잡도 O(N)을 유지하면서 4개의 표준 벤치마크에서 최고 성능을 달성하고, 에어포일·자동차 설계 등 대규모 산업 시뮬레이션에서 표면 필드 예측 오류를 최대 81.3% 개선했다.

arXiv:2607.02194v1cs.LG

An Optimisation Framework for the Well-Conditioned Training of Physics-Informed Neural Networks

Physics-informed neural networks (PINNs) have emerged as a promising route to solve partial differential equations, yet they have struggled to reach the precision of classical solvers. The obstacle is increasingly understood to be one of optimisation, owing to the severely ill-conditioned loss landscape. We present $\textbf{DSGNAR}$: Doubly-Sketched Gauss-Newton with Adaptive Ratio, a scalable second-order optimisation framework that confronts this ill-conditioning and, in doing so, obtains unprecedented accuracy and speed. $\textbf{DSGNAR}$ couples a doubly-sketched Gauss-Newton model with a novel strategy that carefully controls both regularisation and step length. Across a suite of problems spanning nonlinear, chaotic, multi-scale, high-dimensional, and Navier-Stokes, the framework greatly improves on the state of the art: able to attain relative $\ell_2$ errors as low as $3\times10^{-16}$ in double precision, improve contemporary results by five orders of magnitude on the canonical Burgers' equation, and as much as eight orders on a high-dimensional Poisson problem, while remaining markedly faster. We further show that, in single precision, solutions at the limit of round-off error can be obtained very quickly: Burgers' equation to $\ell_2^{\text{rel}} = 4.75 \times 10^{-7}$ in under ten seconds. The framework is also robust to the choice of architecture, arithmetic precision, and initial hyperparameters. The code is available at https://www.github.com/wephy/physics-informed-neural-networks

arXiv:2606.19912v1math.NA

푸아송-넌스트-플랑크 및 푸아송-넌스트-플랑크-나비에-스토크스 시스템을 위한 구조 지향 랜덤 신경망

Structure-Oriented Randomized Neural Networks for Poisson-Nernst-Planck and Poisson-Nernst-Planck-Navier-Stokes Systems

우리는 푸아송-넌스트-플랑크(PNP) 시스템과 푸아송-넌스트-플랑크-나비에-스토크스(PNP-NS) 시스템을 위해 SO-RaNN이라 불리는 구조 지향 랜덤 신경망 프레임워크를 개발합니다. 비결합 선형화 부분 문제들은 시공간 프레임워크 내에서 랜덤 신경망에 의해 반복적으로 해결됩니다. 농도 변수의 경우, 값 수준에서 양성을 강제하기 위해 점별 컷오프가 사용되며, 선택된 보정 시점에서 이산 질량 스케일링 인자가 계산되고 시간에 따라 보간되어, 해당 시점에서 정확한 질량 일치를 보장하고 그 사이의 근사적인 질량 보존을 촉진합니다. 보조 이산 소산 메커니즘을 도입하기 위해, 우리는 SAV 유형 후처리 보정을 추가로 사용하며, 이는 이상적인 SAV 업데이트 하에서 SAV 보조 변수의 단조성을 산출합니다. PNP-NS 시스템의 경우, 속도장에 대해 구조 보존 랜덤 신경망(SP-RaNN)이 사용되어, 속도 근사가 구조적으로 점별 비압축성 제약 조건을 만족하도록 합니다. 이론적 측면에서, 우리는 선형화 부분 문제의 원시(보정되지 않은) RaNN 솔버에 대한 잔차 기반 추정을 도출하고, PNP 시스템의 원시 외부 피카르 반복에 대한 조건부 시간 국소 수렴 결과를 공식화하며, 질량 보정 및 SAV 후처리 단계와 함께 값 수준 양성 보정을 분석합니다. PNP-NS 시스템의 경우, 우리는 SP-RaNN 공간에 대한 근사 결과를 확립하고 해당 선형화된 오센 유형 문제에 대한 조건부 오차 명제를 제공합니다. 수치 실험은 소스 기반 제조 테스트에서 근사 정확도를 입증하고, 의도한 값 수준 양성 보정, 선택된 시간 질량 일치, 최종 게이지 고정 전위에 기반한 계산된 자유 에너지 곡선, 그리고 벤치마크 테스트에서의 발산 없는 근사를 보여줍니다.