PyTorchKR Papers

업데이트된 논문

총 8편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.17141v2cs.LG

ISLA: 경계 구동 편미분방정식을 위한 좌표 무관 측도 가중 트랜스포머

ISLA: A Coordinate-Free, Measure-Weighted Transformer for Boundary-Driven PDEs

대칭성은 물리학의 근본 원리이다. PDE로 기술되는 시스템의 거동은 이를 표현하는 데 사용한 좌표계, 단위계, 메시에 의존하지 않으며, 대리 모델 역시 그러해야 한다. 그러나 오늘날의 선도적인 신경 대리 모델은 이러한 불변성을 갖추지 못하여 동일한 문제에 대한 단순한 변환에서도 실패한다. 한 가지 자세(즉 병진과 회전)의 자동차 PDE로 학습한 모델의 경우, 전체 PDE를 회전시키면 표면 압력 오차가 4%에서 100% 이상으로 증가하고, 경계를 재샘플링하면 약 30%로 증가한다. 본 논문은 정상 상태의 경계 구동 PDE를 위한 슬라이스 어텐션 트랜스포머인 ISLA(Invariant Slice Attention)를 제안한다. 경계가 내부 해를 결정하므로, ISLA는 배치된 경계를 학습된 슬라이스로 한 번 인코딩하고, 트리로 가속된 학습 경계 커널을 통해 임의의 내부 점을 독립적으로 평가한다. 입력은 경계로부터 계산된 스케일로 무차원화되고, 경계 셀에 대한 합은 메시 세분화에 따라 수렴하는 면적 가중 구적법이며, 기하 정보는 등변 슬라이스 앵커까지의 거리와 상대 각도로만 입력된다. 이에 따라 모델은 선택적 토큰 부분 샘플링과 트리 클러스터링을 제외하면 강체 운동과 반사에 대해 등변이다. 다양한 기하, 자세, 물리적 스케일, 경계 조건에 걸친 2,816개의 3D 유동으로 구성된 AeroZoo에서 ISLA의 기준 스케일 평균 속도 및 압력 오차는 어떤 기준 모델보다 각각 최소 1.9배, 2.2배 낮다. 전체 AirfRANS에서는 ISLA가 명시적 경계적분 네트워크(GLOBE)에 이어 두 번째이며, 모든 필드에서 Transolver와 GeoTransolver보다 오차가 최소 1.6배 낮다.

arXiv:2610.25113v4cs.LG

A learner-free swarm approximates the explore-exploit equilibrium allocation: A self-organized attractor in place of reinforcement-learning machinery

Reinforcement learning (RL) solves the explore-exploit problem by training a learner on reward; its multi-agent, resource-sharing form has an equilibrium allocation as its optimum -- the ideal-free distribution (IFD), the Nash equilibrium of a congestion game. We show a minimal swarm approximates it with no learner at all. We present a decentralized, learner-free method for this problem: agents explore by heavy-tailed (Levy) flights, recruit neighbours to a discovery through a degree-normalized threshold cascade, and disperse as a patch crowds. The method drives the collective to the shape of the equilibrium allocation (pooled spatial matching slope 1.14, R^2=0.61) with no training, no stored parameters, and no reward in its dynamics; it reaches this as a self-organized attractor and holds it, re-finding it when the resources move -- though it reaches the shape, not the exact equilibrium, and stays measurably exploitable (Nash-gap 1.46). Coupling recruitment to movement causes the allocation: removing it collapses the matching (slope 0.006). Against Proximal Policy Optimization (PPO) learners (feedforward, centralized-critic, graph message-passing, and recurrent) trained in the same sensing-limited environment, the method at zero training is the only arm left unbiased w.r.t. the IFD gradient (slope ~1, CI containing 1, vs learners 0.69-0.97, all under-concentrating) and ties the best learner's harvest where resource is clustered, while the learner collects more where resource is scarce (0.33 vs 0.22) and holds a tighter per-capita intake. Learning buys precision and transfer across reward structures, not a better allocation shape. A companion paper develops the mechanism.

arXiv:2609.26705v2quant-ph

보손 가우시안 상태는 언제 고전적으로 학습할 수 있는가?

When are bosonic Gaussian states classical to learn?

물리학의 근본적인 질문 중 하나는 양자계에서 고전적 거동이 언제 나타나는가이다. 보손 가우시안 상태(bosonic Gaussian state)는 빛의 고전적 장(field) 거동과 본질적인 양자적 성질을 모두 포착하므로, 이러한 양자-고전 경계를 탐구하기에 자연스러운 환경을 제공한다. 본 연구에서는 학습 이론의 관점에서 이 문제를 다루며 다음과 같이 묻는다. 보손 가우시안 상태는 언제 고전적으로 학습할 수 있는가? 즉, n-모드 보손 가우시안 상태를 고전적인 2n변량 가우시안 분포를 학습할 때 필요한 만큼 적은 샘플과 그만큼 단순한 연산으로 학습할 수 있는 조건은 (있다면) 무엇인가? 우리는 상태의 열적 요동(thermal fluctuation)에 의해 결정되는 학습 가능성의 매끄러운 크로스오버를 규명한다. - 차가운 가우시안 상태는 학습 측면에서 비고전적이다. 공분산 행렬이 $\Sigma\le(\frac12+O(\frac1n))I$를 만족하여 진공 공분산에 가까운 경우, 단일 복사본(single-copy, 즉 얽힘이 없는) 측정 하의 토모그래피(tomography)는 근본적으로 $\Omega(n^3)$개의 복사본을 필요로 하며, 이는 고전적 가우시안 분포를 학습하는 샘플 복잡도 $\Theta(n^2)$를 엄밀하게 초과한다. 우리는 소수 복사본에 대한 얽힘 측정이 허용되더라도 이러한 어려움이 지속됨을 보인다. - 따뜻한 가우시안 상태는 학습 측면에서 고전적이다. 열적 요동이 진공 잡음을 초과하여 임의의 매개변수 $\nu>0$에 대해 $\Sigma\ge(\frac12+\nu)I$로 나타내지는 경우, 단일 복사본 토모그래피에는 $N=\Theta\left(n^2\min(n,1+\nu^{-1})\right)$개의 복사본이 필요함을 증명한다. 이 한계는 타이트(tight)하며, 단순하고 비적응적(non-adaptive)이며 얽힘이 없는 헤테로다인(heterodyne) 측정으로 달성된다. 특히 $\nu=\Omega(1)$인 경우 샘플 복잡도는 $\Theta(n^2)$로 줄어들어 고전적인 경우와 일치한다. 우리의 결과는 보손 가우시안 상태의 학습 가능성에서 나타나는 양자-고전 크로스오버를 엄밀하게 규명하고, 근본 물리학과 통계적 학습 이론 사이의 새로운 연결고리를 드러내며, 실제 센싱 실험에도 시사점을 가진다.

arXiv:2609.07591v2quant-ph

위상이 순수 기반 신경 양자 상태를 가로막는다

Topology Obstructs Pure Foundation Neural Quantum States

스핀-1/2 계의 바닥 상태를 위한 기반 모델은 양자 화학에서 새로운 상 도표 식별에 이르는 문제에 유망한 방법이다. 현재 거의 모든 이러한 모델은 해밀토니안의 매개변수에 조건화되는 순수 상태이며, 그 몬테카를로 표본은 변분 원리에 따라 에너지 추정치를 제공한다. 본 기고에서 우리는 이 표현이 위상적으로 가로막혀 있음을 보인다. 바닥 상태 다발이 자명하지 않은 임의의 간극 있는 해밀토니안 족에 대해, 모든 연속적인 정규화 상태 벡터 모델은 그 해밀토니안 족의 어떤 매개변수 값에서 바닥 상태와의 충실도가 0이 된다. 그 값에서 에너지는 적어도 하나의 스펙트럼 간극 $\Delta$ 이상이며, 그 점의 열린 근방에서는 $O(\Delta)$의 간극이 있다. 우리는 이것이 축퇴된 바닥 상태 다양체, 시간 동역학, 시공간 위상이 혼합된 주기계의 경우에도 충분한 불가능 결과임을 보이며, 1큐비트 및 2큐비트 계에서 이러한 장애를 실증한다. 또한 이것이 어떻게 충실도 감수율의 급등을 일으켜, 상전이가 없는 곳에서 상전이의 수치적 징후를 나타내는지 논의한다. 마지막으로 연산자 값 모델이 이러한 장애를 표준적으로 피하고 위상 정보를 보존함을 보이며, 이는 기반 신경 양자 상태의 표현에 구조적 필연성이 있음을 시사한다.

arXiv:2608.25097v4cs.AI

PhysElite: LLM은 올림피아드 수준의 물리 문제 해결에서 얼마나 멀리 있는가?

PhysElite: How Far Are LLMs from Solving Olympiad-Level Physics Problems?

(멀티모달) 대규모 언어 모델이 물리 문제에서 어떻게 수행하는지 이해하려면 전문가 수준 물리 추론의 난도와 폭을 반영하는 벤치마크가 필요하다. 기존 물리 벤치마크는 두 가지 중요한 측면에서 한계가 있다. (1) 고난도 데이터셋이 부족하고, (2) 시각 형태, 지식 요소, 단계별 풀이 과정을 포괄적으로 다루지 못한다. 그 결과 현재 데이터셋에서의 모델 성능은 복잡한 물리 문제를 푸는 능력을 충분히 대변하지 못할 수 있다. 이러한 문제를 해결하기 위해 우리는 올림피아드 수준 물리 추론을 위한 대규모 이중 언어 멀티모달 벤치마크인 PhysElite를 제시한다. PhysElite는 11,586개의 올림피아드 수준 문제를 포함한다. 각 문제에 대해 해당 시각 도표, 단계별 중·영 이중 언어 풀이 유도, 최종 답을 제공한다. 우리는 18개의 오픈소스 및 클로즈드소스 MLLM을 벤치마킹하였으며, 가장 강한 모델조차 정답 정확도가 33.7%에 그친다는 것을 확인했다. 또한 추론 사슬의 어디에서 모델이 실패하는지 진단하기 위해 단계 수준의 과정 평가를 수행한다. 우리의 데이터셋은 https://github.com/PremiLab-Math/PhysElite 에서 공개된다.

arXiv:2610.03303v2cs.LG

S$^{2}$-PINN: 확률론적 분리 가능 물리 정보 신경망

S$^{2}$-PINN: Stochastic Separable Physics-Informed Neural Networks

확률 편미분 방정식(PDE)에 대한 불확실성 정량화(UQ)는 계산 과학 및 공학 전반에 걸쳐 필수적입니다. 그러나 이 계열의 문제에 대한 고전적인 스펙트럼 솔버는 차원의 저주에 직면하며, 기존의 신경망 솔버는 모멘트 계산과 보정(calibration)을 다루기 쉽게 만들어 주는 확률론적 구조를 무시하는 경우가 많습니다. 본 논문에서는 학습 가능한 가우시안 공간 딕셔너리, 푸리에 시간 특징, 그리고 일반화된 다항 카오스(gPC) 확률 기저를 저순위 표준 다중선형(CP) 텐서 분해 코어로 결합하여 확률 PDE의 해 $u(t,\mathbf{x},\mathbf{Z})$를 표현하는 확률론적 분리 가능 물리 정보 신경망인 S$^{2}$-PINN을 소개합니다. 이 방법은 하이브리드 강형식(strong-form) 및 gPC 사영 잔차 손실을 통해 학습됩니다. 이론적 분석을 통해 온건한 조건 하에서 이 분리 가능 클래스가 $L^2$에서 조밀(dense)함을 입증하며, 사영 잔차가 확률론적 갈러킨(Galerkin) 제약 조건과 정확히 일치함을 보입니다. 나아가 미니배치 사영 계수가 gPC 모드 수에 로그적으로 의존하며, 직교성 페널티가 학습된 공간 딕셔너리의 조건수(conditioning)를 제어함을 보입니다. 4개의 인공 확률 PDE 벤치마크를 사용하여 S$^{2}$-PINN이 훨씬 적은 파라미터를 사용하면서도 평균 및 분산 정확도와 보정 측면에서 9개의 베이스라인보다 우수한 성능을 보임을 입증합니다. 비인공 포아송 및 다르시 문제, 확률론적 나비에-스토크스 문제, 더 높은 확률 차원에 대한 확산 스케일링 연구, 그리고 2개의 확률론적 역문제에 대한 추가 평가를 통해 제안된 구조의 일반화 능력을 밝힙니다. 이러한 결과들은 종합적으로 확률론적 분리 가능성이 물리 정보 신경망 기반 UQ를 위한 효과적인 설계 원칙임을 뒷받침합니다. 실험 코드는 https://github.com/DMax1314/s2pinn 에서 확인할 수 있습니다.

arXiv:2609.22349v2math.NA

불연속적이고 대비가 큰 계수를 갖는 과도 압력 확산을 위한 랜덤 특징 기반 영역 분할 진화형 심층 신경망

Domain-decomposed Evolutional Deep Neural Network with Random Features for Transient Pressure Diffusion with Discontinuous and High-Contrast Coefficients

불均질 다공성 매질에서의 과도 압력 확산은 투수율이 불연속적이고 여러 자릿수에 걸쳐 있을 때 효율적으로 풀기 어려워진다. 본 논문에서는 공간 근사와 시간 발전을 분리하는 영역 분할 랜덤 특징 진화형 심층 신경망(DD RF-EDNN)을 개발한다. 투수율을 반영한 랜덤 특징을 직교 정규 압력 공간으로 압축하고, 보존적 유한체적 연산자를 이 공간에 사영하여 축소된 좌표만 시간에 따라 전진시킨다. 이 정식화는 반복적인 신경망 최적화 없이도 이산 유동 문제의 소산 구조를 유지한다. 분석은 사전(dictionary) 및 특이값 절단 오차를 정량화하고, 에너지 일관적 소산성 보정 하에서 축소성(contractivity)을 증명하며, 정상 리프팅을 허용하는 동차 동역학과 시간 독립 데이터에 대한 조건부 격자 수준 추정을 유도한다. 저투수율 함유물, 고전도도 블록과 채널, 3차원 격자에 대한 수치 실험은 서로 다른 계수 구성에 걸쳐 이 방법의 정확도를 평가한다. 이 방법은 주요 벤치마크에서 최종 시간 상대 $L^2$ 오차 $9.54\times10^{-4}$에 도달하며, 투수율 대비 $10^3$에서도 $10^{-2}$ 수준의 오차를 유지한다. 수치 진단은 관측된 오차 균형과 시간 수렴이 분석과 일치함을 추가로 보여준다. 이러한 결과는 DD RF-EDNN이 주어진 불균질 매질에서의 과도 시뮬레이션을 위한 구조 보존적이고 해석 가능한 축소 정식화임을 뒷받침한다.

arXiv:2609.17837v2cs.LG

Adaptive hybrid coupling with operator inference, the overlapping Schwarz alternating method and reinforcement learning

Hybrid domain decomposition methods provide a flexible framework for coupling full order models (FOMs) and reduced order models (ROMs), but typically assume the model assigned to each subdomain is fixed throughout a simulation. This is limiting for transient problems in which localized features propagate through the domain and the regions requiring high-fidelity resolution change over time. We introduce a reinforcement learning (RL)-based approach for online adaptation of FOM-ROM models coupled via the overlapping Schwarz alternating method (O-SAM), an iterative domain decomposition method that solves subdomain-local problems while exchanging solution information through transmission boundary conditions on overlapping interfaces. Deep Q-networks (DQNs) are trained offline to select among subdomain-local FOMs and pre-trained Operator Inference (OpInf) ROMs using a reward balancing accuracy, cost, and model-switching frequency. Once trained, the policies are deployed predictively on problem instances not seen during training, without requiring a reference FOM solution. We demonstrate the approach on two examples: a 1D advection-diffusion problem with a moving front, and a 3D linear elastic wave propagation problem implemented in the Norma.jl solid mechanics code. For the advection-diffusion benchmark, the learned policy dynamically allocates high-fidelity resolution as the front propagates and outperforms static FOM/ROM assignments; letting the agent also adapt the domain decomposition provides no further benefit. For the elastic wave benchmark, learned policies for two and three subdomain decompositions track the propagating wave by assigning FOMs to subdomains containing the wave and ROMs elsewhere, as expected. Our results demonstrate the potential of RL to enable predictive online adaptation of model fidelity within Schwarz-based hybrid simulations.