기계학습 원자간 퍼텐셜(MLIP)은 효율적이고 정확한 원자 수준 시뮬레이션을 가능하게 하지만, 학습 데이터의 품질과 다양성에 크게 의존한다. 본 논문은 MLIP의 미세 조정을 위한 정보량 높은 학습 배치를 획득하는 데 상호작용하는 입자 동역학을 사용하는 향상된 샘플링 방법인 Stein 커널화 분자 동역학(SKMD)을 제안한다. SKMD는 비동기 입자 갱신과 배치 유사성에 대한 대칭 인식 척도를 제공하는 전역 원자 기술자 커널을 도입하여 분자 동역학에 맞게 조정한 Stein 변분 경사 하강법의 확률적 변형에 해당한다. 분자 동역학에 사용되는 다른 향상된 샘플러와 달리, SKMD는 적절한 점근 극한에서 볼츠만 분포를 동역학의 정상 분포로 유지한다. 이 성질은 다양한 배치의 탐색과 에너지 지형의 고확률 영역으로의 끌림 사이의 균형을 강제한다. 또한 시뮬레이션 과정에서 중복되지 않는 학습 데이터를 선택하는 적응형 중단 기준을 이용한 효율적인 온라인 데이터 획득 방식을 제안한다. SKMD를 Müller–Brown 퍼텐셜의 신경망 모델, 알라닌 디펩타이드에 대한 MACE 원자간 퍼텐셜, 그리고 Si(111) 표면의 Pandey 재구성 예측을 위해 DFT 오라클을 갖춘 MACE 파운데이션 모델의 능동 학습에 적용하여 시연한다. 능동 학습 기준 방법들과 비교하여, 본 방법은 더 적은 학습 반복으로 더 높은 모델 정확도를 달성한다.
과학적 머신러닝에서 $\Delta$-학습은 더 작은 잔차 규모가 본질적으로 더 나은 하위 정확도를 낳는다고 가정하고, 근사 기준선에 대한 잔차 오차로 모델을 학습시킨다. 본 연구는 잔차 규모만으로는 학습 용이성에 대한 휴리스틱으로 불충분함을 보인다. 분자 총에너지에서 선형 기준선을 동일한 원소 개수에 적합시킨 신경망으로 대체하면 잔차 규모는 줄었지만 GemNet의 예측 오차는 두 배 넘게 증가하였다. 국소 구조 기술자 전반에서, 더 유연한 기준선은 더 작은 잔차를 만들었으나 그 잔차는 구조적으로 유사한 분자들 사이에서 급격히 달라졌다. 반면 반경험적 기준선은 더 큰 잔차를 남겼지만 더 낮은 테스트 오차와 향상된 도메인 외 전이성을 보였다. 연구한 목표들 전반에서 규모 정규화된 그래프 디리클레 거칠기는 규모 정규화된 예측 오차를 따라갔으며, 이는 목표 선택을 위한 사전 학습 진단으로의 활용을 시사한다. 이러한 결과는 기준선 상보성을 과학적 머신러닝의 목표 설계 원칙으로 제안한다. 유용한 기준선은 하위 아키텍처가 예측하기 어려워하는 기여를 포착하는 기준선이다.
우리는 제안분포가 사전분포인 신경 중요도 샘플링의 특수한 경우인 우도 가중 중요도 샘플링으로 학습한 정규화 흐름을 이용한 사후분포 추정 기법을 제시한다. 이 접근은 사후분포 학습 표본 없이도 고차원 역문제에서 이론적 모수를 효율적으로 추론할 수 있게 한다. 효능을 확인하기 위해 2차원 및 3차원 다봉 벤치마크 과제에 이 방법을 구현하였다. 본 연구의 중요한 관찰은 기저 분포가 모델링된 사후분포에 미치는 영향이다. 표준적인 단봉 기저 분포는 서로 멀리 떨어진 봉우리 사이에 허위의 확률 \textit{다리}를 남기는 것으로 나타났다. 목표 봉우리 수와 일치하는 가우시안 혼합 모델로 흐름을 초기화하면 일부 거리 및 발산 지표로 측정한 재구성 충실도가 크게 향상됨을 보인다. 마지막으로 이 방법을 중입자 물리학의 정선된 문제, 즉 $B^0\to J/\psi\,K^0$의 CP 비대칭으로부터 Wolfenstein 매개변수를 추출하는 문제에 적용한다. 이 문제는 다봉이고 비가우시안이며 봉우리 가중치가 비대칭이다. 우리는 결과를 잘 수렴한 마르코프 연쇄 몬테카를로 기준 및 구적법으로 계산한 정확한 기준과 여러 지표를 사용해 비교한다. 학습된 흐름을 중요도 샘플링의 제안분포로 사용하면 남아 있는 편향이 제거되고 증거도 얻을 수 있다.
라그랑주 신경망(LNN)은 스칼라 라그랑지안을 매개변수화하고 오일러-라그랑주 방정식을 통해 동역학을 유도함으로써 궤적 데이터로부터 역학계를 학습하며, 이로써 모델이 역학의 변분 구조를 따르는 운동으로 편향되게 한다. 지금까지 연구된 상호작용은 쌍별 가산적이어서, LNN이 운동만으로 환원 불가능한 다체 상호작용을 복원할 수 있는지는 미해결로 남아 있었다. 우리는 세 입자의 집단적 기하에 대한 의존성을 어떤 쌍별 항의 합으로도 표현할 수 없는 주된 삼체 분산 항인 Axilrod-Teller 삼중 쌍극자 상호작용을 이용해 이 문제를 다룬다. 운동 에너지는 정확히 지정하고 퍼텐셜만을 입자 간 거리와 각도의 함수로 학습한다. 삼체 신호가 가장 강한 곳에 학습 데이터를 집중시키면서 배위 공간에 대한 폭넓은 포괄성을 유지하는 신호 인식 샘플링 전략과 결합하면, 가속도만으로 상호작용을 복원할 수 있다. 학습된 퍼텐셜은 Axilrod-Teller 상호작용의 반지름 방향 스케일링, 각도 의존성, 특징적인 부호 반전을 재현하며 안정한 궤적을 생성한다. 이를 쌍별 Lennard-Jones 퍼텐셜 안에 포함시키면 관측 가능성을 검토할 수 있는데, 삼체 항은 그 동역학적 신호가 잔여 모델링 오차를 넘어설 때 복원된다. 이는 증폭된 결합에서는 분명하게 일어나지만 실제 비활성 기체의 결합에서는 일어나지 않으며, 둘 사이의 전이를 구간으로 특정한다. 마지막으로, 학습된 퍼텐셜에 함수 형태를 가정하지 않고 기호 회귀를 적용하면 각도 분자, 반지름 법칙, 결합 상수가 그대로 유지된 Axilrod-Teller 식이 얻어진다. 따라서 영역 특화 구조를 갖춘 LNN은 궤적으로부터 환원 불가능한 삼체 상호작용을 닫힌 형태의 법칙으로 복원할 수 있으며, 이는 구조가 사전에 알려지지 않은 상호작용 법칙의 학습으로 나아가는 길을 가리킨다.
PET는 양전자-전자 소멸에서 나오는 두 광자 동시 계수에 의존하여 기능 영상을 제공한다. 인체 조직에서는 소멸의 약 40\%가 Ps 형성에 선행하며, 이 중 o-Ps 성분은 일부가 세 개의 광자로 붕괴하고 나머지는 pick-off 또는 스핀 교환을 통해 두 개의 광자로 소멸한다. 이 세 광자 채널은 주변 미세환경에 관한 추가 정보를 담고 있으며, 3광자 대 2광자 수율비는 잠재적 진단 표지자가 될 수 있다. 우리는 베이즈 최대 사후 확률 추론 문제로 정식화된 새로운 3광자 사건 단위 영상 재구성 알고리즘인 TRIO를 제안한다. TRIO는 시간 기반 삼변측량, 에너지 기반 재구성, 그리고 처음으로 Ps 붕괴의 QED 기술에서 도출한 물리 기반 사전분포를 단일 확률적 프레임워크로 통합한다. 즉발 광자가 필요하여 특정 방사성핵종에 제한되는 양전자소 수명 영상과 달리, TRIO는 세 광자만을 이용하며 18F와 같은 표준 방사성핵종과 완전히 호환된다. Siemens Biograph Quadra 스캐너를 모사한 몬테카를로 시뮬레이션에서 평균 위치 오차는 1.65~cm로, 시간 기반 삼변측량(4.59 cm) 대비 약 2.8배, 에너지 기반 재구성 단독(8.7 cm) 대비 약 5.3배 개선되었다. 더 중요하게도, 제안한 베이즈 접근법은 3광자 소멸 동시 계수를 기록할 수 있는 기존 TOF-PET 스캐너와 호환된다.
얕은 순환 디코더(Shallow Recurrent Decoder) 네트워크는 희소 관측을 고차원 모델 데이터와 결합하는, 상태 추정을 위해 최근 도입된 새로운 패러다임이다. 이 아키텍처는 표준 데이터 기반 방법에 비해 다음과 같은 중요한 장점을 지닌다. 즉, (무작위로 선택된 경우에도) 단 세 개의 센서만으로 물리 시스템의 전체 동역학을 재구성할 수 있고, 축소 기저로 생성된 압축 데이터로 학습할 수 있으며, (측정이 쉬운) 단일 장 변수를 측정하여 관측할 수 없는 결합된 시공간 장을 재구성할 수 있고, 하이퍼파라미터 조정이 최소한으로 필요하다. 이 접근법은 원자로를 포함한 여러 분야의 다양한 테스트 사례에서 검증되었으나, 현장에서 관측된 양을 활용한 실제 실험 시설에의 적용은 아직 이루어지지 않았다. 본 연구는 이러한 공백을 메우기 위해, 특히 순환 연료 원자로의 경우를 중심으로 4세대 응용을 위한 내부 가열 유체에 의해 형성되는 자연 순환을 연구하는, 밀라노 공과대학교(Politecnico di Milano)에 구축된 DYNASTY 시설에 얕은 순환 디코더 아키텍처를 적용하는 것을 목표로 한다. 고충실도 데이터를 생성하기 위해 RELAP5 코드를 사용하며, 시설에서 추출한 온도 측정값을 상태 추정의 입력으로 사용한다. 본 연구의 결과는 이 접근법이 정확한 상태 추정을 제공하는 능력을 보여줌으로써 공학 시스템에 대한 얕은 순환 디코더 아키텍처의 검증을 제공할 것이다.
넓은 매개변수(parameter) 범위에 걸쳐 해 연산자(solution operator)를 학습하는 것은 특히 순수 데이터 기반 매개변수 모델의 경우 입력 함수와 물리적 매개변수 모두에 대해 상당한 커버리지를 요구할 수 있습니다. 또한, 그 결과로 도출된 모델은 학습(training) 분포를 벗어났을 때 경고 없이 실패할 수 있습니다. 본 연구에서는 매개변수 연산자 학습을 단일 표준 연산자(canonical operator) 학습으로 재구성하는 방정식 재구성(equation recast) 기법을 제안합니다. 매개변수로 인해 발생하는 연산자 변동은 지배 방정식으로부터 해석적으로 유도되어 유효 소스로 흡수되며, 이를 통해 새로운 매개변수 영역 전반에 걸친 제로샷(zero-shot) 예측이 가능해집니다. 다중 매개변수, 비선형 및 특이 편미분 방정식(PDE) 환경 전반에서, 방정식 재구성은 외삽(extrapolation)을 지원하고, 희소한 이종 데이터셋(dataset)을 공유된 표준 표현으로 통합하며, 재구성 반복(iteration)의 실패에 대한 내부 경고 신호로 수렴(convergence) 손실(loss)을 활용합니다. 핵융합을 위한 고충실도 토카막 시뮬레이션에서, 이 프레임워크는 공동 학습된 단일 연산자 내에서 표준 영역 매핑을 통해 네 가지 장치 형상에 걸친 전자 온도 데이터를 통합합니다. 방정식 재구성은 방정식 유도 전이(transfer), 데이터 효율성 및 모니터링 가능한 추론(inference)을 결합하여 재사용 가능한 신경망 편미분 방정식 해석기(neural PDE solver)로 나아가는 경로를 제공합니다.
수치 기법과 신경망은 비선형 편미분방정식(PDE)에 대한 이해를 변화시켰지만, 그 동역학을 설명하는 수학적 표현을 발견하는 일은 여전히 대체로 전문가의 몫이다. 본 논문은 코딩 에이전트가 알려진 PDE와 제공된 수학적 지식으로부터 명시적 근사를 구성하고 개선하는 에이전트 기호 탐색(ASYS)을 제안한다. ASYS는 미분 가능한 기호 프로그램에 대한 진화적 탐색을 경사 기반 피팅과 결합하며, 지배 방정식을 이용해 후보를 평가하고 수정을 이끈다. 특이 일반화 Constantin-Lax-Majda 프로파일에 대해 ASYS는 장이 특이 시점의 극한에 접근하는 속도를 결정하는 누락된 감쇠항을 추론하고, 프로파일을 중앙값 오차 $3.90\times10^{-5}\%$로 적합하는 기저를 구성한다. Fujita 폭발의 경우 확산과 반응을 분리하고 국소 응답을 유도하여, 제공된 공식의 오차를 55.5%에서 0.0879%로 낮춘다. Allen-Cahn 계면에 대해서는 14개 매개변수로 구성한 모델이 독립적인 시뮬레이션으로 확인된 모드 결합 법칙을 도출한다. 이러한 연구는 에이전트 탐색이 수학적 출발점을 정확하고 분석 가능한 근사로 발전시킬 수 있음을 보여준다.
초해상도 기계학습 방법은 기존 수송 시뮬레이션에서 고차원 특징과 관련된 높은 계산 비용을 해결할 가능성을 지닌다. 본 논문은 이산 종좌표(SN) 수송 계산을 위한 물리 강화 신경망 결합 알고리즘을 제안한다. 고정밀 및 저정밀 데이터를 바탕으로, 거친 격자 해에 대한 보정 인자를 예측하는 예측자-교정자 신경망(pcNN)을 개발한다. 수송 방정식에 기반하여 부격자 규모 정보를 담은 국소 물리 특징을 신경망 입력으로 선택한다. 물리량의 무차원 변환은 입력 공간의 차원을 줄이고 매개변수 분포의 범위를 좁혀 신경망 학습을 용이하게 한다. 물리적 제약이 신경망 모델에 통합되며, 보정된 해는 원래의 보존 특성을 유지한다. pcNN과 SN 수송 스윕은 내부적으로 결합되어 수치 해가 온라인으로 보정된다. 수치 결과는 이 알고리즘이 거친 격자 해를 효과적으로 개선하여 세밀한 격자 결과와 견줄 만한 정확도 수준에 도달할 수 있음을 보여 준다. 물리에 기반한 신경망 설계로 인해 모델은 서로 다른 계산 조건에서 어느 정도의 재사용성을 보인다. 격자 세분화와 비교하여 pcNN-SN 알고리즘은 3차원 시험 문제의 계산 시간을 60% 이상 줄인다.
많은 공학 구성 요소는 다중 포트 선형 시불변 시스템으로 동작한다. RF 공동, 광학 소자, 초전도 양자 칩은 근본 물리가 서로 다르지만 포트 수준 응답에 대해 공통된 수학적 구조를 공유한다. 응답 행렬의 각 원소는 소수의 고유 공진 모드 기여의 합, 즉 극-유수 형태이다. 임의의 기하와 임의의 포트 구성에 대해 이러한 응답을 예측하면서 동시에 그 밑에 있는 고유모드 구조를 추출할 수 있는 모델은, 따라서 이 모든 영역에 잠재적으로 적용 가능한 설계 원리를 제공할 수 있다. 우리는 모드 매개변수 자체는 지도하지 않고 시스템 수준 관측량만으로 지도하여 이 모드 분해를 종단간으로 학습하는 신경 프레임워크를 제안한다. 이 아키텍처는 포트에 독립적인 극 예측기와 포트에 의존적인 두 결합 예측기로 분해되며, 그 출력은 원소별로 결합되어 고유 특징과 포트 의존 특징을 분리한다. 이 분해 덕분에 학습 중 보지 못한 포트 수로 일반화하는 단일 학습 모델이 얻어지는 반면, 직접 회귀는 포트 수마다 별도의 모델이 필요하며 출력 크기가 $\mathcal{O}(N^2)$으로 증가한다. 모드 매개변수는 전혀 지도되지 않았음에도, 자유롭게 매개변수화된 극은 AAA 유리 근사 알고리즘으로 추출한 극과 일치하며 물리적 공진으로 수렴한다. 우리는 이 프레임워크를 무선 주파수 전자기 대리 모델링에 적용한다. 2포트 데이터만으로 학습한 모델이 학습 중 보지 못한 $N$포트 응답을 정확하게 예측한다.
미분 가능 편미분방정식(PDE) 솔버는 솔버-인-더-루프 ML 학습, 기울기 기반 최적 제어, 역문제의 기반이 되지만, 주어진 문제에서 주어진 솔버로부터 올바르고 사용 가능한 기울기를 얻는 데 드는 실질적 비용은 거의 문서화되어 있지 않다. 통합 노력, 계산 비용, 메모리, 기울기 정확도, 수치적 안정성은 솔버마다 크게 다르며 시행착오를 통해서만 알 수 있다. 우리는 솔버 기울기에 대한 접근을 표준화하는 미분 가능 PDE 솔버용 확장 가능한 벤치마킹 프레임워크 Mosaic을 소개한다. 각 솔버는 언어나 자동 미분(AD) 전략과 무관하게 균일한 기울기 API를 노출하는 컨테이너화된 구성 요소(Tesseract)로 패키징되며, 이를 통해 연구자들은 자명하지 않은 물리 솔버를 평가, 비교하고 그 위에 구축할 수 있다. 유체 역학, 구조 역학, 열전달에 걸친 14개 솔버에 대한 평가는 이 벤치마크가 실질적으로 의미 있는 차이를 드러냄을 보여 준다. 계산 비용과 메모리에서 자릿수 단위의 차이가 나타나며, 특정 과제에서 솔버를 배제하게 만드는 설정 비호환성과 불안정성도 드러난다. 이러한 차이에도 불구하고 기울기를 생성하는 모든 솔버는 우리의 과제에서 유사한 최적해로 수렴하며, 이는 실질적 장벽이 기울기 정확도만이 아니라 메모리 한계, 수치적 안정성, 설정 호환성임을 시사한다. Mosaic은 오픈 소스이며 github.com/pasteurlabs/mosaic 에서 이용할 수 있다.
편미분방정식(PDE)의 신경 대리 풀이기는 특히 많은 횟수의 풀이가 필요한 상황에서 수치 방법 대비 극적인 속도 향상을 약속한다. 그러나 현재의 정확도 기반 평가는 두 가지 핵심 문제를 충분히 고려하지 않는다. (1) 신경 풀이기는 데이터 생성, 학습, 튜닝에 상당한 초기 비용이 든다. (2) 고전적 풀이기도 충분히 낮은 시뮬레이션 비용으로 저충실도 해를 생성할 수 있다. 이러한 현실을 명시적으로 반영하고 종단 간 비용을 온전히 포함하기 위해, 학습된 풀이기가 오차가 동등한 전통적 풀이기에 비해 비용 효율적이 되기까지의 순방향 풀이 횟수를 세는 지표인 손익분기 복잡도를 중심으로 한 평가 프레임워크를 제안한다. 이 척도를 평가하기 위해 스케일링 법칙을 적용하여 데이터 생성에 얼마의 학습 예산을 할당할지 결정하고, 다양한 설정에서 매끄러운 오차 매칭을 달성하는 방법을 논의한다. APEBench의 2차원 주기 영역 위 세 가지 PDE와, GPU 네이티브 PyFR 코드로 생성한 다중 장애물 주위 유동의 새로운 벤치마크에서 여러 신경 PDE 풀이기의 손익분기 복잡도를 평가한다. 여러 발견 중에서도, 본 결과는 비용, 차원, 롤아웃, 물리 영역(예: 더 높은 레이놀즈 수) 등의 측면에서 문제가 어려워질수록 신경 PDE 풀이기가 더 효과적이 됨을 시사한다.
데이터로부터 비선형 동역학계(DS)를 재구성하는 것(DSR)은 과학과 공학의 근본적인 과제이지만, 본질적으로 순차 모델에 의존한다. 최근 순차 모델 분야의 혁신으로 시퀀스 길이 $T$를 따라 계산을 병렬화하여 로그 시간 복잡도 $\mathcal{O}(\log T)$를 달성하는 알고리즘이 등장했다. 고전적인 시간 역전파의 선형 실행 시간 복잡도 $\mathcal{O}(T)$ 때문에 시퀀스 길이가 실질적으로 제한되어 왔으므로, 이는 DSR에 새로운 길을 연다. 본 논문은 이 과제를 위한 두 가지 대표적인 시간 병렬 알고리즘 부류를 연구하며, 두 부류 모두 병렬 결합 스캔(parallel associative scan)을 핵심 계산 기본 연산으로 활용한다. 첫 번째 부류는 현대적인 상태 공간 모델(SSM)처럼 선형이지만 비자율적인 동역학과 비선형 읽기 함수를 갖는 모델이며, 두 번째 부류는 DEER 프레임워크를 사용해 병렬화할 수 있는 일반 비선형 모델이다. 우리는 첫 번째 부류 모델의 선형 학습 시 순환 구조가 정확한 비선형 동역학의 학습을 자주 방해하는 한계를 부과함을 확인했다. 이를 해결하기 위해 더 일반적인 비선형 프레임워크 내의 새로운 변형으로서, 임의의 시퀀스 길이에서 비선형 동역학의 안정적이고 효과적인 학습을 보장하는 일반화된 교사 강요(Generalized Teacher Forcing, GTF)를 DEER에 결합한다. GTF-DEER를 사용하여 DSR을 위해 매우 긴 시퀀스($T$가 $10^5$에 근접)로 학습하는 이점을 조사한다. 결과는 데이터가 긴 시간 척도를 갖는 경우 이러한 긴 궤적을 활용할 수 있으면 DSR이 크게 향상됨을 보여 준다. 본 연구는 GTF-DEER를 데이터 기반 발견을 위한 견고한 도구로 자리매김하고, 복잡한 DS를 모델링하는 데 있어 긴 시퀀스 학습의 대체로 개척되지 않은 잠재력을 강조한다.
텍스트와 이미지로 학습된 파운데이션 모델은 인간의 개념과 부합하는 추상적인 내부 특징을 형성하며, 활성화 스티어링(activation steering)을 통해 이러한 특징을 직접 조작하여 모델의 행동을 바꿀 수 있는 것으로 알려져 있다. 과학 파운데이션 모델이 이와 유사하게 추상적이고 도메인에 일반적인 표현을 학습하는지는 여전히 미해결 문제로 남아 있었다. 본 연구는 대규모 언어 모델에서 복잡한 행동을 제어하는 활성화 공간의 단일 방향을 규명한 최근 연구에서 착안하여, 대규모 물리 파운데이션 모델인 Walrus가 물리 현상에 대한 선형적으로 조향 가능한 표현을 학습함을 보인다. 서로 대비되는 물리 영역을 나타내는 활성화 간의 차이를 계산함으로써, 와도(vorticity), 확산, 나아가 시간적 진행에 대응하는 활성화 공간의 단일 방향을 식별한다. 이러한 개념 방향을 추론 중 모델에 다시 주입하면 세밀한 인과적 제어가 가능함을 확인했다. 즉 소용돌이를 생성하거나 제거할 수 있고, 확산을 강화하거나 억제할 수 있으며, 시뮬레이션을 빠르게 또는 느리게 진행시킬 수 있다. 더욱이 한 물리 시스템에서 도출한 방향이 다른 물리 시스템의 거동도 조향하므로, 이 방향들이 도메인에 일반적임을 시사한다. 이러한 결과는 과학 파운데이션 모델이 물리 원리에 대한 일반적인 표현을 학습할 수 있다는 초기 증거를 제공하며, 선형 표현 가설(Linear Representation Hypothesis)을 한층 더 뒷받침한다.
디지털 트윈은 모델의 충실도가 높을수록 하위 작업의 성능도 향상된다는 가정 아래 구축되는 경우가 많다. 우리는 이것이 항상 성립하지는 않음을 보인다. 약하게 의존적이거나 보조적인 자유도를 유지하면 학습 및 제어 문제의 차원이 크게 증가하여, 희소 확률적 대리 모델이 정확한 고차원 모델보다도 더 나은 성능을 낼 수 있다. 이러한 구조를 식별하기 위해 우리는 전체 조건부 법칙 수준에서 직접 의존성을 발견하는 프레임워크를 도입한다. 이 방법은 조건부 생성 모델링을 가우시안 프로세스 증류 및 커널 모드 분해와 결합하여, 개별 변수가 변동성, 꼬리, 다봉성, 그리고 조건부 평균으로는 보이지 않는 기타 특징을 포함해 조건부 분포에 얼마나 강하게 들어가는지를 정량화한다. 그 결과로 얻은 의존성 구조는 데이터로부터 희소 확률적 디지털 트윈을 구축하는 데에도, 알려진 고차원 모델을 하위 작업을 위해 축소하는 데에도 사용할 수 있다. 수정된 Lunar Lander 문제에서, 8차원 희소 대리 모델은 전이 충실도가 더 낮음에도 정확한 109차원 시뮬레이터보다 더 나은 제어 성능을 보인다. 확률적 열 방정식 예제는 이 프레임워크가 102차원 데이터 기반 환경에서 희소 구조를 복원하고, 모든 후보 입력을 조건으로 한 대리 모델보다 더 효과적인 대리 모델을 생성함을 보여 주며, 경제 데이터는 시간에 따라 변하는 기억 구조를 식별하는 데 이 프레임워크를 사용할 수 있음을 보여 준다. 이러한 결과는 모델 충실도와 하위 작업 유용성이 서로 다른 목표이며, 의존성 발견이 희소 확률적 디지털 트윈으로 가는 실용적인 경로를 제공함을 보여 준다.
연속체 속 속박 상태(BIC) 메타표면은 일반적으로 기하 구조에 특화된 매개변수로 기술되므로 기하 구조 간 비교가 어렵고, 극히 좁은 준-BIC(qBIC) 특징은 전체 스펙트럼 학습에서 쉽게 희석된다. 본 연구에서는 일곱 가지 유전체 메타표면 계열의 2,015개 샘플을 공통 역격자 격자 위에 사상한다. 고정된 두 개의 저차 푸리에 기술자는 분기 내 공진 이동을 평균 $R^2$ 값 0.871-0.999로 포착한다. 두 대표 분기에 대한 장(field) 수준 분석은 이러한 이동이 맥스웰-푸리에 섭동 관점과 일치함을 보여 준다. 5채널 푸리에 공간 백본은 광대역 스펙트럼을 모델링한다. 국소 공진 전문가 모델은 복소 푸리에 계수를 사용하여 미분 가능한 Fano 층을 통해 qBIC 공진을 매개변수화한다. 이 전문가 모델은 기하 구조로 구분한 시험 집합에서 공진 위치의 평균 절대 오차(MAE)를 3.2 nm에서 0.95 nm로 줄이고, 최소 투과율의 MAE를 14배 줄인다. 동일한 좌표계는 스펙트럼에서 구조로의 복원 또한 지원한다.
우리는 물리 정보 신경망(PINN)에서 자동 미분(AD)의 대안으로서 유한 차분(FD) 도함수 계산을 체계적으로 연구한다. 세 가지 벤치마크 PDE에서, 스텝 크기를 적절히 보정하면 FD가 모든 문제에서 AD와 대등한 정확도를 보이면서, 검증된 전체 배치 크기 범위에서 더 빠르게 실행되고 GPU 메모리를 상당히 적게 사용함을 보이며, 우리가 제안하는 확률적 변형은 정상(stationary) 문제에서 AD보다 우수함을 보인다. 나아가 샘플 간 의존성이 있는 신경망 구조(예: BatchNorm, 셀프 어텐션)에서는 표준적인 PyTorch autograd 관용 방식이 조용히 잘못된 결과를 낸다는 점을 보인다. 올바른 샘플별 대안은 PINN에서 의미 있는 배치 크기에서는 계산적으로 실행이 불가능한 반면, FD는 실제 샘플별 도함수에 경험적으로 한 자릿수 더 가까운 순전파 전용 근사를 제공한다.
전지구 격자 작물 모델(GGCM)은 기후가 농업 생산성에 미치는 영향을 전망하고 식량 안보에 대한 관련 위험을 평가하는 데 중요하다. 그러나 최신 GGCM은 복잡한 과정을 축약하여 표현하기 때문에 상당한 불확실성을 지닌다. 기후 극한 현상의 빈도와 강도가 증가할 것으로 전망됨에 따라 더 신뢰할 수 있는 농업 수확량 시뮬레이션이 요구된다. 관측 데이터로 학습한 최근의 기계학습 접근법은 GGCM의 대안을 제공하지만, 관측이 희소하여 제약이 부족하고 분포 외 일반화 성능이 낮다. 본 논문에서는 고도화된 과정 기반 GGCM(LPJmL)의 강점과 데이터 기반 구성 요소를 결합한 미분 가능한 하이브리드 GGCM인 NeuralCrop을 소개한다. NeuralCrop은 먼저 그 기반이 되는 완전 과정 기반 버전을 재현하도록 학습된 뒤, 생리 변수의 관측 플럭스 데이터로 미세 조정된다. 유럽 밀 및 미국 옥수수 지점의 보류된 플럭스 타워 관측치를 이용한 평가에서, 일별 탄소 및 수분 플럭스의 평균 정규화 제곱근 평균제곱오차가 32.6~45.2% 감소하였다. 생리 변수만으로 미세 조정되었음에도 NeuralCrop은 1981~2019년 동안 독립적인 수확량 기록과의 시간적 상관을 유럽 밀 재배 면적의 71.4%, 미국 콘벨트의 84.0%에서 향상시킨다. 이는 GGCMI Phase~3 모델들과 비교해도 매우 경쟁력 있는 성능을 보인다. NeuralCrop은 다양한 토양 수분 조건, 특히 극심한 가뭄 조건에서 수확량 이상치를 더 정확하게 재현한다. 대규모 장기 시뮬레이션에서 NeuralCrop은 주로 GPU 가속 덕분에 CPU 기반 LPJmL 기준 모델보다 거의 두 자릿수 크기(두 order) 빠르게 실행된다. 이러한 결과는 종단간 하이브리드 작물 모델링이 작물 시뮬레이션을 개선하고 기후 변화 하의 식량 안보 평가에 정보를 제공하는 유망한 방안임을 보여 준다.
물리 정보 신경망(Physics-Informed Neural Networks)은 편미분방정식을 푸는 유망한 틀을 제공하지만, 표준 $L^2$ 손실 공식은 Bhatnagar-Gross-Krook(BGK) 모델에 적용할 때 근본적으로 불충분하다. 구체적으로, 표준 손실을 단순히 최소화하는 것만으로는 거시적 모멘트의 정확한 예측이 보장되지 않아, 근사해가 참된 물리적 해를 포착하지 못하게 된다. 이러한 한계를 극복하기 위해 본 연구는 고속도 영역에서의 오차를 효과적으로 벌점화하도록 설계된 속도 가중 $L^2$ 손실 함수를 도입한다. 제안한 접근법에 대한 안정성 추정을 확립함으로써, 제안한 가중 손실을 최소화하면 근사해의 수렴이 보장됨을 보인다. 또한 수치 실험을 통해, 이 가중 PINN 손실을 사용하면 표준 접근법에 비해 다양한 벤치마크에서 더 우수한 정확도와 강건성을 얻음을 확인한다.
기계학습 원자간 퍼텐셜(MLIP)은 형식적인 신뢰성 보장 없이 고처리량 소재 스크리닝에 활용되고 있다. 본 연구는 안정성 필터로 사용된 단일 MLIP가 25,000개 소재 벤치마크에서 밀도범함수이론(DFT)상 안정한 소재의 93%를 놓친다(재현율 0.07)는 것을 보인다. 증명 동반 소재(Proof-Carrying Materials, PCM)는 조성 공간 전반에 걸친 적대적 반증, 95% 신뢰구간을 갖는 부트스트랩 포락선 정제, Lean 4 형식 인증이라는 세 단계를 통해 이 격차를 해소한다. CHGNet, TensorNet, MACE를 감사한 결과 쌍별 오차 상관이 0에 가까운(r <= 0.13; n = 5,000) 아키텍처별 사각지대가 드러났으며, 이는 독립적인 Quantum ESPRESSO 검증(20/20 수렴, DFT/CHGNet 힘 비율 중앙값 12배)으로 확인되었다. PCM이 발견한 특징으로 학습한 위험 모델은 보지 못한 소재에서의 실패를 예측하며(AUC-ROC = 0.938 +/- 0.004) 아키텍처 간에도 전이된다(MLIP 간 AUC-ROC ~ 0.70; 특징 중요도 r = 0.877). 열전 소재 스크리닝 사례 연구에서, PCM으로 감사한 프로토콜은 단일 MLIP 스크리닝이 놓친 안정 소재 62개를 추가로 발견했으며, 이는 발견 수율의 25% 향상에 해당한다.