arXiv:2509.13805 cs.LG

Towards a Physics Foundation Model

제출 2025-09-17

한국어 초록

기초 모델은 "한 번 학습하고 어디서나 배포"라는 패러다임을 통해 자연어 처리를 혁신하였으며, 단일 사전 학습 모델이 재학습 없이 수많은 하위 작업에 적응할 수 있게 합니다. 물리학 기초 모델(Physics Foundation Model, PFM)에 대한 접근은 고충실도 시뮬레이션에 대한 접근을 민주화하고, 과학적 발견을 가속화하며, 전문적인 솔버 개발의 필요성을 없애는 변화를 가져올 것입니다. 그러나 현재의 물리 인식 기계 학습 접근법은 본질적으로 단일, 좁은 도메인에 제한되어 있으며, 새로운 시스템마다 재학습이 필요합니다. 우리는 1.8TB의 다양한 시뮬레이션 데이터로 훈련된 일반 물리 트랜스포머(General Physics Transformer, GPhyT)를 제시하며, 이는 물리학에 대한 기초 모델의 가능성을 보여줍니다. 우리의 주요 통찰은 트랜스포머가 맥락에서 지배적인 역학을 추론하는 방법을 배울 수 있다는 것으로, 이를 통해 단일 모델이 기본 방정식을 알려주지 않고도 유체-고체 상호작용, 충격파, 열 대류 및 다상 역학을 시뮬레이션할 수 있게 합니다. GPhyT는 세 가지 중요한 돌파구를 달성합니다: (1) 여러 물리 도메인에서 우수한 성능을 발휘하며, 전문 아키텍처보다 최대 29배 더 뛰어난 성능을 보입니다, (2) 문맥 내 학습을 통해 전혀 보지 못한 물리 시스템에 대한 제로샷 일반화를 달성합니다, (3) 50 타임스텝 롤아웃을 통해 안정적인 장기 예측을 제공합니다. 단일 모델이 데이터만으로 일반화 가능한 물리 원리를 학습할 수 있음을 입증함으로써, 이 연구는 계산 과학 및 공학을 혁신할 수 있는 보편적인 PFM으로 나아가는 길을 열어줍니다.

요약

물리학 기초 모델(Physics Foundation Model, PFM)의 필요성은 고충실도 시뮬레이션에 대한 접근을 민주화하고, 과학적 발견을 가속화하며, 전문적인 솔버 개발의 필요성을 없애는 데 있다. 그러나 현재의 물리학 인식 기계 학습(Physics-Aware Machine Learning, PAML) 접근법은 단일 물리 시스템에 국한되어 있으며, 새로운 시스템에 대해 재훈련이 필요하다는 한계가 있다. 이러한 문제를 해결하기 위해 제안된 General Physics Transformer (GPhyT)는 1.8TB의 다양한 시뮬레이션 데이터를 기반으로 학습하여 물리학의 기초 모델 능력을 실현할 수 있음을 보여준다. GPhyT의 핵심 통찰은 트랜스포머(Transformer) 구조가 맥락에서 지배하는 동역학을 추론할 수 있다는 점이다. 이로 인해 단일 모델이 유체-고체 상호작용, 충격파, 열 대류 및 다상 동역학을 시뮬레이션할 수 있게 된다. GPhyT는 세 가지 주요 혁신을 통해 물리학 분야에서의 성과를 달성하였다. 첫째, 여러 물리학 도메인에서 전문 아키텍처보다 최대 29배 더 뛰어난 성능을 보였다. 둘째, 제로샷 일반화(zero-shot generalization)를 통해 전혀 새로운 물리적 시스템에 대해서도 입력 데이터만으로 동역학을 추론할 수 있는 능력을 갖추었다. 셋째, 50타임스텝 롤아웃을 통해 안정적인 장기 예측을 수행하며 물리적 일관성을 유지할 수 있다. 이 연구는 단일 모델이 데이터만으로 일반화 가능한 물리적 원리를 학습할 수 있음을 입증함으로써, 계산 과학 및 공학 분야에서의 혁신적인 발전을 이끌어낼 수 있는 가능성을 열었다. GPhyT는 다양한 물리 시스템을 효과적으로 모델링할 수 있는 능력을 보여주며, 이는 물리학 시뮬레이션의 새로운 가능성을 제시한다. 이러한 기초 모델은 향후 고충실도 시뮬레이션에 대한 접근을 민주화하고, 다양한 물리적 조건에 대한 적응력을 높일 수 있는 길을 제시한다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.