디지털 트윈 기반 미세구조 진화 예측을 위한 물리 유도 완전 합성곱 시공간 학습
Physics-Guided Fully Convolutional Spatiotemporal Learning Toward Digital-Twin-Enabled Microstructure Evolution Prediction
한국어 초록
재료 설계에서 미세구조 진화의 이해와 예측은 핵심이지만, 순수 데이터 기반 시공간 학습 모델은 종종 물리적 일관성이 제한되고 장기 예측 정확도가 저하되는 문제를 겪는다. 본 연구에서는 미세구조 진화 예측을 위한 물리 유도 완전 합성곱 시공간 학습 프레임워크를 제안한다. 기존 자기지도(self-supervised) 접근법과 달리, 제안 방법은 지배 물리 방정식을 학습 목표에 명시적으로 통합하여, 학습된 역학이 알려진 열역학 및 운동학 법칙과 일관되도록 유도한다. 이 물리 유도 formulation은 공간 해상도 및 시간 예측 설정 전반에 걸쳐 예측 정확도, 장기 안정성, 견고성을 향상시킨다. 스피노달 분해(spinodal decomposition)에 대한 광범위한 실험은 물리 유도 잔차 정규화를 통합하면 순수 데이터 기반 베이스라인 대비 미세구조 형태학, 통계, 진화 추세를 더 충실하게 재현함을 보여준다. 제안 프레임워크는 완전 합성곱 아키텍처의 확장성과 계산 효율성을 유지하면서 고정밀 물리 기반 시뮬레이션과 데이터 기반 서로게이트 모델링(surrogate modeling) 사이의 격차를 메워, 디지털 트윈 기반 미세구조 진화 예측을 향한 신뢰할 수 있고 효율적인 서로게이트 모델링 단계를 제공한다.
원문 초록
Understanding and predicting microstructure evolution is central to materials design, yet purely data-driven spatiotemporal learning models often suffer from limited physical consistency and degraded long-term prediction accuracy. In this work, we introduce a physics-guided fully convolutional spatiotemporal learning framework for microstructure evolution prediction. Unlike prior self-supervised approaches, the proposed method explicitly incorporates governing physical equations into the training objective, thereby encouraging the learned dynamics to remain consistent with known thermodynamic and kinetic laws. This physics-guided formulation improves predictive accuracy, long-horizon stability, and robustness across spatial resolutions and temporal prediction settings. Extensive experiments for spinodal decomposition demonstrate that incorporating physics-guided residual regularization leads to more faithful reproduction of microstructural morphology, statistics, and evolution trends compared with purely data-driven baselines. The proposed framework preserves the scalability and computational efficiency of fully convolutional architectures while bridging the gap between high-fidelity physics-based simulations and data-driven surrogate modeling, offering a reliable and efficient surrogate-modeling step toward digital-twin-enabled microstructure evolution prediction.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.20983v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
NEMORA: 장거리 원자론적 학습을 위한 신경 등변 다중극 연산자
NEMORA: Neural Equivariant Multipole Operators for Long-Range Atomistic Learning
등변 그래프 신경망(Equivariant Graph Neural Network)은 머신러닝 기반 원자 간 포텐셜(interatomic potential)의 핵심 아키텍처로 부상하여, 계산 비용의 일부만으로도 양자 화학 수준의 정확도에 근접하고 있습니다. 이러한 모델들은 국소 원자 환경을 정확하게 기술하지만, 유한한 공간적 컷오프(cutoff)로 인해 장거리 정보 흐름이 단절되며, 메시지 전달 계층을 깊게 쌓으면 지나친 평활화(over-smoothing) 및 과도한 압축(over-squashing)이 발생할 수 있습니다. 기존의 장거리 확장 기법들은 고정된 해석적 전파 커널(propagation kernel)을 규정하거나, 장거리 통신을 스칼라 또는 차수 보존 채널로 제한하거나, 근사적으로만 등변성을 만족하거나, 초선형(super-linear) 계산 비용을 초래합니다. 대규모 시스템에 대해 효율적인 스케일링(scaling) 및 다중 스케일 다체 표현력과 함께 학습 가능한 장거리 등변 수송을 결합하는 것은 여전히 핵심 과제로 남아 있습니다. 본 논문에서는 장거리 텐서 표현 학습을 위해 고속 다중극 방법(Fast Multipole Method, FMM)을 신경 등변 방식으로 확장한 NEMORA(Neural Equivariant Multipole Operators)를 소개합니다. NEMORA는 적응형 공간 계층 구조상에서 FMM의 해석적 다중극 전개 및 변환 연산자를 학습 가능한 등변 연산자로 일반화합니다. 이 연산자들은 각도 차수를 결합하고 다양한 길이 스케일에 걸쳐 다체 상호작용을 형성하며, 데이터 의존적인 장거리 결합을 학습하는 동시에 FMM의 계층적 구조와 해석적 방사형 인자를 물리적 귀납 편향(inductive bias)으로 유지합니다. NEMORA는 선형 시간 및 메모리 복잡도로 평가되므로 수십만 개의 원자에 달하는 대규모 시스템을 다른 장거리 방식보다 효율적으로 다룰 수 있으며, 대칭 제약이 있는 백본 및 제약이 없는 단거리 백본 모두를 보강합니다. 비국소(non-local) 벤치마크에서 단거리 백본 대비 힘(force) 및 에너지 오차를 각각 1자릿수(order of magnitude) 이상, 최대 3자릿수까지 줄여, 정확도 측면에서 기존의 장거리 확장 기법보다 우수하거나 경쟁력 있는 성능을 보입니다.
감각 정렬 수용영역의 계산적 가치는 신경 세포 표현력에 의존한다
The Computational Value of Sensory-Aligned Receptive Fields Depends on Neuronal Expressivity
생물학적 감각 신경세포는 주파수, 운동 방향, 망막 위치와 같은 유의미한 자극 좌표를 따라 조직화된 선택적 수용영역(receptive field)을 갖습니다. 단순 신경세포에 대한 계산 연구들이 여러 모달리티(modality)에 걸쳐 보여주었듯이, 이러한 구조는 효율적 부호화(efficient coding)와 활동, 연결성 및 배선에 대한 생물학적 제약 조건에서 비롯되었을 수 있습니다. 이는 다음과 같은 질문을 제기합니다. 구조화된 수용영역이 자원 효율성 자체를 넘어 계산적 이점을 제공하는가, 그리고 개별 신경세포의 표현력이 매우 높을 때도 이 이점이 유지되는가? 우리는 신경세포의 복잡도와 피드포워드(feed-forward) 수용영역의 구성을 독립적으로 변경할 수 있는 Expressive Leaky Memory 신경세포의 순환 신경망에서 이 질문을 다룹니다. 청각 및 이벤트 기반 시각 분류(classification) 태스크 전반에 걸쳐, 태스크 관련 감각 좌표와 정렬된 수용영역은 예산이 일치된(budget-matched) 무작위 수용영역에 비해 테스트 정확도를 향상시킵니다. 이러한 이점은 감각 좌표가 뒤섞이거나 수용영역이 태스크와 무관한 좌표를 따를 때 사라지며, 이는 그 이점이 제한된 연결성 자체보다는 태스크 기하학(task geometry)과의 정렬에서 비롯됨을 보여줍니다. 신경세포 복잡도가 증가하면 구조화된 수용영역의 성능상 이점이 감소합니다. 마지막으로, 일반적인 시냅스 희소성(sparsity) 정규화(regularization)는 입력 선택성을 유도하고 성능을 부분적으로 회복하지만, 명시적으로 구조화된 수용영역보다는 실질적으로 낮은 수준에 머물러 있어, 희소성만으로는 태스크 정렬 수용영역의 완전한 계산적 이점을 회복하기에 불충분함을 시사합니다. 종합하면, 우리의 결과는 적절한 수용영역이 희소성 자체를 넘어선 계산적 사전 분포(computational prior) 역할을 할 수 있으며, 그 가치는 개별 신경세포의 계산적 표현력에 따라 달라짐을 보여줍니다.
Forecast Workflow Bench: 예산 제약 예측 도구를 활용한 언어 모델 의사결정 평가
Forecast Workflow Bench: Evaluating Language-Model Decisions with Budgeted Forecast Tools
시계열 파운데이션 모델(TSFM)은 운영 의사결정을 위한 예측을 제공하지만, 정확도만으로는 그 가치를 판단할 수 없다. 이러한 모델을 사용하는 에이전트를 평가하려면 의사결정 품질과 예측 비용을 측정해야 한다. FWBench는 고정된 예측 도구와 시뮬레이션된 용량 계약을 사용하여 전력 및 자전거 대여 사례 1,251건에 대해 이 역량을 평가한다. 에이전트는 모델, 이력(history) 및 예측 구간(horizon)을 선택한 뒤, 명시된 손실-비용 목적을 최소화하도록 용량을 제출한다. 호스팅 2종과 소형 언어 모델을 포함한 로컬 8종 구성을 평가했으며, TSFM 유무에 따른 로컬 모델도 시험했다. GPT-6 Astra는 예산의 2.5%만 사용해 저렴한 단기 예측을 선택적으로 구매했으며, 절감된 의사결정을 세 가지 손실-비용 가중으로 채점했을 때 고정 정책을 능가했다. FWBench는 비용 제약 하에서 언어 모델이 시계열 예측을 어떻게 선택하고 활용해 의사결정하는지 재현 가능하게 평가할 수 있게 한다.
대규모 교통 예측을 위한 국소 이질성 및 지역 간 컨텍스트 학습
Learning Local Heterogeneity and Cross-Region Context for Large-Scale Traffic Forecasting
교통 흐름 예측은 지능형 교통 시스템에 필수적이다. 대규모 교통 예측은 국소 공간적 의존성과 지역 간 컨텍스트를 공동으로 모델링해야 한다. 지리적으로 인접한 노드 간 공간적 의존성은 도로 유형과 이동 방향의 차이로 인해 이질적이며, 모든 노드 쌍 상호작용을 통해 전역 정보를 획득하는 것은 상당한 계산 비용을 초래한다. 따라서 국소 이질성을 포착하면서 장거리 컨텍스트를 효율적으로 획득하는 것은 대규모 교통 예측에서 여전히 중요한 과제로 남아 있다. 이러한 과제를 해결하기 위해, 우리는 노드 이웃과 도로 네트워크 지역이라는 두 가지 상보적 세분성에서 공간적 의존성을 모델링하는 Local-Region Spatial Temporal(LoReST) 네트워크를 제안한다. 구체적으로, 관계 인지 국소 집계는 도로 및 방향별 특징 변환을 통해 지리적 이웃 내 이질적 의존성을 포착한다. 지역 간 상호작용은 평균 풀링을 통해 지역 표현을 구성하고, 지역 간 어텐션을 통해 장거리 컨텍스트를 교환한 뒤 이를 노드로 다시 전파한다. 국소 정보 집계와 지역 간 상호작용을 통합함으로써 LoReST는 대규모 도로 네트워크에서 공간적 의존성 학습을 효과적으로 수행할 수 있다. LargeST 벤치마크의 네 개 데이터셋에 대한 실험은 MAE, RMSE, MAPE에서 각각 평균 상대 감소율 4.78%, 3.60%, 5.75%를 보여준다.
기후 인식 디지털 트윈을 위한 물리정보 신경망 기반 희소 관측 대기 열 예측
Sparse-Observation Atmospheric Thermal Forecasting with Physics-Informed Neural Networks for Climate-Aware Digital Twins
기후 인식 디지털 트윈 시스템을 지원하려면 단기 대기 온도 예측이 필요하지만, 열 관측이 불완전한 곳에서도 그러한 예측을 생성해야 한다. 본 연구는 위치온도(potential temperature) 예측을 위해 압력 좌표 열역학적 이류-원(source) 방정식과, 직전 12시간 구간에서 적합한 후 미래 시점 학습 전에 고정(freeze)한 비단열(diabatic) 원 폐쇄(closure)로 제약하는 물리정보 신경망(physics-informed neural network)을 평가한다. 세 개 압력 레벨에서 시간별 ERA5 재분석을 사용하여, 모델은 1·2·3시간 선행(lead time)에서 지속(persistence), 국지 추세(local-trend), 그리고 동일한 미래 기상 forcing을 PINN과 같이 받는 신경망 기준선 하나를 포함한 두 개의 대응(match) 신경망 기준선과 비교하는 조건부 후향 예측(hindcast)으로 평가되어, 물리적 제약과 미래 forcing 접근의 효과를 구분하는 데 도움이 된다. 오클라호마 개발 사례에서 가장 강한 기준선 대비 평균 RMSE 개선은 1시간에서 8.1%에서 3시간에서 23.8%까지 증가했으며, 후보 위치의 5%까지 관측 밀도 스weep을 내린 희소성 조건에서도 3시간 우위는 14.6–16.9%로 유지되었고, 밀도가 낮을수록 성능이 개선된다는 증거는 없었다. 알abama 열 이벤트로 고정 프로토콜을 이전하고 세 가지 가상 관측 배치를 적용한 경우, 3시간 개선은 19.7–24.4% 범위였고 origin 수준에서 일관된 우위가 있었다. 고정 압력 레벨이 복잡 지형과 교차하는 몬타나 스트레스 테스트에서는 3시간 성능이 대략 17.5% 악화되어, 해당 formulation의 지형 관련 적용 한계를 드러냈다. 종합하면, 물리 제약의 이점은 예측 horizon이 길어질수록 커지고, 심각한 관측 희소성에서도 유지되며, 지역 간 전이되지만, 복잡 지형 위에서 고정 수직 좌표 표현의 타당성에 의해 한계가 있으며, 이는 기후 인식 예측 및 디지털 트윈 시스템의 물리 제약 구성요소와 관련된 근거이다.
스파이킹 트랜스포머에서의 쌍별 토큰 상호작용 재고
Rethinking Pairwise Token Interaction in Spiking Transformers
스파이킹 트랜스포머(Spiking Transformers)는 기존 트랜스포머의 토큰 상호작용 메커니즘을 계승하지만, 희소한 이진 표현으로 인해 토큰 간 통신이 형성되는 방식이 근본적으로 변화합니다. 특히 스파이크 기반 쿼리-키(query-key) 매칭은 매우 희소하고 입력 의존적인 상호작용 패턴을 생성하여, 정보 전파가 일치하는 스파이크 이벤트의 순간적 가용성과 결합되도록 만듭니다. 이는 장거리 통신이 쌍별(pairwise) 스파이크 일치에만 의존하지 않는 새로운 상호작용 패러다임의 필요성을 동기부여합니다. 이에 따라 본 논문에서는 정보 전파와 문맥 선택을 분리하는 스파이크 네이티브(spike-native) 토큰 상호작용 메커니즘인 GSAP(Gated Spike Axial Propagation)을 제안합니다. GSAP은 쿼리-키 매칭을 통해 통신을 직접 결정하는 대신, 수평 및 수직 축을 따라 스파이크 기반 문맥을 먼저 전파함으로써 구조화된 순차적 전파를 통해 정보가 먼 토큰까지 도달할 수 있도록 합니다. 그런 다음 수신자 조건부 게이트(receiver-conditioned gate)가 각 토큰에서 전파된 문맥이 얼마만큼 통합될지를 결정하며, 경량 로컬 경로(local pathway)는 세밀한 이웃 정보를 보존합니다. 이러한 방식으로 GSAP은 토큰 상호작용을 '전파 후 선택(propagate-then-select)' 과정으로 재구성하여, 스파이킹 표현의 희소한 이벤트 기반 특성을 유지하면서도 구조화된 장거리 통신을 가능하게 합니다. 코드는 https://github.com/Fancyssc/GSAP 에서 확인할 수 있습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.