GridSFM: 교류 최적 조류 계산 해결을 위한 파운데이션 모델
GridSFM: A Foundation Model for Solving AC Optimal Power Flow
한국어 초록
본 논문에서는 다양한 전력망 토폴로지에 걸쳐 사전학습된 파운데이션 모델과 물리 정보 기반 미세조정(fine-tuning)을 결합하여 대규모 교류 최적 조류 계산(AC-OPF)을 해결하는 프레임워크인 GridSFM을 소개합니다. 이 모델은 500개에서 4,000개 모선(bus) 규모의 54개 토폴로지에서 사전학습된 1,500만 개 매개변수 규모의 물리 영감 그래프 신경망(GNN)입니다. 본 모델은 홀드아웃된 운전 조건의 10,000개 모선 사례에서 제로샷(zero-shot) 발전 비용 오차 2.45%를 달성하며, 시스템 규모가 커져도 성능 저하가 발생하지 않습니다. 이를 바탕으로 사전학습된 백본을 조류 계산용 뉴턴 방법(Newton's method) 기반의 물리 정보 미세조정 설계와 결합합니다. GridSFM은 단 100개의 풀이된 인스턴스만으로도 최대 10,000개 모선 규모의 미확인 전력망에 적응합니다. 또한 웜 스타트(warm start) 지점으로 활용될 때, 더 많은 데이터로 학습된 단일 토폴로지 전용 신경망 모델보다 비용과 솔버 반복 횟수 측면 모두에서 우수한 성능을 보임을 입증합니다. 이러한 파운데이션 모델을 설계하는 과정에서, 연속 신경망이 해 매핑을 근사하는 것을 가로막는 장애 요소인 AC-OPF의 실행 가능 집합이 비연결(disconnected)될 수 있다는 문제를 극복합니다. 이를 위해 문제를 리프팅하고 로그 페널티 슬랙 변수를 적용하여 제약 조건을 완화합니다. 그 결과로 얻어지는 탄성 실행 가능 집합이 가축소(contractible)임을 증명하고, 명시적인 페널티 임계값 이상에서는 AC-OPF 최소화해가 탄성 문제의 최소화해로 유지되며, 근사해를 AC-OPF 실행 가능 집합으로 다시 투영하는 것이 잘 정의됨(well-posed)을 증명합니다. 커뮤니티가 AC-OPF의 공유된 출발점을 기반으로 연구할 수 있도록 모든 모델, 데이터 및 코드를 공개합니다.
원문 초록
We introduce GridSFM, a framework that combines a pretrained foundation model across grid topologies with physics-informed fine-tuning for solving AC Optimal Power Flow (AC-OPF) at scale. It is a $15$ million parameter physics-inspired graph neural network pretrained across $54$ topologies of $500$ to $4{,}000$ buses. Our model attains a $2.45\%$ zero-shot generation-cost error on a $10{,}000$ bus case held-out operating conditions with no degradation as system size grows. Building on this, we pair the pretrained backbone with a physics-informed fine-tuning design based on Newton's method for power flow. With only $100$ solved instances, GridSFM adapts to unseen grids up to $10{,}000$ buses. We show it out performs single topology, dedicated neural network models that are trained more data, both in terms of cost and solver iterations when deployed as warm starting points. In designing this foundation model, we overcome the fact that the feasible set for AC-OPF can be disconnected. This is an obstruction that prevents any continuous neural network from approximating the solution map. To do so, we lift the problem and relax its constraints with logarithmically penalized slacks. We prove that the resulting elastic feasible set is contractible, that the AC-OPF minimizers remain minimizers of the elastic problem above an explicit penalty threshold, and that projecting an approximate solution back onto the AC-OPF feasible set is well posed. We release all models, data, and code so that the community can build on a shared starting point for AC-OPF.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
제로샷 디지털 트윈을 위한 그래프 신경망 접근법
A Graph Neural Network approach to zero-shot Digital Twins
전통적인 예측형 디지털 트윈은 종종 기하학적으로 경직되어, 기반 물리 영역이나 경계 조건이 바뀔 때마다 광범위한 재학습 또는 미세조정을 필요로 한다. 이 한계를 극복하기 위해, 우리는 실시간 시각 인식과 기하학에 무관한 물리 정보 기반 추론 엔진을 원활하게 결합하는 제로샷 디지털 트윈(Zero-Shot Digital Twins)을 위한 새로운 프레임워크를 제시한다. 우리 아키텍처의 핵심은 Thermodynamics-Informed Graph Neural Network 아키텍처로, 메트리플렉틱(metriplectic) 열역학 형식론에 기반한 기하 심층 학습(Geometric Deep Learning) 솔버이며, 그래프 메시지 전달을 통해 국소적으로 에너지 보존과 비음 엔트로피 생성을 강제한다. 이 프레임워크는 보조 그래프 신경망을 통합하여 희소한 초기 시각 경계로부터 직접 관측 불가능한 필드(응력 텐서, 속도 및 에너지 분포 등)를 추론함으로써 수치적 시작 과도 현상을 완화한다. 시뮬-실제(sim-to-real) 격차를 메우기 위해, 우리는 연속적인 폐루프 데이터 동화 메커니즘을 구현한다. 파이프라인은 심층 분할 신경망과 희소 광학 흐름을 결합하여 거시적 변형과 자유 표면 유체 경계를 실시간으로 추적하고, 자기회귀 시뮬레이션 롤아웃을 동적으로 보정하여 수치적 드리프트를 제거한다. 우리 접근법의 타당성을 검증하기 위해, 우리는 두 가지 이질적인 물리 체제에서 접근법의 극단적인 일반화 능력을 입증한다: 점탄성 보의 대변형과 점성 유체의 비선형 슬로싱(sloshing). 두 시나리오 모두에서, 통합 프레임워크는 사례별 재학습 없이 새로운, 보지 못한 기하학에서 물리적으로 정확한 시뮬레이션을 생성하며, 실시간 지연(latency) 예산(프레임당 약 25ms) 내에서 동작하고 증강 현실(AR)을 통해 잠재 기계 변수의 직접 투영을 가능하게 한다.
부호 그래프 사전학습 및 프롬프트 학습
Signed Graph Pre-Training and Prompt Learning
부호 그래프(signed graph)는 엣지가 양수이거나 음수일 수 있으며 방향성을 가질 수도 있는 신뢰-불신 네트워크, 금융 상관관계 시스템, 생물학적 상호작용 그래프 및 기타 여러 도메인에서 발생합니다. 부호 그래프 신경망이 특정 태스크에 특화된 학습(training)을 향상시켰지만, 부호 그래프에서의 그래프 전이학습(transfer learning)은 여전히 미진한 상태입니다. 본 논문에서는 부호 그래프를 위한 선구적인 위상학 기반 그래프 사전학습(pre-training) 및 프롬프트(prompt) 학습 프레임워크인 TopoSIGN을 소개합니다. TopoSIGN은 자기 부호 라플라시안(magnetic signed Laplacian)을 기반으로 구축된 구조적 인코더와 Dowker 복합체 지속성 이미지(Dowker-complex persistence images)를 통해 부호 위상을 요약하는 새로운 지속성 호몰로지(persistent-homology) 브랜치를 결합합니다. 융합된 임베딩(embedding)은 이후 프롬프트 학습 함수로 전달됩니다. 합성 및 실제 데이터셋(dataset)에 대한 실험 결과는 부호 그래프에서 유용한 구조적 정보를 추출하는 TopoSIGN의 효능뿐만 아니라, 제안된 일반 프레임워크의 적응성과 유연성을 입증합니다.
FFM-CP: 퓨샷 계산병리학을 위한 비전-언어 기반 모델의 교차 백본 융합
FFM-CP: Cross-Backbone Fusion of Vision-Language Foundation Models for Few-Shot Computational Pathology
병리학 비전-언어 기반 모델은 질환과 과제에 따라 성능이 달라지며, 어떤 단일 모델도 일관되게 최고 성능을 내지 못한다. 전문가 병리 주석의 높은 비용은 과제별 적응에 사용할 수 있는 라벨 데이터를 제한하기도 한다. 상호 보완적인 사전학습 표현을 결합하는 것은 이러한 한계에 대한 잠재적 접근이지만, 소수의 라벨 예시로부터 효과적인 융합을 학습하는 것은 여전히 어렵다. 본 연구는 퓨샷 학습 설정에서 여러 병리학 비전-언어 모델을 결합하는 프레임워크인 Few-shot Fusion Foundation Models of Computational Pathology(FFM-CP)를 제안한다. 이 프레임워크는 먼저 대응하는 서포트 이미지로부터 추정한 폐형식(closed-form) 직교 프로크루스테스(Orthogonal Procrustes) 변환을 사용하여 이질적인 표현을 정렬한다. 이 정렬은 추가 정렬 네트워크를 학습하지 않고도 모델 내부 특징 기하를 보존한다. 정렬된 공간 안에서 통합 그래프는 서포트 이미지 특징과 시각·텍스트 클래스 프로토타입을 공동으로 정제함으로써 백본 간 정보 교환을 가능하게 한다. 이렇게 정제된 표현은 의미적 클래스 지식과 클래스 내 시각적 변이를 각각 포착하는 상호 보완적인 텍스트-프로토타입 분기와 케이스 검색(case-retrieval) 분기를 지원한다. 각 분기는 모든 순서화된 백본 쌍의 예측을 결합하는 방법을 학습하여, 한 모델로 인코딩된 쿼리가 다른 모델이 표현한 증거를 활용할 수 있게 한다. 우리는 6개의 조직병리학 데이터셋에서 클래스당 4, 8, 16샷 조건으로 3가지 백본 조합을 평가했다. FFM-CP는 54번 비교 중 50번에서 각 융합 집합의 개별 적응 멤버 중 가장 강한 모델보다 더 높은 평균 macro-F1을 달성했다. 이러한 결과는 주석이 제한될 때 상호 보완적인 사전학습 표현의 결합이 조직병리학 분류를 개선할 수 있음을 시사한다.
그래프 신경망에서의 하이퍼파라미터 전이
Hyperparameter Transfer in Graph Neural Networks
심층 학습(deep learning) 모델의 성능은 학습률, 초기화 스케일, 가중치 감쇠와 같은 하이퍼파라미터 설정에 크게 의존한다. 하이퍼파라미터 전이(hyperparameter transfer)는 모델 규모에 걸쳐 최적에 가까운 하이퍼파라미터 설정을 일관되게 유지하는 것을 목표로 하며, 이를 통해 대형 모델을 더 작고 최적화 비용이 저렴한 대리 모델을 프록시 튜닝하여 최적화할 수 있다. 전이 원칙은 언어 및 비전 태스크에서의 밀집 신경망(dense neural network) 맥락에서 잘 연구되어 있지만, 그래프 신경망(GNN)에 대해서는 상대적으로 탐구가 미흡한 상태이다. 우리는 SGD, Adam, AdamW로 학습된 GNN을 위한 전이 파라미터화를 개발하고 검증한다. 이론적 스케일링 분석과 제어된 실험을 통해, 제안된 파라미터화가 안정적인 특징 업데이트, 학습률 전이, 그리고 너비와 깊이가 증가함에 따른 성능 향상을 달성함을 보인다. SGD의 경우, 그래프에 의존하는 첫 번째 층 보정 인수를 식별하고, 이를 활용하면 희소 bag-of-words 입력을 가진 그래프에서 초기 학습을 가속화할 수 있음을 보인다. Adam의 경우, 서로 다른 메시지 패싱 정규화 방식이 초기 및 후기 학습 전이 동작에 미치는 영향을 탐구하며, 메시지 패싱 정규화의 중요성을 설명하고 이에 연관된 하이퍼파라미터의 사용을 권장한다. AdamW의 경우, 가중치 감쇠와 학습률의 공동 전이를 가능하게 하는 파라미터화를 적용한다. 이러한 결과들은 다양한 학습 태스크와 학습 시나리오에 걸쳐 GNN을 스케일링하기 위한 실용적인 방법론을 제공한다.
Q-Score: 분자 도킹을 위한 양자 네이티브 스코어링 함수
Q-Score: A Quantum-Native Scoring Function for Molecular Docking
분자 도킹은 소분자가 단백질에 결합하는 방식을 예측하며, 신약 개발의 핵심 병목 단계이다. 고전적인 스코어링 함수는 경험적 쌍별 접촉을 합산하는 방식으로, 결합 특이성을 결정하는 궤도 전하 이동과 같은 양자역학적 효과를 반영하지 못한다. 본 연구에서는 Q-Score를 제안한다. Q-Score는 GNN으로 예측된 궤도 전자 공여-수용 에너지를 가중 그래프로 인코딩하고, Digitized-Counterdiabatic QAOA를 통해 최대 가중치 정점 클리크 문제를 풀어 결합을 스코어링한다. 각 상호작용 앵커는 하나의 큐비트에 대응되며, 호환성 제약 조건은 에지로 표현된다. 11개의 단백질 타겟에 대해 DC-QAOA는 10큐비트에서 8개의 타겟에서 정확한 최적해를 복원한다. AI 생성 분자 1,000개에 대해 Q-Score는 Spearman rho 0.05로 고전적 스코어링과 직교하며, rho 0.90으로 궤도 품질에 의해 주도되고, 분자량 바이어스가 없으며, 무작위 대비 두 배의 비율로 강한 궤도 상호작용을 농축시킨다. DC-QAOA는 52%의 정확률과 함께 평균 근사 비율 0.94를 달성한다. IBM Eagle에서 1,000개의 회로 실행을 통해 NISQ 하드웨어상 6큐비트 문제의 해결 가능성이 확인되었다.
GRATE: 게이트 회전 어텐션을 통한 귀납적 지식 그래프 파운데이션 모델의 시간적 확장
GRATE: Temporal Extensions for Inductive KG Foundation Models via Gated Rotary Attention
Ultra, Trix와 같은 지식 그래프 파운데이션 모델은 관계 그래프 표현을 학습함으로써 미지의 개체 및 관계로 강력한 귀납적 전이를 달성한다. 이러한 전이 가능성을 시간적 지식 그래프(TKG)로 확장하는 것은 여전히 어려운 과제이다. 기존의 시간적 모델은 파라미터가 데이터셋 고유의 개체, 관계, 또는 타임스탬프에 고정되어 있어 어휘가 서로 다른 TKG로의 전이를 위해 설계되지 않았다. 우리는 학습 가능한 파라미터를 추가하지 않으면서 시간을 인코딩하는 개체 측 메시지 함수인 GRATE(Gated Rotary Attention for Temporal Encoding)를 제안한다. GRATE는 각 엣지 메시지를 쿼리와의 시간 간격에 따라 회전시켜 상대적 시간 차이를 인코딩하고, 쿼리 조건부 게이트를 적용하여 시간적으로 관련된 신호를 선택한다. GRATE는 구조적 전이 가능성을 유지하면서 NBFNet 방식의 지식 그래프 파운데이션 모델에 통합된다. 기존 TKG 벤치마크는 학습/테스트 어휘를 공유하는 환경에서만 평가하므로 데이터셋 간 시간적 전이를 직접 테스트하기 어렵다. 이를 위해 우리는 보간(interpolation)과 외삽(extrapolation) 모두를 아우르며 개체, 관계, 타임스탬프가 분리된 귀납적 전이 벤치마크 스위트인 GDELTIndT와 WIKIIndT를 구축하였다. 이 벤치마크들과 홀드아웃 예측 데이터셋 전반에 걸쳐, 단일 공동 사전학습 GRATE 체크포인트는 대부분의 설정에서 정적 베이스 모델을 능가한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
19 pages