그래프 파운데이션 모델(GFM)은 다양한 그래프 도메인에 걸쳐 전이 가능한 표현을 학습하는 유망한 패러다임으로 부상하고 있다. GFM의 최근 발전은 그래프 신경망(neural network)과 대규모 언어 모델(LLM) 기반 방법이라는 두 패러다임이 주도해 왔다. 그러나 이러한 방법들은 제한된 데이터로의 학습(training)과 텍스트 속성에 대한 과도한 의존 사이의 근본적인 딜레마에 직면하는 경우가 많다. 테이블형 파운데이션 모델(TFM)은 노드(node) 피처와 표현을 자연스럽게 테이블 형태로 구성할 수 있다는 점에서 잠재적인 대안을 제공한다. 그러나 TFM이 그래프의 구조적 정보를 효과적으로 포착할 수 있도록 하는 방법은 아직 충분히 탐구되지 않았다. 핵심 과제는 TFM의 그래프 구조 이해를 가능하게 하는 그래프-테이블 정렬 메커니즘을 학습하는 것이다. 이를 해결하기 위해 우리는 텍스트 불필요 그래프 파운데이션 모델을 위한 놀랍도록 단순하면서도 효과적인 그래프-테이블 정렬 프레임워크인 GTAlign을 제안한다. 구체적으로, 먼저 다양한 그래프를 통합된 잠재 공간에 매핑하여 도메인 불가지론적 그래프 표현을 포착하는 그래프 인코더를 사전학습(pre-training)한다. 그래프 위상과 테이블형 표현 공간 사이의 간극을 추가로 좁히기 위해, 그래프 커뮤니티에서 도출된 의사 레이블을 사용하여 퓨샷(few-shot) 예측 에피소드를 구성하는 커뮤니티 유도 연속 사전학습을 제안한다. 마지막으로 그래프 인코더를 미지의 타깃 도메인에 적응시키고 문맥 내 학습(ICL) 방식으로 추론(inference)을 수행한다. 5개의 벤치마크 데이터셋에 대한 광범위한 실험을 통해 GTAlign이 노드 및 그래프 분류(classification) 모두에서 최신 기준 모델(baseline)을 크게 능가함을 보여주며, 단순하고 효과적인 텍스트 불필요 GFM 모델임을 입증한다. 코드는 논문 게재 승인 후 공개될 예정이다.
Credit exposure in Decentralized Finance (DeFi) is often implicit and token-mediated, creating a dense web of inter-protocol dependencies. Thus, a shock to one token may result in significant and uncontrolled contagion effects. As the DeFi ecosystem becomes increasingly linked with traditional financial infrastructure through instruments, such as stablecoins, the risk posed by this dynamic demands more powerful quantification tools. We introduce DeXposure-FM, the first time-series, graph foundation model for measuring and forecasting inter-protocol credit exposure on DeFi networks, to the best of our knowledge. Employing a graph-tabular encoder, with pre-trained weight initialization, and multiple task-specific heads, DeXposure-FM is trained on the DeXposure dataset that has 43.7 million data entries, across 4,300+ protocols on 602 blockchains, covering 24,300+ unique tokens. The training is operationalized for credit-exposure forecasting, predicting the joint dynamics of (1) protocol-level flows, and (2) the topology and weights of credit-exposure links. The DeXposure-FM is empirically validated on two machine learning benchmarks; it consistently outperforms the state-of-the-art approaches, including a graph foundation model and temporal graph neural networks. DeXposure-FM further produces financial economics tools that support macroprudential monitoring and scenario-based DeFi stress testing, by enabling protocol-level systemic-importance scores, sector-level spillover and concentration measures via a forecast-then-measure pipeline. Empirical verification fully supports our financial economics tools. The model and code have been publicly available. Model: https://huggingface.co/EVIEHub/DeXposure-FM. Code: https://github.com/EVIEHub/DeXposure-FM.
최근 파운데이션 모델과 그래프 사전학습 기술의 급속한 발전으로 인해 범용 사전학습 그래프 모델, 즉 그래프 파운데이션 모델(GFM)을 구축하려는 관심이 높아지고 있습니다. 그러나 기존 모델은 텍스트 정보가 없는 그래프 데이터의 특징 이질성을 처리하지 못한다는 중요한 문제가 있으며, 이는 다양한 데이터셋 간의 그래프 모델 전이 가능성을 저해합니다. 이러한 격차를 해소하기 위해 본 연구에서는 모든 그래프 데이터의 최소 의미 단위로 간주되는 학습 가능한 그래프 패치(learnable graph patches) 개념을 제안합니다. 노드 특징을 펼치고(unfolding) 이에 대응하는 패치 구조를 별도로 구성하여 그래프를 학습 가능한 그래프 패치로 분해합니다. 이후 도메인 간 그래프 데이터에서 전이 가능한 정보를 추출하는 프레임워크를 설계합니다. 구체적으로, 그래프 패치를 추출한 후 각 단위에서 지식을 추출하는 패치 인코더(patch encoder)와 단위들이 전체로 결합되는 방식을 학습하는 패치 어그리게이터(patch aggregator)를 제안합니다. 도메인에 구애받지 않는(domain-agnostic) 특성 덕분에 해당 모델은 서로 다른 도메인의 다운스트림 데이터에 적용할 수 있습니다. 또한, 본 방법과 기존 그래프 모델 간의 연관성과 모델이 생성하는 노드 임베딩의 전이 가능성을 분석합니다. 실험적으로 본 방법은 사전학습에 다중 도메인 그래프를 활용할 수 있는 능력을 달성했을 뿐만 아니라, 다양한 다운스트림 데이터셋 및 작업에서 향상된 성능을 보여주었습니다. 더불어 사전학습 데이터의 규모가 증가함에 따라 다운스트림 성능이 지속적으로 향상됨을 확인했습니다.