PHGNet: 이종 시공간 예측을 위한 프로토타입 기반 초그래프 구축
PHGNet: Prototype-Guided Hypergraph Construction for Heterogeneous Spatiotemporal Forecasting
한국어 초록
지능형 교통 시스템의 핵심 과제인 교통량 예측은 도시 교통 관리에서 결정적인 역할을 수행합니다. 정확한 교통량 예측은 복잡한 시공간적 의존성을 모델링하는 데 의존하지만, 교통 시스템 고유의 공간적 이질성으로 인해 이는 본질적으로 어려운 문제입니다. 상당한 발전에도 불구하고, 대부분의 기존 방법들은 여전히 쌍별(pairwise) 공간 의존성 모델링에 국한되어 있어 유사한 교통 패턴을 가진 노드 간의 동적인 고차 상호작용을 포착하기 어렵습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 프로토타입 기반 초그래프(hypergraph) 구축에 기반한 새로운 시공간 예측 프레임워크인 PHGNet을 제안합니다. PHGNet의 핵심에서는 패턴이 유사한 노드들을 하이퍼에지에 적응적으로 할당하여 시간에 따라 변하는 구조를 가진 고차 상호작용을 포착하도록 프로토타입 학습 메커니즘을 설계했습니다. 동적 초그래프 구축의 신뢰성을 향상시키기 위해, 시간 일관적인 특징을 추출하는 글로벌-로컬 노드 표현 모듈을 추가로 개발했습니다. 예측 단계에서는 효율적인 병렬 디코딩을 지원하면서도 예측 정확도를 높이기 위해 반복적 잔차 정제(iterative residual refinement)와 시간 쿼리 어텐션(Temporal Query Attention)을 도입했습니다. 여러 실제 데이터셋을 활용한 광범위한 실험을 통해 PHGNet이 최신 기법들(state-of-the-art)에 비해 우수한 예측 성능을 달성함을 입증했습니다.
원문 초록
As a core task in intelligent transportation systems, traffic forecasting plays a critical role in urban traffic management. Accurate traffic forecasting relies on modeling complex spatiotemporal dependencies, which is inherently challenging due to spatial heterogeneity in traffic systems.Despite significant progress, most existing methods are still limited to pairwise spatial dependency modeling, making it difficult to capture dynamic high-order interactions among nodes with similar traffic patterns. To address this issue, we propose PHGNet, a novel spatiotemporal forecasting framework based on prototype-guided hypergraph construction. At the core of PHGNet, a prototype learning mechanism is designed to adaptively assign pattern-similar nodes to hyperedges, thereby capturing high-order interactions with time-varying structures. To improve the reliability of dynamic hypergraph construction, we further develop a global-local node representation module to extract time-consistent features. For forecasting, iterative residual refinement and Temporal Query Attention are introduced to improve forecasting accuracy while supporting efficient parallel decoding. Extensive experiments on multiple real-world datasets demonstrate that PHGNet achieves superior predictive performance compared with state-of-the-art methods.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
시공간 예측 벤치마크 데이터셋 및 모델에 대한 비판적 감사
A Critical Audit of Spatiotemporal Forecasting Benchmark Datasets and Models
그래프 신경망(GNN)은 시공간 예측(spatiotemporal forecasting)에 일상적으로 활용되고 있으나, 널리 사용되는 벤치마크 데이터셋 전반에서 일관되지 않은 성능을 보입니다. 본 연구에서는 벤치마크의 품질과 이로부터 도출된 결론의 강건성(robustness)을 평가하기 위해 데이터셋 특성과 기준선 모델에 대한 감사를 수행합니다. 고전 통계 도구를 활용하여 벤치마크 내 시공간 시차 의존성(spatiotemporal lagged dependencies)을 특성화하고, 시간 차분(temporal differencing)이 이러한 관계를 어떻게 변화시키며 모델 순위에 어떠한 영향을 미치는지 조사합니다. 이를 바탕으로 시간 선형 기준선을 재평가한 결과, 여러 벤치마크에서 GNN의 겉보기 성능 향상이 크게 감소했으며 다른 벤치마크에서는 GNN을 능가하기도 했습니다. GNN이 선형적인 노드별 신호를 추출하는 데 어려움을 겪는다는 점에 착안하여, 자기회귀 잔차(autoregressive residuals)를 공급했을 때 특히 비교통(non-traffic) 벤치마크에서 GNN의 성능이 향상됨을 확인했습니다. 마지막으로 통제된 합성 실험을 통해 GNN이 시간적 역학(temporal dynamics)과 공간 그래프 상호작용의 이질성에 민감하다는 점을 밝혔습니다. 종합적으로 본 연구 결과는 기준선 설정, 데이터 전처리, 시스템 이질성이 벤치마크 순위에서 도출되는 해석을 좌우함을 입증하며, 향후 GNN의 설계와 강건한 평가를 위한 통찰을 제공합니다.
개연성과 허용 가능성 사이의 격차를 메우기: 동적 그래프 시스템을 위한 제약 인식 Flow Map
Bridging the Gap Between Plausibility and Admissibility: Constraint-Aware Flow Maps for Dynamic Graph Systems
생성 모델은 그럴듯한 미래 시스템 궤적의 앙상블을 생성함으로써 불확실성 하에서의 의사결정을 지원할 수 있지만, 통계적 개연성(statistical plausibility)이 구조적 실행 가능성(structural feasibility)을 보장하지는 않는다. 본 연구는 동적 그래프 구조 시스템에서 생성적 궤적 모델링의 신뢰성을 사후 샘플링(post-sampling) 기호적(symbolic) 제약이 개선할 수 있는지 조사한다. 조건부 확산 모델(conditional diffusion model)이 부분 관측으로부터 미래 그래프 상태 궤적을 생성하고, 외부 기호 층(symbolic layer)이 하드 필터링(hard filtering), 소프트 가중(soft weighting), 또는 투영 기반(projection-based) 복구(repair)를 적용한다. 이 프레임워크는 구조적 유효성, 샘플 효율성, 다양성, 견고성(robustness), 교정(calibration) 지표를 사용하여 두 가지 통제된 합성 체제—컴팩트 그래프와 중간 복잡도 의존성 그래프—에서 평가된다. 컴팩트 체제에서 모델은 0.002996의 무효 확률 질량(invalid probability mass)을 생성하며, 이는 거의 완전히 허용 가능한(admissible) 궤적 매니폴드를 나타낸다. 동일한 아키텍처와 학습 프로토콜 하에서, 중간 복잡도 체제에서는 무효 질량이 0.155929로 증가한다. 하드 필터링은 생성된 샘플의 84.4%를 보존하면서 보존된 모든 무효 궤적을 제거하는 반면, 소프트 가중은 유효 표본 크기(effective sample size)를 보존하지만 제한적인 유효성 향상만을 제공한다. 계열(family) 수준 분석은 의존성 제약(dependency constraints)이 관측된 거의 모든 비허용(inadmissibility)을 설명함을 보여준다. 이 결과는 통계적 개연성과 구조적 허용 가능성이 서로 다른 신뢰성 속성임을, 그리고 그래프 구조적 복잡도가 증가할수록 기호적 제약 처리가 더 가치 있어짐을 나타낸다.
부호 그래프 사전학습 및 프롬프트 학습
Signed Graph Pre-Training and Prompt Learning
부호 그래프(signed graph)는 엣지가 양수이거나 음수일 수 있으며 방향성을 가질 수도 있는 신뢰-불신 네트워크, 금융 상관관계 시스템, 생물학적 상호작용 그래프 및 기타 여러 도메인에서 발생합니다. 부호 그래프 신경망이 특정 태스크에 특화된 학습(training)을 향상시켰지만, 부호 그래프에서의 그래프 전이학습(transfer learning)은 여전히 미진한 상태입니다. 본 논문에서는 부호 그래프를 위한 선구적인 위상학 기반 그래프 사전학습(pre-training) 및 프롬프트(prompt) 학습 프레임워크인 TopoSIGN을 소개합니다. TopoSIGN은 자기 부호 라플라시안(magnetic signed Laplacian)을 기반으로 구축된 구조적 인코더와 Dowker 복합체 지속성 이미지(Dowker-complex persistence images)를 통해 부호 위상을 요약하는 새로운 지속성 호몰로지(persistent-homology) 브랜치를 결합합니다. 융합된 임베딩(embedding)은 이후 프롬프트 학습 함수로 전달됩니다. 합성 및 실제 데이터셋(dataset)에 대한 실험 결과는 부호 그래프에서 유용한 구조적 정보를 추출하는 TopoSIGN의 효능뿐만 아니라, 제안된 일반 프레임워크의 적응성과 유연성을 입증합니다.
PANDA: 사전 지식 기반 어텐션 이중 경로 아키텍처
PANDA: Prior-guided Attentional Dual-path Architecture
쌍별 상호작용(pairwise interaction)을 넘어 고차 관계(higher-order relation)를 모델링하기 위해 설계된 하이퍼그래프 신경망(Hypergraph Neural Network, HNN)은 일반적으로 고정된 구조적 가중치 또는 정규화된 어텐션에 의존한다. 고정 가중치는 이질적(heterophilic) 환경에서 잘못된 정보를 전파할 수 있으며, 정규화는 메시지 전달(message-passing) 프레임워크에서 하나의 송신자(sender)의 가중치를 높이면 동일한 집계 집합(aggregation set) 내 다른 송신자들의 가중치를 반드시 낮춰야 한다는 의미에서 어텐션 계수를 경쟁적으로 만든다. 본 연구의 주요 기여는 무방향 및 방향 설정 모두에 적용 가능한 2단계 메시지 전달 HNN을 위한 플러그인인 PANDA(Prior-guided AttentioNal Dual-path Architecture, 사전 지식 기반 어텐션 이중 경로 아키텍처)의 도입이다. 메인 경로(main path)는 학습된 수신자 정규화 어텐션과 구조적 인시던스(incidence) 사전 지식(prior) 사이를 보간(interpolate)하며, 비경쟁적인(정규화되지 않은) 보조 경로(auxiliary path)는 각 송신자가 자신만의 변환된 정보를 기여할 수 있도록 한다. 또한 고정된 구조적 계수를 사용할 경우, PANDA가 이전 연구들에서 채택된 특정 복소수 값 합성곱 연산자를 복원함을 보인다. 방향 및 무방향 설정에서 공간적(spatial) 및 스펙트럴(spectral) 방법을 포괄하는 네 가지 HNN에 걸쳐, PANDA를 적용하면 8개의 실세계 벤치마크 데이터셋에서 평균 5.18퍼센트포인트의 성능 향상을 얻는다. 코드는 https://github.com/jainris/panda 에서 확인할 수 있다.
VQIL: 그래프 상의 섭동 반응 순위화를 위한 가시적 양자 간섭 학습
VQIL: Visible Quantum Interference Learning for Perturbation Response Ranking on Graphs
국소적 섭동(perturbation)이 네트워크에 미치는 영향을 학습하는 것은 시스템의 반응을 유발하거나 흡수하는 구성 요소를 식별하는 데 중요합니다. 본 연구에서는 이를 시드 조건부 반응 순위화(seed-conditioned response ranking) 문제로 정의합니다. 즉, 하나의 시드 노드(node)에서 섭동이 발생했을 때 다른 모든 노드를 반응 강도에 따라 순위화하는 것입니다. 이는 모델(model)에 상호작용 토폴로지만 주어지고 섭동이 전파되는 방식을 지배하는 메커니즘을 데이터로부터 학습해야 할 때 특히 어렵습니다. 본 논문에서는 시드 조건부 순위화를 위한 학습 가능한 세게디 양자 워크(Szegedy quantum walk)인 VQIL(Visible Quantum Interference Learning)을 제안합니다. 워크 연산자가 학습(training) 전반에 걸쳐 유니터리(unitary) 상태를 유지하는 동안, 에지 가중치, 링크 위상, 노드별 위상 회전이 역전파(backpropagation)를 통해 엔드투엔드로 최적화됩니다. 노드 점수는 양자 워크 진폭의 기하학적 감쇠 코히런트 합(coherent sum)에서 얻어지며, 이를 통해 최종 제곱 노름(squared-norm) 판독 전에 양자 간섭이 가능해집니다. 학습된 각 매개변수(parameter)는 명명된 에지 또는 노드에 연결되어 있으므로, 학습된 모델은 전파 메커니즘에서 개별 그래프 구성 요소의 역할에 대해 직접 검사 가능한 가설을 제공합니다. 전기적 매개변수를 모델에 제공하지 않은 6개 송전망에 대한 교류 조류(AC power-flow) 섭동 실험에서, VQIL은 스피어만 순위 상관계수를 학습되지 않은 워크의 0.147에서 0.831로 향상시켰으며 동일하게 학습된 무작위 워크 모델의 성능을 능가했습니다. Perturb-seq 지도 신호가 있는 5개 단백질-단백질 상호작용 네트워크에 대한 유전자 섭동 실험에서 VQIL은 순위 상관계수를 0.171에서 0.620으로 향상시켜 가장 강력한 고전적 및 신경망 기반 학습 베이스라인들을 능가했습니다. 이러한 결과는 학습 가능한 양자 워크 간섭이 그래프 상에서 시드 조건부 반응 순위를 학습하기 위한 확장 가능하고 해석 가능한 귀납적 바이어스(inductive bias)를 제공함을 보여줍니다.
엣지 독립성이 실패할 때: 잠재 사회성 사전분포를 이용한 결합 그래프 디퓨전
When Edge Independence Fails: Joint Graph Diffusion with Latent Sociability Priors
이산 그래프 디퓨전 모델은 마르코프 노이즈 모델을 사용한 독립적인 엣지(edge) 업데이트를 통해 그래프 구조를 손상시킨다. 출력 분포에 대한 교환가능성(exchangeability) 요구 조건과 결합되면, 터미널 사전분포(prior)는 필연적으로 에르되시-레니(Erdős–Rényi, E-R) 랜덤 그래프가 된다. 이는 노드 특징(feature) 없는 비조건부 그래프 생성에 근본적인 결과를 초래한다: 큰 그래프의 극한에서, E-R 그래프에 적용된 모든 GNN 디노이저(denoiser)는 대략적으로 E-R 그래프를 출력하여, 효과적인 디노이징(denoising)을 어렵게 만든다. 실제로, 생성된 그래프는 의미 있는 노드 이질성(heterogeneity)과 고차 구조(higher-order structure)를 복원하지 못한다. 이전 모델들은 이를 보완하기 위해 전문화된 노드 특징을 도입했으며, 이를 표현력(expressivity) 문제로 간주했지만, 사전분포의 역할은 검토되지 않은 채로 남아 있었다. 우리는 대신 잠재 사회성 사전분포(Latent Sociability Prior, LSP)와, 잠재 노드 사회성(sociability) 변수와 그래프 구조를 함께 진화시키는 결합(joint) 디퓨전 프로세스를 도입하여 근본 원인을 해결하며, 교환가능성을 유지하면서 엣지 독립성을 제거한다. 기존의 잠재 그래프 디퓨전 방법들과 달리, 사회성 메커니즘은 복잡한 인코더(encoder)를 필요로 하지 않는다: 그 유일한 역할은 엣지 업데이트를 안내하고 궤적(trajectory) 전체에서 노드 이질성을 보존하는 것이다. 우리는 여러 그래프 생성 데이터셋에서 접근법을 검증하고, 제안된 프레임워크가 노드 특징이 없는 기준선(baseline) 방법들보다 그래프 분포를 더 정확하게 포착함을 보인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.