균일한 분포에서 학습된 그래프 사전으로: 구조 발견을 위한 디퓨전
From Uniform to Learned Graph Priors: Diffusion for Structure Discovery
신경망 관계 추론(Neural Relational Inference, NRI) 방법은 이산적인 잠재적 엣지에 대한 변분 추론을 통해 궤적에서 상호작용 그래프를 발견합니다. 그러나 이러한 방법들은 일반적으로 과도하게 단순화되고 인수분해된 그래프 사전(priors)에 의존합니다. 일반적으로 균일 분포에 가까운 이러한 사전들은 엣지를 독립적인 개체로 취급합니다. 이러한 체계적인 부정합은 실제 시스템과 일치하지 않으며, 구조 발견의 신뢰성을 제한하는 분산되고 불확실한 엣지 사후 분포(posteriors)를 야기합니다. 이를 해결하기 위해, 우리는 그래프를 생성하는 대신 잠재 그래프 분포를 보정하는 데 사용되는 디퓨전으로 파라미터화된 적응형 사전인 \textit{Diff-prior}를 제안합니다. 우리의 핵심 통찰은 사전 통합을 학습 가능한 디노이징 방식의 보정으로 재구성하는 것으로, 이는 흩어지고 불확실한 엣지 사후 분포를 디퓨전 모델이 학습할 수 있는 더 신뢰할 수 있는 전체 구조로 조직합니다. Diff-prior는 추론(inference) 중 엣지 사후 분포에 대해 구조화된 보정을 수행하여 이를 기저 구조에 더 가까운 분포로 안내하는 적응형 구조 사전을 학습합니다. diff-prior는 구조적 샘플링 이전에 작동하며 인코더 엣지 분포에 직접 디노이징 보정기로 작용하여, 구조화된 변수에 대한 일반적인 학습 패러다임을 제공합니다. 표준 벤치마크에 대한 실험은 우리의 프레임워크를 검증했으며, 결과는 Diff-prior가 구조 추론의 성능을 향상시키고 다양한 NRI 계열 아키텍처에서 더 확실한 엣지 사후 분포를 생성함을 나타냅니다. 코드는 https://github.com/Hardy158118/Diffprior에서 확인할 수 있습니다.