PyTorchKR Papers

최신 논문

총 9편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13765v1cs.LG

엣지 독립성이 실패할 때: 잠재 사회성 사전분포를 이용한 결합 그래프 디퓨전

When Edge Independence Fails: Joint Graph Diffusion with Latent Sociability Priors

이산 그래프 디퓨전 모델은 마르코프 노이즈 모델을 사용한 독립적인 엣지(edge) 업데이트를 통해 그래프 구조를 손상시킨다. 출력 분포에 대한 교환가능성(exchangeability) 요구 조건과 결합되면, 터미널 사전분포(prior)는 필연적으로 에르되시-레니(Erdős–Rényi, E-R) 랜덤 그래프가 된다. 이는 노드 특징(feature) 없는 비조건부 그래프 생성에 근본적인 결과를 초래한다: 큰 그래프의 극한에서, E-R 그래프에 적용된 모든 GNN 디노이저(denoiser)는 대략적으로 E-R 그래프를 출력하여, 효과적인 디노이징(denoising)을 어렵게 만든다. 실제로, 생성된 그래프는 의미 있는 노드 이질성(heterogeneity)과 고차 구조(higher-order structure)를 복원하지 못한다. 이전 모델들은 이를 보완하기 위해 전문화된 노드 특징을 도입했으며, 이를 표현력(expressivity) 문제로 간주했지만, 사전분포의 역할은 검토되지 않은 채로 남아 있었다. 우리는 대신 잠재 사회성 사전분포(Latent Sociability Prior, LSP)와, 잠재 노드 사회성(sociability) 변수와 그래프 구조를 함께 진화시키는 결합(joint) 디퓨전 프로세스를 도입하여 근본 원인을 해결하며, 교환가능성을 유지하면서 엣지 독립성을 제거한다. 기존의 잠재 그래프 디퓨전 방법들과 달리, 사회성 메커니즘은 복잡한 인코더(encoder)를 필요로 하지 않는다: 그 유일한 역할은 엣지 업데이트를 안내하고 궤적(trajectory) 전체에서 노드 이질성을 보존하는 것이다. 우리는 여러 그래프 생성 데이터셋에서 접근법을 검증하고, 제안된 프레임워크가 노드 특징이 없는 기준선(baseline) 방법들보다 그래프 분포를 더 정확하게 포착함을 보인다.

arXiv:2607.22655v1cs.AI

EventOD: LLM 기반 의미론적 변조를 통한 이벤트 인식 OD 흐름 생성

EventOD: Event-Aware OD Flow Generation via LLM-Guided Semantic Modulation

파괴적 이벤트(disruptive events) 상황에서 출발지-목적지(OD) 흐름을 추정하는 것은 재난 대응과 도시 회복력(urban resilience)에 중요하다. 일상적인 이동성(routine mobility)으로 학습된 기존 딥 OD 모델은 극단적 이벤트가 지역 기능과 인구 활동을 급격히 바꿀 때 성능이 저하되는 경우가 많으며, 이벤트마다 새로운 생성기를 재학습하는 것은 이벤트 시점 감독(event-time supervision)이 제한된 상황에서는 비현실적이다. 우리는 구조화된 이벤트 의미론(structured event semantics)을 사용하여 사전학습된 OD 생성기를 조향하는 이벤트 적응형 OD 생성 프레임워크인 EventOD를 제안한다. EventOD는 먼저 대규모 언어 모델(LLM)을 사용하여 거친 이벤트 관측(coarse event observations)으로부터 지역 수준의 기능적·인구통계적 제어 벡터(functional and demographic control vectors)를 추론한다. 그다음 AlphaNet과 BetaNet이라는 두 개의 경량 적응 모듈을 학습하여 이러한 의미론적 변화(semantic shifts)의 크기를 보정하고, 감독이 희박한(sparse supervision) 시나리오를 위해 검색-증강(RAG) 폴백 경로를 추가로 도입한다. 그 결과 얻어진 이벤트 조건화(event-conditioned) 특징은 입력 수준 변조(input-level modulation)를 통해 사전학습된 그래프 확산(graph diffusion) OD 모델에 주입되어, 생성기 파라미터를 갱신하지 않고도 이벤트 인식 적응을 가능하게 한다. 미국 카운티 전역의 허리케인 및 팬데믹으로 인한 이동성에 대한 실험에서 EventOD는 강력한 베이스라인 대비 재구성 정확도(reconstruction accuracy)와 분포적 충실도(distributional fidelity) 모두를 지속적으로 개선함을 보여준다. 소스 코드는 https://anonymous.4open.science/r/EventOD-5C11/ 에서 제공된다.

arXiv:2607.06546v1cs.LG

그래프 합성곱 어텐션: 그래프 노이즈 제거와 확산에 대한 스펙트럴 관점

Graph Convolutional Attention: A Spectral Perspective on Graph Denoising and Diffusion

그래프 노이즈 제거에서 선형 어텐션이 학습 분포 전반의 평균 스펙트럴 필터만 학습할 수 있어 준최적임을 이론적으로 증명하고, 입력 그래프 스펙트럼을 직접 활용하는 Graph Convolutional Attention(GCA)을 제안하여 이 한계를 극복한다. GCA는 그래프 필터링된 쿼리와 키를 통해 스펙트럴 노이즈 제거를 구현하며, DiGress에서 고비용 구조적 특징 계산 없이 표준 그래프 트랜스포머에 필적하는 성능을 달성하고 PEARL 위치 인코딩과 결합 시 명시적 고유분해 없이도 빠른 추론이 가능함을 실험적으로 검증한다.

arXiv:2607.03171v1cs.LG

시간적 네트워크 상의 분산 연합학습: 이질성의 역할

Decentralised Federated Learning over Temporal Networks: The Role of Heterogeneities

분산 연합학습(decentralised federated learning) 과정이 초기 및 정상 상태 모두에서 시간적 네트워크 위의 lazy random-walk 확산 과정과 동일한 역학으로 지배됨을 이론적으로 규명하고, 실제 시간적 네트워크 분석을 통해 구조적·시간적 불균일성이 수렴을 극적으로 지연시키며 기존 실험 환경이 수렴 속도를 비현실적으로 과대 평가한다는 점을 입증한다.

arXiv:2606.29272v1cs.LG

PCGD: TCAD 소자 시뮬레이션을 위한 물리 기반 조건부 그래프 확산

PCGD: Physics-Guided Conditional Graph Diffusion for TCAD Device Simulation

PCGD는 TCAD 반도체 소자 시뮬레이션의 높은 계산 비용 문제를 해결하기 위해, 비구조화 메시 위에서 직접 동작하는 물리 기반 조건부 그래프 확산(Physics-Guided Conditional Graph Diffusion) 프레임워크를 제안한다. 혼합 PN/MOS 벤치마크에서 평균 상대 오차 0.835%를 달성하며 기존 단일 단계 회귀 및 국소 확산 기준선을 크게 능가하고, LoRA 적응을 통해 미관측 SOI 토폴로지에도 강건하게 전이된다.

arXiv:2606.19185v1cs.LG

AGDN: 이방성 그래프 확산 네트워크를 통한 외판원 문제(TSP) 해결 학습

AGDN: Learning to Solve Traveling Salesman Problem with Anisotropic Graph Diffusion Network

외판원 문제(TSP)는 조합 최적화의 핵심이며 다양한 실제 시나리오에서 발생합니다. TSP를 위해 그래프 기반 학습 접근 방식이 탐색되었지만, 그래프 구조를 더 효과적으로 활용하는 방법에 대한 문제는 여전히 열려 있습니다. 우리는 TSP를 해결하도록 설계된 새로운 그래프 신경망(GNN) 프레임워크인 이방성 그래프 확산 네트워크(AGDN)를 제시합니다. 우리의 방법은 두 가지 핵심적인 어려움을 해결합니다: (1) 완전 연결 TSP 그래프에서 유익한 위상학적 사전 정보(prior)의 부족, (2) 일반적으로 사용되는 그래프 희소화 기법을 적용한 후 최적 솔루션에서 연결된 노드가 손실되는 문제입니다. 이러한 문제를 극복하기 위해, 우리는 노드 유사도와 쌍별 거리를 병합한 MixScore 전이 행렬을 구성하고, 여러 홉(hop)에 걸쳐 효율적인 정보 교환을 지원하는 이방성 그래프 확산 전략을 개발했습니다. 다양한 인스턴스 크기와 노드 분포에 걸친 포괄적인 실험을 통해 AGDN이 계산 시간을 경쟁력 있게 유지하면서 기존 방법보다 일관되게 우수한 성능을 보임을 확인했습니다. 또한, AGDN은 학습(training) 중에 본 것을 넘어서는 문제 크기와 분포에 대해서도 잘 일반화됩니다. 구현은 https://github.com/LabRAI/AGDN에서 공개적으로 제공됩니다.

arXiv:2606.18317v1cs.LG

K-Hop 가우시안 확산을 이용한 향상된 그래프 신경망

Enhanced Graph Neural Networks using K-Hop Gaussian Diffusion

노이즈가 많거나 구조가 복잡한 그래프에서 단일 홉 메시지 전달과 기존 확산 커널(PPR, Heat Kernel)의 한계를 줄이기 위해, 원격 노드에 가우시안 가중치를 적용한 멀티 홉 확산 K-Hop 가우시안(KHG) 커널을 그래프 전처리 모듈로 제안한다. 표준 GNN 적용 전 국소·전역 정보 전파의 균형을 맞추며, 여러 벤치마크 데이터셋에서 메시지 전달 GNN과 PPR·Heat 확산보다 특히 노이즈·복잡 구조 그래프에서 유의미하게 우수한 성능을 보였다.

arXiv:2606.17684v1stat.ML

그래프 신경망에서의 기하학적 공정성

Geometrical fairness in graph neural networks

그래프 기반 학습 방법은 다양한 응용 분야에서 강력한 성능을 보여주어 점차 주목받고 있습니다. 이 중에서 확산 과정에 기반을 둔 최근 프레임워크는 표준 메시지 전달(message-passing) 메커니즘의 한계를 해결하면서 기존 그래프 신경망 공식을 확장하는 통합적인 관점을 제공합니다. 이러한 발전에도 불구하고, 해당 모델이 데이터에 존재하는 바이어스를 전파하거나 증폭할 수 있어 공정성에 대한 우려가 여전히 존재합니다. 본 연구에서는 기저 라플라시안 연산자를 수정하여 그래프 기반 확산의 공정성을 고려한 적응 방식을 제안합니다. 제안하는 방법은 바이어스 관련 구성 요소를 완화하기 위해 부분 공간 투영, 스펙트럼 조정, 주파수 기반 필터링 등 여러 상호 보완적인 변환을 통합합니다. 그래프 확산의 내재된 평활화(smoothing) 특성을 활용하여, 결과적인 동작에 대해 체계적인 분석을 제공하고 공정성 특성에 대한 이론적 통찰을 확립합니다. 합성 및 실제 데이터셋 모두에서 제안된 프레임워크를 평가한 결과, 제한된 추가 계산 비용으로 공정성 지표를 개선하면서도 경쟁력 있는 성능을 달성함을 확인했습니다.

arXiv:2401.14381v3cs.LG

Manifold GCN: 매니폴드 값 그래프를 위한 확산 기반 합성곱 신경망

Manifold GCN: Diffusion-based Convolutional Neural Network for Manifold-valued Graphs

우리는 리만 매니폴드(Riemannian manifold)에 특징(feature)을 가진 그래프를 위한 두 가지 그래프 신경망(neural network) 층(layer)을 제안한다. 첫째, 매니폴드 값 그래프 확산 방정식을 기반으로, 임의의 수의 노드(node)와 그래프 연결 패턴에 적용 가능한 확산 층을 구성한다. 둘째, 벡터 뉴런(vector neuron) 프레임워크의 아이디어를 일반적인 설정으로 이전하여 접선 다층 퍼셉트론(tangent multilayer perceptron)을 모델링한다. 두 층 모두 노드(node) 순열 및 특징(feature) 매니폴드의 등거리 변환(isometries)에 대해 등변(equivariant)이다. 이러한 속성은 많은 딥러닝 태스크에서 유익한 귀납적 바이어스(bias)로 작용해 왔다. 또한 이를 통해 더 새롭고 유연한 특징(feature) 설계가 가능해진다. 합성 데이터에 대한 수치 실험과 오른쪽 해마 삼각형 메시에 대한 알츠하이머 분류(classification) 응용은 새로운 층의 유용성을 입증한다: 훨씬 더 넓은 범주의 문제에 적용 가능함에도 불구하고, 태스크 특화 최신(state-of-the-art) 네트워크를 능가하는 성능을 보인다.