한국어 초록
멀티모달 속성 그래프(MAG)는 그래프 토폴로지와 텍스트 및 이미지와 같은 이종 모달리티 속성을 통합함으로써 복잡한 관계형 시스템의 보다 풍부한 모델링을 가능하게 한다. 그러나 이러한 표현력은 노드 표현을 위한 각각의 브랜치로 간주될 수 있는 구조적 토폴로지, 텍스트 속성, 시각적 속성을 포함한 다수의 의미적 소스에 MAG 학습이 의존하게 만든다. 노드 수준의 브랜치 의미 불균형은 이러한 브랜치들이 노드마다 의미적 정보성과 신뢰도 측면에서 차이를 보일 때 발생한다. 즉, 특정 노드에 대해 판별적 의미를 제공하는 브랜치가 모달리티 품질이나 구조적 컨텍스트의 편향으로 인해 다른 노드에서는 오도할 수 있다. 기존 방법들은 주로 브랜치 간 일치 또는 정렬을 통해 이러한 이질성을 완화하며, 암묵적으로 지배적인 예측을 신뢰할 수 있는 감독 신호로 취급한다. 지배적인 브랜치에 편향이 있을 경우, 강제적인 모방은 그 편향을 다른 브랜치로 전파하고 분류에 유용한 고유 의미를 억제할 수 있다. 우리는 이 문제를 해결하기 위해 네거티브 러닝(Negative Learning)을 브랜치 간 가이던스로 활용하는 그래프 인식 멀티모달 네거티브 러닝 프레임워크인 GraphMNL을 제안한다. 열등한 브랜치가 교사 예측을 모방하도록 강제하는 대신, 모델은 노드가 속하지 않을 가능성이 높은 클래스를 학습시킨다. GraphMNL은 브랜치 라이브러리를 구축하고, 그래프 인식 신뢰도 중재를 통해 지배적 브랜치와 열등한 브랜치를 식별하며, 불안정한 전이를 게이팅하고, 비목표 클래스에 대해 타깃 보존 네거티브 러닝을 적용한다. 이 설계는 타깃 감독을 브랜치 가이던스로부터 분리하여, 지도 손실은 올바른 클래스를 학습하면서 브랜치 간 일치가 불신뢰할 때 네거티브 러닝이 가능성 낮은 대안을 억제하도록 한다. 포괄적인 실험 평가를 통해 GraphMNL은 Grocery 데이터셋에서 72.47% 정확도, Reddit M 데이터셋에서 76.60 F1 점수로 최고 성능을 달성하였다.
원문 초록
Multimodal attributed graphs (MAGs) integrate graph topology with heterogeneous modality attributes, such as text and images, thereby enabling richer modeling of complex relational systems. However, such expressiveness also makes learning on MAGs depend on multiple semantic sources, including structural topology, textual and visual attributes, each of which can be regarded as a branch for node representation. Node-level branch semantic imbalance arises when these branches differ across nodes in semantic informativeness and reliability: a branch that provides discriminative semantics for one node may mislead another due to bias in modality quality or structural context. Existing methods often mitigate such heterogeneity through cross-branch agreement or alignment, implicitly treating the dominant prediction as reliable supervision. When the dominant branch is biased, forced imitation may propagate its bias to other branches and suppress original semantics that are useful for classification. We propose GraphMNL, a graph-aware multimodal negative learning framework that addresses this issue by using Negative Learning as cross-branch guidance. Instead of forcing inferior branches to imitate a teacher prediction, the model teaches them which classes a node is unlikely to belong to. GraphMNL builds a branch library, identifies dominant and inferior branches via graph-aware reliability arbitration, gates unstable transfer, and applies target-preserving negative learning over non-target classes. This design decouples target supervision from branch guidance so that supervised losses learn the correct class, while Negative Learning suppresses unlikely alternatives when branch agreement is unreliable. Through the comprehensive experimental evaluation, GraphMNL achieves the best performance on Grocery datasets with 72.47% accuracy and 76.60 F1 score on Reddit M datasets.
요약
멀티모달 속성 그래프에서 노드별 브랜치 의미 불균형으로 인한 편향 전파 문제를 해결하기 위해, 노드가 속하지 않을 클래스를 학습시키는 그래프 인식 네거티브 러닝 프레임워크인 GraphMNL을 제안한다. 해당 방법은 Grocery 및 Reddit M 데이터셋에서 각각 72.47% 정확도와 76.60 F1 점수를 기록하며 최고 성능을 달성했다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12863v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
PANDA: 사전 지식 기반 어텐션 이중 경로 아키텍처
PANDA: Prior-guided Attentional Dual-path Architecture
쌍별 상호작용(pairwise interaction)을 넘어 고차 관계(higher-order relation)를 모델링하기 위해 설계된 하이퍼그래프 신경망(Hypergraph Neural Network, HNN)은 일반적으로 고정된 구조적 가중치 또는 정규화된 어텐션에 의존한다. 고정 가중치는 이질적(heterophilic) 환경에서 잘못된 정보를 전파할 수 있으며, 정규화는 메시지 전달(message-passing) 프레임워크에서 하나의 송신자(sender)의 가중치를 높이면 동일한 집계 집합(aggregation set) 내 다른 송신자들의 가중치를 반드시 낮춰야 한다는 의미에서 어텐션 계수를 경쟁적으로 만든다. 본 연구의 주요 기여는 무방향 및 방향 설정 모두에 적용 가능한 2단계 메시지 전달 HNN을 위한 플러그인인 PANDA(Prior-guided AttentioNal Dual-path Architecture, 사전 지식 기반 어텐션 이중 경로 아키텍처)의 도입이다. 메인 경로(main path)는 학습된 수신자 정규화 어텐션과 구조적 인시던스(incidence) 사전 지식(prior) 사이를 보간(interpolate)하며, 비경쟁적인(정규화되지 않은) 보조 경로(auxiliary path)는 각 송신자가 자신만의 변환된 정보를 기여할 수 있도록 한다. 또한 고정된 구조적 계수를 사용할 경우, PANDA가 이전 연구들에서 채택된 특정 복소수 값 합성곱 연산자를 복원함을 보인다. 방향 및 무방향 설정에서 공간적(spatial) 및 스펙트럴(spectral) 방법을 포괄하는 네 가지 HNN에 걸쳐, PANDA를 적용하면 8개의 실세계 벤치마크 데이터셋에서 평균 5.18퍼센트포인트의 성능 향상을 얻는다. 코드는 https://github.com/jainris/panda 에서 확인할 수 있다.
QUARTET: 관계 그래프에서 트랜스포머를 강화하기 위한 4분기 교차 어텐션과 랜덤 워크 트레이스
QUARTET: Quad-branch cross-Attention and Random-walk Traces for Enhancing Transformers on Relational Graphs
관계 심층 학습(RDL)은 다중 테이블 데이터베이스를 이종 시간 그래프로 모델링하며, 그래프 트랜스포머는 RelBench와 같은 벤치마크에서 현재 최첨단 성능을 달성한다. 그러나 현재 선두 모델인 RelGT는 두 가지 핵심 한계가 있다. 무작위 로컬 샘플러가 느슨하게 연결된 부분 그래프를 만들어 메시지 전달을 방해하고, 전역 어텐션 모듈이 단일한 시드 특징 기반 메모리에만 의존해 더 넓은 거시적 수준의 역학을 놓친다. 이 한계를 극복하기 위해, 로컬 부분 그래프에 전체 셀프 어텐션을 적용하고 교차 어텐션 분기로 전역 문맥을 풍부히 하는 표현력 있는 그래프 트랜스포머 아키텍처 QUARTET을 제안한다. 구체적으로 QUARTET은 최근성 절단 개인화 PageRank(PPR)에 기반한 인과적 랜덤 워크(CRW) 샘플러로, 시간적 누출 없이 간결하고 허브-강건하며 밀집 연결된 로컬 부분 그래프를 추출한다. 동시에 4분기 교차 어텐션 모듈은 시드 특징, 시드 위상, 시간적 역학, 협력적 역학이라는 네 가지 상보적 관점에서 전역 문맥을 통합한다. RelBench v1 분류 과제 전반에서 QUARTET은 현재 최첨단 그래프 트랜스포머 기준선(HGT 및 RelGT)과 지속적으로 동등하거나 더 나은 성능을 보인다. 절제 연구는 CRW 샘플러가 로컬 이웃 품질을 크게 향상시키고, 전역 분기가 과제별로 필수적인 예측 이득을 제공함을 확인한다.
학습된 GNN에서의 지역적 증거 및 기하학적 리드아웃 복구
Local Evidence and Geometric Readout Repair in Trained GNNs
많은 노드(node) 분류(classification) GNN은 로컬 메시지의 비음수 혼합에 선형 분류기를 적용합니다. 오류는 부적절한 혼합 가중치를 반영하거나, 도달 가능한 로짓(logit) 집합이 분류기에 적합하지 않게 배치되었음을 나타낼 수 있습니다. 본 연구에서는 정확한 질량(exact-mass) 선형 계획법과 두 가지 학습된 사후(post-hoc) 복구를 통해 이러한 원인들을 분리합니다. 모든 재가중치화(reweighting)된 예측은 동등한 중심화된 로짓 평행이동(translation)을 가지지만, 메시지로 유도된 변위 집합 내의 평행이동만이 재가중치화를 통해 실현 가능합니다. 8개의 데이터셋(dataset), 8개의 GNN 백본, 10개의 분할에 걸쳐 동결된 모델의 평균 정확도는 62.6%에서 재가중치화 적용 시 63.8%, 집합 조건부 평행이동 적용 시 65.3%로 상승합니다. 매개변수(parameter)가 일치된 노드 전용 평행이동기는 64.6%에 도달하여, 평행이동이 성능 향상의 대부분을 설명하는 반면 메시지 집합은 더 작은 추가적 이점을 제공함을 보여줍니다. 오라클(oracle) 재가중치화는 많은 오류를 수정할 수 있지만, 라벨 없는(label-free) 재가중치화는 이러한 잠재력을 거의 활용하지 못합니다. 즉, 로컬 증거는 종종 존재하지만 선택하기 어려우며, 증거 제약을 완화하는 것이 해당 제약 내에서 학습하는 것보다 더 효과적입니다.
저항 곡률 기반 확장 가능한 서브그래프 샘플링
Scalable Subgraph Sampling via Resistance Curvature
서브그래프 샘플링은 대규모 그래프 신경망(GNN)의 학습 비용을 줄이지만, 샘플링 기준은 엣지의 기하학적 역할을 간과할 수 있다. 우리는 대규모 그래프용 곡률 근사 방법인 ERC-LG 위에 구축한 저항 곡률(resistance curvature) 유도 샘플링 프레임워크를 제안한다. ERC-LG는 Johnson-Lindenstrauss 투영과 정규화된 다중 GPU 배치 공액 그래디언트(conjugate gradient) 솔버를 결합하여, 명시적인 라플라시안 의사역행렬(pseudoinverse) 계산과 전체 임베딩 저장을 피한다. 이렇게 얻은 곡률은 GNN 학습 서브그래프를 구성하기 위한 노드 및 엣지 샘플링 확률을 결정하는 데 활용된다. 실험 결과, 의사역행렬 기반 곡률과 수치적으로 일치하며 CG만 사용한 계산 대비 실행 시간이 감소한다. ERC-LG 기반 샘플링 변형은 다운스트림 노드 분류에서 7개 실세계 데이터셋 중 6개에서 최고 평균 정확도를 달성한다.
EdgeRefine: Privacy-Utility Balance for Graphs via Jaccard Sampling under Edge Differential Privacy
그래프 신경망(GNN)은 그래프 구조 데이터로부터의 학습에서 상당한 성과를 거두었으나, 그래프 구조가 민감한 링크 정보를 누출할 수 있기 때문에 프라이버시에 민감한 영역에서의 활용은 여전히 어렵다. 엣지 수준의 차분 프라이버시를 만족시키기 위한 일반적인 접근법은 그래프의 인접 행렬 모든 원소에 노이즈를 주입하여 개별 엣지의 존재를 불분명하게 하는 것이다. 그러나 강력한 프라이버시를 위해서는 더 많은 노이즈가 필요하고, 과도한 노이즈는 유용성을 저하시키므로 프라이버시-유용성 균형은 실용적인 프라이버시 보존 그래프 학습의 주요 장벽이다. 이 문제를 해결하기 위해 우리는 적응형 엣지 정제를 통해 이러한 절충을 개선하는 로컬 차분 프라이버시 프레임워크인 EdgeRefine을 제안한다. EdgeRefine은 먼저 Jaccard 유사도를 사용하여 엣지 존재 확률을 추정하고, 노이즈가 있는 엣지 제거를 위해 엣지의 순위를 매긴다. 최종 그래프의 희소성과 신뢰성을 보장하기 위해, 프라이버시 예산 $\varepsilon$을 사용하여 실제 엣지와 허위 엣지의 비율을 결정하고, 이 확률 순위에 따라 별도로 샘플링하며, 별도의 샘플링 비율 $k$로 총 엣지 수를 제어한다. 광범위한 실험을 통해 EdgeRefine이 노이즈가 없는 기준선에 필적하는 정확도를 달성하고, 다양한 데이터셋과 GNN 아키텍처에서 다른 프라이버시 보존 방법들을 크게 능가함을 보인다. 프라이버시 예산 $\varepsilon=2.5$ 하에서, EdgeRefine은 GAT 기반 ACM 데이터셋에서 노드 분류 정확도를 최신 기준선 대비 17.8%, GCN 기반 Cora 데이터셋에서 19.7% 향상시킨다. 그래프 분류에서는 노이즈가 없는 기준선 대비 평균 약 5%의 정확도 저하를 달성한다. 그래프 재구성 공격 하에서 EdgeRefine은 모든 프라이버시 예산에서 상대 절대 오차 수준을 1 이상으로 유지하며, Cora에서 평균 1.962, AMAP에서 1.472를 기록하여 프라이버시 누출에 대한 강한 복원력을 나타낸다.
적응형 상보적 강화를 통한 이질성 환경에서 조정 기반 GNN 학습의 개선
Remedying Coarsening-Based GNN Training under Heterophily via Adaptive Complementary Enhancement
그래프 신경망(GNN)의 조정(coarsening) 기반 학습, 즉 원본 대규모 그래프 대신 조정된 그래프에서 학습하는 방식은 대규모 그래프로 GNN을 확장하는 유망한 방향이 되었다. 그러나 선행 연구는 거의 전적으로 동질성(homophilic) 그래프에서만 평가되어, 더 도전적인 이질성(heterophilic) 설정은 충분히 탐구되지 않았다. 우리는 경험적·이론적으로 기존 조정 기반 학습 방법이 조정 과정에서 불가피한 그래프 정보 손실로 인해 이질성 그래프에서 상당한 성능 저하를 겪는다는 것을 보인다. 이를 해결하기 위해, 조정 과정에서 버려진 정보를 재통합하는 플러그 앤 플레이, 모델 무관 전략인 적응형 상보적 강화(Adaptive Complementary Enhancement, ACE)를 제안한다. ACE는 원본 노드 특징을 재구성하는 투영기(projector)를 학습하고, 국소 이질성을 임베딩하기 위해 이방성 구조 정규화(anisotropic structural regularization)를 적용한다. 또한 동분산 불확실성 가중(homoscedastic uncertainty weighting)을 채택하여, 이질성 인식 투영기가 재구성한 증강 노드 특징을 사용한 전체 그래프 보조 손실과 주 조정 그래프 학습 손실로 구성된 결합 학습 목표를 적응적으로 균형 조정한다. 광범위한 실험에서 ACE는 최소한의 계산 오버헤드로 동질성 그래프에서 경쟁력 있는 결과를 유지하면서 이질성 벤치마크에서 일관된 성능 향상을 달성함을 보여준다. 코드는 GitHub 저장소 https://github.com/vasile-paskardlgm/ACE 에서 제공된다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.