arXiv:2606.20382v1 cs.LG

모달리티 불균형 연합 그래프 학습을 향하여: 데이터 합성 기반 접근법

Towards Modality-imbalanced Federated Graph Learning: A Data Synthesis-based Approach

Zhengyu Wu, Hongchao Qin, Xunkai Li, Zekai Chen, Rong-Hua Li, Guoren Wang

제출 2026-06-18

한국어 초록

멀티모달 연합 그래프 학습(MM-FGL)은 자연스러운 협업 학습 패러다임을 제공하지만, 실제 배치 시 두 가지 수준의 모달리티 불균형으로 인해 어려움을 겪습니다. 클라이언트 수준 불균형은 특정 클라이언트가 전체 모달리티가 부재할 때 발생하는 반면, 노드 수준 불균형은 개별 노드에서 시각적 또는 텍스트 속성이 누락될 때 발생합니다. 관련 연구들이 다수 존재하지만, 본 조사에 따르면 이들은 주로 그래프 무관(graph-agnostic)하거나 중앙 집중식 시나리오를 대상으로 하여 직접 적용하기 어렵습니다. 이러한 문제를 해결하기 위해, 본 연구는 모달리티 불균형 MM-FGL을 암묵적인 그래프 인지(graph-aware) 잠재 의미 표현 합성 문제로 정의합니다. 이 패러다임은 표현 공간 내에서 직접 누락된 모달 의미를 복원하여 원본 데이터의 의미 분포와의 정렬을 최대화하고, 누락된 모달리티로 인해 유발되는 높은 분산을 완화합니다. 이를 위해 FedMGS(Federated Modality-aware Graph Synthesis)를 제안하며, 이는 세 가지 핵심 구성 요소를 통합합니다. 가용성 인지(availability-aware) 그래프 인코더는 누락된 모달리티가 로컬 구조 전파를 오염시키는 것을 방지합니다. 프로토타입 기반(prototype-guided) 잠재 의미 합성기는 이용 불가능한 모달리티에 대한 클라이언트 간 의미 앵커를 설정합니다. 신뢰도 보정(reliability-calibrated) 의미 융합 메커니즘은 예측 리드아웃(readout) 이전에 복원된 잠재 표현의 영향을 조절합니다. 4가지 작업(task)에 대한 광범위한 실험 결과, FedMGS는 최상의 효율성-성능 트레이드오프(tradeoff)를 통해 경쟁력 있는 기준 모델(baseline)들을 일관되게 능가하며 최대 17.41%의 성능 향상을 보여주었습니다.

원문 초록

MultiModal Federated Graph Learning (MM-FGL) offers a natural collaborative training paradigm, but its practical deployment is challenged by two granularities of modality imbalance. Client-level imbalance occurs when certain clients lack entire modalities, while node-level imbalance occurs when individual nodes exhibit missing visual or textual attributes. While several relevant studies exist, our investigation reveals that they predominantly target graph-agnostic or centralized scenarios, rendering them difficult to adapt directly. To address these challenges, we formalize modality-imbalanced MM-FGL as an implicit graph-aware latent semantic representation synthesis problem. This paradigm recovers missing modal semantics directly within the representation space, thereby maximizing alignment with the original data's semantic distribution and mitigating the high variance induced by missing modalities. To this end, we propose FedMGS (Federated Modality-aware Graph Synthesis), which integrates three core components. The availability-aware graph encoder prevents missing modalities from contaminating local structural propagation. The prototype-guided latent semantic synthesizer establishes cross-client semantic anchors for unavailable modalities. The reliability-calibrated semantic fusion mechanism regulates the impact of recovered latent representations prior to predictive readout. Extensive experiments on four tasks show that FedMGS consistently outperforms competitive baselines with gains up to 17.41% with best efficiency-performance tradeoff.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.20382v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.28105v1cs.LG공통 태그 Imputation, Federated Learning

Fed-ReMasker: 특징 수준 결측 하의 연합 표 형식 대치

Fed-ReMasker: Federated Tabular Imputation under Feature-Level Missingness

다기관 임상 연구와 생의학 연구 협력은 점점 더 여러 기관에 걸친 데이터를 활용해 단일 기관을 넘어 일반화되는 모델을 구축하려 한다. 이는 두 가지 뚜렷한 과제를 만든다. 데이터 보호 규제는 기관 간 원시 환자 데이터 공유를 제한할 수 있고, 기관마다 서로 다른 프로토콜 아래 부분적으로만 겹치는 특징 집합만 수집할 수 있다. 연합 학습(federated learning)은 원시 데이터를 중앙에 모으지 않고 협력적으로 모델 학습을 가능하게 한다. 그러나 기존 연합 대치(imputation) 방법은 일부 기관에서 전체 특징이 관측되지 않는 특징 수준 결측(feature-level missingness)을 거의 평가하지 않는다. 이 설정을 다루기 위해, 우리는 ReMasker 마스크드 오토인코더를 연합 학습에 맞게 확장한 Fed-ReMasker를 제안하여, 협력 기관들에서 학습한 지식을 활용해 로컬에서 한 번도 관측되지 않은 특징을 기관이 대치할 수 있게 한다. Fed-ReMasker는 선형·비선형 관계를 갖는 합성 데이터셋과 임상 데이터를 포함한 실제 표 형식 데이터셋에 걸친 벤치마크에서 평가한다. 이 벤치마크는 기관 수, 결측 비율, 클라이언트 이질성(heterogeneity)을 변화시킨다. Fed-ReMasker는 동질(homogeneous) 벤치마크에서 값 수준(value-level) 시나리오의 93.2%, 특징 수준 시나리오의 96.7%에서 최저 대치 오차를 달성한다. 단순 연합 평균(federated averaging)만으로도 클라이언트 이질성에 견고하며, 값 수준 36개 시나리오 전부에서 모든 기준선을 능가하고, 특징 수준 36개 시나리오 각각에서 최소 35개에서 각 기준선을 능가하며, 풀링(pooled) 데이터로 학습한 중앙집중식 모델 대비 평균 3.0% 이내에 머문다.

arXiv:2607.08915v1cs.LG공통 태그 Imputation, Graph Learning

결측 데이터 처리를 위한 패턴 인식 그래프 신경망

Pattern-Aware Graph Neural Networks for Handling Missing Data

결측 데이터는 실제 데이터셋에서 어디서나 발생한다. 전통적인 방법들은 불완전한 샘플을 버리거나, 결측이 무작위로 발생한다고 암묵적으로 가정하면서 잠재적으로 유용한 정보를 담고 있는 결측 패턴을 무시하는 대입(imputation) 기법을 적용한다. 그러나 결측 패턴은 추가적인 정보를 제공할 수 있다. 우리는 관측된 값과 함께 어떤 특징이 결측되었는지를 명시적으로 인코딩하는 패턴 인식 그래프 신경망(graph neural networks)을 제안한다. 자연적으로 결측이 발생하는 7개의 UCI 데이터셋에서 학습된 임베딩, 고정된 랜덤 임베딩, 통계적 특징, 계층적 표현 등 네 가지 인코딩 전략을 사용하였다. 우리의 패턴 인식 방법은 기준선 대비 상당한 성능 향상을 달성하였으며, 모든 데이터셋에서 균형 정확도(balanced accuracy) 평균 17%, F1-macro 평균 22% 향상을 보였다. 데이터셋별 이점은 크게 다르며, annealing은 극적인 향상(균형 정확도 +80%)을 보이는 반면, hepatitis와 soybean은 미미한 향상(+4~5%)에 그쳤다. 주목할 만한 점은, 단순한 랜덤 패턴 임베딩도 학습된 임베딩과 유사한 성능을 보인다는 것이다(균형 정확도 0.650 대 0.663). 이는 패턴 간 구분이 태스크별 최적화보다 더 중요할 수 있음을 시사한다. 어블레이션 연구에서는 어텐션 메커니즘이 도움이 되긴 하지만, 패턴 정보가 제공될 때는 필수적이지 않음을 밝혔다. 패턴 인식을 갖춘 단순 평균 집계(mean aggregation)가 어텐션 기반 변형(0.645)과 비교해 균형 정확도 0.640을 달성하였다.

arXiv:2609.25722v3cs.LG공통 태그 Graph Learning

부호 그래프 사전학습 및 프롬프트 학습

Signed Graph Pre-Training and Prompt Learning

부호 그래프(signed graph)는 엣지가 양수이거나 음수일 수 있으며 방향성을 가질 수도 있는 신뢰-불신 네트워크, 금융 상관관계 시스템, 생물학적 상호작용 그래프 및 기타 여러 도메인에서 발생합니다. 부호 그래프 신경망이 특정 태스크에 특화된 학습(training)을 향상시켰지만, 부호 그래프에서의 그래프 전이학습(transfer learning)은 여전히 미진한 상태입니다. 본 논문에서는 부호 그래프를 위한 선구적인 위상학 기반 그래프 사전학습(pre-training) 및 프롬프트(prompt) 학습 프레임워크인 TopoSIGN을 소개합니다. TopoSIGN은 자기 부호 라플라시안(magnetic signed Laplacian)을 기반으로 구축된 구조적 인코더와 Dowker 복합체 지속성 이미지(Dowker-complex persistence images)를 통해 부호 위상을 요약하는 새로운 지속성 호몰로지(persistent-homology) 브랜치를 결합합니다. 융합된 임베딩(embedding)은 이후 프롬프트 학습 함수로 전달됩니다. 합성 및 실제 데이터셋(dataset)에 대한 실험 결과는 부호 그래프에서 유용한 구조적 정보를 추출하는 TopoSIGN의 효능뿐만 아니라, 제안된 일반 프레임워크의 적응성과 유연성을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.