arXiv:2404.09443v2 cs.LG

Hybrid FedGraph: 그래프 합성곱 신경망을 이용한 효율적인 하이브리드 연합 학습 알고리즘

Hybrid FedGraph: An efficient hybrid federated learning algorithm using graph convolutional neural network

Jaeyeon Jang, Diego Klabjan, Veena Mendiratta, Fanfei Meng

제출 2024-04-15

한국어 초록

연합 학습은 데이터를 중앙 서버에 공개하지 않고 분산된 클라이언트에서 기계 학습 모델을 분산 방식으로 학습하는 새로운 패러다임이다. 기존 연구의 대부분은 각 클라이언트가 특징을 공유하는 서로 다른 샘플을 보유하는 수평적 데이터 분포, 또는 각 클라이언트가 샘플 인덱스만 완전히 공유하는 수직적 데이터 분포에 초점을 맞추어 왔다. 그러나 하이브리드 방식은 실제 환경에서 훨씬 더 흔함에도 불구하고 연구가 훨씬 부족하다. 따라서 본 논문에서는 일부 클라이언트로부터 특징을 학습하면서 특징 공유 정보를 포착하기 위해 그래프 합성곱 신경망을 도입한 일반화된 알고리즘 FedGraph를 제안한다. 또한 데이터 프라이버시를 보존하면서 각 클라이언트의 심층 신경망이 생성한 특징을 집계하는 단순하지만 효과적인 클러스터링 알고리즘을 개발한다.

원문 초록

Federated learning is an emerging paradigm for decentralized training of machine learning models on distributed clients, without revealing the data to the central server. Most existing works have focused on horizontal or vertical data distributions, where each client possesses different samples with shared features, or each client fully shares only sample indices, respectively. However, the hybrid scheme is much less studied, even though it is much more common in the real world. Therefore, in this paper, we propose a generalized algorithm, FedGraph, that introduces a graph convolutional neural network to capture feature-sharing information while learning features from a subset of clients. We also develop a simple but effective clustering algorithm that aggregates features produced by the deep neural networks of each client while preserving data privacy.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2404.09443v2제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.