arXiv:2606.30499v1 cs.LG

새로움으로부터 협력 발견하기: 클러스터링 연합학습을 위한 랜덤 네트워크 증류

Discovering Collaboration from Novelty: Random Network Distillation for Clustered Federated Learning

Davide Domini, Gianluca Aguzzi, Ivana Dusparic, Danilo Pianini, Mirko Viroli

제출 2026-06-29

한국어 초록

연합학습(Federated Learning)은 비독립동일분포(non-IID) 데이터 환경에서 종종 어려움을 겪는데, 단일 전역 모델이 클라이언트 분포의 다양성을 충분히 표현하지 못할 수 있다. 클러스터링 연합학습(Clustered Federated Learning)은 유사한 클라이언트 그룹에 특화된 모델을 학습함으로써 이 문제를 완화하지만, 기존 방법들은 클러스터 할당을 주 학습 루프와 결합하는 경우가 많아 계산 및 통신 비용이 증가한다. 우리는 랜덤 네트워크 증류(Random Network Distillation)에 기반한 경량 클러스터링 방법을 제안한다. 각 클라이언트는 로컬 데이터에서 소형 랜덤 네트워크 증류 예측기를 학습하고, 예측 오차를 새로움(novelty) 신호로 활용하여 다른 클라이언트와의 유사도를 추정한다. 이를 통해 원시 데이터를 공유하거나 주 모델을 반복적으로 평가하지 않고도 연합 학습 전에 의미 있는 클라이언트 그룹을 발견할 수 있다. 무엇보다 중요한 점은, 결과적으로 형성되는 연합(federation)이 런타임에 로컬 새로움 추정치로부터 생성된다는 것으로, 이 방법은 클러스터 수와 협력 구조를 사전에(a priori) 지정할 수 없는 대규모 자율 분산 시스템에 적합하다. 전반적으로, 클러스터링을 학습과 분리함으로써 이 방법은 비독립동일분포 데이터 환경에서의 자율적 협력을 위한 태스크 비종속적이고 효율적인 메커니즘을 제공한다.

원문 초록

Federated Learning often suffers under non-independently and identically distributed data, where a single global model may fail to represent the diversity of client distributions. Clustered Federated Learning mitigates this issue by training specialized models for groups of similar clients, but existing approaches often couple cluster assignment with the main training loop, increasing computational and communication costs. We propose a lightweight clustering approach based on Random Network Distillation. Each client trains a compact Random Network Distillation predictor on its local data and uses its prediction error as a novelty signal to estimate similarity with other clients. This enables the discovery of meaningful client groups before federated training, without sharing raw data or repeatedly evaluating the main model. Crucially, the resulting federations emerge from local novelty estimates at runtime, making the method suitable for autonomous large-scale distributed systems where neither the number of clusters nor the collaboration structure can be specified a priori. Overall, by decoupling clustering from learning, the method provides a task-agnostic and efficient mechanism for autonomous collaboration under non-independently and identically distributed data.

요약

연합학습의 비독립동일분포(non-IID) 환경에서 클러스터링과 주 학습 루프의 결합으로 발생하는 계산·통신 비용 문제를 해결하기 위해, 각 클라이언트가 랜덤 네트워크 증류(Random Network Distillation, RND) 기반의 소형 예측기를 로컬 데이터로 학습하고 예측 오차를 새로움(novelty) 신호로 활용해 사전에 클라이언트 그룹을 자율적으로 발견하는 경량 클러스터링 방법을 제안한다. 이 방식은 원시 데이터 공유나 전체 모델 반복 평가 없이 클러스터 수를 사전에 지정하지 않아도 되며, 컴퓨터 비전 벤치마크 실험에서 특징 왜곡(feature skew) 환경의 비독립동일분포 데이터에 대해 의미 있는 클라이언트 그룹 발견이 가능함을 검증하였다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.30499v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.24627v1cs.CV공통 태그 Privacy Preserving, Knowledge Distillation, Federated Learning

FedMust: 다중 장기 CT 분할을 위한 준지도 멀티태스크 학생-교사 연합 학습

FedMust: Semi-supervised Multi-task Student-Teacher Federated Learning for Multi-organ CT Segmentation

심층 학습(deep learning)을 이용한 다중 장기 분할(multi-organ segmentation)은 주석(annotation)이 달린 대량의 환자 데이터를 필요로 하지만, 각 기관에는 충분히 크고 다양한 주석 데이터셋(dataset)이 부족한 경우가 많습니다. 또한 개인정보 보호 제약으로 인해 이러한 한계를 극복하기 위해 기관 간에 환자 데이터를 공유하는 것도 불가능합니다. 더욱이 주석 작업의 노동 집약적인 특성과 다양한 전문성의 부족으로 인해, 기관들은 일반적으로 로컬 데이터의 극히 일부에 대해서만 레이블을 보유하고 있어 레이블이 없는 더 많은 양의 데이터는 활용되지 못한 채 남겨집니다. 본 연구에서는 참여 사이트 전반에서 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 모두 활용하여 다중 장기 분할 성능을 개선하기 위해 연합 학습(FL)을 활용하는 유연한 준지도 연합 멀티태스크 학생-교사 프레임워크를 제안합니다. 제안된 프레임워크는 각 통신 라운드마다 로컬 학습(training)을 시작하며, 동일한 태스크에 대한 레이블을 보유한 클라이언트들이 연합을 구성하여 집합된 교사 모델(teacher model)을 생성합니다. 이렇게 생성된 교사 모델은 각 클라이언트의 모든 데이터에 대해 태스크별 특징(feature)을 생성합니다. 이어서 모든 클라이언트는 두 번째 연합을 구성하여 공유 인코더와 모든 분할 태스크에 걸쳐 교사가 생성한 특징을 복제하는 태스크별 디코더를 갖춘 멀티태스크 학생 모델(student model)을 학습시킵니다. 이후 집합된 학생 모델은 로컬 교사 모델을 업데이트하고 다음 학습 라운드를 시작하는 데 사용됩니다. 광범위한 실험을 통해 제안된 방법이 로컬 및 연합 단일 장기 모델 대비 효과적임을 입증하였으며, 클라이언트 전반에 걸쳐 평균 13%의 성능 향상을 달성했습니다. 또한 실험을 통해 멀티태스크 학습과 레이블이 지정되지 않은 데이터의 영향력, 그리고 클라이언트 참여를 위한 레이블 데이터 요구 조건을 완화하는 데 본 프레임워크를 적용할 수 있음을 입증했습니다. 코드는 https://github.com/AshknMrd/FedMust 에서 확인할 수 있습니다.

arXiv:2610.13631v1cs.LG공통 태그 Privacy Preserving, Federated Learning

프라이버시가 보호되고 분포에 강건한 연합 다중 클래스 분류

Private and Distributionally Robust Federated Multiclass Classification

자산 집약적 산업에서의 고장 진단은 지리적으로 분산된 클라이언트 현장에서 수집된 노이즈가 많고 민감한 데이터로 학습(training)된 다중 클래스 모델(model)을 필요로 합니다. 연합학습(Federated Learning)은 데이터를 중앙 집중화하지 않고도 협업 학습을 가능하게 하지만, 대부분의 접근 방식은 클라이언트 현장에 저장된 개별 레코드에 대한 정형화된 프라이버시 보장을 제공하지 않으며 레이블 노이즈 하에서 성능이 저하될 수 있습니다. 이러한 한계를 해결하기 위해, 본 연구에서는 각 클라이언트에 저장된 레코드에 대해 샘플 수준의 프라이버시를 제공하는 차분 프라이버시 기반의 분포 강건 연합 다중 클래스 분류(classification) 프레임워크를 개발합니다. 본 연구는 교대 방향 승수법(ADMM) 기반 알고리즘으로 해결되는 Crammer-Singer 손실(loss)을 적용한 연합 바서슈타인 분포 강건(Wasserstein distributionally robust) 다중 클래스 목적 함수를 기반으로 구축됩니다. 공개되는 클라이언트 업데이트를 보호하기 위해, 제안하는 기법은 중앙 서버에서 집계되기 전에 로컬 모델과 로컬 분포 강건 변수 모두의 근접 선형화된 클라이언트 업데이트에 보정된 가우시안 노이즈를 주입하며, 모멘트 어카운턴트(moments accountant)를 사용하여 누적 프라이버시 손실을 정량화합니다. 본 연구는 수렴(convergence) 결과 및 명시적인 프라이버시-유용성 트레이드오프와 함께 라운드당 샘플 수준의 $(ε,δ)$-차분 프라이버시 보장과 전체 학습 라운드에 걸친 종합적인 합성 프라이버시 보장을 제공합니다. 시뮬레이션된 산업 고장 데이터 및 UCI 벤치마크 데이터셋에 대한 실험을 통해, 제안하는 기법이 대부분의 테스트 설정에서 차분 프라이버시 연합 경험적 위험 최소화 및 확률적 경사하강법(gradient descent) 베이스라인보다 우수한 성능을 보이며, 강력한 프라이버시 유도 노이즈 하에서 가장 큰 향상을 나타냄을 보입니다.

arXiv:2610.13717v1cs.LG공통 태그 Clustering, Federated Learning

연합 사회적 공정 k-평균 군집화를 위한 머신 언러닝

Machine Unlearning for Federated Socially Fair k-Means Clustering

연합 군집화(federated clustering)는 여러 병원에 걸친 환자 층화(patient stratification) 및 분산된 금융 데이터셋 전반의 고객 세분화와 같은 응용 분야를 지원할 수 있습니다. 책임감 있는 인공지능(Responsible AI)은 인구통계학적 집단의 공정한 대표성을 보장하고, GDPR의 잊힐 권리(right to erasure)와 같은 권리에서 비롯된 데이터 삭제 지원을 요구합니다. 이러한 목표들은 상호작용합니다. 즉, 레코드를 삭제하면 집단 간의 균형이 바뀌고 남아 있는 모집단의 군집화 결과가 변경될 수 있습니다. 본 연구에서는 가장 가까운 중심점까지의 최대 집단 평균 제곱 거리를 최소화하는 것을 목표로 하는 연합 사회적 공정 $k$-평균($k$-means)에 대한 정확한 머신 언러닝(exact machine unlearning)을 연구합니다. 본 접근법은 각 집단별로 독립된 로컬 요약(summary)을 유지하므로, 글로벌 공정성 가중치가 변경되더라도 영향을 받지 않은 기관의 요약은 유효하게 유지됩니다. 두 집단의 경우, 이상적인 샘플링 하에서 클라이언트 집단 비율과 무관한 초기화(initialization) 근사 보장을 증명하며, 동일 시드 재생(same-seed replay)이 재학습을 정확히 재현함을 보입니다. 재사용의 이점은 전체 클라이언트가 탈퇴할 때 가장 두드러집니다. 3개의 데이터셋에 걸쳐 재생 방식은 초기화 전용 모델(model)에 대해 재학습보다 $35.8\times$ 더 빠르며, 최악 집단 비용을 개선하는 1회 및 2회의 공정 정제 라운드 적용 시에도 각각 $2.4\times$ 및 $1.7\times$ 더 빠른 속도를 유지합니다. 개별 레코드 삭제의 경우 성능 향상은 약 $1.06\times$로 미미하며, 캐시된 할당을 검증하는 비용이 절감되는 비용보다 더 클 수 있습니다. 이러한 결과는 정확한 언러닝이 계산을 유익하게 재사용할 수 있는 영역을 보여줍니다. 코드 및 재현성 자료는 https://github.com/arareddy/mufsc 에서 확인할 수 있습니다.

arXiv:2610.10613v1cs.LG공통 태그 Privacy Preserving, Federated Learning

이상 탐지를 위한 연합 경량 헤드 기반 시계열 트랜스포머 CAN 인코더

Temporal transformer CAN encoder with federated lightweight heads for anomaly detection

현대 차량은 CAN(Controller Area Network) 버스를 통해 지속적으로 정보를 교환하는 수많은 전자제어장치(ECU)에 의존합니다. 이러한 통신의 신속성, 구조, 반복성으로 인해 타이밍, 페이로드 값, 메시지 패턴의 미세한 변화조차도 비정상적인 활동을 나타낼 수 있습니다. 오류, 오작동, 의도적인 간섭 등 원인에 관계없이 이러한 이상 현상은 매우 미묘하여, 메시지를 개별적으로 처리하거나 수작업으로 생성된 규칙에 의존하는 기존 방식으로는 식별하기 어렵습니다. 이러한 한계점을 해결하기 위해, 본 논문에서는 이러한 불규칙성을 더 효과적으로 포착할 수 있도록 연합 경량 헤드를 갖춘 시계열 트랜스포머 CAN 인코더 기반의 차량 내 네트워크 이상 탐지용 프라이버시 보존 프레임워크를 제안합니다. 이 신호들이 시간에 따라 어떻게 변화하는지 학습하는 경량 트랜스포머 인코더를 통해 미묘한 시계열 및 문맥적 이상 현상의 탐지가 가능해지며, 연합학습(federated learning) 메커니즘을 통해 여러 차량이나 ECU가 원시 CAN 데이터를 교환하지 않고도 협력하여 공유 모델을 개선할 수 있습니다. 오픈소스 데이터셋을 대상으로 수행한 실험에 따르면, 이러한 연합학습과 시계열 시퀀스 모델링의 결합은 효율성과 프라이버시를 유지하면서도 견고한 이상 탐지 성능을 제공합니다.

arXiv:2610.01195v1cs.AI공통 태그 Privacy Preserving, Federated Learning

연합 에이전트 최적화

Federated Agent Optimization

대규모 언어 모델(LLM) 에이전트(agent)는 점차 비공개 환경에서 작동하며 작업 수행, 도구 사용, 피드백, 로컬 지식으로부터 가치 있는 경험을 축적하고 있습니다. 그러나 이러한 경험은 여러 조직에 분산되어 있으며 프라이버시 및 독점적 제약으로 인해 직접 공유될 수 없습니다. 에이전트의 역량이 모델(model) 파라미터를 넘어 메모리, 도구, 보상(reward), 기술 및 정형화된 지식으로 확장됨에 따라 기존의 연합학습(federated learning)은 이러한 환경에 불충분합니다. 본 논문에서는 원시 데이터, 완전한 궤적, 비공개 지식을 로컬에 유지하면서 통제된 정보 교환을 통해 분산된 에이전트들이 협력하여 개선할 수 있는 방법을 연구하는 연합 에이전트 최적화(Federated Agent Optimization, FAO)를 정식화합니다. 본 연구는 FAO를 에이전트 유용성, 프라이버시 유출, 통신 비용의 균형을 맞추는 다중 목적 최적화 문제로 정의하고, 정책, 메모리, 도구 사용, 보상, 정형화된 지식 및 기술 전반에 걸쳐 최적화 공간을 체계화합니다. 나아가 비공개 경험을 추상화, 보호, 집합 및 적응시켜 전이 가능한 역량으로 변환하는 방법을 구체화함으로써, 에이전트들이 직접적인 경험 공유 없이도 서로에게서 이점을 얻을 수 있는 통합된 관점을 제공합니다. 마지막으로 FAO의 주요 과제를 식별하고 신뢰할 수 있는 연합 에이전트 시스템을 향한 미래 연구의 유망한 방향들을 제시합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.