arXiv:2610.13508v1 cs.LG

FedPCD: 우선순위 제약 기반 연합 집계

FedPCD: Priority-Constrained Federated Aggregation

Yousef Irshaid, Dara Varam, Mohamed I. AlHajri

제출 2026-10-09

저자 비고

arXiv Comments

30 pages, 17 figures, 5 tables

한국어 초록

연합학습(FL)은 분산된 클라이언트 데이터로부터 공유 글로벌 모델을 최적화하는 것을 목표로 합니다. 이러한 방식은 평균 성능에는 효과적이지만, 특히 통계적으로 이질적인(heterogeneous) 데이터 분포 하에서는 클라이언트 간에 불공정한 성능을 초래할 수 있습니다. 기존의 공정성 인식 및 다중 목적 연합학습 방법들은 클라이언트 재가중치 부여(re-weighting), 그래디언트(gradient) 보정, 또는 공통 하강(common-descent) 정식화를 통해 이를 다루지만, 종종 글로벌 최적화 방향을 변경하거나 클라이언트의 목적을 대칭적으로 취급합니다. 본 논문에서는 글로벌 최적화 목적과 클라이언트 보호를 분리하는 우선순위 제약 연합 최적화 프레임워크인 FedPCD를 제안합니다. FedPCD는 기존의 연합 집계를 기본(primary) 목적으로 보존하면서, 클라이언트 성능 제약을 충족하는 데 필요한 최소한의 보정만을 허용합니다. 이질적인 연합학습 벤치마크 전반에서 FedPCD는 최신(SOTA) 베이스라인들을 일관되게 능가하여 모든 구성에서 가장 높은 글로벌 정확도를 달성하고 거의 모든 구성에서 하위 10% 클라이언트 정확도를 선도했습니다. 나아가 FedPCD는 글로벌 정확도와 클라이언트 성능 변동성 사이에서 경쟁력 있는 트레이드오프를 유지합니다. 이러한 트레이드오프를 넘어, FedPCD는 훨씬 적은 통신 라운드로 동등하거나 우수한 성능에 도달하며 더 빠른 실증적 수렴을 입증합니다.

원문 초록

Federated learning (FL) seeks to optimize a shared global model from decentralized client data. While effective for average performance, this process can produce unfair performance across clients, particularly under statistically heterogeneous data distributions. Existing fairness-aware and multi-objective FL methods address this through client re-weighting, gradient correction, or common-descent formulations, but often change the global optimization direction or treat client objectives symmetrically. We propose FedPCD, a priority-constrained federated optimization framework that separates the global optimization objective from client protection. FedPCD preserves the conventional federated aggregate as the primary objective, while allowing only the minimum correction necessary to meet client performance constraints. Across heterogeneous FL benchmarks, FedPCD consistently outperforms state-of-the-art baselines, achieving the highest global accuracy across all configurations and leading worst-10% client accuracy in nearly all. FedPCD further preserves competitive trade-offs between global accuracy and client performance variability. Beyond this trade-off, FedPCD demonstrates faster empirical convergence, reaching matching or superior performance in substantially fewer communication rounds.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.13508v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13717v1cs.LG공통 태그 Fairness, Federated Learning

연합 사회적 공정 k-평균 군집화를 위한 머신 언러닝

Machine Unlearning for Federated Socially Fair k-Means Clustering

연합 군집화(federated clustering)는 여러 병원에 걸친 환자 층화(patient stratification) 및 분산된 금융 데이터셋 전반의 고객 세분화와 같은 응용 분야를 지원할 수 있습니다. 책임감 있는 인공지능(Responsible AI)은 인구통계학적 집단의 공정한 대표성을 보장하고, GDPR의 잊힐 권리(right to erasure)와 같은 권리에서 비롯된 데이터 삭제 지원을 요구합니다. 이러한 목표들은 상호작용합니다. 즉, 레코드를 삭제하면 집단 간의 균형이 바뀌고 남아 있는 모집단의 군집화 결과가 변경될 수 있습니다. 본 연구에서는 가장 가까운 중심점까지의 최대 집단 평균 제곱 거리를 최소화하는 것을 목표로 하는 연합 사회적 공정 $k$-평균($k$-means)에 대한 정확한 머신 언러닝(exact machine unlearning)을 연구합니다. 본 접근법은 각 집단별로 독립된 로컬 요약(summary)을 유지하므로, 글로벌 공정성 가중치가 변경되더라도 영향을 받지 않은 기관의 요약은 유효하게 유지됩니다. 두 집단의 경우, 이상적인 샘플링 하에서 클라이언트 집단 비율과 무관한 초기화(initialization) 근사 보장을 증명하며, 동일 시드 재생(same-seed replay)이 재학습을 정확히 재현함을 보입니다. 재사용의 이점은 전체 클라이언트가 탈퇴할 때 가장 두드러집니다. 3개의 데이터셋에 걸쳐 재생 방식은 초기화 전용 모델(model)에 대해 재학습보다 $35.8\times$ 더 빠르며, 최악 집단 비용을 개선하는 1회 및 2회의 공정 정제 라운드 적용 시에도 각각 $2.4\times$ 및 $1.7\times$ 더 빠른 속도를 유지합니다. 개별 레코드 삭제의 경우 성능 향상은 약 $1.06\times$로 미미하며, 캐시된 할당을 검증하는 비용이 절감되는 비용보다 더 클 수 있습니다. 이러한 결과는 정확한 언러닝이 계산을 유익하게 재사용할 수 있는 영역을 보여줍니다. 코드 및 재현성 자료는 https://github.com/arareddy/mufsc 에서 확인할 수 있습니다.

arXiv:2609.26929v1cs.AI공통 태그 Fairness, multi-objective optimization

어떤 목표에 다이얼이 필요한가? 조향 가능한 다원적 정렬에서 목표 충돌 예측 및 트레이드오프 커버

Which Objectives Need a Dial? Predicting Objective Conflict and Covering Trade-offs in Steerable Pluralistic Alignment

사람들은 다양하고 때로는 상충하는 가치를 지니므로, 단 하나의 정렬된 모델로는 모두를 만족시킬 수 없다. 따라서 다원적 정렬은 경쟁하는 목표를 서로 다르게 균형 잡을 수 있는 조향 가능한 모델을 요구한다. 다목적 직접 선호 최적화(Multi-Objective Direct Preference Optimization, MODPO)는 목표 가중치를 사용해 연속적인 트레이드오프 스펙트럼을 아우르는 방식으로 이를 수행한다. 우리는 두 가지 질문을 연구한다: 하나의 모델이 두 목표를 동시에 개선할 수 있는 경우는 언제인지, 그리고 각 트레이드오프마다 별도의 모델을 학습하지 않고도 많은 트레이드오프를 어떻게 포괄할 수 있는지. HelpSteer와 UltraFeedback의 일곱 목표 쌍에 걸쳐, 두 가지 사전학습 측정값은 사람이 주석 단 데이터에서 목표가 정렬되는지 충돌하는지를 예측하지만, AI 주석 데이터에서는 그렇지 않으며, 후자에서는 응답 길이와 반복이 보상 모델 점수를 교란한다. 더 넓은 트레이드오프 커버리지를 위해, 가장 가까운 학습된 모델을 선택하는 방법과 모델 파라미터 병합 모두 도움이 되지만, 어느 것도 일관되게 직접 학습에 필적하지는 못한다. 이러한 결과는 다양한 선호를 수용하는 조향 가능한 모델을 구축하기 위한 실용적 지침을 제공한다.

arXiv:2607.21647v1cs.LG공통 태그 Fairness, Federated Learning

지능형 서비스를 위한 드리프트 안정 양자 연합 학습

A Drift Stable Quantum Federated Learning for Intelligent Services

양자 연합 학습(quantum federated learning)은 분산 클라이언트가 로컬 데이터를 공유하지 않고 양자 신경망(quantum neural networks)을 학습할 수 있게 하며, 이는 프라이버시를 고려한 지능형 서비스에 유망한 접근법이다. 이 맥락에서 지능형 서비스는 사기 탐지와 유전체 분류와 같이 프라이버시에 민감한 분산 의사결정 시스템을 가리키며, 여기서는 신뢰할 수 있고 공정한 클라이언트 수준 학습이 집계 모델의 정확도만큼 중요하다. 그러나 이질적인 클라이언트 데이터와 노이즈가 많은 양자 최적화(optimization)는 종종 불안정한 로컬 업데이트, 클라이언트 드리프트(client drift), 그리고 클라이언트 간 불공정한 성능을 야기한다. 본 논문은 deep-unfolded 로컬 최적화에 기반한 드리프트 안정 양자 연합 학습 프레임워크인 DUQFL-Prox를 제안한다. 고정된 로컬 옵티마이저를 사용하는 대신, 각 클라이언트는 적응형 unfolded SPSA 업데이트를 수행하며, proximal term은 로컬 모델을 글로벌 모델에 가깝게 유지한다. 경량 컨트롤러는 집계 후 성능을 개선하기 위해 단계별 최적화 매개변수를 학습한다. 금융 사기 탐지 및 유전체 분류 작업에 대한 실험은 DUQFL-Prox가 표준 QFL(양자 연합 학습) 베이스라인 대비 안정성, 일반화, 클라이언트 공정성을 개선함을 보여준다. 결과는 deep-unfolded 양자 연합 학습이 이질적인 분산 환경에서 더 신뢰할 수 있고 공정한 지능형 서비스를 지원할 수 있음을 시사한다.

arXiv:2607.13328v1cs.CR공통 태그 Fairness, Federated Learning

개인화와 프라이버시의 균형을 맞춘 프라이버시 보존 추천 시스템

Privacy Preserving Recommender Systems Balancing Personalization with Privacy

개인화 추천 시스템은 현대 이커머스 및 소매 플랫폼의 핵심이지만, 일반적으로 상세한 사용자 상호작용 데이터의 중앙집중식 저장에 의존하여 상당한 프라이버시 및 규제 문제를 야기한다. GDPR, CCPA, CPRA와 같은 규정의 요구가 증가함에 따라, 조직은 추천 품질을 크게 저하시키지 않으면서 사용자 프라이버시를 보존하는 추천 시스템을 개발해야 한다. 본 연구는 연합 학습(federated learning), 차등 프라이버시(differential privacy), 코호트 수준 모델링(cohort-level modeling), 프라이버시 인식 지능형 에이전트(privacy-aware intelligent agents)를 결합한 프라이버시 보존 추천 프레임워크를 제시하고 평가한다. 이 프레임워크는 원시 사용자 데이터를 분산 상태로 유지하면서 모델 업데이트에 수학적으로 제한된 노이즈를 도입한다. 고객 클릭스트림 및 구매 행동을 모사하는 합성 소매 데이터셋(dataset)에서 실험을 수행했다. 추천 품질은 여러 차등 프라이버시 예산에 걸쳐 클릭률(CTR), 정밀도@K(Precision@K), 재현율@K(Recall@K), 정규화 할인 누적 이득(NDCG@K)으로 평가했다. 다양한 프라이버시 제약 하에서 행렬 분해(matrix factorization), 신경망 협업 필터링(neural collaborative filtering), GRU4Rec을 평가하고 프라이버시와 유틸리티(utility) 간의 트레이드오프를 분석한다. 추천 성능, 순위 안정성, 프라이버시-유틸리티 트레이드오프, 공정성(fairness) 지표를 시각화하는 대화형 Streamlit 대시보드를 개발했다. 결과는 제안 프레임워크가 중간 수준의 프라이버시 예산(약 ε≈5)에서 경쟁력 있는 추천 품질을 유지함을 보여주며, 강력한 프라이버시 보장이 추천 효과에 제한적인 영향만으로 달성될 수 있음을 입증한다. 본 연구는 개인화, 규제 준수, 비즈니스 목표의 균형을 맞추는 프라이버시 보존 추천 시스템 배포를 위한 실용적 프레임워크를 제공하며, 차세대 AI 기반 소매 플랫폼을 위한 확장 가능한 접근법을 제시한다.

arXiv:2607.03346v1cs.CL공통 태그 Fairness, Federated Learning

모델 병합을 통한 효율적인 분산 다중 작업 데이터셋 가치 평가

Efficient Decentralized Multi-task Dataset Valuation via Model Merging

정확하고 효율적인 데이터셋 가치 평가는 공정하고 투명한 데이터 마켓플레이스를 실현하는 데 필수적이며, 특히 여러 기여자가 다중 작업 모델 학습을 위해 데이터를 제공하는 환경에서 더욱 그러하다. 그러나 대부분의 기존 가치 평가 방법은 단일 작업 설정에 한정되어 있어, 구매자가 여러 다운스트림 작업 전반에 걸쳐 성능을 최적화하려는 시나리오를 간과하고 있다. 또한 Shapley 기반 또는 재학습 기반 방법과 같은 전통적인 가치 평가 접근법은 계산 비용이 크고, 신뢰할 수 있는 중앙 코디네이터 없이 엄격한 프라이버시 제약이 존재하는 분산 환경에는 적합하지 않다. 우리는 DMVM(Decentralized Multi-task Valuation via Model Merging)을 제안한다. 이는 태스크 산술(task arithmetic)을 활용하여 모델 조합으로부터 직접 데이터셋 기여도를 추론함으로써 재학습과 데이터 공유를 우회하는 새로운 프레임워크다. DMVM은 원시 데이터를 재학습하거나 공유하는 대신, 서로 다른 데이터셋으로 학습된 모델들이 매개변수 공간에서 결합하는 방식을 정량화하여 각 데이터셋의 다중 작업 전반에 걸친 한계 효용을 추론한다. 이러한 공식화를 통해 확장 가능하고 계산 효율적이며 다중 작업 일반화 동작과 명시적으로 정렬된 가치 평가 프로세스를 구현한다. 분산 배포를 지원하기 위해 개별 모델 매개변수나 개인 데이터를 노출하지 않고 협력적 가치 평가를 가능하게 하는 보안 집계 프로토콜을 도입한다. 또한 DMVM의 근사 품질을 특성화하는 이론적 오차 한계를 제시하고, 컴퓨터 비전(CV) 및 자연어 처리(NLP) 작업에 대한 포괄적인 실험을 통해 프레임워크를 검증한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.