arXiv:2402.03688

A Survey of Privacy Threats and Defense in Vertical Federated Learning: From Model Life Cycle Perspective

Lei Yu, Meng Han, Yiming Li, Changting Lin, Yao Zhang, Mingyang Zhang, Yan Liu, Haiqin Weng, Yuseok Jeon, Ka-Ho Chow, Stacy Patterson

제출 2024-02-06

원문 초록

Vertical Federated Learning (VFL) is a federated learning paradigm where multiple participants, who share the same set of samples but hold different features, jointly train machine learning models. Although VFL enables collaborative machine learning without sharing raw data, it is still susceptible to various privacy threats. In this paper, we conduct the first comprehensive survey of the state-of-the-art in privacy attacks and defenses in VFL. We provide taxonomies for both attacks and defenses, based on their characterizations, and discuss open challenges and future research directions. Specifically, our discussion is structured around the model's life cycle, by delving into the privacy threats encountered during different stages of machine learning and their corresponding countermeasures. This survey not only serves as a resource for the research community but also offers clear guidance and actionable insights for practitioners to safeguard data privacy throughout the model's life cycle.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01195v1cs.AI공통 태그 Survey, Federated Learning

연합 에이전트 최적화

Federated Agent Optimization

대규모 언어 모델(LLM) 에이전트(agent)는 점차 비공개 환경에서 작동하며 작업 수행, 도구 사용, 피드백, 로컬 지식으로부터 가치 있는 경험을 축적하고 있습니다. 그러나 이러한 경험은 여러 조직에 분산되어 있으며 프라이버시 및 독점적 제약으로 인해 직접 공유될 수 없습니다. 에이전트의 역량이 모델(model) 파라미터를 넘어 메모리, 도구, 보상(reward), 기술 및 정형화된 지식으로 확장됨에 따라 기존의 연합학습(federated learning)은 이러한 환경에 불충분합니다. 본 논문에서는 원시 데이터, 완전한 궤적, 비공개 지식을 로컬에 유지하면서 통제된 정보 교환을 통해 분산된 에이전트들이 협력하여 개선할 수 있는 방법을 연구하는 연합 에이전트 최적화(Federated Agent Optimization, FAO)를 정식화합니다. 본 연구는 FAO를 에이전트 유용성, 프라이버시 유출, 통신 비용의 균형을 맞추는 다중 목적 최적화 문제로 정의하고, 정책, 메모리, 도구 사용, 보상, 정형화된 지식 및 기술 전반에 걸쳐 최적화 공간을 체계화합니다. 나아가 비공개 경험을 추상화, 보호, 집합 및 적응시켜 전이 가능한 역량으로 변환하는 방법을 구체화함으로써, 에이전트들이 직접적인 경험 공유 없이도 서로에게서 이점을 얻을 수 있는 통합된 관점을 제공합니다. 마지막으로 FAO의 주요 과제를 식별하고 신뢰할 수 있는 연합 에이전트 시스템을 향한 미래 연구의 유망한 방향들을 제시합니다.

arXiv:2609.22967v1cs.CV공통 태그 Survey, Federated Learning

범용 협력 지능: 회복력 있는 다중 에이전트 생태계를 위한 인지 아키텍처

General Collaborative Intelligence: Architecting Cognition for Resilient Multi-Agent Ecosystems

다중 에이전트 무인 시스템은 고립된 자기 중심적 sensing에서 협력 지능으로 이동하고 있으며, 분산 에이전트들이 압축된 특징(feature)을 교환하여 어떤 단일 에이전트도 벗어날 수 없는 국소 관측의 함정—가림(occlusion), 유한한 센서 범위, 환경 열화—to overcome. 해당 분야는 아키텍처, 통신, embodied, 회복력(resilience), 신뢰 차원에서 성숙해 왔지만, 기존 서베이는 이러한 차원을 각각 따로 다루며 그 의존 관계를 거의 드러내지 않는다. 본 리뷰는 두 가지 상보적 렌즈를 통해 통합적 종합을 제시한다. 첫째는 협력 단계, 통신 패러다임, 융합 아키텍처, 학습 전략, 응용 도메인에 걸친 5차원 분류체계이다. 둘째는 인지적 시너지를 운영 기준으로 전환하는 세 가지 인지적 시너지 조건—의미적 모호성 해소(Semantic Disambiguation), 화용론적 정보 교환(Pragmatic Information Exchange), 선제적 정보 탐색(Proactive Informational Foraging)—이다. 이러한 렌즈를 통해 협력 아키텍처와 토폴로지, 채널을 미분 가능한 파이프라인 구성요소로 다루는 신경-통신 공동 설계(neural-communication co-design), 다중 에이전트 강화학습을 통한 embodied 행동-지각 루프, 동기화·불확실성 정량화·라벨 효율적 학습을 위한 회복력 메커니즘을 조망한다. 이어 이러한 진전을 V2X, 무인 항공, 산업 물류, 스마트 시티의 네 가지 운영 도메인과 안전-프라이버시-유용성(safety-privacy-utility) 삼각 관계에 대응시킨다. 벤치마크 포화와 평가 파편화에 대응하기 위해, 본문은 협력 방법의 트레이드오프를 연구 간 비교 가능하게 만드는 성숙도 모델을 갖춘 5기둥 scoring 프로토콜 GCI-Bench를 제안한다. 재현성, sim-to-real 격차, 협력이 성능을 저하시키는 조건에 대한 비판적 성찰을 통해 미해결 과제를 밝히고, 실세계 불확실성 하에서 범용 협력 지능을 향한 방향을 제시한다.

arXiv:2607.19621v1cs.SE공통 태그 Survey, Federated Learning

연합 학습에서 개발자 고충점 이해: Stack Overflow와 GitHub로부터의 통찰

Understanding Developer Pain Points in Federated Learning: Insights from Stack Overflow and GitHub

연합 학습(Federated Learning, FL)은 원시 데이터를 중앙 집중화하지 않고 협업적으로 모델을 학습할 수 있게 하지만, 분산 실행, 빠르게 진화하는 프레임워크, 프라이버시 및 거버넌스 요구사항으로 인해 FL 시스템을 구축하고 운영하는 것은 여전히 어렵다. 본 논문에서는 92개의 FL 관련 프로젝트에서 495개의 Stack Overflow 게시물과 9,116개의 GitHub 이슈 및 pull request를 독립적으로 분석하여 FL 개발자가 겪는 어려움에 대한 실증 연구를 제시한다. BERTopic 기반 토픽 모델링과 미해결 비율 및 중앙값 해결 시간과 같은 난이도 지표를 사용하여 반복적으로 나타나는 문제 영역을 특성화하고, Stack Overflow와 GitHub라는 두 지원 플랫폼에서 이들이 어떻게 나타나는지 비교한다. 우리 분석은 Stack Overflow에서 9개, GitHub에서 13개의 주요 토픽을 드러내며, 지속적인 어려움은 환경 설정 및 의존성 호환성, API 파손 및 마이그레이션, non-IID 데이터에서의 학습 불안정성, 평가 및 지표 정확성, 프라이버시 보존 메커니즘의 통합에 집중되어 있다. 또한 게시물을 질문 의도별로 분류하여 개발자들이 어떤 종류의 도움을 구하는지 파악한다. 이 의도 분석은 "How" 유형 질문이 지배적임을 보여주며, 이는 절차적 안내에 대한 강한 수요를 반영한다. "TFF Installation and Environment Compatibility" 및 "Federated Feature Engineering and SecureBoost Issues"와 같은 여러 토픽은 높은 미해결 비율과 긴 해결 시간을 보여, 도구, 문서, 디버깅 지원의 부족을 시사한다. 이러한 발견을 바탕으로 FL 프레임워크 설계자, 문서 작성자, 교육자를 위한 실행 가능한 시사점을 제공한다. 결과가 공개 토론과 널리 논의되는 프레임워크의 부분집합으로 제한되지만, 본 연구는 개발자 고충점을 지속적으로 모니터링하고 FL 시스템의 사용성, 신뢰성, 배포 가능성을 개선하는 확장 가능한 방법을 제공한다.

arXiv:2607.13045v1cs.LG공통 태그 Survey, Federated Learning

연합 설명 가능 인공지능: 역할, 아키텍처, 평가 및 미해결 과제

Federated Explainable Artificial Intelligence: Roles, Architectures, Evaluation, and Open Challenges

연합 학습(Federated Learning, FL)은 분산되고 이질적인 데이터 소스에 걸친 프라이버시 보존 협업 모델 학습을 위한 핵심 패러다임으로 부상했다. 원시 데이터를 로컬에 유지함으로써 FL은 데이터 기밀성 우려를 해소하지만, 현대 머신러닝 모델의 불투명성 문제는 해결하지 못한다. 한편 설명 가능한 인공지능(Explainable Artificial Intelligence, XAI)은 특히 고위험 도메인에서 투명성, 신뢰, 책무성(accountability) 향상을 위해 주목받고 있다. 두 분야의 교차점에서 연합 설명 가능 인공지능(Federated Explainable Artificial Intelligence, FedXAI) 패러다임이 등장했으며, 이는 프라이버시와 설명 가능성 요구를 동시에 충족하는 것을 목표로 한다. 본 서베이는 FedXAI에 대한 체계적 검토를 제공하며, 설명 가능성이 사후(post-hoc) 도구에서 FL 생명주기의 필수 구성 요소로 전환되는 과정을 강조한다. 우리는 설명 가능성이 집계(aggregation), 개인화(personalization), 견고성(robustness), 조율(coordination), 시스템 수준 의사결정을 어떻게 지원하는지 보여준다. 문헌을 체계화하기 위해, 설명 가능성의 역할, 모델 및 explainer 유형, 설명 범위, 통합 수준, FL 설정, 데이터 이질성(heterogeneity)에 따라 FedXAI 방법을 분류하는 분류 체계(taxonomy)를 제시한다. 우리는 모델 불가지론적(model-agnostic) 설명부터 해석 가능한(interpretable) 연합 모델 및 설명 가능성 인식(explainability-aware) 집계 메커니즘에 이르는 접근법들을 검토한다. 또한 평가(evaluation) 관행을 검토하고, 설명 품질, 안정성(stability), 프라이버시 누출(privacy leakage), 계산 오버헤드(computational overhead)를 측정하기 위한 표준화된 벤치마크(benchmark)와 메트릭(metrics)의 부재를 논의한다. 마지막으로 non-IID 데이터에서의 설명 가능성, 설명 중심(explanation-centric) 보안 위협, 통신 효율적인(communication-efficient) XAI, 지속적(continual) FedXAI, 도메인 지식 및 규제 제약(regulatory constraints)의 통합을 포함한 주요 과제들을 제시한다. 기존 연구를 통합하고 핵심 공백을 식별함으로써, 본 서베이는 신뢰할 수 있고 투명하며 프라이버시를 보존하는 연합 AI 시스템 설계를 위한 참조 프레임워크 역할을 한다.

arXiv:2607.04219v1cs.AI공통 태그 Survey, Federated Learning

에이전틱 IoT: 에이전트 인터넷을 향한 아키텍처, 응용, 그리고 과제

Agentic IoT: Architectures, Applications, and Challenges Toward the Internet of Agents

AI를 사물인터넷(AIoT) 시스템에 통합하는 과정은 이러한 시스템을 수동적인 데이터 수집 인프라에서 이상 탐지, 예측 유지보수, 분류(classification), 예측, 최적화가 가능한 지능형 시스템으로 점진적으로 변화시켜 왔다. 그러나 기존 솔루션의 대부분은 센서 데이터로부터 추론(inference)하는 작업 특화 모델에 의존하고 있어, 실시간 추론(reasoning), 적응적 계획(adaptive planning), 자율 조율(autonomous coordination), 학습, 도구 사용(tool use), 맥락적 의사결정(contextual decision-making)과 같은 시스템 전반의 역량은 여전히 제한적이다. 본 논문은 자율 AI 에이전트의 인지(perception), 추론, 계획, 학습, 행동 능력을 사이버-물리 시스템(cyber-physical systems)과 통합하는 차세대 인지 IoT 패러다임으로서 에이전틱 IoT(Agentic IoT)를 고찰한다. 에이전틱 IoT는 IoT를 데이터 중심의 감지 및 추론 인프라에서 디바이스/엣지-포그-클라우드(device/edge-fog-cloud) 연속체에 걸쳐 운용되는 분산형 인지 에이전트 생태계로 변모시키는 것을 목표로 한다. 본 논문은 먼저 이러한 전환을 패러다임 전환으로 정립하고, 에이전틱 IoT를 AIoT, 엣지 지능(edge intelligence), 다중 에이전트 시스템(multi-agent systems), 에이전트 인터넷(Internet of Agents)과의 관계 속에서 위치시킨다. 이후 현행 연구들을 체계적으로 검토하고, 통합적 아키텍처 프레임워크를 제시하며, 도메인별 응용 가능성을 논의하고, 핵심 기술적·운영적·연구적 과제와 향후 연구 방향을 규명한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.