arXiv:2312.16475

Federated Continual Learning via Knowledge Fusion: A Survey

Xin Yang, Hao Yu, Xin Gao, Hao Wang, Junbo Zhang, Tianrui Li

제출 2023-12-27

원문 초록

Data privacy and silos are nontrivial and greatly challenging in many real-world applications. Federated learning is a decentralized approach to training models across multiple local clients without the exchange of raw data from client devices to global servers. However, existing works focus on a static data environment and ignore continual learning from streaming data with incremental tasks. Federated Continual Learning (FCL) is an emerging paradigm to address model learning in both federated and continual learning environments. The key objective of FCL is to fuse heterogeneous knowledge from different clients and retain knowledge of previous tasks while learning on new ones. In this work, we delineate federated learning and continual learning first and then discuss their integration, i.e., FCL, and particular FCL via knowledge fusion. In summary, our motivations are four-fold: we (1) raise a fundamental problem called ''spatial-temporal catastrophic forgetting'' and evaluate its impact on the performance using a well-known method called federated averaging (FedAvg), (2) integrate most of the existing FCL methods into two generic frameworks, namely synchronous FCL and asynchronous FCL, (3) categorize a large number of methods according to the mechanism involved in knowledge fusion, and finally (4) showcase an outlook on the future work of FCL.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00093v1cs.CR공통 태그 Survey, Continual Learning

자기 진화형 에이전트의 안전성: 서베이

Safety in Self-Evolving Agents: A Survey

대규모 언어 모델(LLM)은 강력한 범용 능력을 보여주지만, 배포 후에는 일반적으로 매개변수가 고정되어 있어 새로운 상호작용으로부터의 학습이 제한됩니다. 개방형 환경에서는 이러한 한계로 인해 데이터, 피드백, 축적된 경험을 바탕으로 모델 매개변수, 메모리, 도구 정의, 스킬, 워크플로 등 재사용 가능한 상태를 지속적으로 업데이트하는 자기 진화형 에이전트(self-evolving agent)가 주목받고 있습니다. 이러한 변화는 안전성(safety) 문제를 변화시킵니다. 경험이 재사용 가능한 상태가 되면 과거의 사건이 미래의 원인이 되며, 특정 맥락에서는 무해했던 정보가 이후 더 큰 지속성, 권한 또는 범위를 가지고 의사결정에 영향을 미칠 수 있습니다. 따라서 자기 진화형 에이전트의 안전성은 단순히 응답이 정렬(alignment)되었는지 또는 행동이 승인되었는지만을 묻는 데 그치지 않고, 국소적으로 유용했던 경험의 축적, 일반화 및 맥락 간 재사용 과정에서도 안전성 특성이 유지되는지를 질문합니다. 본 논문에서는 기저(Substrate)가 재사용 가능한 영향을 특정하고, 적응(Adaptation)이 그 변화 방식을 포착하며, 위반(Violation)이 훼손된 안전 속성을 식별하고, 노출(Exposure)이 실패가 관측 가능해지는 지점을 표시하며, 대응(Response)이 격리, 복구 또는 철회를 평가하는 전이 중심 프레임워크인 SAVER를 소개합니다. 본 서베이를 통해 실패가 반드시 유해한 정보에서 비롯되는 것은 아니며, 적응 과정에서 상태의 지속성, 권한 또는 범위가 유효했던 조건을 벗어나 확장될 때 합법적인 상태도 안전하지 않게 변할 수 있음을 밝힙니다. 기존 연구들은 진입 허가, 검색, 활성화, 노출 및 국소적 격리에 대해서는 비교적 강력한 증거를 제시하지만, 후속 파생 요소(descendant)의 복구 및 적응 재개 후 평가에 대해서는 훨씬 부족합니다. 따라서 우리는 안전하지 않은 영향을 최초 발생 전이까지 추적하고, 후속 파생 요소 전반의 복구를 검증하며, 지속적인 진화 속에서 해당 영향이 다시 나타날 수 있는지를 테스트하는 종단적 평가를 제안합니다.

arXiv:2610.01195v1cs.AI공통 태그 Survey, Federated Learning

연합 에이전트 최적화

Federated Agent Optimization

대규모 언어 모델(LLM) 에이전트(agent)는 점차 비공개 환경에서 작동하며 작업 수행, 도구 사용, 피드백, 로컬 지식으로부터 가치 있는 경험을 축적하고 있습니다. 그러나 이러한 경험은 여러 조직에 분산되어 있으며 프라이버시 및 독점적 제약으로 인해 직접 공유될 수 없습니다. 에이전트의 역량이 모델(model) 파라미터를 넘어 메모리, 도구, 보상(reward), 기술 및 정형화된 지식으로 확장됨에 따라 기존의 연합학습(federated learning)은 이러한 환경에 불충분합니다. 본 논문에서는 원시 데이터, 완전한 궤적, 비공개 지식을 로컬에 유지하면서 통제된 정보 교환을 통해 분산된 에이전트들이 협력하여 개선할 수 있는 방법을 연구하는 연합 에이전트 최적화(Federated Agent Optimization, FAO)를 정식화합니다. 본 연구는 FAO를 에이전트 유용성, 프라이버시 유출, 통신 비용의 균형을 맞추는 다중 목적 최적화 문제로 정의하고, 정책, 메모리, 도구 사용, 보상, 정형화된 지식 및 기술 전반에 걸쳐 최적화 공간을 체계화합니다. 나아가 비공개 경험을 추상화, 보호, 집합 및 적응시켜 전이 가능한 역량으로 변환하는 방법을 구체화함으로써, 에이전트들이 직접적인 경험 공유 없이도 서로에게서 이점을 얻을 수 있는 통합된 관점을 제공합니다. 마지막으로 FAO의 주요 과제를 식별하고 신뢰할 수 있는 연합 에이전트 시스템을 향한 미래 연구의 유망한 방향들을 제시합니다.

arXiv:2609.22967v1cs.CV공통 태그 Survey, Federated Learning

범용 협력 지능: 회복력 있는 다중 에이전트 생태계를 위한 인지 아키텍처

General Collaborative Intelligence: Architecting Cognition for Resilient Multi-Agent Ecosystems

다중 에이전트 무인 시스템은 고립된 자기 중심적 sensing에서 협력 지능으로 이동하고 있으며, 분산 에이전트들이 압축된 특징(feature)을 교환하여 어떤 단일 에이전트도 벗어날 수 없는 국소 관측의 함정—가림(occlusion), 유한한 센서 범위, 환경 열화—to overcome. 해당 분야는 아키텍처, 통신, embodied, 회복력(resilience), 신뢰 차원에서 성숙해 왔지만, 기존 서베이는 이러한 차원을 각각 따로 다루며 그 의존 관계를 거의 드러내지 않는다. 본 리뷰는 두 가지 상보적 렌즈를 통해 통합적 종합을 제시한다. 첫째는 협력 단계, 통신 패러다임, 융합 아키텍처, 학습 전략, 응용 도메인에 걸친 5차원 분류체계이다. 둘째는 인지적 시너지를 운영 기준으로 전환하는 세 가지 인지적 시너지 조건—의미적 모호성 해소(Semantic Disambiguation), 화용론적 정보 교환(Pragmatic Information Exchange), 선제적 정보 탐색(Proactive Informational Foraging)—이다. 이러한 렌즈를 통해 협력 아키텍처와 토폴로지, 채널을 미분 가능한 파이프라인 구성요소로 다루는 신경-통신 공동 설계(neural-communication co-design), 다중 에이전트 강화학습을 통한 embodied 행동-지각 루프, 동기화·불확실성 정량화·라벨 효율적 학습을 위한 회복력 메커니즘을 조망한다. 이어 이러한 진전을 V2X, 무인 항공, 산업 물류, 스마트 시티의 네 가지 운영 도메인과 안전-프라이버시-유용성(safety-privacy-utility) 삼각 관계에 대응시킨다. 벤치마크 포화와 평가 파편화에 대응하기 위해, 본문은 협력 방법의 트레이드오프를 연구 간 비교 가능하게 만드는 성숙도 모델을 갖춘 5기둥 scoring 프로토콜 GCI-Bench를 제안한다. 재현성, sim-to-real 격차, 협력이 성능을 저하시키는 조건에 대한 비판적 성찰을 통해 미해결 과제를 밝히고, 실세계 불확실성 하에서 범용 협력 지능을 향한 방향을 제시한다.

arXiv:2607.19621v1cs.SE공통 태그 Survey, Federated Learning

연합 학습에서 개발자 고충점 이해: Stack Overflow와 GitHub로부터의 통찰

Understanding Developer Pain Points in Federated Learning: Insights from Stack Overflow and GitHub

연합 학습(Federated Learning, FL)은 원시 데이터를 중앙 집중화하지 않고 협업적으로 모델을 학습할 수 있게 하지만, 분산 실행, 빠르게 진화하는 프레임워크, 프라이버시 및 거버넌스 요구사항으로 인해 FL 시스템을 구축하고 운영하는 것은 여전히 어렵다. 본 논문에서는 92개의 FL 관련 프로젝트에서 495개의 Stack Overflow 게시물과 9,116개의 GitHub 이슈 및 pull request를 독립적으로 분석하여 FL 개발자가 겪는 어려움에 대한 실증 연구를 제시한다. BERTopic 기반 토픽 모델링과 미해결 비율 및 중앙값 해결 시간과 같은 난이도 지표를 사용하여 반복적으로 나타나는 문제 영역을 특성화하고, Stack Overflow와 GitHub라는 두 지원 플랫폼에서 이들이 어떻게 나타나는지 비교한다. 우리 분석은 Stack Overflow에서 9개, GitHub에서 13개의 주요 토픽을 드러내며, 지속적인 어려움은 환경 설정 및 의존성 호환성, API 파손 및 마이그레이션, non-IID 데이터에서의 학습 불안정성, 평가 및 지표 정확성, 프라이버시 보존 메커니즘의 통합에 집중되어 있다. 또한 게시물을 질문 의도별로 분류하여 개발자들이 어떤 종류의 도움을 구하는지 파악한다. 이 의도 분석은 "How" 유형 질문이 지배적임을 보여주며, 이는 절차적 안내에 대한 강한 수요를 반영한다. "TFF Installation and Environment Compatibility" 및 "Federated Feature Engineering and SecureBoost Issues"와 같은 여러 토픽은 높은 미해결 비율과 긴 해결 시간을 보여, 도구, 문서, 디버깅 지원의 부족을 시사한다. 이러한 발견을 바탕으로 FL 프레임워크 설계자, 문서 작성자, 교육자를 위한 실행 가능한 시사점을 제공한다. 결과가 공개 토론과 널리 논의되는 프레임워크의 부분집합으로 제한되지만, 본 연구는 개발자 고충점을 지속적으로 모니터링하고 FL 시스템의 사용성, 신뢰성, 배포 가능성을 개선하는 확장 가능한 방법을 제공한다.

arXiv:2607.13045v1cs.LG공통 태그 Survey, Federated Learning

연합 설명 가능 인공지능: 역할, 아키텍처, 평가 및 미해결 과제

Federated Explainable Artificial Intelligence: Roles, Architectures, Evaluation, and Open Challenges

연합 학습(Federated Learning, FL)은 분산되고 이질적인 데이터 소스에 걸친 프라이버시 보존 협업 모델 학습을 위한 핵심 패러다임으로 부상했다. 원시 데이터를 로컬에 유지함으로써 FL은 데이터 기밀성 우려를 해소하지만, 현대 머신러닝 모델의 불투명성 문제는 해결하지 못한다. 한편 설명 가능한 인공지능(Explainable Artificial Intelligence, XAI)은 특히 고위험 도메인에서 투명성, 신뢰, 책무성(accountability) 향상을 위해 주목받고 있다. 두 분야의 교차점에서 연합 설명 가능 인공지능(Federated Explainable Artificial Intelligence, FedXAI) 패러다임이 등장했으며, 이는 프라이버시와 설명 가능성 요구를 동시에 충족하는 것을 목표로 한다. 본 서베이는 FedXAI에 대한 체계적 검토를 제공하며, 설명 가능성이 사후(post-hoc) 도구에서 FL 생명주기의 필수 구성 요소로 전환되는 과정을 강조한다. 우리는 설명 가능성이 집계(aggregation), 개인화(personalization), 견고성(robustness), 조율(coordination), 시스템 수준 의사결정을 어떻게 지원하는지 보여준다. 문헌을 체계화하기 위해, 설명 가능성의 역할, 모델 및 explainer 유형, 설명 범위, 통합 수준, FL 설정, 데이터 이질성(heterogeneity)에 따라 FedXAI 방법을 분류하는 분류 체계(taxonomy)를 제시한다. 우리는 모델 불가지론적(model-agnostic) 설명부터 해석 가능한(interpretable) 연합 모델 및 설명 가능성 인식(explainability-aware) 집계 메커니즘에 이르는 접근법들을 검토한다. 또한 평가(evaluation) 관행을 검토하고, 설명 품질, 안정성(stability), 프라이버시 누출(privacy leakage), 계산 오버헤드(computational overhead)를 측정하기 위한 표준화된 벤치마크(benchmark)와 메트릭(metrics)의 부재를 논의한다. 마지막으로 non-IID 데이터에서의 설명 가능성, 설명 중심(explanation-centric) 보안 위협, 통신 효율적인(communication-efficient) XAI, 지속적(continual) FedXAI, 도메인 지식 및 규제 제약(regulatory constraints)의 통합을 포함한 주요 과제들을 제시한다. 기존 연구를 통합하고 핵심 공백을 식별함으로써, 본 서베이는 신뢰할 수 있고 투명하며 프라이버시를 보존하는 연합 AI 시스템 설계를 위한 참조 프레임워크 역할을 한다.

arXiv:2607.13104v1cs.AI공통 태그 Survey, Continual Learning

현대 에이전트 시스템에서의 자기 개선: 서베이

Self-Improvements in Modern Agentic Systems: A Survey

자기 개선형 자율 에이전트는 연구 프로토타입에서 배포 시스템으로 확산되고 있다. 핵심 목표는 최소한의, 심지어 인간 개입 없이 경험으로부터 통제 가능한 진화 또는 적응을 이루는 것이다. 본 서베이는 현대 자기 개선 에이전트를 경험을 누적된 역량 향상으로 전환하는 적응형 시스템으로 조망한다. 우리는 현대 에이전트를 기반 모델과 프롬프트, 메모리, 도구, 제어 로직으로 구성된 운영 스캐폴드를 결합한 설정으로 표현하는 시스템 수준의 프레임워크를 제시한다. 이 프레임워크 내에서 자기 개선은 모델 파라미터 또는 스캐폴드 구성 요소에 대한 갱신을 획득하고 반영하는 자기 유도 업데이트 연산자로 정식화된다. 선행 연구를 갱신 대상과 변화를 유도하는 신호에 따라 체계화하고, 응용을 검토하며 평가를 논의한 뒤, 미해결 과제와 향후 연구 방향으로 마무리한다. 편의를 위해 기술적 업데이트는 https://github.com/selfimproving-agent/awesome-Self-Improving-Agents 에서 추적한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.