FedASTA: Federated adaptive spatial-temporal attention for traffic flow prediction
원문 초록
Mobile devices and the Internet of Things (IoT) devices nowadays generate a large amount of heterogeneous spatial-temporal data. It remains a challenging problem to model the spatial-temporal dynamics under privacy concern. Federated learning (FL) has been proposed as a framework to enable model training across distributed devices without sharing original data which reduce privacy concern. Personalized federated learning (PFL) methods further address data heterogenous problem. However, these methods don't consider natural spatial relations among nodes. For the sake of modeling spatial relations, Graph Neural Netowork (GNN) based FL approach have been proposed. But dynamic spatial-temporal relations among edge nodes are not taken into account. Several approaches model spatial-temporal dynamics in a centralized environment, while less effort has been made under federated setting. To overcome these challeges, we propose a novel Federated Adaptive Spatial-Temporal Attention (FedASTA) framework to model the dynamic spatial-temporal relations. On the client node, FedASTA extracts temporal relations and trend patterns from the decomposed terms of original time series. Then, on the server node, FedASTA utilize trend patterns from clients to construct adaptive temporal-spatial aware graph which captures dynamic correlation between clients. Besides, we design a masked spatial attention module with both static graph and constructed adaptive graph to model spatial dependencies among clients. Extensive experiments on five real-world public traffic flow datasets demonstrate that our method achieves state-of-art performance in federated scenario. In addition, the experiments made in centralized setting show the effectiveness of our novel adaptive graph construction approach compared with other popular dynamic spatial-temporal aware methods.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
pFedMMA: Personalized Federated Fine-Tuning with Multi-Modal Adapter for Vision-Language Models
언어 모델의 작업 중심 개인화 연합 미세조정
Task-Centric Personalized Federated Fine-Tuning of Language Models
연합학습(Federated Learning, FL)은 다양한 작업에 대한 분산되고 비공개적인 데이터셋을 이용해 언어 모델을 학습시키는 유망한 기법으로 부상했다. 그러나 이질적인 작업에서 학습된 모델들을 집계하면 개별 클라이언트의 전체 성능이 저하되는 경우가 많다. 이 문제를 해결하기 위해 개인화 연합학습(Personalized FL, pFL)은 각 클라이언트의 데이터 분포에 맞춘 모델을 만드는 것을 목표로 한다. 이러한 접근법들은 로컬 성능을 향상시키지만, 일반적으로 다음 두 가지 측면에서 견고성이 부족하다: (i) 일반화(generalization): 클라이언트가 보지 못한 작업에 대해 예측을 수행해야 하거나 데이터 분포의 변화에 직면하는 경우, (ii) 클라이언트 내 작업 간섭(intra-client tasks interference): 단일 클라이언트의 데이터가 로컬 학습 중 서로 간섭할 수 있는 여러 분포를 포함하는 경우. 이 두 가지 과제를 해결하기 위해, 우리는 각 클라이언트가 아니라 각 작업에 대해 특화된 모델을 구축하는 클러스터링 기반 pFL인 FedRouter를 제안한다. FedRouter는 어댑터(adapter)를 특정 작업과 연결하기 위해 두 가지 클러스터링 메커니즘을 사용하여 모델을 개인화한다. 로컬 클러스터링은 어댑터를 작업 데이터 샘플과 연관시키고, 글로벌 클러스터링은 서로 다른 클라이언트의 유사한 어댑터들을 연관시켜 작업 중심의 개인화된 모델을 구성한다. 또한, 우리는 생성된 클러스터를 기반으로 테스트 샘플을 최적의 어댑터로 라우팅하는 평가 라우터(evaluation router) 메커니즘을 제안한다. 멀티태스크 데이터셋에서 기존 접근법들과 우리의 방법을 비교하는 실험에서, FedRouter는 이러한 어려운 시나리오에서 강한 복원력을 보여주며, 작업 간섭 상황에서는 최대 6.1%, 일반화 평가에서는 최대 136%의 상대적 성능 향상을 달성했다.
제약이 있는 개인화 학습을 위해 보장이 제공되는 국소 페널티 기반 교차 추정 연합 학습법
A Locally Penalized Cross-Estimate Federated Method with Guarantees for Constrained Personalized Learning
연합 학습(Federated Learning, FL)은 분산 최적화(distributed optimization) 문제를 해결하기 위한 통신 효율적인 프레임워크입니다. 표준 FL 방식은 로컬 업데이트를 모든 에이전트(agent)가 공유하는 단일 글로벌 모델(model)로 집계하여 사실상 합의를 강제합니다. 그러나 이종(heterogeneous) 로컬 제약 조건 하에서는 공통의 실행 가능한(feasible) 모델이 지나치게 제한적이거나 아예 존재하지 않을 수 있습니다. 기존의 제약 조건 기반 FL 방식은 대부분 이러한 공유 모델 구조를 유지하므로, 에이전트별로 상이한 실행 가능 집합이 주어지는 환경에서의 개인화를 직접적으로 다루지 못합니다. 본 연구에서는 협력적 목적 함수를 통해 모델들을 결합하면서 각 에이전트에 서로 다른 실행 가능한 모델을 할당하는 제약 조건 기반 개인화 연합 학습 문제를 다룹니다. 이를 위해 국소 페널티 기반 교차 추정 연합 평균화(Locally Penalized Cross-Estimate Federated Averaging, PCE-FedAvg)를 제안합니다. 이 방식에서 각 에이전트는 자체 모델과 다른 에이전트들의 모델에 대한 추정치를 포함하는 다중 블록 벡터를 유지하며, 실행 가능성 페널티는 자신의 블록에만 국소적으로 적용합니다. 서버는 해당하는 블록들을 개별적으로 집계하므로, 에이전트가 로컬 제약 집합을 명시적으로 공개할 필요 없이 개인화를 보존할 수 있습니다. 임의의 $ε>0$에 대해, 본 논문은 유한 시간(finite-time) 상한 및 하한 부최적성(suboptimality) 경계와 에이전트별 제곱 비실행가능성(squared infeasibility) 경계를 확립하여, 각각 $\mathcal{O}(ε^{-2})$ 및 $\mathcal{O}(ε^{-1})$의 통신 복잡도를 도출합니다. MNIST 및 CIFAR-10에 대한 실험은 이러한 이론적 결과를 뒷받침합니다.
FedMAD: 원격 탐사(Remote Sensing) 이미지 분류를 위한 연합학습(Federated Learning)에서의 변조 인지 방향성 집계
FedMAD: Modulation-Aware Directional Aggregation for Federated Learning in Remote Sensing Image Classification
연합학습(Federated Learning, FL)은 로컬 데이터에 직접 접근하지 않고도 분산된 원격 탐사(Remote Sensing, RS) 이미지 아카이브 전반에 걸쳐 협력적인 모델 학습을 가능하게 하기 때문에 최근 원격 탐사 분야에서 주목받고 있다. 그러나 클라이언트 간 데이터 분포가 이질적인 경우 FL 성능이 크게 저하되는데, 이는 지리적 차이, 계절 변화, 그리고 서로 다른 영상 취득 및 대기 조건으로 인해 흔히 발생한다. 이러한 문제를 해결하기 위해 본 논문에서는 원격 탐사 이미지 분류 문제를 위한 새로운 개인화된 FL 프레임워크(FedMAD로 명명)를 제안한다. 제안된 프레임워크는 전역적으로 전이 가능한 표현을 유지하면서 클라이언트별 특징을 보존하기 위해 전역적으로 공유되는 표현 파라미터와 클라이언트별 적응 파라미터를 분리한다. 이는 경량 변조 모듈과 로컬 배치 정규화 계층을 백본 네트워크에 통합함으로써 달성된다. 전역적으로 공유되는 파라미터는 클라이언트 간에 협력적으로 최적화되지만, 클라이언트별 파라미터는 도메인별 특징적 특성을 보존하기 위해 로컬에 유지된다. 또한 FedMAD는 로컬 변조 업데이트의 정렬 정도에 따라 각 클라이언트에 대한 집계 중요도를 동적으로 조정하는 변조 인지 방향성 집계 전략을 도입한다. 이를 통해 전역 최적화 과정은 이질적인 데이터 분포에서 비롯된 상충하는 클라이언트 업데이트를 억제하는 동시에 일관된 적응 행동을 보이는 클라이언트의 기여도를 강화할 수 있다. BigEarthNet-S2 및 EuroSAT 데이터셋에서 얻은 실험 결과는 이질적인 원격 탐사 데이터 분포 하에서 FedMAD가 최신 FL 알고리즘들과 비교하여 효과적임을 보여준다. 제안된 프레임워크의 코드는 https://git.tu-berlin.de/rsim/fedmad 에서 공개될 예정이다.
FedCKA: 다양한 주행 도메인 전반의 연합 3D 인지를 위한 표현 유도 층 개인화
FedCKA: Representation-Guided Layer Personalization for Federated 3D Perception Across Driving Domains
지능형 차량에서의 강건한 인지는 시간대, 위치 또는 날씨 변화와 같은 도메인 이동(domain shift) 상황에서도 신뢰성을 유지하는 3D 객체 검출기를 필요로 합니다. 그러나 비용이 많이 드는 주석 작업과 드물게 발생하는 이동으로 인해, 일부 환경은 단독 검출기를 학습(training)시키기 위한 충분한 데이터가 부족합니다. 연합 학습(Federated Learning)은 협업 모델(model) 학습을 위한 프라이버시 보존 프레임워크를 제공하여, 클라이언트가 다양한 환경에 걸친 공유 학습의 이점을 누릴 수 있도록 합니다. 하지만 이 프레임워크는 전통적으로 단일 글로벌 합의 모델에 의존하므로, 이질적인 로컬 데이터 분포 전반에서 우수한 성능을 발휘하는 데 어려움을 겪습니다. 모델의 일부 하위 집합을 적응시킴으로써 로컬 조건을 더 잘 포착할 수 있으나, 많은 개인화 접근법은 사전 정의된 층(layer) 분할이나 고정된 개인화 비율에 의존하여 클라이언트별 편차에 대한 적응을 제한합니다. 이러한 경직성을 줄이기 위해, 본 논문에서는 중심화 커널 정렬(CKA) 기반 전략을 통해 개인화와 글로벌화 간의 트레이드오프를 동적으로 다루는 FedCKA를 제안합니다. 구체적으로 FedCKA는 학습 과정 동안 로컬 클라이언트 모델과 글로벌 합의 모델 간의 층별 특징(feature) 유사도를 계산합니다. FedCKA는 층별 유사도 점수를 클라이언트별 집계 마스크로 변환함으로써, 표현 일관성이 있는 층을 선택적으로 공유합니다. nuScenes 기반의 통합 멀티 도메인 벤치마크(benchmark)에서 평가(evaluation)한 결과, FedCKA는 FedBN, FedRep, FedSelect를 포함한 기존 연합 기준선(baseline) 모델들을 능가하며 가장 강력한 기준선 대비 평균 NDS를 7%포인트 향상시키는 것으로 나타났습니다. 이러한 연구 결과는 위치, 날씨 및 조도 변화 전반에 걸쳐 강건한 연합 3D 인지를 위한 비교 벤치마크이자 유망한 방향성을 제시합니다. 코드는 https://github.com/j-verhoog/FedCKA 에서 확인할 수 있습니다.
도메인 수준 적응을 넘어서: 개인화된 연합 비전-언어 모델을 위한 마진 지향적 의미-외형 상호작용 보정
Beyond Domain-Level Adaptation: Margin-Oriented Semantic-Appearance Interaction Correction for Personalized Federated Vision-Language Models
연합 매개변수 효율적 미세조정(Federated parameter-efficient fine-tuning)은 분산된 클라이언트가 원시 데이터를 공유하거나 전체 백본을 업데이트하지 않고도 사전학습된 비전-언어(vision-language) 모델을 적응시킬 수 있도록 지원합니다. 그러나 이 방식의 효과는 클라이언트 간의 도메인 이질성(domain heterogeneity)으로 인해 제한됩니다. 기존의 개인화 방법들은 전역적으로 공유되는 지식과 클라이언트 고유의 스타일을 분리하지만, 대체로 각 도메인을 클래스에 무관한 변환으로 취급합니다. 본 논문에서는 이러한 추상화가 불충분함을 보입니다. 고정된 도메인과 연관된 교차 도메인 변위는 의미론적 클래스에 따라 달라지며, 이러한 클래스-도메인 잔차(residual) 중 일부만이 이미지-텍스트 결정 마진을 훼손합니다. 이에 따라 본 연구는 마진 지향적 의미-외형 상호작용 보정(Margin-Oriented Semantic-Appearance Interaction Correction, MOSAIC)을 제안합니다. MOSAIC은 먼저 학습에서 도출된 클래스-도메인 잔차가 실제 클래스보다 경쟁 텍스트 프로토타입을 선호하는지 측정하는 결정 인식 유해성 점수를 구성합니다. 그런 다음 클래스 인자와 잔차 기저는 전역적으로 공유되고 도메인 인자는 클라이언트 전용으로 유지되는 저순위 잔차 어댑터를 통해 세분화된 클래스-도메인 상호작용을 모델링합니다. 또한 이미지 조건부 게이트가 후보별 보정을 제어하며, 유해 쌍 인식 가중치 재조정은 로컬 최적화 중 결정과 관련된 잔차의 우선순위를 지정합니다. Office31, OfficeHome, DomainNet100에 대한 광범위한 실험을 통해, MOSAIC이 평가된 모든 도메인 이동(domain-shift) 및 결합 도메인-레이블 이동 환경 전반에서 매크로 클라이언트 Top-1 정확도를 일관되게 향상함을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.