FoggyTrust: 계층적 신뢰 네트워크를 통한 강건한 연합 학습
FoggyTrust: Robust Federated Learning with Hierarchical Trust Networks
한국어 초록
비잔틴(Byzantine) 강건 연합 학습은 악의적이거나 손상된 클라이언트로부터 분산 모델 학습을 보호하되, 이들의 사적 데이터에 접근할 필요가 없도록 하는 것을 목표로 한다. FLTrust는 신뢰할 수 있는 서버 측 루트(root) 데이터셋을 도입하여 클라이언트 업데이트에 신뢰 점수를 부여함으로써 더 강건한 집계를 가능하게 함으로써 이 과제를 해결한다. 본 연구에서는 FLTrust의 계층적 확장인 FOGGYTRUST를 제안한다. FOGGYTRUST는 신뢰 계산을 포그(fog) 노드에 국한화하여, 전역적으로 이질적인 데이터를 더 잘 처리하면서도 로컬하게 동질적인 클라이언트 그룹 내에서는 강건성을 유지할 수 있게 한다. 또한, 이두(二層) 아키텍처가 로컬 신뢰 기반 집계와 FedAdam, SCAFFOLD와 같은 이질성 인식(heterogeneity-aware) 글로벌 옵티마이저를 결합함으로써, 신뢰 추정의 분포 불일치와 그룹 간 클라이언트 드리프트(client drift)를 동시에 해결할 수 있음을 보인다. 벤치마크 데이터셋들에 걸쳐 FOGGYTRUST는 더 어려운 이질적 설정에서 가장 큰 이득을 보이며, 특히 Krum 및 Trim 공격 하의 CIFAR-10에서 FLTrust 대비 50% 이상의 개선을 달성한다. 또한 실제 safari 데이터셋에서 FOGGYTRUST를 시험하여, 분산 야생동물 모니터링과 같이 사회적으로 영향력 있고 안전성(safety)이 중요한(safety-critical) 환경에서 강건한 연합 학습을 위한 계층적 신뢰 네트워크의 가능성을 보여준다.
원문 초록
Byzantine-robust federated learning seeks to protect distributed model training from malicious or corrupted clients without requiring access to their private data. FLTrust addresses this challenge by introducing a trusted server-side root dataset that assigns trust scores to client updates for more robust aggregation. In this work, we propose FOGGYTRUST, a hierarchical extension of FLTrust that localizes trust computation to fog nodes, allowing the framework to better handle globally heterogeneous data while preserving robustness within locally homogeneous client groups. We further show that this two-level architecture can simultaneously address distribution mismatch in trust estimation and client drift across groups by combining local trust-based aggregation with heterogeneity-aware global optimizers such as FedAdam and SCAFFOLD. Across benchmark datasets, FOGGYTRUST achieves its strongest gains on more challenging heterogeneous settings, particularly on CIFAR-10 under Krum and Trim attacks, where it achieves an over 50% improvement over FLTrust. We also test FOGGYTRUST in a real-world safari dataset to show the promise of hierarchical trust networks for robust federated learning in socially impactful, safety-critical settings such as distributed wildlife monitoring.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.27622v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
경량 연합 학습을 위한 정보 이론적 보안 집계: 드롭아웃 및 적대자에 강건
Information-Theoretically Secure Aggregation for Lightweight Federated Learning: Resilient to Dropouts and Adversaries
온디바이스 연합 학습(FL)은 스마트폰 및 IoT 노드와 같은 자원 제약이 있는 디바이스에서 프라이버시를 보존하면서 개인화된 모델 학습을 가능하게 한다. 통신 비용을 줄이기 위해 부호 기반 방법(예: signSGD)은 1비트 그래디언트를 전송한다. 그러나 그래디언트 부호를 노출하면 추론 공격에 취약해지며, 기존 보안 집계 방식은 이러한 방법과 호환되지 않거나 상당한 계산 및 통신 오버헤드를 발생시키는 경우가 많다. 우리는 부호 기반 FL에 맞춘 경량의 정보 이론적 보안 집계 프레임워크를 제안한다. 이 프레임워크는 단일 라운드 보안 곱셈을 통해 다수결(MV) 다항식을 안전하게 계산하며, 정직한 과반수 가정 하에서 종단 간 정보 이론적 보안을 보장하면서 서버에는 최종 집계된 부호만 공개한다. 효율성과 확장성을 높이기 위해 두 가지 핵심 기법을 도입한다. 첫째, 역형(inverse-form) 지수 축소는 유효 MV 다항식 차수를 절반으로 줄여 통신 및 계산 비용을 모두 낮춘다. 둘째, 단일 라운드 보안 곱셈을 제안하여 단 한 번의 온라인 통신만으로 선형 오프라인 복잡도와 저장 공간을 달성한다. 이들 기법을 결합하면 기존 방식 대비 온라인 통신을 최대 99.5%, 지연 시간을 최대 85.7% 줄인다. 또한 내재된 MDS 코드 기반 디코딩을 활용하여 드롭아웃과 적대적 행동 모두에 대한 강건성을 달성하며, 각각 최대 20.65% 및 10.74%의 정확도 향상을 얻는다. 전반적으로, 제안된 프레임워크는 부호 기반 FL에서 대규모, 저지연, 정보 이론적 보안 집계를 위한 실용적 기반을 마련한다.
모바일 네트워크 기반 LLM 연합학습: RAN 트랜스포트에서의 문제점과 해결 방안
Federated Learning for LLMs over Mobile Networks: Issues and Solutions in the RAN Transport
연합 LLM 미세조정(fine-tuning)은 네트워크 엣지에서 비공개 및 지리적으로 분산된 데이터를 활용해 대규모 모델을 적응시킬 수 있도록 지원하지만, 액세스 및 트랜스포트 네트워크 전반에 걸쳐 주기적이고 마감 기한에 민감한 통신 워크로드를 유발합니다. 이러한 과제는 무선 가변성, 이동성, 기기 이종성으로 인해 모델 업데이트가 비동기적으로 도착하는 모바일 RAN(무선 접속망)에서 특히 두드러집니다. 이 업데이트들은 동일한 학습 라운드에 속하며 공통의 목적지와 마감 기한을 공유함에도 불구하고, 기존 트랜스포트 네트워크는 이를 개별 기기에서 생성된 독립적인 흐름으로 취급하여 기저의 구조를 가리고 트랜스포트 자원을 효율적으로 프로비저닝하는 능력을 제한합니다. 이러한 불일치는 예측 가능하고 스케줄링 가능한 트래픽 수요에 유리한 광 회선 교환(optical circuit switching) 및 전광(all-photonics) 트랜스포트에서 특히 문제가 됩니다. 본 논문에서는 미래의 RAN이 분산 모델 적응의 통신 구조를 트랜스포트 층(layer)에 노출함으로써 학습 인지형 트래픽 셰이퍼(traffic shaper) 역할을 수행해야 한다고 주장합니다. gNB에서의 인네트워크 집약(in-network aggregation)을 통해, 비동기적인 UE 업데이트는 제한된 크기와 전달 요구사항을 갖는 더 적은 수의 집약 전송으로 변환될 수 있습니다. 이러한 방식으로 정형화되면 연합 LLM 트래픽은 선택적으로 프로비저닝되는 광학 연결에 적합한 후보가 되며, 집약 전송 윈도우 동안 대용량 경로를 설정하고 학습 라운드 사이에는 이를 해제할 수 있습니다. 결과적인 아키텍처는 패킷 기반 모바일 액세스의 유연성과 동적으로 프로비저닝되는 광 용량을 결합하여, 프로그래머블 액세스 및 트랜스포트 네트워크 전반에서 분산 AI 워크로드를 조정하기 위한 보다 폭넓은 접근 방식을 보여줍니다.
클라이언트가 조율될 때: 연합 학습 서버를 격파하는 전략적 그래디언트 조작과 효율적 방어
When Clients Are Orchestrated: Strategic Gradient Manipulation to Defeat Federated Learning Servers with Efficient Defense
연합 학습(Federated Learning)은 원시 데이터가 아니라 모델 업데이트를 중앙 매개변수 서버(PS)와 교환함으로써 분산 모델 학습을 가능하게 한다. 기존 방어의 대부분은 정적이거나 독립적으로 행동하는 적대자를 주로 가정하는 반면, 우리는 이러한 보호를 체계적으로 우회하는 새로운 유형의 동적·적응형 공격을 밝힌다. 우리는 악성 조율 서버(OS)가 표적·비표적 공격 클라이언트를 포함한 이질적 적대적 클라이언트 집합을 동적으로 조율하는 통합 공격 프레임워크 Fed-ADR을 제안한다. OS의 실시간 조율을 통해 악성 클라이언트는 PS에 배포된 방어를 회피하도록 그래디언트 업데이트를 전략적으로 조정하면서, 전역 모델 성능을 심각하게 저하시키거나 학습을 적대적 목표로 유도한다. 이 위협을 완화하기 위해, 우리는 각 클라이언트의 과거 업데이트로부터 실제 그래디언트를 추정하는 탐지 메커니즘을 제시하여 추가 오버헤드 없이 조율된 악성 행동의 실시간 탐지를 가능하게 한다. 또한 학습을 재시작하지 않고 전역 모델 성능을 복구하는 in-situ 복구 메커니즘을 도입하여 수렴을 유지하고 복구 시간을 최소화한다. MNIST, Fashion-MNIST, CIFAR-10 벤치마크 데이터셋에 대한 종합 실험은 Fed-ADR 공격 체계가 전역 정확도를 90% 이상에서 10% 미만으로 낮출 수 있으며 여러 최신(state-of-the-art) 방어를 우회함을 보여준다. 우리의 탐지 및 복구 모듈을 사용하면 악성 클라이언트를 식별하고 수 라운드 내에 정확도를 90% 이상으로 복구하며, 처음부터 재학습하는 것보다 훨씬 낮은 비용으로—계산 오버헤드를 최소 20배 줄이는—성과를 달성한다.
적대적으로 견고한 연합 회귀의 그래디언트 이질성 역학
On the Gradient Heterogeneity Dynamics of Adversarially Robust Federated Regression
연합 학습(FL)은 본질적으로 이질적이다. 정직한 클라이언트는 서로 다른 데이터 생성 모델을 가질 수 있다. 게다가 적대적 클라이언트는 임의의 업데이트를 공유함으로써 이질성을 더욱 두드러지게 만들 수 있다. 기존 분석은 일반적으로 그래디언트 불유사도 조건을 통해 통계적 이질성과 적대적 행동 간의 상호작용을 통제한다. 그러나 근본적인 상계는 사전에 부여되며, 최소제곱 회귀에서조차 보수적인 보장을 줄 수 있다. 우리는 대신 매 라운드마다 새로운 데이터 샘플을 사용하는 선형 및 비선형 회귀의 통계 모델로부터 그래디언트 이질성을 유도한다. 우리의 상계는 정직한 클라이언트의 ground-truth 모델 매개변수 간 이질성, 유한 표본 레이블 노이즈, 초기화를 분리한다. 그런 다음 계수 $\kappa = O(f/n)$을 갖는 임의의 $(f,\kappa)$-견고 집계기(aggregator)에 대해, $f$는 적대적 클라이언트 수, $n$은 전체 클라이언트 수($f/n < 1/2$)일 때, 명시적인 샘플 burn-in 이후 수렴이 성립함을 보인다.
범용 프랙털 자연어 의사결정 맵: 이종 도메인 전반의 실시간 엣지 트리아지
Universal Fractal Natural Language Decision Map: Real-Time Edge Triage Across Heterogeneous Domains
대규모 언어 모델(LLM)을 런타임 운영 트리아지에 배치하면 지나친 지연(>100–500 ms), 높은 VRAM 요구(>4–8 GB), 과도한 에너지 소모가 발생한다. Mandelbrot Fractal Neural Synthesis(Dagli et al., 2026)를 확장하여, 본 논문은 werr 머신 네이티브 엣지 반사(reflex) 런타임과 프로덕션 answerr 플랫폼(https://answerr.me)을 통해 구현한 Universal Fractal Natural Language Decision Map을 제시한다. 저장된 가중치 텐서 없이(VRAM 0 Bytes) 전적으로 동작하는 이 엔진은 Mandelbrot 집합의 카오틱 경계를 따라 24바이트 좌표 시드를 동적으로 변조하고 4분면 탈출 동역학을 평가하여 결정론적 의사결정—noul(Boolean), choice(범주형), score(서열형)—을 합성한다. 생물학적 System-One 반사 아크에서 영감을 받아, 엔진은 다음을 도입한다: (i) 도메인 투영기 Phi_D를 갖춘 Auto-Seed Router로 선형 베이스라인 대비 +28.8% 정확도 향상; (ii) 토큰 엔트로피와 음성학적 스펙트럼 밀도에 기반한 정보 이론적 음향 감쇠 필터(Information-Theoretic Acoustic Damping Filter)로 프롬프트 인젝션에 격리(실증 우회 0.0%; 95% Wilson CI: [0.0%, 30.8%])하면서 탈출 반복을 45.8% 가지치기(처리량 2.5배 가속, 지연 3.31 ms); (iii) O(1) 지수 이동 평균(EMA, alpha=0.03)과 분면 위상 회전을 사용하는 Organic Dynamic Calibration 프레임워크로 위치 바이어스 제거. 베어 메탈 인프라(api.answerr.me:4431)에서 1,150건 이상 검증된 의사결정(3,200건 이상 질문)에 대해 벤치마크하고 독립 JevBench 스위트에서 세계 1위(81.65%)를 기록한 이 프레임워크는 92.6% 매크로 정확도(95% CI: [90.8%, 94.1%])와 7.08 ms 중앙값 CPU 지연을 달성한다. OpenAI 호환 API(/v1/chat/completions)를 제공하며 마이크로컨트롤러와 32바이트 EVM 스마트 계약에서의 실현 가능성을 보여준다.
OrchNAS: 개인화 연합 엣지 지능을 위한 오케스트레이션 신경 아키텍처 탐색(NAS) 서비스
OrchNAS: Orchestrated Neural Architecture Search Service for Personalised Federated Edge Intelligence
본 논문은 OrchNAS를 제안한다. OrchNAS는 에너지 인식, 개인화, 연합 엣지 지능 프레임워크로, 신경 아키텍처 탐색(NAS) 서비스를 활용하여 이질적인 엣지 환경에 맞는 서비스 적응형 모델을 자동으로 설계한다. 이 프레임워크는 서버 측 NAS 서비스에서 아키텍처 탐색 과정을 조율하여, 엣지 서비스가 장치 수준의 에너지, 연산, 메모리 제약 하에서 개인화된 아키텍처를 도출할 수 있게 한다. 또한 이질적인 서비스 전반에 걸쳐 간결한 전역 표현을 학습하는 에너지 인식 전역 아키텍처 탐색 메커니즘을 도입한다. 점진적·탐욕적·에너지 인식 가지치기(pruning) 전략을 통해 각 서비스가 자원 제약을 만족하는 개인화된 서브넷을 도출할 수 있도록 하는 에너지 효율적 아키텍처 선택 메커니즘을 개발한다. 전역 표현을 보존하면서 서비스 적응형 매개변수를 갱신하는 에너지 효율적 개인화 모델 최적화(optimization) 방안을 제안하며, 원-듀얼(primal-dual) 최적화 메커니즘이 아키텍처 적응 과정에서 엄격한 에너지 예산을 강제한다. 실세계 및 벤치마크 데이터셋에서의 실험을 통해 제안 접근법의 효과를 입증한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.