arXiv:2609.27124v1 cs.CR

클라이언트가 조율될 때: 연합 학습 서버를 격파하는 전략적 그래디언트 조작과 효율적 방어

When Clients Are Orchestrated: Strategic Gradient Manipulation to Defeat Federated Learning Servers with Efficient Defense

Mohamed Shaaban, Ahmed Abdelnaby, Mohamed Elmahallawy

제출 2026-09-24

한국어 초록

연합 학습(Federated Learning)은 원시 데이터가 아니라 모델 업데이트를 중앙 매개변수 서버(PS)와 교환함으로써 분산 모델 학습을 가능하게 한다. 기존 방어의 대부분은 정적이거나 독립적으로 행동하는 적대자를 주로 가정하는 반면, 우리는 이러한 보호를 체계적으로 우회하는 새로운 유형의 동적·적응형 공격을 밝힌다. 우리는 악성 조율 서버(OS)가 표적·비표적 공격 클라이언트를 포함한 이질적 적대적 클라이언트 집합을 동적으로 조율하는 통합 공격 프레임워크 Fed-ADR을 제안한다. OS의 실시간 조율을 통해 악성 클라이언트는 PS에 배포된 방어를 회피하도록 그래디언트 업데이트를 전략적으로 조정하면서, 전역 모델 성능을 심각하게 저하시키거나 학습을 적대적 목표로 유도한다. 이 위협을 완화하기 위해, 우리는 각 클라이언트의 과거 업데이트로부터 실제 그래디언트를 추정하는 탐지 메커니즘을 제시하여 추가 오버헤드 없이 조율된 악성 행동의 실시간 탐지를 가능하게 한다. 또한 학습을 재시작하지 않고 전역 모델 성능을 복구하는 in-situ 복구 메커니즘을 도입하여 수렴을 유지하고 복구 시간을 최소화한다. MNIST, Fashion-MNIST, CIFAR-10 벤치마크 데이터셋에 대한 종합 실험은 Fed-ADR 공격 체계가 전역 정확도를 90% 이상에서 10% 미만으로 낮출 수 있으며 여러 최신(state-of-the-art) 방어를 우회함을 보여준다. 우리의 탐지 및 복구 모듈을 사용하면 악성 클라이언트를 식별하고 수 라운드 내에 정확도를 90% 이상으로 복구하며, 처음부터 재학습하는 것보다 훨씬 낮은 비용으로—계산 오버헤드를 최소 20배 줄이는—성과를 달성한다.

원문 초록

Federated Learning enables decentralized model training by exchanging model updates--rather than raw data--with a central parameter server (PS). While most of the existing defenses primarily assume static or independently acting adversaries, we reveal a new class of dynamically adaptive attacks that systematically bypass such protections. We propose Fed-ADR, a holistic attack framework in which a malicious orchestrator server (OS) dynamically coordinates a heterogeneous set of adversarial clients, including both targeted and untargeted attackers. Through real-time coordination by the OS, malicious clients strategically adapt their gradient updates to evade defenses deployed by the PS, while either severely degrading global model performance or steering training toward adversarial objectives.To mitigate this threat, we offer a detection mechanism that estimates each client's true gradient from historical updates, enabling real-time detection of coordinated malicious behavior without additional overhead. We further introduce an in-situ recovery mechanism that restores global model performance without restarting training, preserving convergence and minimizing recovery time. Comprehensive experiments on MNIST, Fashion-MNIST, and CIFAR-10 benchmark datasets demonstrate that Fed-ADR's attack scheme can reduce global accuracy from over 90% to below 10%, bypassing several state-of-the-art defenses. When our detection and recovery modules are employed, they identify malicious clients and restore accuracy to over 90% within a few rounds, at a substantially lower cost than retraining from scratch--achieving a reduction of at least 20x in computational overhead.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.27124v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.24893v2cs.CR공통 태그 Anomaly Detection, Adversarial Attack, Adversarial Robustness

다중 에이전트 LLM 시스템에서의 분산 백도어 조기 탐지: 특성 분석 연구

Early Detection of Distributed Backdoors in Multi-Agent LLM Systems: A Characterization Study

다중 에이전트 대규모 언어 모델(LLM) 시스템은 단일 에이전트가 결코 전체를 보유하지 않는 페이로드로 공격받을 수 있습니다. 즉, 여러 오염된 도구가 각각 하나의 암호화된 조각을 숨겨 여러 에이전트에 걸쳐 분산시키고, 외부 단계에서 실행 종료 후 이를 재조합하여 실행합니다. 각 행동을 개별적으로 판단하는 단계별 안전성(safety) 검사는 완전한 분산 페이로드를 인식하지 못할 수 있습니다. 본 연구에서는 실행이 진행되는 동안 이러한 공격을 얼마나 조기에 탐지할 수 있는지, 그리고 가장 명백한 단서가 제거되었을 때 얼마나 견고하게 포착할 수 있는지를 조사합니다. 계층적 다중 에이전트 시스템에 작동 인스턴스를 구축하고, 5개의 언어 모델과 2개의 도구 환경 전반에서 정상 및 공격 조건 하에 실행하여 각 조각이 주입되는 시점과 페이로드가 조립 및 실행되는 시점을 기록합니다. 첫 번째 조각이 주입되기 전에는 거의 어떤 실행도 플래그되지 않으며, 주입이 시작되면 접두 문맥(prefix) 탐지기가 주입되지 않은 실행에서 약 $1\%$의 폴드 외부 오경보율(조각을 보유했으나 조립되지 않은 실행에서는 더 높음)과 중앙값 12단계가 남은 시점에서 성공적인 공격의 $99.5\%$에 플래그를 지정합니다. 조립은 실행 후에만 발생하므로, 이러한 경보는 거의 모든 성공적인 공격에서 조립 전에 중단을 가능하게 할 수 있습니다. 또한 이전 단계가 필요한지 확인하기 위해 현재 관찰 결과만 보는 탐지기를 테스트합니다. 현재 관찰 결과에 명백한 단서가 있을 때는 단 하나의 관찰로도 충분한 경우가 많지만, 해당 단서가 제거되면 이전 단계를 사용하는 것이 도움이 될 수 있습니다. 일반적인 제로샷(zero-shot) 및 행동 훈련된 탐지기는 안전하지 않은 실행과 안전한 실행을 구분하지 못하며, 작동하는 탐지기는 부분적으로 제거 가능한 표면 단서, 주로 암호문의 길이와 엔트로피에 의존합니다. 이러한 단서를 제거하면 탐지기가 더 늦게 작동하고, 한 도구 환경에서 다른 도구 환경으로 이전하는 것이 훨씬 더 어려워집니다. 원시 텍스트로 파인튜닝(fine-tuning)된 모델은 손실(loss)의 일부를 복구합니다.

arXiv:2609.27760v1cs.LG공통 태그 Anomaly Detection, Adversarial Attack, Federated Learning

백도어는 구조적 흔적을 남긴다: 연합 학습에서 백도어 탐지 및 억제를 위한 FedMAST

Backdoors Leave Structural Traces: FedMAST for Backdoor Detection and Containment in Federated Learning

연합 학습(federated learning)은 클라이언트가 원시(raw) 데이터를 공유할 필요 없이 공유 모델의 분산 학습을 가능하게 한다. 그러나 클라이언트가 제출한 업데이트의 무결성에 대한 의존은 전역 모델을 은밀한(stealthy) 백도어 poisoning에 노출시킨다. 기존 방어는 종종 고립된 증거 원천을 검사하지만, 은밀성 제약(stealth-constrained) 공격은 이러한 신호에 적응할 수 있다. 본 논문에서는 이러한 공격이 고립된 이상(anomaly) 신호를 억제할 수 있으나, poisoned 업데이트는 여전히 잔여 구조적 흔적을 남긴다는 것을 보인다. 연합 학습에서 백도어 탐지를 위한 Federated Multi-Axis Structural Tracing(FedMAST) 방어를 제안한다. FedMAST는 상호 보완적인 구조적·스펙트럴(spectral)·역사적(historical) 증거로 클라이언트 업데이트를 점수화한 뒤, 계층적(tiered) 필터링과 라운드 수준(round-level) 억제(containment)를 적용해 적대적 영향을 제한한다. 고립된 신호가 놓칠 수 있는 흔적을 포착하기 위해 FedMAST는 squeeze-pair coherence scoring으로 결합된 특징(feature) 왜곡을 드러내고, signed spectral-drift tracking으로 시간에 따른 지속적인 방향 변화를 밝힌다. Constrain-and-Scale, Neurotoxin, BC-Layers, LGA, DBA, 3DFed 등 6가지 연합 백도어 공격에 대해 FedMAST는 9개의 공격–방어 비교 평가 모두에서 기준선(baseline) 방어보다 낮은 ASR(attack success rate)을 달성한다. 200라운드 전체 실행에서 평균 ASR 1.51%를 달성하면서 평균 주과제(main-task) 정확도 94.84%를 유지한다. method-aware CovertLayers 공격 하에서 FedAvg, MultiKrum, AlignIns, FLAME은 각각 전체 실행 ASR 100.00%, 99.67%, 99.53%, 32.84%를 기록한다. FedMAST는 평가된 모든 방법 중 최저 ASR을 달성하여 1.53%로 낮추면서 주과제 정확도 92.26%를 유지한다.

arXiv:2609.22818v1cs.CR공통 태그 Anomaly Detection, Adversarial Attack, Adversarial Robustness

안전성의 대가: LLM 에이전트에서 메모리 포이즈닝 방어의 양성 케이스 유틸리티와 토큰 오버헤드

The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents

LLM 에이전트용 메모리 포이즈닝(memory-poisoning) 방어는 일반적으로 공격을 막는 능력으로 평가된다. 그러나 이들이 처리하는 트래픽은 적대적(adversarial)인 경우가 드물다. 방어를 도입하는 비용은 매 상호작용마다 지불되지만, 그 이익은 전체 중 극히 일부의 경우에만 나타난다. 우리는 메모리 백엔드, 검색(retrieval) 과정, 판정(judge)을 조건마다 동일하게 유지하고 방어 방식만 바꾸는 측정 설정을 마련했다. 각 조건을 다섯 개의 대화에 걸쳐 세 번씩 시험하여, temperature zero에서도 여전히 유의한 파이프라인 실행에 내재된 잡음과 방어의 실제 효과를 구분했다. 완전히 양성(benign) 트래픽 위에서 세 가지 쓰기 시점(write-time) 방어(입력 정화, 출처(provenance) 검증, LLM 기반 이상 탐지)와 하나의 읽기 시점(read-time) 방어(재순위화(reranking))를 시험한 결과, 쓰기 시점 방어들은 우리가 분별할 수 있는 유틸리티 비용을 보이지 않았으며, 95% 신뢰구간은 대략 ±4.5점 범위에 있고 0을 포함한다. 재순위화기(reranker)는 다르다. 핵심 정확도를 4.4점 낮추며(95% CI [-9.0, -0.05], bootstrap; McNemar p=0.064), 이 결과는 재현에도 견디지만 우리 해상도의 경계에 있다. 더 분명한 비용은 통계적이기보다 기계적이다. 공격이 없는 대화에서 재순위화기는 판정된 항목의 33.6%에서 정당한 메모리를 격리(quarantine)하며, 단일 대화에서 최대 106건의 거짓 격리에 이르고, 2.7%의 토큰 오버헤드가 있다. 네 가지 방어를 모두 겹쳐도 이 비용이 누적되지는 않는다. 결합 조건의 정확도 손실은 더 작고 신뢰구간이 0을 포함하여, 쓰기 시점 방어가 재순위화기가 버리는 것을 부분적으로 상쇄할 수 있음을 시사한다. LLM 사용 여부가 아니라 방어가 파이프라인을 어디서 가로채는지가 양성 케이스에서의 대가를 결정하는 것으로 보인다.

arXiv:2607.22722v1cs.CV공통 태그 Anomaly Detection, Adversarial Attack, Adversarial Robustness

새로운 유형의 적대적 예제: 인간-모델 격차 측정 및 OOD 탐지와의 관계

A New Kind of Adversarial Example: Measuring the Human-Model Gap, and Its Relationship to OOD Detection

거의 모든 적대적 공격은 모델을 속이기 위해 인지할 수 없는 교란(perturbation)을 추가한다. 우리는 반대를 연구한다: 인간이 더 이상 이미지를 인식하지 못하더라도 모델이 원래의 올바른 예측을 유지하게 만드는 크고 명확히 보이는 교란이다. 이전 연구는 이러한 예제를 대규모로 생성할 수 있음을 보여주었지만 세 가지 질문을 검증하지 않았다: 인간이 실제로 모델보다 성능이 더 나쁜지, 표준 분포 밖(out-of-distribution, OOD) 탐지 및 보정(calibration) 도구가 이를 포착하는지, 기존 방어 기법이 이를 완화하는지. 우리는 MNIST, CIFAR-10, ImageNet에서 세 가지 모두에 답한다. (i) 독립적인 인식기 프록시는 CIFAR-10에서 ~49%까지 떨어지는 반면 모델은 100%를 유지한다 — 소규모 인간 파일럿(N=5)이 직접 뒷받침하는 격차이며, 신호 손실로는 설명되지 않는다(동일 크기의 가우시안 대조군이 인식 가능성을 더 빠르게 저하시킴); CLIP 제로샷 프록시도 ImageNet 규모에서 동일한 격차를 확인한다. (ii) 신뢰도 및 에너지 기반 OOD 탐지기와 보정은 구조적으로 탐지하지 못한다(탐지율 0%, ECE ~= 0). 반면 특징(feature) 공간 Mahalanobis 탐지기는 100%를 탐지하지만, 적응형 공격자가 성공률 손실 없이 이를 회피한다. (iii) 적대적 학습(adversarial training, robust accuracy 45%)을 포함한 어떤 고전적 방어 기법도 공격 성공률을 낮추지 않는다(large-epsilon_l 저항성과의 상관 r ~= 0). 기계론적 분석은 추가로 이 공격이 엣지/형태 구조보다 저수준 텍스처를 훨씬 빠르게 파괴함을 보여준다.

arXiv:2610.10666v2cs.LG공통 태그 Adversarial Attack, Adversarial Robustness

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.