arXiv:2304.08847

BadVFL: Backdoor Attacks in Vertical Federated Learning

Mohammad Naseri, Yufei Han, Emiliano De Cristofaro

제출 2023-04-18

원문 초록

Federated learning (FL) enables multiple parties to collaboratively train a machine learning model without sharing their data; rather, they train their own model locally and send updates to a central server for aggregation. Depending on how the data is distributed among the participants, FL can be classified into Horizontal (HFL) and Vertical (VFL). In VFL, the participants share the same set of training instances but only host a different and non-overlapping subset of the whole feature space. Whereas in HFL, each participant shares the same set of features while the training set is split into locally owned training data subsets. VFL is increasingly used in applications like financial fraud detection; nonetheless, very little work has analyzed its security. In this paper, we focus on robustness in VFL, in particular, on backdoor attacks, whereby an adversary attempts to manipulate the aggregate model during the training process to trigger misclassifications. Performing backdoor attacks in VFL is more challenging than in HFL, as the adversary i) does not have access to the labels during training and ii) cannot change the labels as she only has access to the feature embeddings. We present a first-of-its-kind clean-label backdoor attack in VFL, which consists of two phases: a label inference and a backdoor phase. We demonstrate the effectiveness of the attack on three different datasets, investigate the factors involved in its success, and discuss countermeasures to mitigate its impact.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09259v1cs.CR공통 태그 Fraud Detection, Federated Learning

통신/IoT 사기 제어 요청을 위한 블록체인 연동 감사 가능 의사결정 관리

Blockchain-Linked Auditable Decision Management for Telecom/IoT Fraud-Control Requests

통신 사기 제어 연구는 탐지기 수준의 분류(classification)에서 멈추는 경우가 많지만, 실제 배포 환경에서는 요청 수준의 정책 결정, 생애주기 추적성, 감사 가능성이 필요하다. 본 논문은 사기 제어 문제를 합성 통신/IoT 사기 제어 요청에 대한 블록체인 연동 감사 가능 의사결정 관리로 재정의하며, 주요 결과는 QLoRA 튜닝된 대규모 언어 모델(LLM) 브랜치가 제로샷(zero-shot) 프롬프팅보다 훨씬 실용적이지만, 저비용 중앙 집중식 앙상블(ensemble)을 능가하기보다는 주로 근접하는 수준에 그친다는 것이다. 이 프레임워크는 각 합성 배포 레코드를 관리 요청으로 매핑하고, 결정론적 하드-사기 게이트를 통해 명시적 경계 초과 사례를 차단하며, 비하드 요청을 중앙 집중식 ML(M1), 연합 메타학습(M2), 또는 LLM 계열 위험 소스(M3)를 사용하여 점수화하고, 공유된 5-상태 정책, 2-구역 정제 메커니즘, 로컬 이더리움 호환 감사 레이어(layer)를 통해 조치를 결정한다. 평가는 별도의 합성 학습(training) 데이터와 100,000건의 레코드로 구성된 배포 재현 코퍼스를 사용하므로, 본 연구는 현장 검증이나 실제 배포 가능성의 증명이 아닌 통제된 드리프트 재현 증거로 해석해야 한다. 검증(validation) 결과, M1이 가장 균형 잡힌 성능을 보이며, 0.10 운영 상한 하에서 정상 요청 FPR 0.0890, 소프트-사기 재현율(recall) 0.8341을 달성한다. 그러나 레이블된 배포 재현에서는 정상-FPR 격차가 크게 벌어져, M1은 0.1646, M3-QLoRA는 0.1801로 상승하며, M3-QLoRA는 M3-Base의 정상 FPR을 0.3915에서 낮추고 소프트-사기 재현율 0.8240에 도달한다. 블록체인 텔레메트리는 생애주기 가스, 비용, 지연 시간, 처리량의 차이가 사기 로직의 변화가 아닌 제출된 오프체인 의사결정 프로파일에 의해 결정됨을 보여준다.

arXiv:2605.20282v3cs.CV공통 태그 Federated Learning, Vertical Federated Learning

비전 모델은 정말 잊는가? 수직 연합 학습에서 시각적 언러닝의 표현 수준 인증을 통한 새로운 발견

Do Vision Models Truly Forget? New Findings from Representation-Level Certification of Visual Unlearning in Vertical Federated Learning

수직 연합 학습(VFL)에서의 머신 언러닝(unlearning)은 점점 더 주목받고 있지만, 기존 방법들은 출력 수준 지표만으로 망각을 인증한다. 우리는 Mirage라는 표현 수준 감사 프레임워크를 도입하여 이러한 선행 연구들에 이의를 제기한다. Mirage는 네 가지 상호 보완적인 진단으로 구성된다: 선형 프로브 복구(LPR), 중심화 커널 정렬(CKA), 특징 분리 가능성 점수, 그리고 층별 복구 분석. 최근 VFL 언러닝 프로토콜을 따른 7개 데이터셋과 7개 기준선 방법에 걸친 광범위한 실험을 통해 세 가지 핵심 발견을 밝혀냈다: (1) 망각 격차(forgetting gap): 출력 수준 인증을 통과한 방법들도 여전히 표현에 상당한 클래스 구조를 유지하며, LPR은 재학습 기준선보다 최대 15.4점 높다; CKA는 이러한 모델들이 재학습 참조보다 원본에 구조적으로 더 가깝다는 것을 보여주고, 분리 가능성 점수는 지속적인 기하학적 판별을 나타낸다. (2) 언러닝 삼중 딜레마(unlearning trilemma): 기존 방법 중 고유용성, 출력 수준 망각, 표현 수준 망각을 동시에 달성하는 방법은 없다. (3) 클래스-샘플 비대칭(class-sample asymmetry): 클래스 수준 망각은 강한 표현 흔적을 남기는 반면(여러 데이터셋에서 LPR이 96%를 초과), 샘플 수준 망각은 우연과 구별할 수 없을 정도이다(LPR은 약 50%); 층별 분석은 잔류 클래스 정보가 네트워크 깊이 전반에 걸쳐 지속됨을 추가로 보여준다. 이러한 발견은 연합 학습 언러닝 연구에서 표현 인식 평가 표준의 필요성을 촉구한다. 코드는 https://github.com/YuZhenyuLindy/Mirage에서 공개되어 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.