arXiv:2305.18384

Backdoor Attacks Against Incremental Learners: An Empirical Evaluation Study

Yiqi Zhong, Xianming Liu, Deming Zhai, Junjun Jiang, Xiangyang Ji

제출 2023-05-28

원문 초록

Large amounts of incremental learning algorithms have been proposed to alleviate the catastrophic forgetting issue arises while dealing with sequential data on a time series. However, the adversarial robustness of incremental learners has not been widely verified, leaving potential security risks. Specifically, for poisoning-based backdoor attacks, we argue that the nature of streaming data in IL provides great convenience to the adversary by creating the possibility of distributed and cross-task attacks -- an adversary can affect \textbf{any unknown} previous or subsequent task by data poisoning \textbf{at any time or time series} with extremely small amount of backdoor samples injected (e.g., $0.1\%$ based on our observations). To attract the attention of the research community, in this paper, we empirically reveal the high vulnerability of 11 typical incremental learners against poisoning-based backdoor attack on 3 learning scenarios, especially the cross-task generalization effect of backdoor knowledge, while the poison ratios range from $5\%$ to as low as $0.1\%$. Finally, the defense mechanism based on activation clustering is found to be effective in detecting our trigger pattern to mitigate potential security risks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.36117v2cs.LG공통 태그 Adversarial Robustness, Data Poisoning, Backdoor Attack

신경망에 백도어를 심는 것은 왜 이토록 쉬운가?

Why Backdooring Neural Networks is so Easy?

현대 AI 시스템을 백도어 공격(backdoor attack)으로부터 보호하는 것은 여전히 미해결 과제로 남아 있으며, 성공적이면서도 은밀한 공격을 설계하는 데 필요한 공격자 자원(adversary's budget), 즉 오염 비율 $π$와 트리거 강도(trigger strength) $α$에 대한 근본적이고 원리적인 추정이 필요합니다. 깨끗한 데이터셋이 커지더라도 대규모 언어 모델(LLM)을 오염시키는 데 거의 일정한 수의 악성 샘플만이 필요할 수 있다는 최근 실증적 증거에 착안하여, 본 연구는 오염된 가우시안 혼합(Gaussian mixture)에서 학습된 2차 뉴런(quadratic neuron)에 대한 정확한 닫힌 형태 분석(closed-form analysis)을 도출합니다. 연구 결과, 직관에 반할 수도 있지만 신경망을 강력하게 만드는 바로 그 특징 학습(feature learning) 역학이 역설적으로 신경망을 백도어에 더 취약하게 만들 수 있음을 보여줍니다. 구체적으로, 깨끗한 데이터에 대한 정확도가 1차 근사 $O(π)$로 보존되는 상황에서 레이지 러닝(lazy learning)은 성공적인 공격을 위해 역제곱근 스케일링인 $α\propto π^{-1/2}$을 요구하는 반면, 특징 학습은 손실 마진(loss margin)이 $O(α^4)$로 스케일링되는 2차 탐지기(quadratic detector)를 유도하여 공격 자원을 $α\propto π^{-1/4}$로 개선함을 입증합니다. 결과적으로 비선형 특징 학습은 작은 오염 비율에서 요구되는 트리거 강도를 대폭 낮추며, 이는 어떤 면에서 특징 학습 모델을 백도어에 더 취약하게 만듭니다. 이러한 결과는 대규모 실증적 관찰과 일치하는 이론적 메커니즘을 제공하며, 선형 휴리스틱에 기반한 보안 감사가 널리 채택된 특징 학습 체계에서 백도어 취약성을 체계적으로 과소평가할 수 있음을 보여줍니다.

arXiv:2610.00663v2cs.AI공통 태그 Adversarial Robustness, Backdoor Attack

LLM에서의 전문가 격리 및 비활성화를 통한 백도어 억제

Backdoor Containment via Expert Quarantine and Shutdown in LLMs

백도어가 삽입된 대규모 언어 모델(LLM)은 정상 입력에서는 정상적으로 동작하면서 숨겨진 트리거가 주어지면 공격자가 지정한 출력을 생성할 수 있다. 기존 방어 기법은 학습 이전, 학습 중, 학습 이후, 추론 시점의 네 단계에 걸쳐 있으며, 두 가지 기본 전략 중 하나를 공유한다. 하나는 (오염된 데이터를 걸러내거나 최적화 중 그 습득을 차단하여) 백도어 학습을 억제하는 것이고, 다른 하나는 완전히 백도어가 형성된 모델이 만들어진 뒤에 (모델 가중치를 복구하거나 입력을 게이팅하여) 학습한 다음 정화하는 것이다. 우리는 세 번째 전략으로 '학습하되 유도하라(learn, but channel)'를 제안한다. 이는 학습 중 백도어 형성을 허용하되, 이를 배포 시 비활성화할 수 있도록 지정된 격리 구성요소로 유도하는 것이다. 이를 위해 정규화로 유도되는 MoE 유사 환경에서 구축한 계산 효율적 격리 전략인 Quarantined Expert Shutdown(QES)을 제안한다. 구체적으로, 오염된 데이터셋이 주어지면 QES는 Transformer 기반 언어 모델에 라우팅되는 전문가별 LoRA 분기와 경량 라우터를 추가하고, 보조 라우팅 목표를 사용하여 트리거 조건부 동작을 지정된 전문가로 끌어들이면서 다른 곳에서는 정상 능력을 보존한다. 배포 시 완화는 격리된 전문가의 라우팅 가중치를 0으로 만드는 상수 시간의 단일 연산으로 귀결되며, 트리거 검사나 추가 가중치 업데이트가 필요하지 않다. 실험적으로 우리의 방법은 두 가지 과제, 세 가지 공격, 네 가지 모델 계열에 걸친 대부분의 설정에서 공격 성공률(ASR)을 100%에서 0-10%로 낮추며, 하위 과제 성능은 대체로 보존되거나 소폭만 영향을 받는다. 이러한 결과는 '학습하되 유도하라'가 생성형 LLM의 백도어 격리에서 이전에 탐구되지 않은 체제임을 확립한다.

arXiv:2610.00685v2cs.AI공통 태그 Adversarial Robustness, Backdoor Attack

영공간 투영을 통한 LoRA 미세조정 LLM의 백도어 정제

Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection

대규모 언어 모델(LLM)과 파라미터 효율적 미세조정(PEFT) 방법이 빠르게 채택됨에 따라 백도어 공격의 위험이 더욱 심각해졌다. 기존의 백도어 정화 방법은 일반적으로 트리거에 대한 사전 지식, 깨끗한 참조에 대한 접근, 또는 공격적인 재학습과 같은 강한 가정 중 적어도 하나에 의존하며, 포괄적인 평가가 부족한 경우가 많다. 이러한 제약은 실제 적용 가능성을 크게 제한한다. 이러한 문제를 극복하기 위해, 본 연구는 이러한 가정 없이, 심지어 의심되는 파라미터의 사후 재학습 없이 LoRA로 튜닝된 LLM을 정화하는 방법을 제안한다. 우리의 목표는 (i) 기반 모델의 일반 능력과 (ii) 어댑터를 통해 학습된 새로운 하위 과제 기술을 모두 보존하면서 공격 성공률(ASR)을 크게 낮추는 것이다. 일련의 검토를 통해 텍스트 분류 환경의 단일 레이어에서 생성 과제의 전체 파라미터 LLM에 이르기까지 접근법을 점진적으로 확장한다. 신중한 데이터 선별과 특징 근사를 통해 충실도가 높은 백도어 방향을 추출하고, 각 레이어 또는 헤드에 대해 입력 및 출력 채널 모두에서 직교 영공간(null space)을 구성하여 LoRA 업데이트를 그 위로 사영한다. 실험적으로, 우리의 영공간 사영 방법은 하위 과제 적응 중에도 기반 모델의 정상 성능과 어댑터가 학습한 능력을 보존하면서 ASR을 거의 100%에서 10% 미만으로 낮춘다.

arXiv:2610.02432v2cs.CR공통 태그 Adversarial Robustness, Backdoor Attack

입력 시퀀스 변화에 대한 대규모 언어 모델(LLM)의 강건성 평가 및 개선

Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations

프로덕션 시스템에서 운영되는 대규모 언어 모델(LLM)은 프롬프트 인젝션(prompt injection), 트로이목마(trojan, 백도어), 그리고 자동 품질 지표 조작 공격에 직면한다. 본 논문은 적대적 입력 시퀀스 변화에 대한 LLM의 강건성을 평가하고 개선하기 위한 모델, 방법, 알고리즘을 개발한다. 우리는 작은 입력 교란(perturbation) 하에서 단계별 출력 분포 간의 Jensen-Shannon 발산(divergence)에 기반한 생성적 강건성 지표인 R_stab(f)를 제안한다. 국소적(localized) 공격에 대해서는 V(h) <= 1 - R_class(h)를 증명하며, 여기서 R_class(h)는 의사결정 연산자 h가 작은 교란 하에서도 자신의 결정을 유지할 확률이다. 비국소적(non-localized) 공격에 대해서는 보정된(calibrated) 경험적 모델을 제안한다. LLM-as-a-judge 시스템에 대해서는 적응형 진화 블랙박스 공격인 ASA를 개발했으며, 이는 최대 73.8%의 공격 성공률(ASR)을 달성하고 오픈 모델 간 전이(transfer) 시에도 최대 62.6%를 기록한다. Trojan Detection Challenge 2023 데이터(Pythia-1.4B)에서는 대리(surrogate) 트리거가 REASR ~0.99에 도달하는 반면, 실제 트리거에 대한 재현율은 기준선 ~0.14에 비해 ~0.17에 불과하다. SaTML CTF 2024에서는 다층(multi-layer) 방어를 우회하는 네 가지 유형을 체계화했으며, 이를 통해 ASR을 90%에서 15~25%로 감소시켰다. 5~7개의 이질적(heterogeneous) 모델로 구성된 위원회(committee)는 Gemma-3-4B의 ASR을 47~55퍼센트포인트 감소시켜, 7개 모델 사용 시 19.3%까지 낮춘다. Model Context Protocol(MCP) 기반 에이전트형(agentic) 시스템에 대해서는, 호출당 0.1ms 미만으로 HMAC으로 보호된 패킷을 사용해 도구 호출(tool call)을 증명(attest)하는 AttestMCP와 Commit Boundary 격리 패턴을 제안한다. 847개 시나리오로 구성된 MCPBench 벤치마크(benchmark)에서 이들 방법은 평균 ASR을 53.7%에서 12.4%로 감소시킨다. 이 방법들은 JudgeGuard 및 TrojanArmor 소프트웨어 스위트와 MCPSec 모듈로 구현되었다.

arXiv:2610.02661v1cs.LG공통 태그 Incremental Learning, Time Series

AIGS: 비정상 데이터 스트림에서의 온라인 표현 학습을 위한 적응형 점진적 게이팅 시스템

AIGS: Adaptive Incremental Gating System for Online Representation Learning in Non-Stationary Data Streams

사물 웹(WoT) 및 엣지 컴퓨팅 환경의 실시간 데이터 스트림은 잠재적인 체제 변화(regime changes)를 거치며 진화하는 경우가 많습니다. 엄격한 계산 제약 하의 온라인 표현 학습(online representation learning)에서 핵심 문제는 유용한 과거 지식을 유지하면서 개념 드리프트(concept drift)에 신속하게 반응하는 안정성-가소성 딜레마(stability-plasticity dilemma)를 해결하는 것입니다. 기존 방법들은 고정된 업데이트 일정이나 롤링 윈도우를 사용합니다. 그러나 이러한 방식은 급격한 변화가 발생할 때 매개변수 경직화(parameter ossification)를 겪고, 스트림이 안정적으로 유지될 때는 계산 자원을 낭비합니다. 본 논문에서는 경량 폐루프 상태 인지 적응 프레임워크인 적응형 점진적 게이팅 시스템(AIGS, Adaptive Incremental Gating System)을 제안합니다. AIGS는 최근 변동성에 대해 현재 재구성 오차를 정규화하는 내생적 잔차 피드백 메커니즘인 Shock Ratio를 도입합니다. 이 신호는 학습 가소성과 기억 유지 사이를 부드럽게 보간하는 연속 가소성 컨트롤러(Continuous Plasticity Controller)를 구동합니다. 표현 학습을 폐루프 제어 메커니즘으로 다룸으로써, AIGS는 치명적 망각(catastrophic forgetting)을 방지하고 지연 시간에 민감한 엣지 디바이스에 적합한 스텝당 엄격한 선형 복잡도 $\mathcal{O}\left(k\cdot d\right)$를 유지합니다. 교통 네트워크, 기상 시스템, 산업 인프라를 아우르는 실제 스마트 시티 동적 스트림에 대한 실험은 도메인에 따라 뚜렷한 이점을 보여줍니다. Electricity Transformer Temperature 데이터셋에서 AIGS는 점진적인 성능 저하 상황에서 8.31(ETTm1) 및 9.88(ETTm2) 스텝의 예방적 조기 경보 리드 타임을 달성합니다. Performance Measurement System 교통 데이터셋에서는 급격한 변화 이후 훨씬 빠른 변화 후 회복 속도를 보입니다. 노이즈가 매우 심한 Weather 데이터셋에서는 확률적 노이즈 과적합을 방지하면서 이상치 재현율을 향상시킵니다. 이러한 결과는 AIGS가 자원 제약이 있는 엣지 모니터링 시스템을 위한 실용적인 플러그 앤 플레이 어댑터임을 입증합니다.

arXiv:2607.24893v2cs.CR공통 태그 Adversarial Robustness, Backdoor Attack

다중 에이전트 LLM 시스템에서의 분산 백도어 조기 탐지: 특성 분석 연구

Early Detection of Distributed Backdoors in Multi-Agent LLM Systems: A Characterization Study

다중 에이전트 대규모 언어 모델(LLM) 시스템은 단일 에이전트가 결코 전체를 보유하지 않는 페이로드로 공격받을 수 있습니다. 즉, 여러 오염된 도구가 각각 하나의 암호화된 조각을 숨겨 여러 에이전트에 걸쳐 분산시키고, 외부 단계에서 실행 종료 후 이를 재조합하여 실행합니다. 각 행동을 개별적으로 판단하는 단계별 안전성(safety) 검사는 완전한 분산 페이로드를 인식하지 못할 수 있습니다. 본 연구에서는 실행이 진행되는 동안 이러한 공격을 얼마나 조기에 탐지할 수 있는지, 그리고 가장 명백한 단서가 제거되었을 때 얼마나 견고하게 포착할 수 있는지를 조사합니다. 계층적 다중 에이전트 시스템에 작동 인스턴스를 구축하고, 5개의 언어 모델과 2개의 도구 환경 전반에서 정상 및 공격 조건 하에 실행하여 각 조각이 주입되는 시점과 페이로드가 조립 및 실행되는 시점을 기록합니다. 첫 번째 조각이 주입되기 전에는 거의 어떤 실행도 플래그되지 않으며, 주입이 시작되면 접두 문맥(prefix) 탐지기가 주입되지 않은 실행에서 약 $1\%$의 폴드 외부 오경보율(조각을 보유했으나 조립되지 않은 실행에서는 더 높음)과 중앙값 12단계가 남은 시점에서 성공적인 공격의 $99.5\%$에 플래그를 지정합니다. 조립은 실행 후에만 발생하므로, 이러한 경보는 거의 모든 성공적인 공격에서 조립 전에 중단을 가능하게 할 수 있습니다. 또한 이전 단계가 필요한지 확인하기 위해 현재 관찰 결과만 보는 탐지기를 테스트합니다. 현재 관찰 결과에 명백한 단서가 있을 때는 단 하나의 관찰로도 충분한 경우가 많지만, 해당 단서가 제거되면 이전 단계를 사용하는 것이 도움이 될 수 있습니다. 일반적인 제로샷(zero-shot) 및 행동 훈련된 탐지기는 안전하지 않은 실행과 안전한 실행을 구분하지 못하며, 작동하는 탐지기는 부분적으로 제거 가능한 표면 단서, 주로 암호문의 길이와 엔트로피에 의존합니다. 이러한 단서를 제거하면 탐지기가 더 늦게 작동하고, 한 도구 환경에서 다른 도구 환경으로 이전하는 것이 훨씬 더 어려워집니다. 원시 텍스트로 파인튜닝(fine-tuning)된 모델은 손실(loss)의 일부를 복구합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.