arXiv:2211.15875

Data Poisoning Attack Aiming the Vulnerability of Continual Learning

Gyojin Han, Jaehyun Choi, Hyeong Gwon Hong, Junmo Kim

제출 2022-11-29

원문 초록

Generally, regularization-based continual learning models limit access to the previous task data to imitate the real-world constraints related to memory and privacy. However, this introduces a problem in these models by not being able to track the performance on each task. In essence, current continual learning methods are susceptible to attacks on previous tasks. We demonstrate the vulnerability of regularization-based continual learning methods by presenting a simple task-specific data poisoning attack that can be used in the learning process of a new task. Training data generated by the proposed attack causes performance degradation on a specific task targeted by the attacker. We experiment with the attack on the two representative regularization-based continual learning methods, Elastic Weight Consolidation (EWC) and Synaptic Intelligence (SI), trained with variants of MNIST dataset. The experiment results justify the vulnerability proposed in this paper and demonstrate the importance of developing continual learning models that are robust to adversarial attacks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.36117v2cs.LG공통 태그 Adversarial Attack, Data Poisoning

신경망에 백도어를 심는 것은 왜 이토록 쉬운가?

Why Backdooring Neural Networks is so Easy?

현대 AI 시스템을 백도어 공격(backdoor attack)으로부터 보호하는 것은 여전히 미해결 과제로 남아 있으며, 성공적이면서도 은밀한 공격을 설계하는 데 필요한 공격자 자원(adversary's budget), 즉 오염 비율 $π$와 트리거 강도(trigger strength) $α$에 대한 근본적이고 원리적인 추정이 필요합니다. 깨끗한 데이터셋이 커지더라도 대규모 언어 모델(LLM)을 오염시키는 데 거의 일정한 수의 악성 샘플만이 필요할 수 있다는 최근 실증적 증거에 착안하여, 본 연구는 오염된 가우시안 혼합(Gaussian mixture)에서 학습된 2차 뉴런(quadratic neuron)에 대한 정확한 닫힌 형태 분석(closed-form analysis)을 도출합니다. 연구 결과, 직관에 반할 수도 있지만 신경망을 강력하게 만드는 바로 그 특징 학습(feature learning) 역학이 역설적으로 신경망을 백도어에 더 취약하게 만들 수 있음을 보여줍니다. 구체적으로, 깨끗한 데이터에 대한 정확도가 1차 근사 $O(π)$로 보존되는 상황에서 레이지 러닝(lazy learning)은 성공적인 공격을 위해 역제곱근 스케일링인 $α\propto π^{-1/2}$을 요구하는 반면, 특징 학습은 손실 마진(loss margin)이 $O(α^4)$로 스케일링되는 2차 탐지기(quadratic detector)를 유도하여 공격 자원을 $α\propto π^{-1/4}$로 개선함을 입증합니다. 결과적으로 비선형 특징 학습은 작은 오염 비율에서 요구되는 트리거 강도를 대폭 낮추며, 이는 어떤 면에서 특징 학습 모델을 백도어에 더 취약하게 만듭니다. 이러한 결과는 대규모 실증적 관찰과 일치하는 이론적 메커니즘을 제공하며, 선형 휴리스틱에 기반한 보안 감사가 널리 채택된 특징 학습 체계에서 백도어 취약성을 체계적으로 과소평가할 수 있음을 보여줍니다.

arXiv:2609.27155v1cs.CR공통 태그 Adversarial Attack, Data Poisoning

좋아요 함정: 유사도 기반 추천 시스템에서 에이전트를 겨냥한 다단계 포이즈닝 공격

The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems

대규모 언어 모델(LLM) 및 LLM 기반 에이전트(agent)의 최근 발전과 함께, 이러한 에이전트들은 점차 자율성을 갖추며 인터넷상에서 사용자를 대신해 행동할 수 있는 더 넓은 접근 권한을 얻고 있다. 그러나 소셜 미디어 플랫폼에 배포된 자동화된 에이전트(예: 사용자의 개인 계정 관리)의 취약성은 아직 충분히 연구되지 않았다. 에이전트 포이즈닝에 관한 기존 연구들은 일반적으로 공격자가 에이전트에게 오염된 콘텐츠를 직접 노출할 수 있다고 가정한다. 이러한 공격은 직접적이고 효과적이지만, 감지 및 완화가 더 쉽다. 소셜 미디어 플랫폼 맥락에서는 추천 시스템 자체가 보다 은밀한 방식으로 이러한 콘텐츠를 에이전트에게 노출할 수 있는지 여부가 여전히 미해결 과제로 남아 있다. 이론적 분석을 통해 본 연구는 OASIS에서 사용되는 좋아요 점수(like-score) 메커니즘이 악용될 수 있음을 보이고, 다단계로 이루어진 오염된 게시물 연쇄가 에이전트의 피드를 유도할 수 있는 조건을 규명한다. 이러한 통찰을 바탕으로, 우리는 사실적인 오염 게시물을 제작하는 알고리즘을 추가로 개발한다. 실험을 통해 이론적 발견을 뒷받침하고 제안된 알고리즘의 효과를 입증한다. 특히, 좋아요 점수 피드백 루프를 악용함으로써 이 공격은 오염된 게시물의 사용자-게시물 유사도가 검색 임계값 미만으로 떨어지는 경우에도 추천 시스템이 해당 게시물을 선택하도록 만든다.

arXiv:2607.19351v1cs.AI공통 태그 Adversarial Attack, Continual Learning

OpenEvoShield: 개방 세계 다중 에이전트 시스템 공격에 대한 이중 비정상 지속적 방어

OpenEvoShield: Dual Non-Stationary Continual Defense for Open-World Multi-Agent System Attacks

LLM 기반 다중 에이전트 시스템(LLM-MAS)은 안전이 중요한(safety-critical) 응용 분야에 점점 더 배포되고 있으며, 여기서 적대자는 에이전트 간 통신을 통해 악의적 지시를 주입하여 유해한 행동을 전파한다. 정적 위협과 달리, 이러한 공격은 이중으로 동적이다: 적대자는 배포된 방어에 맞춰 주입 전략을 정교화하는 한편, 정상 에이전트의 행동은 시스템 확장에 따라 변화(drift)한다. 기존 방어는 배포를 폐쇄 세계(closed-world) 문제로 다루며, 어느 한쪽의 분포가 학습 커버리지를 벗어나면 급격히 성능이 저하된다. 우리는 LLM-MAS를 위한 공진화(co-evolutionary) 지속적 방어 프레임워크인 OpenEvoShield를 제안한다. 비대칭 속도 제어기(M1)는 이중 드리프트 신호로부터 빠른 공격 측과 느린 정상 측의 학습률을 분리한다. 정상 경계 업데이터(M2)는 느린 속도로 동적 행동 경계를 유지하고, EWC 정규화된 정책 앙상블(M3)은 치명적 망각(catastrophic forgetting) 없이 빠르게 적응한다. 에너지 기반 다중 세분성 탐지기(M4)는 노드, 서브그래프, 그래프 수준의 증거를 융합하여 새로운 공격을 분포 외(out-of-distribution)로 분류한다. 5개 벤치마크와 4가지 MAS 토폴로지에 걸친 100회 배포 라운드에 대한 실험 결과, OpenEvoShield는 정적 및 지속적 베이스라인을 능가하며, 대부분의 이전에 보지 못한 공격을 탐지하면서 거짓 양성(false positive) 비율을 낮게 유지한다.

arXiv:2607.15267v1cs.AI공통 태그 Adversarial Attack, Data Poisoning

사전학습 데이터는 계산적 선전(computational propaganda)을 통해 오염될 수 있다

Pretraining Data Can Be Poisoned through Computational Propaganda

사전학습 데이터를 오염시키면 언어 모델(LM)에 탐지·완화하기 어려운 유해 행동을 유발할 수 있다. 기존 사전학습 데이터 오염(poisoning) 연구는 대부분 Wikipedia와 같은 정립된 데이터 소스를 활용해 왔는데, 이는 사전학습 코퍼스(pretraining corpus)에 흔한 대규모·이질성을 반영하지 못하며, 오염된 데이터와 데이터 큐레이션(data curation) 파이프라인 간 상호작용은 간과해 왔다. 우리는 공개 토론 인터페이스(public discussion interface)라는 기존의 웹 규모 콘텐츠 주입 메커니즘을 통해, 이러한 제한된 설정을 넘어서도 사전학습 데이터에 대한 오염 공격이 실현 가능함을 보인다. 또한 웹 크롤링(web crawling)과 데이터 큐레이션 이후 악성 콘텐츠가 포함되는지 측정하기 위해, 웹 크롤 기반 LM 학습 데이터에서 적대적(adversarial) 콘텐츠 포함 여부를 추정하는 새로운 분석 방법인 HalfLife를 제안한다. HalfLife를 사용해 공개 토론 인터페이스를 통해 웹 규모로 사전학습 코퍼스를 오염시키는 것의 실현 가능성을 탐구한다. 분석 결과, 오염 주입이 사전학습 데이터에 포함되는지 추정하는 일의 중요성을 보여 주며, 제3자 웹페이지 콘텐츠가 언어 모델 사전학습을 공격할 수 있는 가능한 경로(vector)임을 확인한다.

arXiv:2610.10666v2cs.LG공통 태그 Adversarial Attack

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.