PyTorchKR Papers

최신 논문

총 15편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10666v2cs.LG

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

arXiv:2510.18989v4cs.LG

신경 연산자의 솔버 통합 적대적 공격 및 학습

Solver-Integrated Adversarial Attacking and Training of Neural Operators

신경 연산자(Neural Operator)의 일반화 능력과 강건성을 솔버 통합 관점에서 재정의하고, 수치 PDE 솔버를 공격 루프 내부에 통합한 적대적 공격(adversarial attack) 및 학습 프레임워크를 제안한다. Burgers, Darcy Flow, Navier–Stokes 등 대표 PDE 벤치마크 실험에서 솔버를 깊이 통합할수록 일반화 능력과 강건성이 더욱 향상됨을 보인다.

arXiv:2509.11337v2cs.LG

분산 적대적 학습 알고리즘의 탈출 효율성에 관한 연구

On the Escaping Efficiency of Distributed Adversarial Training Algorithms

적대적 학습(adversarial training)은 적대적 공격에 대한 모델 견고성(robustness)을 향상하는 역할로 인해 최근 몇 년 동안 널리 연구되어 왔습니다. 본 논문은 다중 에이전트(multi-agent) 학습 환경 내에서 중앙 집중식 및 탈중앙화 전략을 포함한 다양한 분산 적대적 학습 알고리즘을 비교하는 데 중점을 둡니다. 선행 연구들은 견고성을 결정하는 데 있어 모델 평탄도(flatness)의 중요성을 강조해 왔습니다. 이를 위해 본 연구에서는 지역 최솟값(local minima)으로부터 이러한 알고리즘들의 탈출 효율성을 연구하기 위한 일반적인 이론적 프레임워크를 개발하며, 이는 결과 모델의 평탄도와 밀접한 관련이 있습니다. 연구 결과, 섭동 경계(perturbation bound)가 충분히 작고(즉, 공격 강도가 비교적 약하고) 대규모 배치(batch) 크기를 사용할 경우, 합의(consensus) 및 확산(diffusion)을 포함한 탈중앙화 적대적 학습 알고리즘이 중앙 집중식 전략보다 지역 최솟값에서 더 빠르게 탈출하는 것이 보장되어 더 평탄한 최솟값을 선호하게 됨을 보입니다. 그러나 섭동 경계가 커짐에 따라 이러한 경향은 더 이상 유지되지 않을 수 있습니다. 시뮬레이션 결과에서는 이론적 발견을 설명하고 탈중앙화 및 중앙 집중식 적대적 학습 알고리즘을 통해 얻은 모델의 성능을 체계적으로 비교합니다. 이 결과는 분산 환경에서 모델의 견고성을 향상하기 위한 탈중앙화 전략의 잠재력을 강조합니다.

arXiv:2609.23596v1cs.CV

StyleAT: 의미론적 공격에 대한 얼굴 인식 방어

StyleAT: Defending Face Recognition Against Semantic Attacks

얼굴 인식 모델이 일상적인 인증 및 감시에 널리 쓰이면서, 최근 연구들은 이러한 모델의 한 가지 중요한 약점을 지적했다: 이 모델들은 적대적 의미론적 편집(adversarial semantic edits)에 여전히 매우 취약하다는 것이다. 즉, 입력에 대한 적대적으로 생성된 의미론적 변화(예: 약간의 노화나 자세 변화)가 오분류를 유발할 수 있다. 기존의 일부 공격은 강력하지만 계산 비용이 커서 방어(예: 적대적 학습을 통한) 개발에는 부적합하다. 이 공백을 메우기 위해, 우리는 StyleGAN의 풍부한 잠재 공간(latent space)에서 동작하여 오분류율을 극대화하는 강력한 의미론적 공격 BoundStyle을 제안한다. 특히 BoundStyle은 기존 최첨단 공격 대비 ${\sim}{\times}9.5$배 빠르면서도 높은 공격 성공률을 달성하여, 적대적 학습에 적합하다. BoundStyle을 기반으로, 저비용 공격 변형을 포함하면서도 더 강하고 보지 못한(unseen) 의미론적 공격에 대비하는 효율적인 적대적 학습 방식 StyleAT를 개발한다. 학습 과정에서 보지 못한 두 데이터셋과 일곱 개 모델에서 평가한 결과, StyleAT는 최첨단 공격에 대한 견고 정확도(robust accuracy)를 높이며 다양한 설정에서 일반적인 방어 기법을 능가한다.

arXiv:2507.16257v2cs.CV

고품질 텍스트, 견고한 비전: 비전-언어 모델의 시각적 견고성 향상에서 언어의 역할

Quality Text, Robust Vision: The Role of Language in Enhancing Visual Robustness of Vision-Language Models

CLIP과 같은 사전학습 비전-언어 모델(VLM)을 적대적 공격으로부터 방어하는 것은 중요하다. 이 모델들은 이미지 분류를 포함한 다양한 제로샷 작업에서 널리 사용되기 때문이다. 그러나 견고한 미세조정을 위한 기존 적대적 학습(AT) 방법들은 시각적 견고성을 향상시키는 데 있어 언어의 역할을 대체로 간과한다. 구체적으로, (1) 지도 AT 방법은 적대적 교란을 생성하기 위해 짧은 텍스트(예: 클래스 레이블)에 의존하여 학습 데이터의 객체 클래스에 과적합되는 경향이 있고, (2) 비지도 AT는 이러한 과적합을 피하지만 의미적 안내의 부재로 인해 실용적인 텍스트 유도 적대적 공격에 대해 여전히 최적이 아니다. 이러한 한계를 해결하기 위해, 우리는 학습 중 고품질 캡션을 활용하여 이미지에 존재하는 다양한 의미론으로부터 적대적 예시를 유도하는 Quality Text-guided Adversarial Fine-Tuning(QT-AFT)을 제안한다. 이를 통해 시각 인코더가 적대적 노이즈 하에서도 더 넓은 범위의 이미지 특징을 견고하게 인식할 수 있게 되어, 다양한 하류 작업 전반에 걸쳐 견고성이 향상된다. QT-AFT는 기존 방법의 핵심 약점—지도 AT의 과적합과 비지도 AT의 의미 인식 부족—을 극복하여, 16개의 제로샷 데이터셋에서 평가한 결과 최첨단 제로샷 적대적 견고성과 클린 정확도를 달성한다. 또한, 포괄적인 연구를 통해 비전 견고성 향상에서 언어의 역할에 대한 여러 핵심 통찰을 밝혔다. 예를 들어, 객체명 외에 객체 속성을 기술하는 것이 제로샷 견고성을 더욱 향상시킨다. 우리의 발견은 향후 연구의 시급한 방향—견고한 시각적 표현 학습에서 고품질 언어적 감독을 중심에 두는 것—을 제시한다.

arXiv:2607.21243v1cs.CV

탐지기는 잘못된 것을 학습한다: 물리적으로 실현 가능한 공격에 대항하는 단축 경로 저항적 적대적 학습

Detectors Learn the Wrong Thing: Shortcut-Resistant Adversarial Training Against Physically Realizable Attacks

AI 기반 시각 지각 시스템이 지능형 교통 인프라 및 자율주행 차량 관련 응용에 점점 더 배치되고 있다. 그러나 물리적으로 실현 가능한 적대적 외형은 이러한 안전성(safety)에 중요한 시스템에 상당한 신뢰성 과제를 제기한다. 적대적 학습(adversarial training)은 효과적이지만, 적대적 텍스처와 양성 person 인스턴스 간의 반복적 공발생은 탐지기가 텍스처 자체를 객체 존재의 증거로 취급하게 만들어 패치 텍스처 단축 경로(shortcut)를 형성할 수 있다. 탐지기는 그러면 텍스처를 대상에 대한 증거로 취급하여, 텍스처만 있는 입력에서 오탐을 유발하고 교차 공격 일반화를 약화시킬 수 있다. 우리는 탐지기가 적대적 텍스처를 독립적인 판단 단서로 사용하는 것을 방지하는 인스턴스 수준 대조(contrastive) 적대적 학습 프레임워크인 InsCAT를 제안한다. SICA는 적대적 person 특징(feature)을 대응하는 clean 특징과 정렬하고 텍스처만 있는 음성(negative) 샘플과 분리하며, ROPO와 Guard는 온라인 공격 압력을 유지하고 학습을 조율한다. 렌더링된 nuScenes, INRIAPerson, 인쇄 의류, 세 가지 탐지기 계열에서 독립적으로 생성된 8개의 공격 텍스처를 평가한다. InsCAT은 렌더링된 nuScenes에서 평균 공격 AP 82.3%를 달성하여, 가장 강한 기준선보다 11.1포인트 높다. AT-Mix 대비 텍스처 FPR은 46.9%에서 7.3%로 감소한다. 물리적 테스트는 F1 점수 96.6%와 FPR 1.8%를 산출한다. 별도로 학습된 탐지기에서의 일관된 성능 향상은 직접 추론으로 아키텍처 전반에 걸친 적용 가능성을 보여준다. 결과는 견고한(robust) 물리적 탐지가 대상 관련 증거를 보존하면서 적대적 텍스처가 독립적인 판단 단서가 되는 것을 방지하는 데 달려 있음을 보여준다.

arXiv:2511.11309v2cs.CL

destroR: 의미 보존 공격 하에서 방글라 전이 모델을 위한 벤치마크 및 적대적 학습 방어

destroR: A Benchmark and Adversarial-Training Defense for Bangla Transfer Models under Meaning-Preserving Attacks

트랜스포머(Transformer) 기반 전이 모델이 현재 방글라 감성 분류를 주도하고 있지만, 이러한 모델들의 적대적 강건성(adversarial robustness)은 아직 대부분 검토되지 않았으며, 방글라 공격 모음과 강건성을 측정 가능하게 회복하는 방어 기법을 함께 다룬 선행 연구는 존재하지 않는다. 우리는 방글라 텍스트 분류기를 평가하고 강화하기 위한 통합 파이프라인인 destroR로 이 공백을 해결한다. 먼저, 세 가지 의미 보존 방글라 공격 레시피—패러프레이즈 공격(paraphrase attack), 역번역 공격(back-translation attack), 원-핫 단어 교체 공격(one-hot word-swap attack)—를 소개한다. 이 공격들은 입력을 변형하면서도 유창하고 의미적으로 충실한 문장을 재생성하여, 입력 노이즈가 아닌 모델 예측 혼란(perplexity)을 유도한다. 다음으로, 다섯 가지 전이 모델(BanglaBERT, BanglishBERT, XLM-RoBERTa, MuRIL, IndicBERTv2)을 네 개의 데이터셋에서 다섯 가지 공격에 대해 평가하는 강건성 벤치마크를 구축하며, 동일한 프로토콜 하에 두 가지 강력한 단어 대체 기준선인 TextFooler와 BAE와 비교한다. 마지막으로, 적대적 학습(adversarial training)을 통해 모든 모델을 강화하고 전체 강건성 행렬(robustness matrix)을 보고한다. 분석 결과 세 가지 발견이 도출되었다: 단어 대체 기준선이 의미적으로 제약된 레시피보다 더 강력하다(BAE는 54.2%의 공격 성공률에 도달함); 전체 공격 유형의 합집합에 대한 적대적 학습은 모든 공격에 대한 잔여 공격 성공률을 낮춘다; 예상과 달리, Indic 다국어 MuRIL 백본이 방글라 전용 모델보다 현저히 더 강건하다. 모든 모델, 적대적 데이터, 코드는 완전한 재현성을 위해 공개된다.

arXiv:2607.06109v1cs.CV

RoME: 다중 적대적 교란에 강인한 저랭크 전문가 혼합

RoME: Robust Mixture of Low-Rank Experts against Multiple Adversarial Perturbations

다중 위협에 대한 적대적 학습(MAT)에서 위협 간 강건성 트레이드오프를 해결하기 위해, 각 전문가를 공유 백본의 저랭크 업데이트로 구현하고 이중 스케일 게이팅과 위협 유도 다양화를 결합한 전문가 혼합(MoE) 프레임워크 RoME를 제안한다. CIFAR-10, ImageNet-100, ImageNet-1K 실험에서 RoME는 기존 최첨단 MAT 대비 통합 강건성과 자연 정확도 모두에서 우수한 성능을 보이며 미확인 위협에 대한 강건성도 향상시켰다.

arXiv:2607.03839v1cs.LG

Adversarial LassoNet: 안정성 기반 희소 학습을 통한 강건한 특징 선택

Adversarial LassoNet: Robust Feature Selection via Stability-Driven Sparse Learning

고차원 머신러닝에서 희소 특징 선택(sparse feature selection)의 불안정성 문제를 해결하기 위해, LassoNet의 계층적 희소성 메커니즘에 입력 공간 적대적 섭동(adversarial perturbation)을 통합한 Adversarial LassoNet(AdLNet) 프레임워크를 제안한다. ColoredMNIST에서 분포 외(out-of-distribution) 강건성 4.4%, 특징 지지 재현성 6.3% 향상을 달성했으며, 고차원 폐암 검진 데이터셋에서 기본 LassoNet 대비 테스트 정확도 5.3%, AUC 6.0% 개선을 보였다.

arXiv:2607.03075v1cs.LG

강건성과 불확실성의 만남: 강건한 선택적 분류를 위한 증거적 적대적 학습

Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification

안전-중요 응용 분야(safety-critical applications)는 강건하면서도 신뢰할 수 있는 분류기를 필요로 한다. 적대적 학습(adversarial training)은 심층 신경망의 강건성을 향상시키기 위해 널리 채택된 방어 기법이지만, 예측 불확실성의 신뢰성에 미치는 영향은 아직 충분히 탐구되지 않았다. 우리는 적대적 강건성과 함께 체계적으로 분석된 사례가 드문 선택적 분류(selective classification)의 관점에서 이 격차를 조사한다. 우리는 강건성-불확실성 트레이드오프에 대한 통합 벤치마크를 도입한다. 이 벤치마크는 정상(clean), 적대적(adversarial), 일반 손상(common-corruption) 설정 전반에 걸쳐 아키텍처, 증강, 위협 모델, 평가 지표를 표준화한다. 다양한 최신 적대적 학습 방법들에 걸쳐, 우리는 반복적인 실패 패턴을 발견한다: 여러 방법들이 강건한 정확도를 향상시키면서도 불확실성 순위를 저하시켜, 더 나쁜 선택적 동작(selective behavior)으로 이어진다. 이를 해결하기 위해, 우리는 디리클레 분포(Dirichlet distribution)를 통해 불확실성을 모델링하고 (i) 정상 정확도와 신뢰할 수 있는 불확실성을 촉진하는 증거 기반 손실과 (ii) 로그 디리클레 매개변수 공간에서 정상 예측과 적대적 예측을 일치시키는 강건한 증거 정렬 손실을 결합한 증거적 적대적 학습(Evidential Adversarial Training, EV-AT)을 제안한다. 광범위한 실험을 통해 EV-AT가 기존 최신 적대적 학습 방법들을 넘어 강건성-불확실성 트레이드오프의 파레토 프론티어(Pareto frontier)를 이동시킴을 보인다. 소스 코드는 https://github.com/NicolasSournac/Robustness_Meets_Uncertainty.EV-AT 에서 공개적으로 이용 가능하다.

arXiv:2503.16550v2cs.CL

이단계 최적화를 통한 언어 모델의 일반화 및 강인성 통합 향상

Unified Enhancement of the Generalization and Robustness of Language Models via Bi-Stage Optimization

신경망(neural network) 언어 모델(LM)은 일반화와 강인성 측면에서 상당한 과제에 직면해 있다. 현재 많은 연구들이 일반화 또는 강인성 중 하나만을 개선하는 데 집중하고 있으며, 두 측면을 동시에 다루는 방법이 부재한 상황으로, 이는 강인하면서도 일반화된 언어 모델을 개발하는 데 큰 과제를 제시한다. 본 논문에서는 언어 모델의 일반화와 강인성을 동시에 균일하게 향상시키는 이단계 최적화 프레임워크를 제안하며, 이를 UEGR이라 명명한다. 구체적으로, 순전파(forward propagation) 단계에서는 적응형 드롭아웃을 활용하여 적대적 샘플의 출력 확률 분포를 풍부화함으로써 다양한 서브 모델을 생성하고, 이러한 출력 분포의 JS 발산과 적대적 손실을 통합하여 출력 안정성을 강화한다. 역전파(backward propagation) 단계에서는 매개변수 현저성 점수를 계산하고 가장 중요한 매개변수만을 선택적으로 업데이트하여 불필요한 편차를 최소화하고 모델의 탄력성을 공고히 한다. 이론적 분석에 따르면, 본 프레임워크는 입력 섭동에 대한 모델의 민감도를 제한하는 그래디언트 정규화와 손실 지형을 평탄화하는 선택적 매개변수 업데이트를 포함함으로써 일반화와 강인성을 모두 향상시킨다. 실험 결과, 본 방법은 공개된 13개 언어 데이터셋에서 기존의 다른 방법들에 비해 언어 모델의 일반화와 강인성을 크게 향상시키며 최신 기술(SOTA) 성능을 달성한다.

arXiv:2606.21488v1cs.LG

견고성은 정규화로 환원될 수 없다: 선형 모델을 넘어선 적대적 학습 연구

Robustness Cannot be Reduced to Regularization: Studying Adversarial Training Beyond the Linear Case

머신러닝 모델의 적대적 예시(adversarial examples)에 대한 취약성이 최근 주요 문제로 부각되고 있다. 적대적 학습(adversarial training)은 이 문제에 대한 가장 효과적인 대응책 중 하나이지만, 높은 연산 비용이 실용적 배포의 장애물로 남아 있다. 이 비용을 줄이기 위한 최근의 진전은, 선형 모델의 경우, 적대적 위험(adversarial risk)과 더 단순한 형태의 정규화된 위험(regularized risk) 간의 형식적 동치에 기반해 왔다. 이를 통해 훨씬 더 효율적인 학습 절차가 가능해졌으며, 이는 자연스럽게 그러한 동치가 선형 모델을 넘어 확장될 수 있는지에 대한 의문을 제기한다. 본 연구에서 우리는 2층(two-layer) 네트워크에 대해 그러한 동치가 불가능함을 형식적으로 증명한다. 우리의 증명은 적대적 위험을 오직 약한 형태의 데이터 의존성만을 나타내는 임의의 단순한 정규화된 위험으로부터 근본적으로 분리하는 핵심 속성들로의 환원을 통해 진행된다. 이 설정을 넘어, Wide-ResNets에 대한 실험적 증거를 제시하여 더 깊고 표현력이 풍부한 아키텍처에서도 동일한 유형의 불가능성이 지속됨을 보인다.

arXiv:2503.08038v2cs.LG

일반화된 쿨백-라이블러(KL) 발산 손실

Generalized Kullback-Leibler Divergence Loss

본 논문에서는 쿨백-라이블러(KL) 발산 손실을 심층 분석하여, 이것이 (1) 가중 평균 제곱 오차(wMSE) 손실과 (2) 소프트 라벨을 포함하는 교차 엔트로피 손실로 구성된 분리된 쿨백-라이블러(DKL) 발산 손실과 수학적으로 동등함을 증명합니다. DKL 손실의 분리된 구조 덕분에 개선이 필요한 두 가지 영역을 식별했습니다. 첫째, 더 부드러운 가중치 함수를 사용하여 비대칭 최적화 속성을 해소함으로써 지식 증류(knowledge distillation)와 같은 시나리오에서 KL 손실의 한계를 해결합니다. 이러한 수정은 최적화 과정에서의 수렴(convergence) 문제, 특히 소프트 라벨에서 높은 예측 점수를 가진 클래스에 대한 수렴 문제를 효과적으로 완화합니다. 둘째, 개별 샘플에서 발생하는 바이어스(bias)를 줄이기 위해 KL/DKL에 클래스별 전역 정보를 도입합니다. 이 두 가지 향상을 통해 일반화된 쿨백-라이블러(GKL) 발산 손실을 도출하였으며, 적대적 학습(adversarial training) 및 지식 증류 작업에 중점을 두고 CIFAR-10/100, ImageNet 및 비전-언어(vision-language) 데이터셋에서 실험을 수행하여 그 효과를 평가했습니다. 구체적으로, 공개 리더보드인 RobustBench에서 새로운 최첨단(state-of-the-art) 적대적 강건성을 달성했으며, CIFAR/ImageNet 모델 및 CLIP 모델 전반에서 경쟁력 있는 지식 증류 성능을 보여주어 상당한 실용적 이점을 입증했습니다. 본 연구의 코드는 https://github.com/jiequancui/DKL 에서 확인할 수 있습니다.

arXiv:2606.17540v1cs.CV

TaFD: Threat-Aware Frequency Decoupling for Adversarial Robustness against Heterogeneous Attacks

다중 위협 강건성은 심층 학습(deep learning)에서 여전히 근본적인 과제로 남아 있습니다. 결합 적대적 학습(JAT)이 널리 채택되었지만, 특히 $\ell_p$-제한 공격과 의미론적 공격 사이의 이질적 위협 하에서 네거티브 전이(negative transfer) 문제를 겪습니다. 1차 그래디언트(gradient) 분석을 통해 이를 그래디언트 비호환성으로 공식화하고, 분리된 최적화의 필요성을 이론적으로 확립합니다. 또한 이러한 충돌하는 위협들이 주파수 영역에서 분리 가능한 스펙트럼 특성을 나타냄을 밝혀냅니다. 이 관찰에 착안하여, 우리는 JAT를 주파수 영역 분할 정복(divide-and-conquer) 패러다임으로 재구성하는 2단계 방어 프레임워크인 위협 인지 주파수 분리(TaFD)를 제안합니다. TaFD는 먼저 공격 스펙트럼 프로토타입의 비지도 군집화를 통해 잠재적 위협 도메인을 발견하고, 추론(inference) 시간 위협 도메인 식별을 위해 경량 분류기를 학습(training)합니다. 이 예측에 조건화되어, TaFD는 위협 도메인 특정 스펙트럼 마스크를 학습하고 각 샘플을 해당 전문가로 라우팅하는 주파수 조건부 합성곱(Frequency-Conditional Convolution)을 사용하여, 구조적 매개변수(parameter) 분리를 강제하고 최적화 충돌을 완화합니다. 우리는 세 가지 대표적인 이미지 분류(classification) 벤치마크(CIFAR-10, CIFAR-100, Tiny-ImageNet)와 두 가지 대표적인 아키텍처(합성곱(convolution) ResNet 및 하이브리드 트랜스포머(transformer) MobileViT)에서 TaFD를 검증합니다. 광범위한 결과는 TaFD가 기존 JAT 및 주파수 영역 기준선(baseline)보다 이질적 공격에 대해 더 균형 잡힌 강건성을 달성함을 보여주며, 최상의 기준선보다 평균 강건 정확도를 약 11% 향상시키면서도 최고 수준의 깨끗한 정확도(clean accuracy)를 유지합니다.

arXiv:2606.12251v1cs.LG

강화학습이 그래디언트 기반 적대적 최적화를 교란한다

Reinforcement Learning Disrupts Gradient-Based Adversarial Optimization

그래디언트 기반 적대적 공격은 그래디언트 정보를 이용해 적대적 섭동을 효율적으로 최적화하므로 심층 신경망(DNNs)에 대한 여전히 지배적인 위협입니다. 이를 해결하기 위해, 우리는 정책 그래디언트(policy-gradient) 목적함수와 엡실론-탐욕적(epsilon-greedy) 탐험을 사용하여 이미지 분류기를 학습시킴으로써 강화학습(RL) 학습이 공격자가 사용하는 그래디언트 구조를 교란할 수 있는지 조사합니다. 여러 아키텍처에 걸쳐 CIFAR-10, CIFAR-100, ImageNet-100 데이터셋에서 체계적인 실험을 통해, RL로 학습된 분류기가 그래디언트 기반 적대적 최적화를 상당히 교란함을 발견했습니다. 이를 설명하기 위해 손실(loss) 경계 시각화, 정적 및 동적 그래디언트 지표, 예측 엔트로피를 활용한 포괄적인 메커니즘 분석을 수행합니다. 분석 결과 RL은 암묵적 정규화(implicit regularization) 역할을 하여, 그래디언트 방향이 매우 불안정하고 그래디언트 크기가 작은 모델을 생성함이 밝혀졌습니다. 이러한 조합은 각 PGD 단계의 방향을 신뢰할 수 없게 만들고 크기를 제한하여, 실용적인 반복(iteration) 예산 내에서 그래디언트 기반 공격이 실패하게 만듭니다. 또한 RL과 적대적 학습(adversarial training)을 결합(RL-adv)하면 두 가지 상호 보완적인 수준에서 작동하는 이중 계층(layer) 방어를 제공함을 보여줍니다. RL은 공격자에게 제공되는 그래디언트 정보를 저하시키는 반면(그래디언트 수준 방어), 적대적 학습은 결정 경계를 강화합니다(경계 수준 방어). RL-adv는 그래디언트 기반(PGD, AutoAttack), 전이 기반, 쿼리 기반 공격을 포함하여 평가된 모든 주요 공격 유형에서 가장 높은 강인성을 달성했으며, SL-adv보다 유의미한 마진(margin)으로 우수한 성능을 보였습니다. 이러한 발견은 RL 유발 그래디언트 교란을 상호 보완적인 강인성 메커니즘으로 규명하며, SL의 효율성과 RL의 그래디언트 정규화(gradient-regularization) 속성을 결합한 하이브리드 SL-RL 학습 스케줄에 대한 향후 연구를 동기부여합니다.