견고성은 정규화로 환원될 수 없다: 선형 모델을 넘어선 적대적 학습 연구
Robustness Cannot be Reduced to Regularization: Studying Adversarial Training Beyond the Linear Case
한국어 초록
머신러닝 모델의 적대적 예시(adversarial examples)에 대한 취약성이 최근 주요 문제로 부각되고 있다. 적대적 학습(adversarial training)은 이 문제에 대한 가장 효과적인 대응책 중 하나이지만, 높은 연산 비용이 실용적 배포의 장애물로 남아 있다. 이 비용을 줄이기 위한 최근의 진전은, 선형 모델의 경우, 적대적 위험(adversarial risk)과 더 단순한 형태의 정규화된 위험(regularized risk) 간의 형식적 동치에 기반해 왔다. 이를 통해 훨씬 더 효율적인 학습 절차가 가능해졌으며, 이는 자연스럽게 그러한 동치가 선형 모델을 넘어 확장될 수 있는지에 대한 의문을 제기한다. 본 연구에서 우리는 2층(two-layer) 네트워크에 대해 그러한 동치가 불가능함을 형식적으로 증명한다. 우리의 증명은 적대적 위험을 오직 약한 형태의 데이터 의존성만을 나타내는 임의의 단순한 정규화된 위험으로부터 근본적으로 분리하는 핵심 속성들로의 환원을 통해 진행된다. 이 설정을 넘어, Wide-ResNets에 대한 실험적 증거를 제시하여 더 깊고 표현력이 풍부한 아키텍처에서도 동일한 유형의 불가능성이 지속됨을 보인다.
원문 초록
The vulnerability of ML models to adversarial examples has recently emerged as a major concern. While adversarial training is one of the most effective countermeasures to this issue, its high computational cost remains an obstacle to practical deployment. Recent progress in reducing this cost has relied, in the case of linear models, on a formal equivalence between the adversarial risk and a simpler form of regularized risk. This enabled significantly more efficient training procedures, which naturally raises the question of whether such an equivalence can be extended beyond linear models. In this work, we formally show that no such equivalence is possible for two-layer networks. Our proofs proceed via a reduction to key properties that fundamentally separate the adversarial risk from any simple regularized risk which would only exhibit a weak form of data dependence. Beyond this setting, we provide empirical evidence on Wide-ResNets indicating that the same type of impossibility persists in deeper and more expressive architectures.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.21488v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명
Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks
심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.
StyleAT: 의미론적 공격에 대한 얼굴 인식 방어
StyleAT: Defending Face Recognition Against Semantic Attacks
얼굴 인식 모델이 일상적인 인증 및 감시에 널리 쓰이면서, 최근 연구들은 이러한 모델의 한 가지 중요한 약점을 지적했다: 이 모델들은 적대적 의미론적 편집(adversarial semantic edits)에 여전히 매우 취약하다는 것이다. 즉, 입력에 대한 적대적으로 생성된 의미론적 변화(예: 약간의 노화나 자세 변화)가 오분류를 유발할 수 있다. 기존의 일부 공격은 강력하지만 계산 비용이 커서 방어(예: 적대적 학습을 통한) 개발에는 부적합하다. 이 공백을 메우기 위해, 우리는 StyleGAN의 풍부한 잠재 공간(latent space)에서 동작하여 오분류율을 극대화하는 강력한 의미론적 공격 BoundStyle을 제안한다. 특히 BoundStyle은 기존 최첨단 공격 대비 ${\sim}{\times}9.5$배 빠르면서도 높은 공격 성공률을 달성하여, 적대적 학습에 적합하다. BoundStyle을 기반으로, 저비용 공격 변형을 포함하면서도 더 강하고 보지 못한(unseen) 의미론적 공격에 대비하는 효율적인 적대적 학습 방식 StyleAT를 개발한다. 학습 과정에서 보지 못한 두 데이터셋과 일곱 개 모델에서 평가한 결과, StyleAT는 최첨단 공격에 대한 견고 정확도(robust accuracy)를 높이며 다양한 설정에서 일반적인 방어 기법을 능가한다.
탐지기는 잘못된 것을 학습한다: 물리적으로 실현 가능한 공격에 대항하는 단축 경로 저항적 적대적 학습
Detectors Learn the Wrong Thing: Shortcut-Resistant Adversarial Training Against Physically Realizable Attacks
AI 기반 시각 지각 시스템이 지능형 교통 인프라 및 자율주행 차량 관련 응용에 점점 더 배치되고 있다. 그러나 물리적으로 실현 가능한 적대적 외형은 이러한 안전성(safety)에 중요한 시스템에 상당한 신뢰성 과제를 제기한다. 적대적 학습(adversarial training)은 효과적이지만, 적대적 텍스처와 양성 person 인스턴스 간의 반복적 공발생은 탐지기가 텍스처 자체를 객체 존재의 증거로 취급하게 만들어 패치 텍스처 단축 경로(shortcut)를 형성할 수 있다. 탐지기는 그러면 텍스처를 대상에 대한 증거로 취급하여, 텍스처만 있는 입력에서 오탐을 유발하고 교차 공격 일반화를 약화시킬 수 있다. 우리는 탐지기가 적대적 텍스처를 독립적인 판단 단서로 사용하는 것을 방지하는 인스턴스 수준 대조(contrastive) 적대적 학습 프레임워크인 InsCAT를 제안한다. SICA는 적대적 person 특징(feature)을 대응하는 clean 특징과 정렬하고 텍스처만 있는 음성(negative) 샘플과 분리하며, ROPO와 Guard는 온라인 공격 압력을 유지하고 학습을 조율한다. 렌더링된 nuScenes, INRIAPerson, 인쇄 의류, 세 가지 탐지기 계열에서 독립적으로 생성된 8개의 공격 텍스처를 평가한다. InsCAT은 렌더링된 nuScenes에서 평균 공격 AP 82.3%를 달성하여, 가장 강한 기준선보다 11.1포인트 높다. AT-Mix 대비 텍스처 FPR은 46.9%에서 7.3%로 감소한다. 물리적 테스트는 F1 점수 96.6%와 FPR 1.8%를 산출한다. 별도로 학습된 탐지기에서의 일관된 성능 향상은 직접 추론으로 아키텍처 전반에 걸친 적용 가능성을 보여준다. 결과는 견고한(robust) 물리적 탐지가 대상 관련 증거를 보존하면서 적대적 텍스처가 독립적인 판단 단서가 되는 것을 방지하는 데 달려 있음을 보여준다.
RoME: 다중 적대적 교란에 강인한 저랭크 전문가 혼합
RoME: Robust Mixture of Low-Rank Experts against Multiple Adversarial Perturbations
다중 교란 적대적 학습(MAT)은 여러 $\ell_p$ 교란에 대한 강건성을 달성하는 것을 목표로 하지만, 서로 다른 위협 간의 강건성 트레이드오프 문제를 겪는다. 이를 해결하기 위해, 우리는 전문가 혼합(MoE)을 활용하여 서로 다른 위협을 별개의 모델 경로로 라우팅한다. 그러나 MoE의 단순한 적용은 두 가지 핵심적인 문제에 직면한다: 전문가들이 위협 특화 특징을 간과하고 위협 간 공유 특징을 중복적으로 포착하는 경향이 있으며, 게이팅 네트워크는 위협 비인식 라우팅 문제를 겪어 위협 전반에 걸쳐 거의 동일한 라우팅 패턴을 학습함으로써 위협 특화 모델 경로의 구성을 방해한다. 이를 위해, 우리는 저랭크 전문가 혼합(RoME, Robust Mixture of Low-Rank Experts)을 제안하며, 여기서 각 전문가는 공유 백본에 대한 저랭크 가법적 업데이트로, 전문가들이 위협 특화 정보에 집중하면서 위협 공통 특징을 포착할 수 있게 한다. 위협 비인식 라우팅을 해결하기 위해, RoME는 (i) 지역 및 전역 수준 특징에서 위협 판별 신호를 활용하는 이중 스케일 게이팅과 (ii) 위협 전반에 걸쳐 다양한 전문가 활용을 강제하는 위협 유도 게이팅 다양화를 도입한다. 광범위한 실험을 통해 RoME가 통합 강건성과 자연 정확도에서 기존 최첨단 MAT을 능가하고 미확인 위협에 대한 강건성을 향상시킴을 입증한다. 코드는 https://github.com/wkim97/RoME 에서 이용할 수 있다.
강건성과 불확실성의 만남: 강건한 선택적 분류를 위한 증거적 적대적 학습
Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification
안전-중요 응용 분야(safety-critical applications)는 강건하면서도 신뢰할 수 있는 분류기를 필요로 한다. 적대적 학습(adversarial training)은 심층 신경망의 강건성을 향상시키기 위해 널리 채택된 방어 기법이지만, 예측 불확실성의 신뢰성에 미치는 영향은 아직 충분히 탐구되지 않았다. 우리는 적대적 강건성과 함께 체계적으로 분석된 사례가 드문 선택적 분류(selective classification)의 관점에서 이 격차를 조사한다. 우리는 강건성-불확실성 트레이드오프에 대한 통합 벤치마크를 도입한다. 이 벤치마크는 정상(clean), 적대적(adversarial), 일반 손상(common-corruption) 설정 전반에 걸쳐 아키텍처, 증강, 위협 모델, 평가 지표를 표준화한다. 다양한 최신 적대적 학습 방법들에 걸쳐, 우리는 반복적인 실패 패턴을 발견한다: 여러 방법들이 강건한 정확도를 향상시키면서도 불확실성 순위를 저하시켜, 더 나쁜 선택적 동작(selective behavior)으로 이어진다. 이를 해결하기 위해, 우리는 디리클레 분포(Dirichlet distribution)를 통해 불확실성을 모델링하고 (i) 정상 정확도와 신뢰할 수 있는 불확실성을 촉진하는 증거 기반 손실과 (ii) 로그 디리클레 매개변수 공간에서 정상 예측과 적대적 예측을 일치시키는 강건한 증거 정렬 손실을 결합한 증거적 적대적 학습(Evidential Adversarial Training, EV-AT)을 제안한다. 광범위한 실험을 통해 EV-AT가 기존 최신 적대적 학습 방법들을 넘어 강건성-불확실성 트레이드오프의 파레토 프론티어(Pareto frontier)를 이동시킴을 보인다. 소스 코드는 https://github.com/NicolasSournac/Robustness_Meets_Uncertainty.EV-AT 에서 공개적으로 이용 가능하다.
Adversarial LassoNet: 안정성 기반 희소 학습을 통한 강건한 특징 선택
Adversarial LassoNet: Robust Feature Selection via Stability-Driven Sparse Learning
희소 특징 선택(sparse feature selection)은 고차원 머신러닝에서 매우 중요하지만, 전통적인 $\ell_1$ 정규화 방법은 관측 노이즈와 허위 상관관계에 취약하여 불안정한 특징 지지(feature support)와 저하된 일반화 성능으로 이어지는 경우가 많다. 적대적 학습(adversarial training)은 모델 강건성 향상에 널리 활용되어 왔지만, 계층적 희소 특징 선택과의 상호작용은 아직 충분히 탐구되지 않았다. 본 연구에서는 입력 공간 적대적 섭동(adversarial perturbation)을 LassoNet의 계층적 희소성 메커니즘과 통합한 안정성 기반 희소 특징 선택 프레임워크인 Adversarial LassoNet(AdLNet)을 제안한다. 우리는 국소 평활성 가정 하에서 다루기 쉬운 1차 적대적 근사를 유도하고, NTK에서 영감을 받은 스펙트럼 분석을 통해 섭동 기반 학습이 그래디언트 집중을 어떻게 완화할 수 있는지 규명한다. 고차원 SERS 데이터, 6개의 공개 벤치마크 데이터셋, ColoredMNIST에 대한 실험 결과, AdLNet은 경쟁력 있는 희소 선택 성능을 유지하면서 ColoredMNIST에서 거의 동일한 지지 희소성 조건 하에 분포 외(out-of-distribution) 강건성을 4.4%, 특징 지지 재현성을 6.3% 향상시켰다. 고차원 폐암 검진 데이터셋에서 AdLNet은 기본 LassoNet 대비 테스트 정확도 5.3%, AUC 6.0% 향상을 달성하였다. 코드와 데이터셋은 https://github.com/719573/Adversarial-LassoNet 에서 확인할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.