scut.edu.cn.jiahao

이 이메일 도메인이 관측된 논문 1건

arXiv:2412.08394v2cs.LG

데이터 매니폴드 상의 일관성 인지 잠재 공간 최적화를 통한 적대적 정화

Adversarial Purification by Consistency-aware Latent Space Optimization on Data Manifolds

심층 신경망(DNN)은 원본 데이터에 미세한 섭동(perturbation)을 추가하여 생성된 적대적 예제(adversarial sample)에 취약하며, 이는 잠재적으로 부정확하고 위험한 예측으로 이어질 수 있습니다. 적대적 정화(adversarial purification)는 데이터를 모델에 입력하기 전에 이러한 섭동을 제거함으로써 DNN의 강건성을 향상시키는 효과적인 수단이었습니다. 그러나 적대적 섭동의 미세한 특성으로 인해 과도한 보정을 피하기 어렵고, 이로 인해 중요한 정보가 파괴되어 모델 성능이 저하될 수 있어 데이터의 핵심적인 구조적 및 의미적 정보를 보존하는 데 상당한 어려움을 겪고 있습니다. 본 논문에서는 깨끗한 데이터 매니폴드에 집중함으로써 기존의 적대적 정화 방식에서 벗어납니다. 이를 위해 잘 학습된 생성 모델에 의해 생성된 샘플은 깨끗한 샘플에 가깝지만 적대적 샘플과는 멀다는 점을 밝혀냅니다. 이러한 통찰을 바탕으로, 사전 학습된 일관성 모델(consistency model)의 잠재 공간 내 벡터를 최적화하여 깨끗한 데이터를 복원하기 위한 샘플을 생성하는 일관성 모델 기반 적대적 정화(Consistency Model-based Adversarial Purification, CMAP)를 제안합니다. 구체적으로, 1) 픽셀 공간과 지각 공간 모두에서 생성된 샘플과 입력 샘플 간의 불일치를 최소화하는 지각적 일관성 복원 메커니즘을 제안합니다. 2) 최적화된 잠재 벡터를 유효한 데이터 매니폴드 내에 유지하기 위해, 생성된 샘플을 깨끗한 데이터 분포와 일치시키는 잠재 분포 일관성 제약 전략을 도입합니다. 3) 또한 예측 신뢰성을 높이기 위해 앙상블 접근법을 통한 잠재 벡터 일관성 예측 체계를 적용합니다. CMAP은 적대적 섭동을 근본적인 원인에서 해결하여 견고한 정화를 제공합니다. CIFAR-10 및 ImageNet-100에 대한 광범위한 실험을 통해, 제안하는 CMAP이 높은 정상 정확도(natural accuracy)를 유지하면서 강력한 적대적 공격에 대한 강건성을 크게 향상시킴을 보여줍니다.