arXiv:2304.12764

Test-Time Adaptation with Perturbation Consistency Learning

Yi Su, Yixin Ji, Juntao Li, Hai Ye, Min Zhang

제출 2023-04-25

원문 초록

Currently, pre-trained language models (PLMs) do not cope well with the distribution shift problem, resulting in models trained on the training set failing in real test scenarios. To address this problem, the test-time adaptation (TTA) shows great potential, which updates model parameters to suit the test data at the testing time. Existing TTA methods rely on well-designed auxiliary tasks or self-training strategies based on pseudo-label. However, these methods do not achieve good trade-offs regarding performance gains and computational costs. To obtain some insights into such a dilemma, we take two representative TTA methods, i.e., Tent and OIL, for exploration and find that stable prediction is the key to achieving a good balance. Accordingly, in this paper, we propose perturbation consistency learning (PCL), a simple test-time adaptation method to promote the model to make stable predictions for samples with distribution shifts. Extensive experiments on adversarial robustness and cross-lingual transferring demonstrate that our method can achieve higher or comparable performance with less inference time over strong PLM backbones and previous state-of-the-art TTA methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09450v1cs.CV공통 태그 Adversarial Robustness, Test-time Adaptation

테스트 타임 프롬프트 적응을 통한 비전-언어 모델의 강건화

Robustifying Vision-Language Models via Test-Time Prompt Adaptation

CLIP과 같은 사전학습된 비전-언어 모델(VLM)은 강력한 제로샷 일반화 성능을 달성하지만, 적대적 섭동(adversarial perturbation) 하에서 성능이 급격히 저하된다. 기존의 테스트 타임 적응 방법들은 일반적으로 샘플 수준의 신뢰도 휴리스틱에 의존하며, 데이터의 내재적 분포 구조를 간과한다. 이러한 샘플 중심적 접근법은 높은 신뢰도의 적대적 오분류와 진정한 의미적 일관성을 구별하지 못하기 때문에 강건성을 제한한다. 본 연구에서, 우리는 적대적 왜곡이 구조적으로 취약하다는 점을 관찰한다. 즉, 전체적인 표현은 손상되더라도 의미적 무결성은 증강된 뷰의 분포 내에 종종 보존된다. 이러한 통찰을 바탕으로, 우리는 샘플 수준 추정에서 분포 수준 정렬로 전환하는 강건한 테스트 타임 프롬프트 적응 프레임워크 RITA(Robust test-tIme prompt-TAdaptation)를 제안한다. 구체적으로, RITA는 최적 수송(optimal transport)을 활용하여 증강된 시각적 특징의 분포를 텍스트 프로토타입과 정렬함으로써 적대적 이상치를 완화하고 교차 모달 의미적 불일치를 교정한다. 또한, 테스트 스트림에서 신뢰할 수 있는 단서를 점진적으로 축적하여 온라인 개선에 활용하는 동적 캐시를 도입한다. 광범위한 실험을 통해 RITA가 클린 정확도를 손상시키지 않으면서 적대적 강건성을 크게 향상시킴을 입증한다.

arXiv:2610.10666v2cs.LG공통 태그 Adversarial Robustness

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

arXiv:2606.27832v2cs.LG공통 태그 Adversarial Robustness

USAD: 불확실성 인식 통계적 적대적 탐지

USAD: Uncertainty-aware Statistical Adversarial Detection

통계적 적대적 탐지(SAD)는 탐지를 2-표본 검정으로 취급한다. 깨끗한 예제(CE)의 참조 집합과, 알 수 없는 비율로 CE와 적대적 예제(AE)가 섞여 있을 수 있는 쿼리 배치가 주어졌을 때, SAD는 거짓 경보율을 통제하면서 쿼리 분포가 CE 분포에서 벗어났는지 판단한다. 기존 SAD 기반 방법은 주로 분포 간 불일치를 측정하기 위해 최대 평균 불일치(MMD)를 사용한다. 그러나 MMD의 분포적 특성은 탐지에 중요한 AE의 특징적 불확실성 패턴을 포착하는 능력을 제한한다. AE는 일반적으로 비정상적인 특징 퍼짐(즉, 전역 불확실성)과 교란에 대한 불안정성(즉, 국소 불확실성)을 보인다. 이 간극을 메우기 위해 우리는 두 가지 새로운 통계량으로 이러한 불확실성 패턴을 명시적으로 포착하는 불확실성 인지 통계적 적대적 탐지(USAD)를 제안한다. (1) 분산 불일치(VD)는 AE와 CE 사이의 특징 퍼짐의 차이를 측정하여 전역 불확실성 차이를 포착한다. (2) 교란 기반 공분산 불일치(PCD)는 가우시안 교란 하에서 특징 공분산을 비교하여 국소 불확실성 차이를 포착한다. VD와 PCD를 집계함으로써 USAD는 다양한 적대적 공격에 대해 기준선 방법보다 우수한 탐지 성능을 달성하며, 효과적인 SAD를 위해 AE의 특징적 행동을 고려하는 것이 중요함을 보여 준다. 코드는 https://github.com/yeager20001118/USAD 에서 이용할 수 있다.

arXiv:2606.29441v2cs.CR공통 태그 Adversarial Robustness

활성화 콘 사각지대 해소: 응답 시간 프로빙과 통합 방어

Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense

v2 관련 안내(2026년 11월): 평가 코드에서 오류가 발견되어 v1에 보고된 실험 결과는 뒷받침되지 않는다. 이론적 따름정리는 영향을 받지 않는다. 자세한 내용은 1쪽의 공지와 링크된 저장소의 KNOWN_ISSUES.md에 있다. 우리는 7개의 지시 튜닝 모델(7-31B)과 5가지 공격 유형(GCG, AutoDAN, DeepInception, prefilling, intent laundering)에 걸쳐 5가지 추론 시점 안전 패러다임(방어 없음, 정적 스티어링, CAST, AlphaSteer, 프로브 게이트 스티어링)을 비교한다. 우리는 하나의 따름정리를 도출한다. 개입 여부를 단일 층의 활성화가 양성 참조(원뿔, 부분공간 또는 영공간)와 정렬되는지에 따라 결정하는 방어는, 프롬프트 시점에 검사하든 토큰별로 검사하든, 활성화가 그 참조 내부에 놓이도록 조작하는 공격에 대해 맹점을 가진다. prefilling 공격에 대해서는 응답 시점 프로빙(response-time probing)을 제안하는데, 이는 처음 생성되는 토큰들의 은닉 상태에 대한 선형 프로브와 중단(halt)을 결합한 것이며, 이 중단을 AlphaSteer의 영공간 스티어링과 결합한다. 또한 MMLU가 스티어링의 유용성 비용을 포착하는지, 그리고 음성 학습 집합의 다양성이 프로브의 거짓 양성률에 어떤 영향을 미치는지도 살펴본다. 코드, 공격, 샘플별 결과를 공개한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.