arXiv:2202.06996

Unlabeled Data Help: Minimax Analysis and Adversarial Robustness

Yue Xing, Qifan Song, Guang Cheng

제출 2022-02-14

원문 초록

The recent proposed self-supervised learning (SSL) approaches successfully demonstrate the great potential of supplementing learning algorithms with additional unlabeled data. However, it is still unclear whether the existing SSL algorithms can fully utilize the information of both labelled and unlabeled data. This paper gives an affirmative answer for the reconstruction-based SSL algorithm \citep{lee2020predicting} under several statistical models. While existing literature only focuses on establishing the upper bound of the convergence rate, we provide a rigorous minimax analysis, and successfully justify the rate-optimality of the reconstruction-based SSL algorithm under different data generation models. Furthermore, we incorporate the reconstruction-based SSL into the existing adversarial training algorithms and show that learning from unlabeled data helps improve the robustness.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.19711v1cs.CV공통 태그 Self-Supervised Learning, Adversarial Robustness

강건한 포인트 클라우드 분류를 위한 포인트 선택 미세조정 프레임워크

Point-Selection Fine-Tuning Framework for Robust Point Cloud Classification

노이즈가 있거나 손상된 포인트는 포인트 클라우드 인식 성능을 크게 저하시킬 수 있으며, 특히 까다로운 손상 설정에서 두드러진다. 특히 3D 사전학습 모델의 전체 미세조정은 이상치의 영향을 증폭하고 사전학습 중 학습된 강건성 사전 지식을 덮어쓸 수 있으며, 단순한 매개변수 효율적 적응은 손상된 토큰에 여전히 민감하다. 이 문제를 해결하기 위해, 우리는 강건성을 향상하면서 매개변수 효율성을 유지하는 포인트 선택 미세조정 프레임워크인 PSFT를 제안한다. PSFT는 먼저 풀링 전 특징으로부터 포인트별 영향력을 추정하고, 이상치를 억제하기 위해 영향력이 최소인 포인트를 적응적으로 유지한다. 선택된 부분집합을 기반으로 프롬프트 생성 분기는 층별 프롬프트 토큰을 예측하고 이를 고정된 백본에 주입하여 경량 하류 적응을 수행한다. 선택 이후 잔존 노이즈를 더 완화하기 위해, 예측 전 패치-토큰 표현을 정제하기 위해 병목 MLP 변환과 Beta 게이트 잔차 블렌딩을 갖춘 경량 특징 필터를 추가한다. 광범위한 실험 결과 PSFT는 테스트된 모든 3D 사전학습 백본에서 ModelNet-C 및 ModelNet40-C의 손상 오류를 일관되게 감소시키며, 평가된 튜닝 전략 중 ULIP-2와 Uni3D-B로 ScanObjectNN-C에서 최고 성능을 달성한다. 구현은 https://github.com/CVChMA/PSFT/tree/master 에서 확인할 수 있다.

arXiv:2610.10666v2cs.LG공통 태그 Adversarial Robustness

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

arXiv:2610.10857v2cs.AI공통 태그 Self-Supervised Learning

호라이즌 불변 행동 복제를 위한 자기 지도 키프레임 발견

Self-Supervised Keyframe Discovery for Horizon-Invariant Behavior Cloning

비마르코프 환경에서의 행동 복제(BC)는 정책이 장기 지평에 걸친 문맥 정보를 추론해야 하므로 어려운 문제이다. 기존 정책 아키텍처는 장기 의존성을 포착하기 위해 순환 또는 어텐션 기반 메커니즘에 의존한다. 그러나 순환 모델은 시간에 대한 역전파에서 은닉 상태 붕괴와 기울기 불안정성을 겪으며, 어텐션 기반 모델은 근본적으로 문맥 길이에 의해 제한된다. 이러한 문제를 해결하기 위해 본 논문은 무작위로 추출한 과거 관측으로부터 목적 함수를 학습하고 이를 키프레임 선택의 보상으로 사용하여 정보상 핵심적인 관측 집합($\textit{mnemonics}$)을 $\textit{발견}$하는 새로운 자기지도 방법인 Keyframe Mnemonics를 제안한다. 이후 발견된 키프레임을 조건으로 하는 BC 정책을 학습하여 행동 분포를 모델링한다. 단순성 편향 가정 하에서, 본 정식화는 정책의 작업 기억에 의사결정과 관련된 소수의 키프레임만을 유지하면서도 무한 지평에 걸친 문맥 유지 보장을 제공한다. 합성 기억 도메인에서 평가한 결과, mnemonic 조건부 BC 정책은 $100$%의 성공률(SR)을 달성하고 성능 저하 없이 학습 지평을 수 자릿수 넘어서는 지평으로 일반화한다. 또한 기억 집약적인 로봇 조작 벤치마크에서 $23$개 과제에 걸쳐 가장 강력한 기준선 대비 평균 절대 SR이 $13.9$% 향상되었다. 마지막으로 실제 로봇에서 $20\times$ 더 긴 시간 지평에서도 $80$%의 SR로 일반화됨을 보인다. 코드와 영상은 https://keyframe-mnemonics.github.io 에서 확인할 수 있다.

arXiv:2610.00663v2cs.AI공통 태그 Adversarial Robustness

LLM에서의 전문가 격리 및 비활성화를 통한 백도어 억제

Backdoor Containment via Expert Quarantine and Shutdown in LLMs

백도어가 삽입된 대규모 언어 모델(LLM)은 정상 입력에서는 정상적으로 동작하면서 숨겨진 트리거가 주어지면 공격자가 지정한 출력을 생성할 수 있다. 기존 방어 기법은 학습 이전, 학습 중, 학습 이후, 추론 시점의 네 단계에 걸쳐 있으며, 두 가지 기본 전략 중 하나를 공유한다. 하나는 (오염된 데이터를 걸러내거나 최적화 중 그 습득을 차단하여) 백도어 학습을 억제하는 것이고, 다른 하나는 완전히 백도어가 형성된 모델이 만들어진 뒤에 (모델 가중치를 복구하거나 입력을 게이팅하여) 학습한 다음 정화하는 것이다. 우리는 세 번째 전략으로 '학습하되 유도하라(learn, but channel)'를 제안한다. 이는 학습 중 백도어 형성을 허용하되, 이를 배포 시 비활성화할 수 있도록 지정된 격리 구성요소로 유도하는 것이다. 이를 위해 정규화로 유도되는 MoE 유사 환경에서 구축한 계산 효율적 격리 전략인 Quarantined Expert Shutdown(QES)을 제안한다. 구체적으로, 오염된 데이터셋이 주어지면 QES는 Transformer 기반 언어 모델에 라우팅되는 전문가별 LoRA 분기와 경량 라우터를 추가하고, 보조 라우팅 목표를 사용하여 트리거 조건부 동작을 지정된 전문가로 끌어들이면서 다른 곳에서는 정상 능력을 보존한다. 배포 시 완화는 격리된 전문가의 라우팅 가중치를 0으로 만드는 상수 시간의 단일 연산으로 귀결되며, 트리거 검사나 추가 가중치 업데이트가 필요하지 않다. 실험적으로 우리의 방법은 두 가지 과제, 세 가지 공격, 네 가지 모델 계열에 걸친 대부분의 설정에서 공격 성공률(ASR)을 100%에서 0-10%로 낮추며, 하위 과제 성능은 대체로 보존되거나 소폭만 영향을 받는다. 이러한 결과는 '학습하되 유도하라'가 생성형 LLM의 백도어 격리에서 이전에 탐구되지 않은 체제임을 확립한다.

arXiv:2610.00685v2cs.AI공통 태그 Adversarial Robustness

영공간 투영을 통한 LoRA 미세조정 LLM의 백도어 정제

Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection

대규모 언어 모델(LLM)과 파라미터 효율적 미세조정(PEFT) 방법이 빠르게 채택됨에 따라 백도어 공격의 위험이 더욱 심각해졌다. 기존의 백도어 정화 방법은 일반적으로 트리거에 대한 사전 지식, 깨끗한 참조에 대한 접근, 또는 공격적인 재학습과 같은 강한 가정 중 적어도 하나에 의존하며, 포괄적인 평가가 부족한 경우가 많다. 이러한 제약은 실제 적용 가능성을 크게 제한한다. 이러한 문제를 극복하기 위해, 본 연구는 이러한 가정 없이, 심지어 의심되는 파라미터의 사후 재학습 없이 LoRA로 튜닝된 LLM을 정화하는 방법을 제안한다. 우리의 목표는 (i) 기반 모델의 일반 능력과 (ii) 어댑터를 통해 학습된 새로운 하위 과제 기술을 모두 보존하면서 공격 성공률(ASR)을 크게 낮추는 것이다. 일련의 검토를 통해 텍스트 분류 환경의 단일 레이어에서 생성 과제의 전체 파라미터 LLM에 이르기까지 접근법을 점진적으로 확장한다. 신중한 데이터 선별과 특징 근사를 통해 충실도가 높은 백도어 방향을 추출하고, 각 레이어 또는 헤드에 대해 입력 및 출력 채널 모두에서 직교 영공간(null space)을 구성하여 LoRA 업데이트를 그 위로 사영한다. 실험적으로, 우리의 영공간 사영 방법은 하위 과제 적응 중에도 기반 모델의 정상 성능과 어댑터가 학습한 능력을 보존하면서 ASR을 거의 100%에서 10% 미만으로 낮춘다.

arXiv:2607.22149v2cs.LG공통 태그 Self-Supervised Learning

공정한 자기지도 학습을 위한 편향 없는 Open World 정규화

Unbiased Open World Regularization for Fair Self-Supervised Learning

최근의 발전에도 불구하고 자기지도 학습(SSL) 모델과 결합 임베딩 예측 아키텍처(JEPA)는 여전히 허위 상관관계에 취약하다. 많은 붕괴 방지 정규화 기법은 전역 표현 분포가 다변량 가우시안이나 구면 위의 균등분포와 같이 미리 정해진 목표 분포와 일치하도록 제약한다. 그러나 전역 분포 일치는 편향 속성으로 정의되는 집단들이 표현 공간의 서로 다른 영역을 차지하는 것을 막지 못한다. 본 논문은 EnD와 FSCL을 포함한 기존의 인코더 기반 편향 제거 정규화 기법이 조건부 분포 일치의 제한된 형태로 해석될 수 있음을 보인다. 이러한 해석을 바탕으로, 관측된 각 편향 집단 내부의 표현 분포를 공통의 목표 분포에 일치시키는 Unbiased Open World(UOW)를 제안한다. 모집단 최적해에서 판별적 조건부 불일치도를 사용하면 표현과 대상 속성 사이의 독립성이 보장된다. 우리는 UOW를 가우시안 공간과 구면 공간에서 구현하고, 통제된 합성 환경과 실제 공정성 벤치마크에서 평가한다. Synthetic Engraving, Colored MNIST, CelebA, Waterbirds 전반에서 조건부 일치는 유용한 하위 작업용 표현을 보존하면서도 전역 정규화에 비해 편향을 크게 줄인다. 여러 편향 속성을 함께 조건화하면 개별 주변 제약으로는 놓치는 교차적 격차도 추가로 줄어든다. 마지막으로 CelebA 실험은 공정성을 고려한 검증 기준에 따라 체크포인트를 선택한다면 UOW를 사전학습 목적함수로 사용하여 무작위 초기화에서부터 모델을 학습할 수 있음을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.