arXiv:2409.03646

Limited but consistent gains in adversarial robustness by co-training object recognition models with human EEG

Manshan Guo, Bhavin Choksi, Sari Sadiya, Alessandro T. Gifford, Martina G. Vilas, Radoslaw M. Cichy, Gemma Roig

제출 2024-09-05

원문 초록

In contrast to human vision, artificial neural networks (ANNs) remain relatively susceptible to adversarial attacks. To address this vulnerability, efforts have been made to transfer inductive bias from human brains to ANNs, often by training the ANN representations to match their biological counterparts. Previous works relied on brain data acquired in rodents or primates using invasive techniques, from specific regions of the brain, under non-natural conditions (anesthetized animals), and with stimulus datasets lacking diversity and naturalness. In this work, we explored whether aligning model representations to human EEG responses to a rich set of real-world images increases robustness to ANNs. Specifically, we trained ResNet50-backbone models on a dual task of classification and EEG prediction; and evaluated their EEG prediction accuracy and robustness to adversarial attacks. We observed significant correlation between the networks' EEG prediction accuracy, often highest around 100 ms post stimulus onset, and their gains in adversarial robustness. Although effect size was limited, effects were consistent across different random initializations and robust for architectural variants. We further teased apart the data from individual EEG channels and observed strongest contribution from electrodes in the parieto-occipital regions. The demonstrated utility of human EEG for such tasks opens up avenues for future efforts that scale to larger datasets under diverse stimuli conditions with the promise of stronger effects.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.19711v1cs.CV공통 태그 Object Recognition, Adversarial Robustness

강건한 포인트 클라우드 분류를 위한 포인트 선택 미세조정 프레임워크

Point-Selection Fine-Tuning Framework for Robust Point Cloud Classification

노이즈가 있거나 손상된 포인트는 포인트 클라우드 인식 성능을 크게 저하시킬 수 있으며, 특히 까다로운 손상 설정에서 두드러진다. 특히 3D 사전학습 모델의 전체 미세조정은 이상치의 영향을 증폭하고 사전학습 중 학습된 강건성 사전 지식을 덮어쓸 수 있으며, 단순한 매개변수 효율적 적응은 손상된 토큰에 여전히 민감하다. 이 문제를 해결하기 위해, 우리는 강건성을 향상하면서 매개변수 효율성을 유지하는 포인트 선택 미세조정 프레임워크인 PSFT를 제안한다. PSFT는 먼저 풀링 전 특징으로부터 포인트별 영향력을 추정하고, 이상치를 억제하기 위해 영향력이 최소인 포인트를 적응적으로 유지한다. 선택된 부분집합을 기반으로 프롬프트 생성 분기는 층별 프롬프트 토큰을 예측하고 이를 고정된 백본에 주입하여 경량 하류 적응을 수행한다. 선택 이후 잔존 노이즈를 더 완화하기 위해, 예측 전 패치-토큰 표현을 정제하기 위해 병목 MLP 변환과 Beta 게이트 잔차 블렌딩을 갖춘 경량 특징 필터를 추가한다. 광범위한 실험 결과 PSFT는 테스트된 모든 3D 사전학습 백본에서 ModelNet-C 및 ModelNet40-C의 손상 오류를 일관되게 감소시키며, 평가된 튜닝 전략 중 ULIP-2와 Uni3D-B로 ScanObjectNN-C에서 최고 성능을 달성한다. 구현은 https://github.com/CVChMA/PSFT/tree/master 에서 확인할 수 있다.

arXiv:2607.11950v2cs.LG공통 태그 EEG, Inductive Bias

RG-Flow 트랜스포머: 희소 EEG에서 스케일-자유 동역학 인코딩

The RG-Flow Transformer: Encoding Scale-Free Dynamics in Scarce EEG

뇌 장전위는 스케일-자유(scale-free)적이다. 그 전력 스펙트럼은 $1/f^β$ 법칙을 따르며, 비주기성 지수 $β$는 피질 상태를 추적하고, 특히 수면 깊이는 $β$의 변화로 나타난다. 우리는 명시적 재정규화군(RG) 귀납 바이어스(bias)를 갖춘 트랜스포머—일반적인 셀프 어텐션(self-attention)을 학습 가능한 이상 차원 $γ$, 블록-스핀(block-spin) 조잡화(coarse-graining), 엔트로피 게이트(entropy-gated) 동기화 브릿지를 갖는 스케일 인식 스트림과 결합한 RG-Flow 트랜스포머—가 실제의 희소한 EEG에서 매개변수를 맞춘 바닐라(vanilla) 트랜스포머보다 우위가 있는지 묻는다. 엄격한 피험자별 누출 없는 홀드아웃(hold-out)을 적용한 PhysioNet Sleep-EDF 코퍼스를 사용하여, 우리는 (i) 5-class AASM 수면 분류(sleep staging)에서 RG-Flow를 매개변수를 맞춘 바닐라 트랜스포머 및 계층만(hierarchy-only) 절제(ablation) 모델과 벤치마크하고, (ii) 데이터가 희소할 때 예측되는 귀납 바이어스 교차(crossover)를 찾기 위해 피험자당 데이터 예산을 스윕(sweep)하며, (iii) RG-Flow가 학습한 $γ$가 표본 외(out-of-sample)에서 측정된 스펙트럼 지수 $β$를 추적하는지—바닐라 모델에는 존재하지 않는 양—를 검증한다. 피험자 하나 제외 교차검증(leave-one-subject-out cross-validation) 하에서 5명의 피험자와 5개의 시드(seed)에 걸쳐, RG-Flow와 바닐라 트랜스포머는 5-class 분류에서 통계적으로 구별되지 않는다(정확도 77.3\% vs 77.0\%; paired $p=0.294$). 예측된 희소 데이터 교차는 나타나지 않으며, 데이터가 제한된 모든 예산에서 바닐라가 수치적으로 앞선다. 두 모델을 구분하는 것은 해석 가능성(interpretability)이다. RG-Flow는 표본 외에서 연속적인 스펙트럼 지수를 복원한다($β$-recovery $R^2 = 0.416$). 이는 바닐라 아키텍처에는 대응하는 기능이 없다.

arXiv:2610.10666v2cs.LG공통 태그 Adversarial Robustness

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

arXiv:2607.09993v2cs.GT공통 태그 Adversarial Robustness

베이지안 내쉬를 넘어서: 비대칭 정보 하의 적대적 팀 게임을 위한 미니맥스-후회 균형 학습

Beyond Bayesian Nash: Learning Minimax-Regret Equilibria for Adversarial Team Games under Asymmetric Information

적대적 경로 탐색, 목표 탐색, 그래프 상의 도달 가능성 게임과 같이 비대칭 정보가 존재하는 적대적 팀 게임(ATG)은 숨겨진 목표 깃발과 같은 은닉된 상대 유형과 기만에 강건한 전략을 요구한다. 비대칭 정보 하에서 기만은 전지적 상대가 자연(Nature)과 공모하여 관찰된 유형에 따라 행동을 조정할 수 있도록 유형 분포를 전략적으로 이동시키는 것으로 간주된다. 베이지안 내시 균형(BNE)과 같은 기존의 위험 중립 해 개념은 분포 이동에 민감하며, 분포적으로 강건한 접근법은 미리 정해진 모호성 집합 내에서만 보장을 제공한다. 이러한 한계를 해결하기 위해 본 연구는 미니맥스 후회 추론의 분포 비의존적 강건성과 명목 유형 분포의 확률적 정보를 결합한 새로운 균형 개념인 확률적 강건 미니맥스 후회 균형(PR-MRE)을 도입한다. PR-MRE는 유형 공간의 고신뢰도 부분집합에 대해 최악의 경우 후회를 최소화하여, 확률 질량의 전략적 재분배에 대한 보호를 제공하면서 완전히 분포 비의존적인 접근법의 보수성을 피한다. 유한 정규형 베이지안 게임에서 근사 PR-MRE 계산을 강건 쌍선형 계획법으로 정식화할 수 있음을 보이고, 계산 가능한 반정부호 완화를 유도한다. 이어서 이 완화를 강건 이중 오라클 프레임워크 내의 새로운 메타 솔버인 PRMRE-PSRO로 적응시켜, 심층 강화학습 최선 응답을 통해 근사 PR-MRE 전략을 집단 기반으로 학습할 수 있게 한다. 그래프 구조의 적대적 팀 게임에서의 실험은 PR-MRE가 위험 중립 베이지안 내시 균형 해에 비해 숨겨진 유형 전반에서 최악의 경우 성능이 크게 향상된 전략을 발견하며, 그 결과 전략적 분포 이동 하에서 더 강건한 행동을 보임을 입증한다.

arXiv:2610.00663v2cs.AI공통 태그 Adversarial Robustness

LLM에서의 전문가 격리 및 비활성화를 통한 백도어 억제

Backdoor Containment via Expert Quarantine and Shutdown in LLMs

백도어가 삽입된 대규모 언어 모델(LLM)은 정상 입력에서는 정상적으로 동작하면서 숨겨진 트리거가 주어지면 공격자가 지정한 출력을 생성할 수 있다. 기존 방어 기법은 학습 이전, 학습 중, 학습 이후, 추론 시점의 네 단계에 걸쳐 있으며, 두 가지 기본 전략 중 하나를 공유한다. 하나는 (오염된 데이터를 걸러내거나 최적화 중 그 습득을 차단하여) 백도어 학습을 억제하는 것이고, 다른 하나는 완전히 백도어가 형성된 모델이 만들어진 뒤에 (모델 가중치를 복구하거나 입력을 게이팅하여) 학습한 다음 정화하는 것이다. 우리는 세 번째 전략으로 '학습하되 유도하라(learn, but channel)'를 제안한다. 이는 학습 중 백도어 형성을 허용하되, 이를 배포 시 비활성화할 수 있도록 지정된 격리 구성요소로 유도하는 것이다. 이를 위해 정규화로 유도되는 MoE 유사 환경에서 구축한 계산 효율적 격리 전략인 Quarantined Expert Shutdown(QES)을 제안한다. 구체적으로, 오염된 데이터셋이 주어지면 QES는 Transformer 기반 언어 모델에 라우팅되는 전문가별 LoRA 분기와 경량 라우터를 추가하고, 보조 라우팅 목표를 사용하여 트리거 조건부 동작을 지정된 전문가로 끌어들이면서 다른 곳에서는 정상 능력을 보존한다. 배포 시 완화는 격리된 전문가의 라우팅 가중치를 0으로 만드는 상수 시간의 단일 연산으로 귀결되며, 트리거 검사나 추가 가중치 업데이트가 필요하지 않다. 실험적으로 우리의 방법은 두 가지 과제, 세 가지 공격, 네 가지 모델 계열에 걸친 대부분의 설정에서 공격 성공률(ASR)을 100%에서 0-10%로 낮추며, 하위 과제 성능은 대체로 보존되거나 소폭만 영향을 받는다. 이러한 결과는 '학습하되 유도하라'가 생성형 LLM의 백도어 격리에서 이전에 탐구되지 않은 체제임을 확립한다.

arXiv:2610.00685v2cs.AI공통 태그 Adversarial Robustness

영공간 투영을 통한 LoRA 미세조정 LLM의 백도어 정제

Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection

대규모 언어 모델(LLM)과 파라미터 효율적 미세조정(PEFT) 방법이 빠르게 채택됨에 따라 백도어 공격의 위험이 더욱 심각해졌다. 기존의 백도어 정화 방법은 일반적으로 트리거에 대한 사전 지식, 깨끗한 참조에 대한 접근, 또는 공격적인 재학습과 같은 강한 가정 중 적어도 하나에 의존하며, 포괄적인 평가가 부족한 경우가 많다. 이러한 제약은 실제 적용 가능성을 크게 제한한다. 이러한 문제를 극복하기 위해, 본 연구는 이러한 가정 없이, 심지어 의심되는 파라미터의 사후 재학습 없이 LoRA로 튜닝된 LLM을 정화하는 방법을 제안한다. 우리의 목표는 (i) 기반 모델의 일반 능력과 (ii) 어댑터를 통해 학습된 새로운 하위 과제 기술을 모두 보존하면서 공격 성공률(ASR)을 크게 낮추는 것이다. 일련의 검토를 통해 텍스트 분류 환경의 단일 레이어에서 생성 과제의 전체 파라미터 LLM에 이르기까지 접근법을 점진적으로 확장한다. 신중한 데이터 선별과 특징 근사를 통해 충실도가 높은 백도어 방향을 추출하고, 각 레이어 또는 헤드에 대해 입력 및 출력 채널 모두에서 직교 영공간(null space)을 구성하여 LoRA 업데이트를 그 위로 사영한다. 실험적으로, 우리의 영공간 사영 방법은 하위 과제 적응 중에도 기반 모델의 정상 성능과 어댑터가 학습한 능력을 보존하면서 ASR을 거의 100%에서 10% 미만으로 낮춘다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.