Homophily-Driven Sanitation View for Robust Graph Contrastive Learning
원문 초록
We investigate adversarial robustness of unsupervised Graph Contrastive Learning (GCL) against structural attacks. First, we provide a comprehensive empirical and theoretical analysis of existing attacks, revealing how and why they downgrade the performance of GCL. Inspired by our analytic results, we present a robust GCL framework that integrates a homophily-driven sanitation view, which can be learned jointly with contrastive learning. A key challenge this poses, however, is the non-differentiable nature of the sanitation objective. To address this challenge, we propose a series of techniques to enable gradient-based end-to-end robust GCL. Moreover, we develop a fully unsupervised hyperparameter tuning method which, unlike prior approaches, does not require knowledge of node labels. We conduct extensive experiments to evaluate the performance of our proposed model, GCHS (Graph Contrastive Learning with Homophily-driven Sanitation View), against two state of the art structural attacks on GCL. Our results demonstrate that GCHS consistently outperforms all state of the art baselines in terms of the quality of generated node embeddings as well as performance on two important downstream tasks.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
오픈 가중치 안전성을 위한 유한 표본 보장 분포 특화 곡률 제어
Distribution-Specific Curvature Control with Finite-Sample Guarantees for Open-Weight Safety
짧은 미세조정 한 번만으로도 오픈 가중치 모델의 안전 장치를 무력화할 수 있다—거부 학습된 어시스턴트를 재학습하여 무기 개발을 돕거나 혐오 발언을 생성하게 만들 수 있다. 이러한 유해한 미세조정을 막으면서도 양성(benign) 적응성을 유지하는 것은 여전히 어렵다: 명시적 곡률 인증서(curvature certificate)를 갖춘 유일한 기존 방법인 스펙트럴 변형(spectral deformation)은 곡률을 전역적으로 팽창시켜 유해한 적응과 함께 양성 적응까지 방해한다. 우리는 HarmAlign을 제안한다. HarmAlign은 추정된 대조적(contrastive) 활성화 부분공간(activation subspace)을 따라 함수 보존(function-preserving) 스펙트럴 변형을 적용한다. 우리는 추정된 부분공간 에너지와 그로부터 도출되는 지역적 유해 분포 곡률 하한에 대한 유한 표본 경계를 유도한다. 상수 스텝 경사하강법에 대한 안정성-진행(stability-progress) 이분법은 인증된 곡률을 조건부 수렴률 제어로 전환한다. 실험적으로, 고정 아키텍처·유한 예산 1차 위협 모델 내에서 HarmAlign은 위험 지식 재학습 설정과 유해 지원 미세조정 설정 전반에 걸쳐 직접 미세조정과 세 가지 데이터 또는 목적 함수 적응형 공격을 차단하며, 보호된 양성 작업은 여전히 학습 가능하다. 이 차단은 모든 공격 체크포인트에 걸친 테스트된 1차 옵티마이저 변형 전반과, 분포 외(out-of-distribution) 유해 미세조정 하에서도 지속되며, 우리 위협 모델의 중요한 사례—우발적 안전성 저하와 창발적 오정렬(emergent misalignment)—까지 확장된다.
탐지기는 잘못된 것을 학습한다: 물리적으로 실현 가능한 공격에 대항하는 단축 경로 저항적 적대적 학습
Detectors Learn the Wrong Thing: Shortcut-Resistant Adversarial Training Against Physically Realizable Attacks
AI 기반 시각 지각 시스템이 지능형 교통 인프라 및 자율주행 차량 관련 응용에 점점 더 배치되고 있다. 그러나 물리적으로 실현 가능한 적대적 외형은 이러한 안전성(safety)에 중요한 시스템에 상당한 신뢰성 과제를 제기한다. 적대적 학습(adversarial training)은 효과적이지만, 적대적 텍스처와 양성 person 인스턴스 간의 반복적 공발생은 탐지기가 텍스처 자체를 객체 존재의 증거로 취급하게 만들어 패치 텍스처 단축 경로(shortcut)를 형성할 수 있다. 탐지기는 그러면 텍스처를 대상에 대한 증거로 취급하여, 텍스처만 있는 입력에서 오탐을 유발하고 교차 공격 일반화를 약화시킬 수 있다. 우리는 탐지기가 적대적 텍스처를 독립적인 판단 단서로 사용하는 것을 방지하는 인스턴스 수준 대조(contrastive) 적대적 학습 프레임워크인 InsCAT를 제안한다. SICA는 적대적 person 특징(feature)을 대응하는 clean 특징과 정렬하고 텍스처만 있는 음성(negative) 샘플과 분리하며, ROPO와 Guard는 온라인 공격 압력을 유지하고 학습을 조율한다. 렌더링된 nuScenes, INRIAPerson, 인쇄 의류, 세 가지 탐지기 계열에서 독립적으로 생성된 8개의 공격 텍스처를 평가한다. InsCAT은 렌더링된 nuScenes에서 평균 공격 AP 82.3%를 달성하여, 가장 강한 기준선보다 11.1포인트 높다. AT-Mix 대비 텍스처 FPR은 46.9%에서 7.3%로 감소한다. 물리적 테스트는 F1 점수 96.6%와 FPR 1.8%를 산출한다. 별도로 학습된 탐지기에서의 일관된 성능 향상은 직접 추론으로 아키텍처 전반에 걸친 적용 가능성을 보여준다. 결과는 견고한(robust) 물리적 탐지가 대상 관련 증거를 보존하면서 적대적 텍스처가 독립적인 판단 단서가 되는 것을 방지하는 데 달려 있음을 보여준다.
T5-CSBoost: 적대적 교란에 강인한 LLM 핑거프rinting
T5-CSBoost: Adversarial Perturbation Resistant LLM Fingerprinting
많은 AI 생성 텍스트(AIGT) 탐지기는 깨끗한 입력에서 강한 성능을 달성하지만, 가벼운 패러프레이징(paraphrasing), 단어 치환, 문자 편집, 분포 이동(distribution shift) 하에서 정확도가 크게 저하된다. 본 논문은 T5 Contrastive Style Boosted Classifier(T5-CSBoost)를 제안한다. 이는 T5-Sentinel 프레임워크의 확장으로, 출처 귀속(source attribution)을 위해 원래의 다음 토큰 예측 목적(next-token prediction objective)을 유지하면서 디코더 임베딩(decoder embeddings) 위에 보조적인 마진 기반 트리플릿 손실(triplet loss)을 도입한다. 이러한 대비 스타일 정규화(contrastive style regularization)는 컴팩트하고 교란에 강인한 스타일 표현(stylistic representations)의 학습을 촉진하며, 기존 T5-small 백본을 변경하지 않으면서 아키텍처 수정, 적대적 학습(adversarial training), 또는 복잡한 다중 과제 목적(multi-task objectives)에 의존하는 선행 접근법에 대한 경량이면서도 효과적인 대안을 제공한다. T5-CSBoost는 OpenLLMText 및 HC3 AIGT 벤치마크에서 최신 최고 수준의 다중 클래스 출처 귀속 및 이진 human-vs-LLM 탐지 성능을 달성한다. 더 중요한 것은, T5-CSBoost가 최대 90% 강도의 단어 및 문자 수준 적대적 교란(adversarial perturbations)에 대한 강화된 강건성(robustness)을 보여주며, 미공개 모델(unseen models), 미공개 도메인(unseen domains), 극단적 패러프레이징 시나리오를 포함한 도전적인 MAGE/Deepfake 스트레스 테스트 스위트에서 최신 최고 성능을 달성한다는 점이다. 우리 결과는 대비 학습(contrastive learning)을 통해 스타일 임베딩을 명시적으로 정규화하는 것이 실제 적대적 환경에서 더 강건한 LLM 핑거프rinting 시스템을 구축하기 위한 실용적이고 효과적인 전략임을 보여준다.
기계론적 해석가능성과 최적 제어를 통한 World Action Model 견고성 조향
Steering Robustness into World Action Models via Mechanistic Interpretability and Optimal Control
World Action Models(WAM)은 의미적·물리적 정보가 반영된 제어를 가능하게 하지만, 분포 이동(distribution shift) 하에서 취약하다. 본 연구에서는 기계론적 해석가능성(mechanistic interpretability)을 사용하여 견고성과 관련된 교란(perturbation)이 WAM 활성화 공간에서 어떻게 표현되는지 분석한다. 성공적인 롤아웃(rollout)과 실패한 롤아웃 간의 활성화를 비교한 결과, 일부 WAM 아키텍처는 견고성에 중요한 특징에 대해 저차원 선형 분리 가능성(linear separability)을 보이지만, 다른 아키텍처는 그렇지 않다. 이는 학습 없는(training-free) WAM 조향(steering)을 위해 대조적(contrastive) 활성화 방향을 사용할 동기를 제공한다. 또한 WAM 활성화 역학의 국소 선형성(local linearity)이 모델 기반 최적 제어(model-based optimal control)를 통한 효율적 피드백 조향을 가능하게 하며, 이는 최소 침습적(minimally-invasive) 저차(reduced-order) LQR 제어기인 World-Action Linear Quadratic Regulator(WA-LQR)를 산출한다. 기계론적 평가를 통해 Cosmos-Policy와 DiT4DiT 모델에서는 강한 조향 가능성(steerability)을, LingBot-VA에서는 약한 조향 가능성을 예측했으며, 이는 조향 개입 결과와 일치한다. Cosmos-Policy와 DiT4DiT에서 WA-LQR은 대조적 방향을 새로운 태스크로 일반화하고, 조향하지 않은(unsteered) 모델과 프롬프트 조향 기준선보다 카메라, 그리퍼(gripper), 시각 노이즈 교란에 대한 견고성을 향상시킨다.
적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명
Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks
심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.
Read It Back: 사전학습된 MLLM은 텍스트-이미지 생성을 위한 제로샷 보상 모델이다
Read It Back: Pretrained MLLMs Are Zero-Shot Reward Models for Text-to-Image Generation
본 논문에서 우리는 SpectraReward를 제안한다. SpectraReward는 사전학습된 다중모달 대규모 언어 모델(MLLM)을 이미지 생성 강화학습을 위한 즉시 사용 가능한 보상 모델로 전환하는 추가 학습이 불필요한 보상 함수이다. SpectraReward는 MLLM에게 생성된 이미지를 판단하거나 분해된 검증 질문에 답하도록 요청하는 대신, 단일 이미지 조건부 교사 강제(teacher-forced) 순전파를 통해 원본 프롬프트가 생성된 이미지로부터 얼마나 잘 복원될 수 있는지를 측정한다. 이미지 조건부 프롬프트 로그-가능도의 평균을 보상으로 사용함으로써, 선호도 레이블이나 보상 모델 미세조정 없이 MLLM의 사전학습된 이미지-텍스트 정렬 능력을 직접 재활용한다. 나아가 우리는 Self-SpectraReward를 소개한다. Self-SpectraReward는 통합 다중모달 모델을 위한 특수 사례로, 정책 자체의 이해 브랜치가 생성 브랜치를 위한 보상 모델로 기능하여 외부 보상 모델이나 외부 지식 없이 폐쇄 루프 자기 개선 프레임워크를 형성한다. 광범위한 실험을 통해 SpectraReward를 검증하였으며, 이 연구는 두 가지 확산 모델, 세 가지 강화학습 알고리즘, 4B에서 235B 파라미터에 걸친 네 가지 MLLM 계열의 아홉 가지 보상 MLLM 백본, 다섯 가지 분포 외(out-of-distribution) 텍스트-이미지 벤치마크를 포괄한다. 실험 결과, SpectraReward와 Self-SpectraReward 모두 생성 성능을 유의미하고 일관되게 향상시키며 기존 MLLM 기반 보상 학습 방법을 능가하였다. 추가 분석에 따르면 더 큰 보상 MLLM이 항상 더 우수한 것은 아니며, Self-SpectraReward는 훨씬 더 큰 외부 보상 모델과 동등하거나 이를 능가할 수 있어, 보상-정책 정렬(reward-policy alignment)이 효과적인 이미지 생성 강화학습의 핵심 요인임을 시사한다. 프로젝트 페이지: https://huangrh99.github.io/SpectraReward/
토론
이 논문과 연결된 포럼 글이 아직 없습니다.