T2S: 추출 저항성 모델 워터마킹을 위한 리허설 기반 접근법
T2S: A Rehearsal-Based Approach for Extraction-Resistant Model Watermarking
한국어 초록
모델 워터마킹은 고유한 행동 서명을 유도하는 독특한 지식을 임베딩하여 AI 모델의 지식 재산권을 보호합니다. 주요 기술적 과제는 워터마킹된 모델에 대한 다양한 후처리 공격에 대해 워터마크의 견고성을 보장하는 것입니다. 모델 추출 공격은 가장 심각한 위협으로 대두되는데, 여기서 공격자는 원본 모델의 기능을 불법적으로 복제하는 대리 모델(surrogate models)을 학습시키기 위해 예측 출력을 악용합니다. 본 연구에서는 모델 추출 공격에 대한 모델 워터마크의 견고성을 향상시키기 위해 리허설 기반 워터마크 임베딩 프레임워크를 제안합니다. 추출 과정을 시뮬레이션함으로써, 본 방법은 트리거 세트(trigger set)에 대한 시뮬레이션된 도난 모델의 손실을 학습 신호로 활용하여 타겟 모델 내의 워터마크 지식을 미세조정합니다. 이 미세조정 단계는 전이성(transferability)을 향상시키는 방식으로 워터마크가 임베딩되도록 유도하여, 도난 모델 내에서 지속되고 검출될 가능성을 높입니다. 다양한 설정에서 수행된 포괄적인 실험을 통해 제안된 방법이 모델 추출 공격과 후속 워터마크 제거 공격 모두에 대해 모델 워터마크의 견고성을 유의미하게 향상시킴을 입증했습니다.
원문 초록
Model watermarking safeguards AI model intellectual property by embedding distinctive knowledge that induces unique behavioral signatures. The primary technical challenge lies in ensuring watermark robustness against various post-processing attacks on the watermarked model. Model extraction attacks emerge as the most severe threat, where adversaries exploit prediction outputs to train surrogate models that illegally replicate the original model's functionality. In this work, we propose a rehearsal-based watermark embedding framework to enhance the robustness of model watermarks against model extraction attacks. By simulating the extraction process, our method leverages the loss of a \textit{simulated stolen model} on a trigger set as a training signal to fine-tune the watermark knowledge within the target model. This fine-tuning step encourages the watermark to be embedded in a way that boosts transferability, thereby increasing its chances of persisting and remaining detectable in stolen models. Comprehensive experiments conducted under diverse settings demonstrate that the proposed method significantly improves the robustness of model watermarks against both model extraction and subsequent watermark removal attacks.
요약
모델 추출 공격에 대한 모델 워터마킹의 견고성을 강화하기 위해, 시뮬레이션된 도난 모델의 손실을 학습 신호로 사용하여 워터마크 지식을 파인튜닝하는 리허설 기반 프레임워크를 제안한다. 이 방법은 워터마크의 전이성을 증진시켜 모델 추출 및 워터마크 제거 공격에 대한 저항력을 유의미하게 향상시킨다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.11698v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
CEGA: A Cost-Effective Approach for Graph-Based Model Extraction and Acquisition
MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models
ATOM: A Framework of Detecting Query-Based Model Extraction Attacks for Graph Neural Networks
From Counterfactuals to Trees: Competitive Analysis of Model Extraction Attacks
Safety at Scale: A Comprehensive Survey of Large Model Safety
Neural Honeytrace: A Robust Plug-and-Play Watermarking Framework against Model Extraction Attacks
토론
이 논문과 연결된 포럼 글이 아직 없습니다.