arXiv:2507.07871v5 cs.CR

무작위 키 선택을 통한 생성 모델의 워터마크 위조 완화

Mitigating Watermark Forgery in Generative Models via Randomized Key Selection

Toluwani Aremu, Noor Hussein, Munachiso Nwadike, Samuele Poppi, Jie Zhang, Karthik Nandakumar, Neil Gong, Nils Lukas

제출 2025-07-10

한국어 초록

워터마킹(watermarking)은 생성형 AI(GenAI) 제공자가 콘텐츠가 자신의 모델에 의해 생성되었는지 여부를 검증할 수 있게 합니다. 워터마크는 콘텐츠 내의 숨겨진 신호로, 비밀 워터마크 키를 사용하여 그 존재를 탐지할 수 있습니다. 핵심적인 보안 위협은 위조 공격(forgery attack)으로, 공격자가 제공자가 제작하지 않은 콘텐츠에 해당 제공자의 워터마크를 삽입하여 잠재적으로 평판을 훼손하고 신뢰를 저해할 수 있습니다. 기존의 방어 기법은 동일한 콘텐츠에 여러 키를 사용하여 다수의 워터마크를 임베딩(embedding)함으로써 위조에 저항하지만, 이는 모델(model) 효용성을 저하시킬 수 있습니다. 더욱이 공격자가 충분히 많은 워터마크 샘플을 수집할 수 있는 경우 위조는 여전히 위협으로 남습니다. 본 연구에서는 키 대칭적이고 독립적인 탐지기 결과를 조건으로 하여, 블라인드 공격자(blind attacker)의 위조 성공률에 대해 샘플 수와 무관한 상한을 제공하는 방어 기법을 제안합니다. 제안하는 방식은 모델 효용성을 추가로 저하시키지 않습니다. 본 기법은 각 쿼리마다 워터마크 키 선택을 무작위화하고, 정확히 하나의 키에 의해서만 워터마크가 탐지될 때만 해당 콘텐츠를 진짜로 수용합니다. 계산 복잡도 가정에 의존하며 새로운 워터마킹 방식을 처음부터 설계해야 하는 암호학적 워터마크와 달리, 본 방법은 기존의 모든 워터마킹 방식에 적용되어 위조 저항성을 향상시킬 수 있습니다. 본 논문에서는 텍스트 워터마킹에 초점을 맞추지만, 기반이 되는 워터마킹 방식을 블랙박스로 취급하므로 본 방어 기법은 모달리티에 구애받지 않습니다(modality-agnostic). 이를 입증하기 위해 Tree-Ring을 활용한 이미지 워터마킹에 대한 예비 연구도 포함합니다. 이러한 조건부 보장과 별개로, 본 연구에서 평가한 적응형 블라인드 공격자에 대해 키 수 $r=4$일 때 유해 텍스트 위조 성공률이 단일 키 사용 시 최대 $87\%$에서 무시할 수 있는 수준의 계산 오버헤드로 최저 $1\%$까지 떨어짐을 실증적으로 관찰하였으며, 예비 이미지 연구에서는 $100\%$에서 $2\%$로 감소함을 보였습니다.

원문 초록

Watermarking enables GenAI providers to verify whether content was generated by their models. A watermark is a hidden signal in the content, whose presence can be detected using a secret watermark key. A core security threat are forgery attacks, where adversaries insert the provider's watermark into content \emph{not} produced by the provider, potentially damaging their reputation and undermining trust. Existing defenses resist forgery by embedding many watermarks with multiple keys into the same content, which can degrade model utility. However, forgery remains a threat when attackers can collect sufficiently many watermarked samples. We propose a defense with a sample-count-independent upper bound on forgery success for blind attackers, conditional on key-symmetric, independent detector outcomes. Our scheme does not further degrade model utility. We randomize the watermark key selection for each query and accept content as genuine only if a watermark is detected by \emph{exactly} one key. Unlike cryptographic watermarks that rely on computational hardness assumptions and require designing new watermarking schemes from scratch, our method can be applied to any existing watermarking method to improve its forgery resistance. We focus on text watermarking, but our defense is modality-agnostic, since it treats the underlying watermarking method as a black-box. To show this, we include a preliminary study on image watermarking using Tree-Ring. Separately from this conditional guarantee, we empirically observe that, at $r=4$ keys, harmful-text forgery success drops from as high as $87\%$ with a single key to as low as $1\%$ against the adaptive blind attackers that we evaluate, at negligible computational overhead; a preliminary image study shows a reduction from $100\%$ to $2\%$.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2507.07871v5

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.23586v1cs.CV공통 태그 Adversarial Robustness, watermarking

비디오 생성 모델의 지식 재산권 보호를 위한 효율적이고 효과적인 워터마킹 기법

An Efficient and Effective Watermarking Scheme for the Protection of the Intellectual Property Rights of Video Generative Models

비디오 생성 모델(VGM)의 급격한 발전으로 매우 사실적인 합성 비디오 생성이 가능해졌으나, 동시에 이러한 모델들의 지식 재산권(IPR)에 대한 우려를 낳고 있습니다. 특히 밀접하게 연관된 두 가지 포렌식 과제, 즉 합성 비디오 검증(특정 비디오가 보호 대상 VGM에 의해 생성되었는지 판별)과 모델 소유권 검증(의심되는 VGM이 보호 대상 VGM의 무단 복제본인지 판별)은 여전히 제대로 다루어지지 않고 있습니다. 본 논문에서는 이 두 가지 검증 과제를 해결할 수 있는 새로운 생성 중(in-generation) 워터마킹 기법을 제안합니다. 먼저, 2-스케일 이산 웨이블릿 변환(DWT) 분해와 전역 시간 어텐션 블록(GTAB)을 통합하여 워터마크의 강인성과 비가시성을 강화하는 VidMark라는 새로운 비디오 워터마킹 네트워크를 제시합니다. 둘째로, 디코더 유도 미세조정(fine-tuning) 절차를 제시합니다. 고정된(frozen) VidMark 디코더를 활용함으로써, 이 과정은 VGM이 인지하기 어렵고 강인하며 모델에 특화된 워터마크를 포함하는 비디오를 합성할 수 있도록 합니다. 마지막으로, 합성 비디오 검증과 모델 소유권 검증을 수행하기 위한 두 가지 검증 프레임워크를 구축합니다. 대표적인 VGM들을 대상으로 한 광범위한 실험을 통해 제안된 기법이 비디오 생성 품질에 미치는 영향을 최소화하면서도 두 과제 모두에서 99% 이상의 워터마크 추출 정확도와 100%의 검증 정확도를 달성함을 입증합니다. 또한, 해당 워터마크는 포괄적인 범위의 비디오 수준 및 모델 수준 공격에 대해 강력한 강인성을 나타냅니다.

arXiv:2607.22386v1cs.CV공통 태그 Adversarial Robustness, watermarking

확산 모델을 위한 상관관계 인식 및 가우시안성 보존 강건 잠재 각도 워터마킹

Correlation-Aware and Gaussianity-Preserving Robust Latent Angular Watermarking for Diffusion Models

확산 모델을 위한 잠재 공간 워터마킹은 워터마크를 잠재 사전분포에 직접 내장하여, 모델 파라미터에 비침습적이고 생성 과정과 원활하게 통합되는 장점을 누린다. 그러나 잠재 가우시안성 위반 또는 잠 latent inversion 과정에서의 정상 및 악의적 교란(perturbation)에 대한 민감성으로 인해, 기존 방법은 워터마크 탐지 또는 제거 공격에 취약하다. 또한 간과된 문제는 워터마킹 후 i.i.d. 잠재 조건 위반으로, 이는 잠재 상관관계 저하와 생성 충실도 손실을 초래한다는 점이다. 이는 FID로 외부적으로 측정되었지만, 내부 상관관계 구조는 아직 엄밀하게 특성화되지 않았다. 위 문제를 해결하기 위해, 등방성(isotropic) 가우시안의 회전 불변성에 영감을 받아, 가우시안성을 보존하면서 불연속(disjoint) 잠재 요소 쌍 간의 대칭각(기준 쌍 대비 $\pmπ/2$)으로 워터마크 비트를 인코딩하는 \textit{Latent Angular Watermarking (LAW)}를 제안한다. 대칭각($π$-분리) 인코딩은 비트 값 간 기하학적 분리를 최대화하며, 디코딩 각도 오차 분산이 잠 latent 쌍의 노름에 비례함을, 즉 $\operatorname{var}(Δφ) \propto 1/ρ^2$임을 증명한다. 또한 워터마크 비트를 기하학적으로 가장 안정적인 잠 latent 차원에 고정하는 크기 기반(magnitude-driven) 변형 LAW-M를 제안하여 추가적인 강건성 향상을 얻는다. 이론적으로, 유도된 상관관계 저하에 대한 엄밀한 특성화를 제공하며, 워터마크가 삽입된 잠 latent의 자기상관(autocorrelation) 구조를 폐형(closed form)으로 유도하고, 상관관계가 고정된 $\pmπ/4$ 값을 갖는 희소하고 구조화된 비대각(off-diagonal) 요소 집합으로 제한됨을 증명한다.

arXiv:2607.20435v1cs.CL공통 태그 Adversarial Robustness, text watermarking

모델 병합에 강인한 오픈소스 텍스트 LLM 워터마크 만들기

Making Open-Source Text LLM Watermarks Durable Against Merging

오픈소스 LLM(OSM)은 최첨단에 근접한 성능에 도달하고 있어, 선행 연구들은 가중치에 텍스트 워터마킹 알고리즘을 직접 내장하여 생성 텍스트를 추적해 왔다. 그러나 OSM은 사후 학습 수정의 영향을 받으며, 이는 워터마크를 제거하는 것으로 나타났다. 특히 전문가 지식을 결합하고 파국적 망각(catastrophic forgetting)을 방지하는 데 널리 쓰이는 모델 병합(model merging)은 이러한 OSM 워터마크를 강하게 제거한다. 핵심 질문은 이후 병합을 견디는 OSM 워터마크를 어떻게 가능하게 할 것인가이다. 본 연구에서는 모델 병합에 견디는 OSM 워터마크를 설계하는 방법을 최초로 제시한다. 우리는 Merge-Adversarial Training을 제안한다. 이는 이후 모델 병합에 강건하면서 텍스트 워터마크를 모델 가중치로 지식 증류(distillation)하는 적대적 학습(adversarial training) 알고리즘이다. 우리 접근법은 하류(downstream) 성능을 유지하면서 모든 베이스라인을 일관되게 능가한다(예: SLERP에서 TPR@1%FPR 기준 최대 +51 퍼센트 포인트(pp), 평균 +25 pp). 또한 전문가 역량 결합이나 파국적 망각 방지 같은 일반적 사용 사례를 반영한 현실적 병합 시나리오와 3가지 주요 병합 알고리즘에 대해 OSM 워터마크를 최초로 평가한다. 더 넓게 보면, 우리 결과는 적대적 학습이 사후 학습 수정에 대한 OSM 워터마크 내구성을 높이는 신뢰할 수 있는 접근법임을 시사한다.

arXiv:2610.10666v2cs.LG공통 태그 Adversarial Robustness

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.