무작위 키 선택을 통한 생성 모델의 워터마크 위조 완화
Mitigating Watermark Forgery in Generative Models via Randomized Key Selection
워터마킹(watermarking)은 생성형 AI(GenAI) 제공자가 콘텐츠가 자신의 모델에 의해 생성되었는지 여부를 검증할 수 있게 합니다. 워터마크는 콘텐츠 내의 숨겨진 신호로, 비밀 워터마크 키를 사용하여 그 존재를 탐지할 수 있습니다. 핵심적인 보안 위협은 위조 공격(forgery attack)으로, 공격자가 제공자가 제작하지 않은 콘텐츠에 해당 제공자의 워터마크를 삽입하여 잠재적으로 평판을 훼손하고 신뢰를 저해할 수 있습니다. 기존의 방어 기법은 동일한 콘텐츠에 여러 키를 사용하여 다수의 워터마크를 임베딩(embedding)함으로써 위조에 저항하지만, 이는 모델(model) 효용성을 저하시킬 수 있습니다. 더욱이 공격자가 충분히 많은 워터마크 샘플을 수집할 수 있는 경우 위조는 여전히 위협으로 남습니다. 본 연구에서는 키 대칭적이고 독립적인 탐지기 결과를 조건으로 하여, 블라인드 공격자(blind attacker)의 위조 성공률에 대해 샘플 수와 무관한 상한을 제공하는 방어 기법을 제안합니다. 제안하는 방식은 모델 효용성을 추가로 저하시키지 않습니다. 본 기법은 각 쿼리마다 워터마크 키 선택을 무작위화하고, 정확히 하나의 키에 의해서만 워터마크가 탐지될 때만 해당 콘텐츠를 진짜로 수용합니다. 계산 복잡도 가정에 의존하며 새로운 워터마킹 방식을 처음부터 설계해야 하는 암호학적 워터마크와 달리, 본 방법은 기존의 모든 워터마킹 방식에 적용되어 위조 저항성을 향상시킬 수 있습니다. 본 논문에서는 텍스트 워터마킹에 초점을 맞추지만, 기반이 되는 워터마킹 방식을 블랙박스로 취급하므로 본 방어 기법은 모달리티에 구애받지 않습니다(modality-agnostic). 이를 입증하기 위해 Tree-Ring을 활용한 이미지 워터마킹에 대한 예비 연구도 포함합니다. 이러한 조건부 보장과 별개로, 본 연구에서 평가한 적응형 블라인드 공격자에 대해 키 수 $r=4$일 때 유해 텍스트 위조 성공률이 단일 키 사용 시 최대 $87\%$에서 무시할 수 있는 수준의 계산 오버헤드로 최저 $1\%$까지 떨어짐을 실증적으로 관찰하였으며, 예비 이미지 연구에서는 $100\%$에서 $2\%$로 감소함을 보였습니다.