Wearable electrocardiogram (ECG) recordings pass through multiple networks and systems before automated interpretation, leaving patient metadata vulnerable to loss. Digital watermarking can embed this metadata in the signal, but conventional methods fail under time shifts, and high waveform similarity does not guarantee the same downstream diagnosis. We present \rev{ECGGuard}, a deep watermarking framework for single-lead ECG. A fully convolutional generator embeds the payload without signal quantization, a detector decodes the message frame by frame and checks for watermark presence, and during training a frozen arrhythmia classifier penalizes changes that would alter its predictions. Because high bit accuracy does not ensure whole-message recovery, the payload is protected by extended Hamming codes, \rev{a validation-selected channel ordering}, and soft-decision decoding. On the MIT-BIH Arrhythmia Database, \rev{averaged over three training runs, ECGGuard} keeps bit accuracy above \rev{98\%} under time shifts of 10 to 50 samples, where transform-domain baselines drop to chance. The coded 16-bit payload is recovered exactly in \rev{99.95\%} of clean segments\rev{, in over 96\%} under time shifts, 10\% sample deletion, or 10\% packet loss\rev{, and in 99.1\% for unseen subjects}. \rev{For the guiding classifier, the diagnostic loss limits the drop in ventricular-beat sensitivity to 1.6 percentage points on the test records (35.0 without it) and to 12.2 points for unseen subjects (67.0 without it); the drop grows to 10.3 points for independently trained classifiers, and the protection does not transfer to an external database.} \rev{ECGGuard} has 0.56 million parameters and needs about \rev{19}~ms per segment on a desktop CPU.
4D 가우시안 스플래팅(4DGS)은 고충실도 동적 재구성에 혁신을 가져왔으나, 이러한 자산의 지적 재산권을 보호하는 것은 여전히 미해결 과제로 남아 있습니다. 기존의 스테가노그래피 기법들은 기저에 있는 기구학적 다양체(kinematic manifold)를 간과하는 경우가 많아, 심각한 시간적 깜빡임(temporal flickering) 및 "FVD 붕괴(FVD collapse)"와 같은 비물리적 아티팩트를 유발합니다. 이를 해결하기 위해 본 논문에서는 높은 시공간 일관성을 유지하면서 강건한 저작권 정보를 삽입하도록 설계된 기구학적 인지 워터마킹 프레임워크인 4D-GSW를 제안합니다. 불투명도 기반 비가시성에 주로 집중했던 기존 4D 스테가노그래피와 달리, 제안하는 접근법은 모션 궤적의 물리적 일관성을 명시적으로 다룹니다. 또한 "동적 순간(Dynamic Instants)"을 식별하기 위한 시공간 곡률(Spatio-Temporal Curvature, STC) 지표를 도입하여, 워터마크 그래디언트(gradient) 주입을 적응적으로 제어함으로써 중요한 모션 다양체가 비물리적 섭동으로부터 보호되도록 합니다. 복잡한 변형 전반에서 전역적 일관성을 보장하기 위해, 시간적 궤적과 공간적 이웃 모두에서 워터마크 위상을 동기화하는 결합 HMM-MRF 에너지 최소화 모델을 정식화합니다. 나아가 비등방성 그래디언트 라우팅 메커니즘을 통해 워터마크 임베딩(embedding)이 광도 재구성 충실도와 엄격히 분리되도록 보장합니다. 광범위한 실험을 통해 제안하는 방법이 다양한 공격에 저항하고 높은 렌더링 품질과 시공간 일관성을 유지하면서 워터마크를 강건하게 은닉하는 우수한 성능을 입증했습니다.
결합 오디오-비주얼(joint audio-visual) 생성에 워터마크를 적용하는 것은 제공업체의 저작권 보호 및 콘텐츠 출처(provenance) 증명을 지원합니다. 그러나 독립적으로 유효한 오디오 및 비디오 워터마크는 공유된 생성 세션을 입증하지 못합니다. 공격자는 서로 다른 세션의 워터마크된 모달리티를 이어 붙여(splice), 해당 쌍이 제공업체의 원래 결합 결과물인 것처럼 오인되게 만들 수 있습니다. 본 연구에서는 네이티브 결합 오디오-비주얼 디퓨전 트랜스포머(diffusion transformer)에서 세션 바인딩을 통해 제공업체 귀속성을 강화하는 학습(training) 불필요 워터마킹 프레임워크인 mAVE(Manifold Audio-Visual Entanglement)를 소개합니다. mAVE는 공개 기록 검색과 비밀 세션 인증을 분리합니다. 고정된 공개 인덱스는 서버 기록을 찾고, 무작위 페이로드는 암호화 다이제스트를 통해 오디오 비트를 세션 키 기반 비디오 그리드에 바인딩합니다. 프롬프트(prompt) 조건부 단일 결합 역변환(inversion)은 생성기 가중치를 수정하거나 보조 워터마크 네트워크를 학습하지 않고도, 세션 기록에 대해 두 모달리티를 검증하는 제공업체 지원 검증을 지원합니다. 본 연구의 분석은 적응형 세션 풀 보안 및 안정적인 국소 섭동(local-perturbation) 경계와 함께, 구현 일치 분포 보존 및 완전 초기화(initialization) 라우팅/클리핑 예산을 확립합니다. LTX-2 및 MOVA에 대한 실험은 유사한 생성 품질을 보여줍니다. mAVE는 평가된 교체(swap) 테스트에서 99.8%의 참 긍정률(true-positive rate)과 0%의 관찰된 거짓 긍정률(false-positive rate)을 달성하며, FrameAvg 시간 평균화에서도 99.2%의 참 긍정률을 유지합니다. 동일 프롬프트 및 유사도 기반 선택 교체 실험은 지각적 호환성을 넘어 세션 인증을 추가로 테스트합니다.
유전체 모델이 학습에 사용된 합성 서열의 탐지 가능한 기록을 유지할 수 있을까요? 본 연구에서는 코돈(codon) 인식 기반의 그린리스트(green-list) 워터마킹 확장 기법인 GenoTrace를 통해 증류(distillation) 과정에서의 워터마크 상속을 연구합니다. 두 가지 토큰 수준 요인이 코돈 위치와 유기체 특이적 코돈 사용 빈도를 활용하여 교사(teacher) 모델의 생성 바이어스를 조절합니다. 이렇게 생성된 서열로 더 작은 학생(student) 모델을 학습시키며, 학생 모델의 출력은 활성 워터마크 프로세서 없이도 감사를 받습니다. 3개의 시드를 사용한 GenomeOcean-500M에서 100M으로의 증류 실험에서, 결합 구성은 고정된 임계값에서 평균 감사 점수 17.88과 94.5%의 탐지율을 달성했습니다. 또한 키 인식 토큰 치환 후에도 49.0%의 탐지율을 유지하여 단일 시드 일반 워터마크 비교군의 0%와 대비되었으며, 메커니즘을 표적으로 한 뉴클레오타이드 편집을 결합한 후에도 47.0%의 탐지율을 유지했습니다. 추가 실험을 통해 5개의 유기체 조건부 데이터셋과 최대 40배의 교사-학생 크기 비율 전반에서 상속된 신호가 확인되었습니다. 구성 요소 절제 연구와 전산 서열 품질 분석은 탐지 강도 및 코딩 커버리지에 대한 뚜렷한 작동 지점을 보여줍니다. GenoTrace는 실용적인 토큰 수준 구조를 제공하며, 유전체 구조가 상속된 워터마크 신호를 어떻게 형성하는지에 대한 실증적 설명을 제시합니다. 본 연구 결과는 공유 토크나이저 증류 및 테스트된 편집 절차에 관한 것이며, 캘리브레이션과 생물학적 유용성은 별도의 평가 요건으로 다루어집니다.
워터마킹(watermarking)은 생성형 AI(GenAI) 제공자가 콘텐츠가 자신의 모델에 의해 생성되었는지 여부를 검증할 수 있게 합니다. 워터마크는 콘텐츠 내의 숨겨진 신호로, 비밀 워터마크 키를 사용하여 그 존재를 탐지할 수 있습니다. 핵심적인 보안 위협은 위조 공격(forgery attack)으로, 공격자가 제공자가 제작하지 않은 콘텐츠에 해당 제공자의 워터마크를 삽입하여 잠재적으로 평판을 훼손하고 신뢰를 저해할 수 있습니다. 기존의 방어 기법은 동일한 콘텐츠에 여러 키를 사용하여 다수의 워터마크를 임베딩(embedding)함으로써 위조에 저항하지만, 이는 모델(model) 효용성을 저하시킬 수 있습니다. 더욱이 공격자가 충분히 많은 워터마크 샘플을 수집할 수 있는 경우 위조는 여전히 위협으로 남습니다. 본 연구에서는 키 대칭적이고 독립적인 탐지기 결과를 조건으로 하여, 블라인드 공격자(blind attacker)의 위조 성공률에 대해 샘플 수와 무관한 상한을 제공하는 방어 기법을 제안합니다. 제안하는 방식은 모델 효용성을 추가로 저하시키지 않습니다. 본 기법은 각 쿼리마다 워터마크 키 선택을 무작위화하고, 정확히 하나의 키에 의해서만 워터마크가 탐지될 때만 해당 콘텐츠를 진짜로 수용합니다. 계산 복잡도 가정에 의존하며 새로운 워터마킹 방식을 처음부터 설계해야 하는 암호학적 워터마크와 달리, 본 방법은 기존의 모든 워터마킹 방식에 적용되어 위조 저항성을 향상시킬 수 있습니다. 본 논문에서는 텍스트 워터마킹에 초점을 맞추지만, 기반이 되는 워터마킹 방식을 블랙박스로 취급하므로 본 방어 기법은 모달리티에 구애받지 않습니다(modality-agnostic). 이를 입증하기 위해 Tree-Ring을 활용한 이미지 워터마킹에 대한 예비 연구도 포함합니다. 이러한 조건부 보장과 별개로, 본 연구에서 평가한 적응형 블라인드 공격자에 대해 키 수 $r=4$일 때 유해 텍스트 위조 성공률이 단일 키 사용 시 최대 $87\%$에서 무시할 수 있는 수준의 계산 오버헤드로 최저 $1\%$까지 떨어짐을 실증적으로 관찰하였으며, 예비 이미지 연구에서는 $100\%$에서 $2\%$로 감소함을 보였습니다.
비디오 생성 모델(VGM)의 급격한 발전으로 매우 사실적인 합성 비디오 생성이 가능해졌으나, 동시에 이러한 모델들의 지식 재산권(IPR)에 대한 우려를 낳고 있습니다. 특히 밀접하게 연관된 두 가지 포렌식 과제, 즉 합성 비디오 검증(특정 비디오가 보호 대상 VGM에 의해 생성되었는지 판별)과 모델 소유권 검증(의심되는 VGM이 보호 대상 VGM의 무단 복제본인지 판별)은 여전히 제대로 다루어지지 않고 있습니다. 본 논문에서는 이 두 가지 검증 과제를 해결할 수 있는 새로운 생성 중(in-generation) 워터마킹 기법을 제안합니다. 먼저, 2-스케일 이산 웨이블릿 변환(DWT) 분해와 전역 시간 어텐션 블록(GTAB)을 통합하여 워터마크의 강인성과 비가시성을 강화하는 VidMark라는 새로운 비디오 워터마킹 네트워크를 제시합니다. 둘째로, 디코더 유도 미세조정(fine-tuning) 절차를 제시합니다. 고정된(frozen) VidMark 디코더를 활용함으로써, 이 과정은 VGM이 인지하기 어렵고 강인하며 모델에 특화된 워터마크를 포함하는 비디오를 합성할 수 있도록 합니다. 마지막으로, 합성 비디오 검증과 모델 소유권 검증을 수행하기 위한 두 가지 검증 프레임워크를 구축합니다. 대표적인 VGM들을 대상으로 한 광범위한 실험을 통해 제안된 기법이 비디오 생성 품질에 미치는 영향을 최소화하면서도 두 과제 모두에서 99% 이상의 워터마크 추출 정확도와 100%의 검증 정확도를 달성함을 입증합니다. 또한, 해당 워터마크는 포괄적인 범위의 비디오 수준 및 모델 수준 공격에 대해 강력한 강인성을 나타냅니다.
확산 모델을 위한 잠재 공간 워터마킹은 워터마크를 잠재 사전분포에 직접 내장하여, 모델 파라미터에 비침습적이고 생성 과정과 원활하게 통합되는 장점을 누린다. 그러나 잠재 가우시안성 위반 또는 잠 latent inversion 과정에서의 정상 및 악의적 교란(perturbation)에 대한 민감성으로 인해, 기존 방법은 워터마크 탐지 또는 제거 공격에 취약하다. 또한 간과된 문제는 워터마킹 후 i.i.d. 잠재 조건 위반으로, 이는 잠재 상관관계 저하와 생성 충실도 손실을 초래한다는 점이다. 이는 FID로 외부적으로 측정되었지만, 내부 상관관계 구조는 아직 엄밀하게 특성화되지 않았다. 위 문제를 해결하기 위해, 등방성(isotropic) 가우시안의 회전 불변성에 영감을 받아, 가우시안성을 보존하면서 불연속(disjoint) 잠재 요소 쌍 간의 대칭각(기준 쌍 대비 $\pmπ/2$)으로 워터마크 비트를 인코딩하는 \textit{Latent Angular Watermarking (LAW)}를 제안한다. 대칭각($π$-분리) 인코딩은 비트 값 간 기하학적 분리를 최대화하며, 디코딩 각도 오차 분산이 잠 latent 쌍의 노름에 비례함을, 즉 $\operatorname{var}(Δφ) \propto 1/ρ^2$임을 증명한다. 또한 워터마크 비트를 기하학적으로 가장 안정적인 잠 latent 차원에 고정하는 크기 기반(magnitude-driven) 변형 LAW-M를 제안하여 추가적인 강건성 향상을 얻는다. 이론적으로, 유도된 상관관계 저하에 대한 엄밀한 특성화를 제공하며, 워터마크가 삽입된 잠 latent의 자기상관(autocorrelation) 구조를 폐형(closed form)으로 유도하고, 상관관계가 고정된 $\pmπ/4$ 값을 갖는 희소하고 구조화된 비대각(off-diagonal) 요소 집합으로 제한됨을 증명한다.
대규모 언어 모델(LLM)이 임상 워크플로에 점점 더 통합되면서, 워터마킹을 통한 모델 생성 출력의 신뢰할 수 있는 추적 가능성(traceability)에 대한 필요성이 더욱 부각되고 있다. 그러나 대부분의 워터마크는 범용 벤치마크에서 평가되어, 작은 토큰 수준 perturbation이 상당한 의미적 변화를 초래할 수 있는 의학과 같은 도메인은 충분히 탐구되지 않았다. 본 연구에서는 LLM 워터마크가 의료 성능에 미치는 영향에 대한 최초의 엄밀한 연구를 제시하며, 단일 모달 및 다중 모달 임상 추론에 걸친 다양한 과제에서 11개 LLM과 7개 비전-언어 모델(VLM)에 걸쳐 5가지 워터마킹 방식을 벤치마킹한다. 중요하게도, 우리는 의료 추론 품질, 용어적 정확성, 유발된 환각을 체계적으로 감사하기 위한 인간 전문가 검증 파이프라인을 도입하여 기존 평가를 보완한다. 우리 결과는 워터마킹이 어휘 손상, 환각적 용어, 이미지 소견의 오인 또는 누락 증폭 등 여러 실패 모드에 걸쳐 상당한 성능 저하를 유발할 수 있음을 보여준다. 특히, 도메인 특화 분석의 부재와 임상 텍스트에 내재된 실패를 놓치는 집계 지표가 결합되면, 실질적인 워터마크 유발 성능 저하를 체계적으로 가릴 수 있음을 발견했다. 우리 연구 결과는 현재 벤치마크가 임상적으로 중대한 실패를 가릴 수 있는 의학 분야에서, 워터마크가 적용된 모델의 안전한 배포를 위해서는 도메인 특화 평가가 전제 조건임을 확립한다.
대규모 언어 모델(LLM)은 놀라운 성공을 거두었지만, 콘텐츠 출처와 오남용에 대한 우려가 커지면서 신뢰할 수 있는 워터마킹 기법의 필요성을 촉발하고 있다. 그러나 이러한 기법은 주로 두 가지 이유로 실무에서 거의 채택되지 않았다: i) 모델 성능의 심각한 저하, ii) 추가 추론 오버헤드. 이 문제를 확인하기 위해, 우리는 서로 다른 생성 태스크를 아우르는 포괄적인 벤치마크를 구축하여 9개의 대표적인 워터마킹 방법을 체계적으로 평가했다. 우리는 거의 모든 기존 방법이 텍스트 유창성을 위해 설계되었지 제한적이고 복잡한 태스크를 위해 설계되지 않았으며, 그 오버헤드가 지연 시간에 민감한 시스템에서의 배포를 막는다는 것을 발견했다. i)와 ii)를 해결하기 위해, 우리는 점점 더 인기를 끄는 전문가 혼합(MoE) LLM을 위한 LLM 워터마킹 방안 \textit{WaterMoE}를 제안한다. WaterMoE는 각 라우터에서 전문가 선택에 제어된 섭동을 통해 워터마킹 신호를 내장하며, 이는 최종 출력에서 토큰 선택 변화로 누적된다. 후처리 토큰 샘플링 접근법으로서의 워터마킹과 달리, WaterMoE는 추론 루프 내에 워터마크를 내장하여 무시할 수 있는 품질 저하와 계산 오버헤드만을 발생시킨다. 광범위한 실험을 통해 우리 방법이 워터마크가 없는 경우에 근접한 충실도 성능을 달성하고, 벤치마크에서 최신(state-of-the-art) 워터마킹 방법들을 지속적으로 능가하며, 최대 $4\times$ 속도 향상을 달성하고 네이티브 생성 대비 추가 추론 지연 시간이 단 1%에 불과함을 보여준다. 결과는 WaterMoE가 실제 태스크에 배포될 수 있는 능력을 보여준다.
생성 모델 출력의 워터마크는 보통 텍스트가 기계 생성인지 여부만 묻는다. 같은 표식으로는 더 많은 일을 할 수 있다: 이를 생성한 사용자에게 귀속하고, 숨겨진 페이로드를 추출하거나, 편집 후에도 남는 부분을 국소화하는 것이다. 이들은 포렌식 사다리를 이루며, 우리는 각 단계가 표본 길이 $n$에서 어떤 비용을 드는지 묻는다. 하나의 대상이 답을 정리한다. $S$를 표식이 담는 비밀(사용자 신원 또는 페이로드)이라 하고, 정보 프로필 $ν(t)=I(S;X_t\mid X_{<t})$는 이전 토큰들이 주어졌을 때 $t$번째 토큰이 $S$에 대해 얼마나 많이 드러내는지를 기록한다. 그 총량이 귀속과 추출의 대가를 치르게 하고, 그 분포 방식이 국소화의 대가를 치르게 하며, 탐지만은 정보가 아니라 존재, 즉 표식이 있는 분포와 없는 분포 사이의 거리로 대가를 치른다. 문헌의 두 품질 모델—모든 토큰에서 미묘한 표식과 소수 토큰에 크게 찍는 표식—은 이 프로필을 제한하는 두 가지 비교 불가능한 방식이다. 우리의 주정리는 사다리의 엔트로피 열을 확정한다. 통계적으로 왜곡 없는(d distortion-free) 방식에 대해, $N$명의 사용자 중 하나에게 텍스트를 귀속하는 비용은 엔트로피율 $h$를 갖는 모든 정상-에르고딕(stationary-ergodic) 소스에 대해 $Θ(\log N/h)$ 토큰이며, $(1+o(1))$ 인자까지 날카롭다: 우리가 아는 한 다중 사용자 귀속에 대한 최초의 정확한 엔트로피율 법칙(정확한 정렬을 통해)이다. 자연스러운 충돌 계수 분석은 무한히 과다 청구하며, 각 후보를 그 자체의 실현된 서프라이즈(surprisal)로 임계값 처리하는 디코더만이 이율을 달성하면서 거의 결코 무고한 사용자를 연루시키지 않는다. 대응하는 역정리(converse)가 이 법칙을 양방향으로 만들며, $\ell$비트 페이로드의 추출 비용은 $Θ(\ell/h)$이다. 두 가지 공백은 실재하며 모델링 인공물이 아니다: 텍스트가 증명 가능하게 기계 생성이지만 귀속 불가능한 $Θ(\log N)$ 토큰 창, 그리고 footprint-resolution 불확정성 원리. GPT-2, Pythia-410M, Qwen2.5에서의 실험은 예측된 상수를 재현한다.
영상 확산 모델의 급속한 발전으로 사실적인 영상 생성이 가능해지면서 무단 사용에 대한 우려가 커지고, 모델 소유권을 보호하는 기법에 대한 수요가 증가하고 있다. 기존 워터마킹 방법은 두 가지 핵심 한계를 가진다. 기존 워터마크 디코더로 인해 시간적 일관성을 간과하고, 생성된 영상의 시각적 품질을 저하시킨다. 이러한 문제를 해결하기 위해, 우리는 Latent Video Diffusion Watermarking(LVMark)이라는 잠재 영상 확산 모델용 강건한 워터마킹 방법을 제안한다. 생성된 영상에 맞춘 새로운 워터마크 디코더를 제안하며, 이는 인접 프레임 간의 일관성을 학습한다. 3차원 웨이블릿 도메인의 저주파 성분과 영상의 색상 특징을 결합하여, 악의적 공격 하에서도 정확한 메시지 디코딩을 보장한다. 또한 생성된 영상의 시각적 충실도를 유지하기 위해 잠재 디코더를 학습한다. 중요도 기반 가중치 변조 전략을 사용하여 시각적 외관에 미치는 영향을 최소화하는 계층에 워터마크를 삽입한다. 확산 모델의 워터마크 디코더와 잠재 디코더를 모두 최적화하여 시각적 품질과 비트 정확도 사이의 트레이드오프를 효과적으로 균형 있게 맞춘다. 실험 결과, 우리 방법은 영상 확산 모델에 보이지 않는 워터마크를 삽입하며, 왜곡 하에서도 512비트 용량으로 강건한 디코딩 정확도를 보장함을 보여준다.
대규모 언어 모델(LLM)의 급속한 발전에 따라, 텍스트 워터마킹은 기계 생성 콘텐츠를 식별하기 위한 핵심 기술로 부상하였다. 그러나 기존의 로짓(logits) 기반 워터마킹 방법을 코드 생성에 직접 적용하는 것은 여전히 어려운 과제로 남아 있는데, 코드의 낮은 엔트로피(low-entropy) 특성이 코드 품질과 워터마크 탐지 가능성 간의 트레이드오프를 악화시키기 때문이다. 본 논문에서는 LLM을 위한 문법 기반 워터마크(Grammar-Driven Watermark, GDW)라는 새로운 코드 워터마킹 접근법을 제안한다. GDW는 문법 유도 3단계 마스킹 메커니즘을 통해 구문 유효성을 보존하고, 구조적 역할 인식 변조(structural role-aware modulation)를 통해 워터마크 신호를 주입한다. 이 과정에서 의미를 담는 토큰에는 더 강한 바이어스를 부여하고, 구문적으로 중요한 토큰에는 보다 보수적인 바이어스를 적용한다. 생성 과정과의 정합성을 위해, 탐지 가능성을 향상시키는 역할 인식 가중 탐지 통계량도 추가로 설계하였다. 다양한 프로그래밍 언어, 모델, 디코딩 전략에 걸친 실험 결과, GDW는 기존 방법보다 더 강력한 품질-탐지 가능성 트레이드오프 경계를 달성하며, 변수명 변경 공격에 대한 강건성도 유지함을 보인다.
생성 모델링의 최근 발전으로 생성된 테이블 형식 데이터는 프라이버시에 민감한 데이터 공유를 위한 실용적인 솔루션이 되었으며, 워터마킹은 소유권 검증을 가능하게 한다. 그러나 기존 워터마킹 방법들은 재학습 공격에 근본적으로 취약하다. 재학습 공격에서 공격자는 워터마킹된 데이터셋으로 생성 모델을 재학습하여 워터마크가 포함되지 않은 고품질 데이터를 재생성한다. 우리는 생성 모델 재학습 이후에도 워터마크가 탐지 가능하게 유지되는 특성인 방사성(radioactivity)을 도입하여 이 문제를 해결하고, 데이터 분포의 내재적 구성 요소로 사인파 의존성을 삽입하는 방사성 워터마킹 방법인 RaMark를 제안한다. 워터마크를 기저 분포와 결합함으로써, RaMark는 데이터 유용성을 보존하는 모든 생성 모델이 워터마크 또한 보존해야 하도록 보장한다. 우리는 높은 확률로 워터마크 제거가 유용성을 저하시키고 데이터 분포를 변화시킴을 이론적으로 증명한다. 두 실제 테이블 형식 데이터셋에 대한 광범위한 실험에서, $10^5$개의 독립적인 데이터 소유자를 포함하는 대규모 소유권 검증 설정 하에, RaMark가 7가지 최신 방법들보다 실질적으로 강력한 방사성을 달성하며 재학습 공격과 데이터 수정 공격 모두에서 지속적으로 이들을 능가함을 보인다.
LLM 에이전트 궤적 로그의 출처 귀속(attribution)을 위협하는 재판매자 공격—삭제 및 LLM 기반 재작성—에 동시에 강건한 워터마크 프레임워크 TRACE를 제안하며, 내용 키 기반 선택 채널과 위치 키 기반 집계 채널을 중첩해 행동 선택의 왜곡 없이 두 공격 방향을 독립적으로 방어한다. ToolBench와 ALFWorld 실험에서 TRACE는 워터마크 미적용 에이전트와 동등한 성공률을 유지하면서 장기 궤적 기준 z ≈ 100의 감지 점수를 달성하고, 70% 단계 삭제와 임의 강도의 LLM 재작성 공격 하에서도 각 채널의 감지 능력을 보존함을 보인다.
로짓 기반 LLM 워터마킹에서 검출력과 의미적 왜곡 간의 트레이드오프를 정량화하는 검출력 보정(power-calibrated) 통계 프레임워크를 제안하며, 워터마크 하이퍼파라미터(γ, δ)와 검출력·KL 발산 사이의 명시적 관계를 도출한다. 이를 통해 휴리스틱 튜닝에 의존하던 파라미터 선택을 최적화 문제로 전환하고, 다수의 언어 모델과 데이터셋 실험에서 제안 프레임워크가 파레토 최적점(Pareto-optimal points)을 일관되게 식별함을 검증한다.
대규모 언어 모델(LLM)이 생성한 코드의 출처를 추적하기 위해, 본 연구는 변수 명명 규칙과 8가지 의미 동등 코드 패턴을 채널로 활용하여 24비트 페이로드를 삽입하는 최초의 사후(post-hoc) 비훈련 스프레드 스펙트럼 코드 워터마킹 기법을 제안한다. CodeNet 및 GPT-4.1, Llama-4 생성 코드 1,750개 Python 파일에서 공격 없이 100% 탐지 정확도를 달성하고, 17가지 공격 유형 중 변수 8회 이름 변경 시 97.6%, 무작위 10% 변조 시 94.1%의 식별자 복원 정확도를 기록했다.
워터마킹 방법은 대규모 언어 모델(LLM)이 생성한 텍스트에 감지할 수 없으면서도 검증 가능한 신호를 임베딩한다. 기존 접근법으로는 합성 텍스트와 인간 작성 텍스트를 구분하는 제로비트(zero-bit) 방식과 메타데이터를 임베딩하는 멀티비트(multi-bit) 방식이 있다. 그러나 현재의 멀티비트 워터마킹 방법은 선택적 공개를 지원하지 않는다. 즉, 워터마크의 일부를 검증하려면 임베딩된 메시지 전체를 공개해야 한다. 이러한 제어 불가능성은 불필요한 정보 노출을 초래하고 프라이버시 문제를 야기한다. 본 논문에서는 임베딩된 메타데이터의 선택적 공개를 가능하게 하는 워터마킹 프레임워크인 계층적 어휘 라우팅(Hierarchical Vocabulary Routing, HeRo)을 제안한다. 이 방법은 어휘를 재귀적으로 분할하고 워터마크 정보를 계층적 레이어에 분산시켜, 서로 다른 검증자가 자신의 접근 수준에 해당하는 페이로드 부분만을 디코딩할 수 있도록 한다. 제안된 방식이 기반 샘플링 프로세스의 비편향성을 보존하여 텍스트 품질을 유지함을 증명한다. 실험을 통해 본 프레임워크가 세밀한 접근 제어를 지원하면서도 높은 탐지 정확도와 낮은 지연 시간을 달성함을 입증한다. 코드는 https://github.com/xuyangc03/hero-watermark 에서 공개되어 있다.
확산 기반 생성 모델은 시각적 콘텐츠 합성을 혁신했지만, 무단 사용에 취약하고 신뢰할 수 있는 출처 귀속(attribution) 방법이 부족하다. 기존 워터마킹 기법들은 잠재 텐서(latent tensor)를 정적 공간 특징 맵으로 취급하거나 픽셀 도메인 수정에 의존하는 경우가 많으며, 대부분 이중 대역 중복 임베딩을 위해 잠재 공간의 내부 주파수 구조를 명시적으로 활용하지 않아 확산의 확률적 특성과 재생성 공격(regeneration attack)에 취약하다. 우리는 BiSLW를 제안한다. BiSLW는 학습된 인코더와 디코더를 사용하여 디코딩된 확산 잠재 공간의 상호보완적 스펙트럼 대역에 정렬된 식별 신호(identity signal)를 공동으로 임베딩하는 학습 가능한 이중 스펙트럼 잠재 워터마킹 프레임워크로, 고정 패턴 주파수 방식을 넘어선다. 우리는 확산 잠재 공간의 고유한 주파수 구조를 활용하여 이중 대역 워터마킹 프레임워크를 설계한다. 저주파 성분은 전역 의미(global semantics)를 인코딩하고, 고주파 성분은 세밀한 텍스처를 포착한다. 우리는 이 구조를 활용하여 상호보완적인 스펙트럼 대역에 걸쳐 워터마크를 임베딩한다. 워터마크는 학습된 인코더를 통해 두 대역에 독립적으로 삽입되고 디코딩 전에 재결합되어, 생성 궤적(generative trajectory)에 본질적으로 통합된다. 이중 스펙트럼 디코더는 각 대역에서 워터마크를 복원하며, 교차 대역 일관성 제약(cross-band consistency constraint)은 의미적 임베딩과 텍스처 임베딩 간의 정렬을 강제한다. 실험 결과, BiSLW는 지각적 충실도(perceptual fidelity)와 견고성 사이에서 강력한 균형을 달성하며, 기존 잠재 확산 워터마킹 방법 대비 PSNR을 3 dB 이상 향상시키는 동시에 공격적인 재생성 및 일반적인 왜곡 하에서도 거의 완벽한 비트 정확도를 유지하며, 이 모든 것을 무시할 수 있는 수준의 계산 오버헤드로 달성한다.
이미지 자기회귀 모델(IAR)은 최근 시각 콘텐츠 생성에서 놀라운 능력을 보여주었으며, 대규모 언어 모델에서 차용한 다음 토큰 예측 패러다임을 통해 사진과 같은 품질과 빠른 합성을 달성하고 있다. 이러한 모델이 광범위하게 접근 가능해짐에 따라, IAR이 생성한 이미지를 해당 이미지를 합성한 원본 모델로 신뢰성 있게 추적하기 위한 강건한 데이터 출처 추적(data provenance)이 요구된다. 이는 허위 정보의 확산을 방지하고, 사기를 탐지하며, 유해 콘텐츠를 귀속시키는 데 핵심적이다. 우리는 IAR이 생성한 이미지가 실제 이미지와 시각적으로 동일하게 보이는 경우가 많음에도 불구하고, 생성 과정에서 출력물에 특징적인 패턴이 도입되며, 이것이 생성된 이미지에 대한 신뢰할 수 있는 출처 추적 신호로 기능함을 발견하였다. 이를 활용하여, 우리는 출처 추적을 위한 이러한 패턴의 강건한 탐지를 가능하게 하는 사후(post-hoc) 프레임워크를 제시한다. 특히, 우리의 프레임워크는 생성 과정이나 출력물의 수정을 필요로 하지 않는다. 따라서 추가적인 마크 없이 이미 공개된 생성 콘텐츠나 워터마킹을 통합하지 않은 모델과 같이, 기존 워터마킹 방법을 적용할 수 없는 맥락에서도 활용 가능하다. 우리는 다양한 IAR에 걸쳐 우리 접근법의 효과를 입증하며, 자기회귀 이미지 생성에서 강건한 데이터 출처 추적의 높은 잠재력을 강조한다.
The widespread deployment of generative artificial intelligence (AI) models has raised serious concerns about the proliferation of AI-generated content. This has led to a surge of interest in, and demand for, reliable tracking and detection mechanisms for content that is AI-generated, such as watermarking, metadata tagging, content tagging, and more. The problem has captured the attention of policymakers as well as the popular media, and a spate of recent bills in the US have sought to regulate the spread of AI content, and enforce or promote methods to track and label it. This work performs a critical analysis of the policy discourse surrounding generative AI content transparency in the US and EU. Through a broad document selection methodology, we first collect a broad corpus of documents containing legislative language and policy-relevant discourse on the topic. We then analyze these through inductive coding, and leverage our coding to systematize these documents, identifying key patterns, gaps, and open questions. We identify critical points of disconnect between policy and technological capabilities and practice, and we highlight and discuss potential ambiguities and pitfalls raised by the trends in our corpus.