arXiv:2202.05687

D4: Detection of Adversarial Diffusion Deepfakes Using Disjoint Ensembles

Ashish Hooda, Neal Mangaokar, Ryan Feng, Kassem Fawaz, Somesh Jha, Atul Prakash

제출 2022-02-11

원문 초록

Detecting diffusion-generated deepfake images remains an open problem. Current detection methods fail against an adversary who adds imperceptible adversarial perturbations to the deepfake to evade detection. In this work, we propose Disjoint Diffusion Deepfake Detection (D4), a deepfake detector designed to improve black-box adversarial robustness beyond de facto solutions such as adversarial training. D4 uses an ensemble of models over disjoint subsets of the frequency spectrum to significantly improve adversarial robustness. Our key insight is to leverage a redundancy in the frequency domain and apply a saliency partitioning technique to disjointly distribute frequency components across multiple models. We formally prove that these disjoint ensembles lead to a reduction in the dimensionality of the input subspace where adversarial deepfakes lie, thereby making adversarial deepfakes harder to find for black-box attacks. We then empirically validate the D4 method against several black-box attacks and find that D4 significantly outperforms existing state-of-the-art defenses applied to diffusion-generated deepfake detection. We also demonstrate that D4 provides robustness against adversarial deepfakes from unseen data distributions as well as unseen generative techniques.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.21897v1cs.CV공통 태그 Adversarial Robustness, DeepFake Detection

ISPCloak: 딥페이크 탐지기 대항 최적화 없는 물리적 위장을 위한 ISP 무기화

ISPCloak: Weaponizing ISP for Optimization-Free Physical Camouflage against Deepfake Detectors

생성 모델의 급속한 발전은 딥페이크 탐지기의 최악의 경우(worst-case) 견고성을 평가할 필요성을 촉발했다. 본 논문에서는 현재 포렌식 패러다임의 근본적인 사각지대를 밝힌다. 기존 탐지기는 디지털 합성 아티팩트를 포착하는 데 탁월하지만, AI 생성 콘텐츠가 진정한 물리적 촬영 특성으로 위장될 때 그 효과가 급격히 저하된다. 우리는 진짜 사진이 본질적으로 광학 센서와 이미지 신호 처리(Image Signal Processing, ISP) 파이프라인이 새긴, 인지할 수 없는 흔적인 하드웨어 고유의 통계적 시그니처를 지니며, 이는 순수 데이터 기반 생성 모델에는 근본적으로 부재한다고 주장한다. 이 통찰에 기반하여, 우리는 딥페이크 탐지기의 판단을 오도하기 위해 ISP 파이프라인을 명시적으로 무기화하는 새로운 최적화 없는 적대적 공격(adversarial attack) 프레임워크인 ISPCloak을 제안한다. 계산 비용이 큰 그래디언트 교란에 의존하는 대신, 우리 방법은 먼저 가역 ISP 네트워크를 사용하여 이미지를 RAW 도메인으로 투영한다. 그다음, 현실적인 Poisson-Gaussian 센서 노이즈를 주입하고 순방향 ISP 재구성을 수행함으로써 AI 생성 이미지에 실제 카메라의 복잡한 통계적 사전(prior)을 매끄럽게 각인한다. 생성 아티팩트 억제와 적응형 마스킹과 시너지를 이루면, 이 간소화된 물리적 시뮬레이션은 적대적 예제(adversarial example)의 초고속 생성을 가능하게 한다. 광범위한 실험은 진정한 물리적 교란을 임베딩하는 것이 현재의 다양한 탐지 메커니즘을 근본적으로 교란하며, 인지할 수 없는 시각적 변화로 보편적으로 회피 가능한 적대적 예제를 산출함을 보여준다.

arXiv:2607.15246v1cs.CV공통 태그 Adversarial Robustness, DeepFake Detection

ARMOR++: 딥페이크 탐지기에 대한 전이 가능 공격을 위한 다중 도메인 프리미티브 집합의 에이전트 기반 오케스트레이션

ARMOR++: Agentic Orchestration of a Multi-Domain Primitive Set for Transferable Attacks on Deepfake Detectors

딥페이크 탐지기의 신뢰성은 블랙박스 적대적 전이(adversarial transfer) 하에서 자주 저하되는데, 이는 이러한 모델이 종종 취약하고 아키텍처에 의존하는 포렌식 단서에 의존하기 때문이다. 기존 전이 공격은 종종 의미론적 인식이 부족하고, 특히 섭동(perturbation)이 컨볼루션 기반 대리 모델(surrogate)에서 트랜스포머 기반 목표로 전이될 때, 엄격한 무쿼리(no-query) 제약 하에서 효과를 유지하기 어렵다. 이러한 한계를 해결하기 위해, 본 논문은 높은 전이성(transferability)을 목표로 하는 딥페이크 회피를 위한 강건한 멀티에이전트 프레임워크인 ARMOR++를 제안한다. 이 프레임워크는 Qwen2.5-VL 비전-언어 모델(VLM)을 활용해 공간적 의미론적 사전(prior)을 제공하고, Qwen3 대규모 언어 모델(LLM)이 프리미티브 선택, 적응형 하이퍼파라미터 재파라미터화(reparameterization), 엔트로피 정규화 섭동 혼합을 오케스트레이션한다. 밀집 최적화, 눈금성(saliency) 기반 방법, 공간 변환, 주파수 영역 섭동, 블록 구조 수정에 걸친 다섯 가지 상보적 프리미티브를 통합함으로써, ARMOR++는 이질적인 귀납 편향(inductive bias)을 효과적으로 타겟팅한다. AADD-2025 벤치마크에 대한 엄격한 평가에서 ARMOR++는 저품질 및 고품질 이미지 영역 모두에서 기존 에이전트 기반 및 비에이전트 기준선을 크게 능가함을 보여준다. 통계 분석은 최첨단 에이전트 기반 기준선 대비 맹표(blind-target) 공격 성공률(ASR)에서 상당한 향상을 확인했으며, 비에이전트 벤치마크 및 강건한 방어 구성 하에서도 추가적인 성능 이점이 입증되었다. 이러한 결과는 현재 딥페이크 탐지기 배포에서 상당한 잔여 신뢰성 격차가 있음을 부각하고, 잠재적 취약점을 식별하는 데 있어 에이전트 기반 오케스트레이션의 효과를 보여준다.

arXiv:2607.13234v1cs.CV공통 태그 Adversarial Robustness, DeepFake Detection

지속적으로 진화하는 딥페이크 탐지: 동적 탐지 시스템의 아키텍처 및 공개 벤치마크 평가

Continuously Evolving Deepfake Detection: An Architecture and Public-Benchmark Evaluation of a Dynamic Detection System

학술 벤치마크에서 거의 완벽한 점수를 달성하는 딥페이크 탐지기는 실세계 콘텐츠에서는 성능이 급격히 무너집니다. 최근 in-the-wild 평가에서는 최신(state-of-the-art) 오픈소스 모델의 AUC가 45-50% 하락한다고 보고됩니다. 우리는 이 격차가 구조적이라고 주장합니다. 정적 탐지기는 계속 변화하는 생성 프론티어에 대해 한 번만 학습되기 때문입니다. 우리는 Bittensor SN34를 통해 학습된 BitMind Forensics(BMF)를 제안합니다. Bittensor SN34는 학습 분포를 지속적으로 갱신하는 공개 적대적(adversarial) 경쟁입니다. 우리는 이미지, 일반 비디오, 인간 비디오 체크포인트를 포함하는 하나의 특정 시점 export를 19개의 공개 데이터셋에서 평가합니다. 여기에는 표준 face-swap 스위트(FaceForensics++, Celeb-DF v1/v2/++, DFDC, DFD, UADFV, DF40)와 최근 in-the-wild 및 AI 생성 미디어 벤치마크(Sumsub, Deepfake-Eval-2024, WildRF, Community Forensics, AIGCDetectBench, GenImage, AI-GenBench, AIGIBench, RAID, GenVidBench, GenVideo-100K)가 포함됩니다. BMF는 Sumsub의 원본 이미지에서 0.936 AUC를 달성하고, 전체 4조건 조작 배터리(140만 이미지)에 대한 pooled AUC 0.872를 기록합니다. perturbation 하에서도 견고하며(0.855 JPEG, 0.799 downscaled), GPEN enhancement는 탐지 성능을 향상시킵니다(0.996). Deepfake-Eval-2024에서 BMF는 이미지에서 최고의 상용 탐지기와 동등합니다(0.915 vs 0.90)고, 비디오에서는 이를 초과합니다(0.822 vs 0.79). 이는 최고의 오픈소스 탐지기(0.56 및 0.63)보다 훨씬 높습니다. 21개 생성기 AI 이미지 패널에서 0.991 AUC, GenVidBench에서 0.918 AUC를 달성하며, DFDC(0.947 vs 0.843) 및 Celeb-DF v2(0.9985 vs 0.956)에서 FF++로 학습된 frontier를 초과합니다. 둘 다 오염 검증(contamination-audited)되었으며, Celeb-DF++에서는 통계적 동등성을 보입니다. 시간적 연구에서 연속된 특정 시점 export는 정적 기준선의 학습에 없던 생성기의 held-out 미디어에서 성능이 향상됩니다(이미지 0.842→0.902; 비디오 0.864→0.936). 평가 하네스는 공개되어 있으며, 출판 시점에 프로덕션 API는 독립적 검증을 위해 평가된 정확한 스냅샷을 제공합니다.

arXiv:2607.05434v1cs.CR공통 태그 Adversarial Robustness, DeepFake Detection

포렌식 합성 미디어 탐지를 위한 확률적 AI 모델의 귀추적 입증

Abductive Corroboration of Probabilistic AI Models for Forensic Synthetic Media Detection

인공지능(AI) 모델은 그 핵심에서, 광범위한 데이터셋으로부터 얻은 일반적인 학습 결과를 확률적 동작을 통해 개별 상황에 적용한다. 이러한 귀납적 접근 방식은 전제로부터 결론을 증명하려는 연역적 추론 접근 방식과 대비된다. 그러나 연구에 따르면 AI 모델을 활용한 연역적 추론은 어려운 문제이며, 실제 환경에서는 항상 실현 가능하지 않을 수 있다. 이에 대한 대안적 방향은 귀추적 추론(abductive reasoning)을 활용하는 것으로, 사실적 증거 행렬로부터 가장 가능성 높은 결론을 도출하기 위해 여러 접근 방식의 출력을 입증하는 것이다. 우리는 이를 포렌식 환경에서의 합성 미디어 탐지에 적용하여, 진양성 재현율 대비 위양성 위험을 불균형적으로 낮출 수 있음을 발견했다. 또한 합성 이미지에 대한 OpenAI의 SynthID 롤아웃에 대한 최초의 실증적 평가를 제공하고, 서로 다른 합성 미디어 탐지 접근 방식들이 얼마나 상호 보완적인지를 평가한다.

arXiv:2607.03862v1cs.CV공통 태그 Adversarial Robustness, DeepFake Detection

텍스처 속 숨겨진 흔적: 크로스 패러다임 AI 생성 이미지 탐지를 위한 텍스처-관계 단서

Ghosts Beneath Textures: Texture-Relation Cues for Cross-Paradigm AI-Generated Image Detection

AI 생성 이미지가 급격히 확산됨에 따라 광범위한 연구가 진행되고 있다. 기존 AI 생성 이미지 탐지기 대부분은 노이즈 기반 또는 텍스트 기반 생성과 같은 이미지 자유 생성(image-free generation) 패러다임에서 개발 및 평가되었다. 그러나 이미지 조건부 생성(image-conditioned generation)은 생성 콘텐츠에 대한 보다 세밀한 제어를 가능하게 하므로 실용적 응용 분야에서 점점 더 중요해지고 있다. 이 두 패러다임에 걸쳐 AI 생성 이미지를 탐지하는 문제는 오랫동안 간과되어 온 핵심적인 크로스 패러다임 탐지 문제를 야기한다. 이 문제를 연구하기 위해, 우리는 크로스 패러다임 AI 생성 이미지 탐지를 위한 벤치마크인 ConImageGen을 구축한다. ConImageGen에 대한 평가 결과, 기존 탐지기들은 이미지 자유 생성과 이미지 조건부 생성 간에 신뢰할 만한 일반화에 실패함을 보인다. 이 문제를 해결하기 위해, 본 논문은 크로스 패러다임 포렌식 단서를 식별하고 일반화된 AI 생성 이미지 탐지를 위한 새로운 관점을 제시한다. 구체적으로, 의미론적 간섭을 억제함으로써 우리는 생성 패러다임 전반에 걸쳐 의미와 무관한 텍스처 패턴을 최초로 시각화한다. 이러한 패턴은 구조화된 국소-전역 텍스처 관계를 나타내며, 이는 일반화 가능한 포렌식 증거의 형태임을 시사한다. 이 발견에 착안하여, 우리는 명시적 아티팩트를 직접 활용하는 방식에서 텍스처 관계를 모델링하는 방향으로 초점을 전환하고, 일반화된 AI 생성 이미지 탐지를 위해 이러한 관계를 포착하고 활용하는 탐지 프레임워크인 DTS-Det을 제안한다. 광범위한 실험을 통해 우리 방법의 효과가 검증된다. DTS-Det은 다양한 평가 설정에서 최첨단 성능을 달성하며, ConImageGen에서 최적 기준선 대비 10.5% 향상된 99.6% ACC를 기록한다. 또한 PicoBanana/RAID에 대한 크로스 데이터셋 평가에서 93.2%/94.1% ACC를 달성하고, 재구성 공격 및 블랙박스 적대적 공격 하에서 각각 95.2%/88.1%의 탐지율을 유지한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.