OGAN: Disrupting Deepfakes with an Adversarial Attack that Survives Training
원문 초록
Recent advances in autoencoders and generative models have given rise to effective video forgery methods, used for generating so-called "deepfakes". Mitigation research is mostly focused on post-factum deepfake detection and not on prevention. We complement these efforts by introducing a novel class of adversarial attacks---training-resistant attacks---which can disrupt face-swapping autoencoders whether or not its adversarial images have been included in the training set of said autoencoders. We propose the Oscillating GAN (OGAN) attack, a novel attack optimized to be training-resistant, which introduces spatial-temporal distortions to the output of face-swapping autoencoders. To implement OGAN, we construct a bilevel optimization problem, where we train a generator and a face-swapping model instance against each other. Specifically, we pair each input image with a target distortion, and feed them into a generator that produces an adversarial image. This image will exhibit the distortion when a face-swapping autoencoder is applied to it. We solve the optimization problem by training the generator and the face-swapping model simultaneously using an iterative process of alternating optimization. Next, we analyze the previously published Distorting Attack and show it is training-resistant, though it is outperformed by our suggested OGAN. Finally, we validate both attacks using a popular implementation of FaceSwap, and show that they transfer across different target models and target faces, including faces the adversarial attacks were not trained on. More broadly, these results demonstrate the existence of training-resistant adversarial attacks, potentially applicable to a wide range of domains.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
ISPCloak: 딥페이크 탐지기 대항 최적화 없는 물리적 위장을 위한 ISP 무기화
ISPCloak: Weaponizing ISP for Optimization-Free Physical Camouflage against Deepfake Detectors
생성 모델의 급속한 발전은 딥페이크 탐지기의 최악의 경우(worst-case) 견고성을 평가할 필요성을 촉발했다. 본 논문에서는 현재 포렌식 패러다임의 근본적인 사각지대를 밝힌다. 기존 탐지기는 디지털 합성 아티팩트를 포착하는 데 탁월하지만, AI 생성 콘텐츠가 진정한 물리적 촬영 특성으로 위장될 때 그 효과가 급격히 저하된다. 우리는 진짜 사진이 본질적으로 광학 센서와 이미지 신호 처리(Image Signal Processing, ISP) 파이프라인이 새긴, 인지할 수 없는 흔적인 하드웨어 고유의 통계적 시그니처를 지니며, 이는 순수 데이터 기반 생성 모델에는 근본적으로 부재한다고 주장한다. 이 통찰에 기반하여, 우리는 딥페이크 탐지기의 판단을 오도하기 위해 ISP 파이프라인을 명시적으로 무기화하는 새로운 최적화 없는 적대적 공격(adversarial attack) 프레임워크인 ISPCloak을 제안한다. 계산 비용이 큰 그래디언트 교란에 의존하는 대신, 우리 방법은 먼저 가역 ISP 네트워크를 사용하여 이미지를 RAW 도메인으로 투영한다. 그다음, 현실적인 Poisson-Gaussian 센서 노이즈를 주입하고 순방향 ISP 재구성을 수행함으로써 AI 생성 이미지에 실제 카메라의 복잡한 통계적 사전(prior)을 매끄럽게 각인한다. 생성 아티팩트 억제와 적응형 마스킹과 시너지를 이루면, 이 간소화된 물리적 시뮬레이션은 적대적 예제(adversarial example)의 초고속 생성을 가능하게 한다. 광범위한 실험은 진정한 물리적 교란을 임베딩하는 것이 현재의 다양한 탐지 메커니즘을 근본적으로 교란하며, 인지할 수 없는 시각적 변화로 보편적으로 회피 가능한 적대적 예제를 산출함을 보여준다.
ARMOR++: 딥페이크 탐지기에 대한 전이 가능 공격을 위한 다중 도메인 프리미티브 집합의 에이전트 기반 오케스트레이션
ARMOR++: Agentic Orchestration of a Multi-Domain Primitive Set for Transferable Attacks on Deepfake Detectors
딥페이크 탐지기의 신뢰성은 블랙박스 적대적 전이(adversarial transfer) 하에서 자주 저하되는데, 이는 이러한 모델이 종종 취약하고 아키텍처에 의존하는 포렌식 단서에 의존하기 때문이다. 기존 전이 공격은 종종 의미론적 인식이 부족하고, 특히 섭동(perturbation)이 컨볼루션 기반 대리 모델(surrogate)에서 트랜스포머 기반 목표로 전이될 때, 엄격한 무쿼리(no-query) 제약 하에서 효과를 유지하기 어렵다. 이러한 한계를 해결하기 위해, 본 논문은 높은 전이성(transferability)을 목표로 하는 딥페이크 회피를 위한 강건한 멀티에이전트 프레임워크인 ARMOR++를 제안한다. 이 프레임워크는 Qwen2.5-VL 비전-언어 모델(VLM)을 활용해 공간적 의미론적 사전(prior)을 제공하고, Qwen3 대규모 언어 모델(LLM)이 프리미티브 선택, 적응형 하이퍼파라미터 재파라미터화(reparameterization), 엔트로피 정규화 섭동 혼합을 오케스트레이션한다. 밀집 최적화, 눈금성(saliency) 기반 방법, 공간 변환, 주파수 영역 섭동, 블록 구조 수정에 걸친 다섯 가지 상보적 프리미티브를 통합함으로써, ARMOR++는 이질적인 귀납 편향(inductive bias)을 효과적으로 타겟팅한다. AADD-2025 벤치마크에 대한 엄격한 평가에서 ARMOR++는 저품질 및 고품질 이미지 영역 모두에서 기존 에이전트 기반 및 비에이전트 기준선을 크게 능가함을 보여준다. 통계 분석은 최첨단 에이전트 기반 기준선 대비 맹표(blind-target) 공격 성공률(ASR)에서 상당한 향상을 확인했으며, 비에이전트 벤치마크 및 강건한 방어 구성 하에서도 추가적인 성능 이점이 입증되었다. 이러한 결과는 현재 딥페이크 탐지기 배포에서 상당한 잔여 신뢰성 격차가 있음을 부각하고, 잠재적 취약점을 식별하는 데 있어 에이전트 기반 오케스트레이션의 효과를 보여준다.
텍스처 속 숨겨진 흔적: 크로스 패러다임 AI 생성 이미지 탐지를 위한 텍스처-관계 단서
Ghosts Beneath Textures: Texture-Relation Cues for Cross-Paradigm AI-Generated Image Detection
AI 생성 이미지가 급격히 확산됨에 따라 광범위한 연구가 진행되고 있다. 기존 AI 생성 이미지 탐지기 대부분은 노이즈 기반 또는 텍스트 기반 생성과 같은 이미지 자유 생성(image-free generation) 패러다임에서 개발 및 평가되었다. 그러나 이미지 조건부 생성(image-conditioned generation)은 생성 콘텐츠에 대한 보다 세밀한 제어를 가능하게 하므로 실용적 응용 분야에서 점점 더 중요해지고 있다. 이 두 패러다임에 걸쳐 AI 생성 이미지를 탐지하는 문제는 오랫동안 간과되어 온 핵심적인 크로스 패러다임 탐지 문제를 야기한다. 이 문제를 연구하기 위해, 우리는 크로스 패러다임 AI 생성 이미지 탐지를 위한 벤치마크인 ConImageGen을 구축한다. ConImageGen에 대한 평가 결과, 기존 탐지기들은 이미지 자유 생성과 이미지 조건부 생성 간에 신뢰할 만한 일반화에 실패함을 보인다. 이 문제를 해결하기 위해, 본 논문은 크로스 패러다임 포렌식 단서를 식별하고 일반화된 AI 생성 이미지 탐지를 위한 새로운 관점을 제시한다. 구체적으로, 의미론적 간섭을 억제함으로써 우리는 생성 패러다임 전반에 걸쳐 의미와 무관한 텍스처 패턴을 최초로 시각화한다. 이러한 패턴은 구조화된 국소-전역 텍스처 관계를 나타내며, 이는 일반화 가능한 포렌식 증거의 형태임을 시사한다. 이 발견에 착안하여, 우리는 명시적 아티팩트를 직접 활용하는 방식에서 텍스처 관계를 모델링하는 방향으로 초점을 전환하고, 일반화된 AI 생성 이미지 탐지를 위해 이러한 관계를 포착하고 활용하는 탐지 프레임워크인 DTS-Det을 제안한다. 광범위한 실험을 통해 우리 방법의 효과가 검증된다. DTS-Det은 다양한 평가 설정에서 최첨단 성능을 달성하며, ConImageGen에서 최적 기준선 대비 10.5% 향상된 99.6% ACC를 기록한다. 또한 PicoBanana/RAID에 대한 크로스 데이터셋 평가에서 93.2%/94.1% ACC를 달성하고, 재구성 공격 및 블랙박스 적대적 공격 하에서 각각 95.2%/88.1%의 탐지율을 유지한다.
UNTAG: LEARNING GENERIC FEATURES FOR UNSUPERVISED TYPE-AGNOSTIC DEEPFAKE DETECTION
Bts-e: Audio deepfake detection using breathing-talking-silence encoder
Masked Relation Learning for DeepFake Detection
토론
이 논문과 연결된 포럼 글이 아직 없습니다.