arXiv:2510.16320v2 cs.CV

딥페이크 탐지를 위한 스케일링 법칙

Scaling Laws for Deepfake Detection

Wenhao Wang, Jusheng Zhang, Longqi Cai, Taihong Xiao, Yuxiao Wang, Ming-Hsuan Yang

제출 2025-10-18

한국어 초록

본 논문에서는 딥페이크 탐지 태스크를 위한 스케일링 법칙(scaling laws)에 대한 체계적인 연구를 제시합니다. 구체적으로, 실제 이미지 도메인의 수, 딥페이크 생성 기법의 수, 그리고 학습(training) 이미지의 수에 따른 모델(model) 성능을 분석합니다. 기존 데이터셋(dataset) 중 본 연구의 규모 요구사항을 충족하는 데이터셋이 없기 때문에, 당 분야에서 현재까지 가장 큰 규모인 ScaleDF를 구축했습니다. ScaleDF는 51개의 서로 다른 데이터셋(도메인)에서 수집한 580만 개 이상의 실제 이미지와 102개의 딥페이크 기법으로 생성된 880만 개 이상의 가짜 이미지를 포함합니다. ScaleDF를 사용하여 대규모 언어 모델(LLM)에서 나타나는 것과 유사한 멱법칙 스케일링(power-law scaling)을 관찰했습니다. 특히, 실제 도메인 수나 딥페이크 기법 수가 증가함에 따라 평균 탐지 오류율은 예측 가능한 멱법칙 감소세를 보입니다. 이러한 핵심 관찰 결과는 목표 성능에 도달하는 데 필요한 추가 실제 도메인 수나 딥페이크 기법 수를 예측할 수 있게 해줄 뿐만 아니라, 데이터 중심(data-centric) 방식으로 진화하는 딥페이크 기술에 대응할 수 있는 통찰을 제공합니다. 이에 더해, 스케일링 환경 하의 딥페이크 탐지에서 사전학습(pre-training)과 데이터 증강(data augmentations)의 역할 및 스케일링 자체의 한계점을 조사합니다. ScaleDF 데이터셋은 https://huggingface.co/datasets/WenhaoWang/ScaleDF 에서 이용할 수 있습니다.

원문 초록

This paper presents a systematic study of scaling laws for the deepfake detection task. Specifically, we analyze the model performance against the number of real image domains, deepfake generation methods, and training images. Since no existing dataset meets the scale requirements for this research, we construct ScaleDF, the largest dataset to date in this field, which contains over 5.8 million real images from 51 different datasets (domains) and more than 8.8 million fake images generated by 102 deepfake methods. Using ScaleDF, we observe power-law scaling similar to that shown in large language models (LLMs). Specifically, the average detection error follows a predictable power-law decay as either the number of real domains or the number of deepfake methods increases. This key observation not only allows us to forecast the number of additional real domains or deepfake methods required to reach a target performance, but also inspires us to counter the evolving deepfake technology in a data-centric manner. Beyond this, we examine the role of pre-training and data augmentations in deepfake detection under scaling, as well as the limitations of scaling itself.The ScaleDF dataset is available at https://huggingface.co/datasets/WenhaoWang/ScaleDF.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2510.16320v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.00948v2cs.CV공통 태그 Data Augmentation, DeepFake Detection

움직임 기반 AI 생성 비디오 탐지에서의 데이터셋 바이어스 및 지름길 학습

Dataset Biases and Shortcut Learning in Motion-Based AI-Generated Video Detection

최근 몇 년 동안 AI 생성 비디오의 시각적 품질이 비약적으로 향상되면서, 인간이 실제 미디어와 합성 미디어를 구별하기가 점점 더 어려워지고 있습니다. 본 연구에서는 최첨단(state-of-the-art) 움직임 기반 AI 생성 비디오 탐지기 4종의 견고성(robustness)과 적용 가능성을 평가합니다. 우리는 4가지 방법 중 3가지에서 중대한 전처리 및 샘플링 바이어스를 식별하고, 이것이 보고된 성능의 상당 부분을 차지함을 입증합니다. 나아가 이러한 탐지기들이 평가 데이터셋에 특화된 움직임 패턴에 매우 민감하며, 해당 데이터셋에서는 AI 생성 비디오가 실제 비디오보다 프레임 간 움직임이 대체로 적게 나타난다는 점을 밝혀냅니다. 또한 이러한 움직임 바이어스가 없는 데이터셋에서 평가할 경우 모든 탐지기의 성능이 무작위 추측에 가까운 수준으로 급락함을 보입니다. 아울러 데이터셋 재균형(rebalancing)과 단순한 공간 증강(spatial augmentations) 적용을 통해, 평가된 모든 모델에서 심각한 성능 저하가 발생함을 관찰했습니다. 반면, 기존의 주파수 기반 탐지기는 평가된 모든 데이터셋에서 우수한 성능을 유지함을 확인하였으며, 이는 주파수 기반 접근법이 AI 생성 비디오 탐지에서 더 일반화 가능한 방향성을 제시할 수 있음을 시사합니다. 본 연구가 이러한 취약점에 대한 경각심을 높이고, 더욱 대표성 있고 편향되지 않은 데이터셋과 견고한 평가 프로토콜 개발을 촉진하기를 기대합니다.

arXiv:2609.23830v1cs.CV공통 태그 Data Augmentation, DeepFake Detection

DFD-Lab: 모듈형 오디오-비주얼 딥페이크 탐지 파이프라인

DFD-Lab: A Modular Audio-Visual Deepfake Detection Pipeline

오디오-비주얼 딥페이크 탐지기(audio-visual deepfake detector)를 비교하려면 데이터셋 적응, 시간적 입력 표현(temporal input representation), 모델 인터페이스, 실험 조건을 함께 조율해야 한다. 본 논문은 이러한 책임들을 분리하면서도 공통된 학습 및 평가 워크플로를 지원하는 모듈형 파이프라인인 DFD-Lab을 제시한다. 우리는 Xception 기반 최대 로짓(maximum-logit) 융합, 시간적 LSTM 융합을 사용하는 ResNet, 그리고 우리가 재구현한 AVFF의 세 가지 구현을 통합한다. 실험은 외부 테스트, 열화(degradation) 기반 학습 증강(training augmentation), 그리고 평가 시점의 손상(corruption)을 다룬다. Deepfake-Eval-2024의 필터링된 하위 집합(subset)에서, FakeAVCeleb으로 학습된 모델들은 각각 0.504, 0.538, 0.458의 기준선 AUROC 값을 달성한다. JPEG50 학습 증강은 이 값을 각각 0.691, 0.605, 0.570으로 높이는 반면, 세 모델의 정확도는 모두 감소한다. 이러한 결과는 학습 개입, 평가 손상, 그리고 지표에 따라 달라지는 결과가 공통 파이프라인 내에서 왜 구분되어야 하는지를 보여준다. 본 연구의 기여는 오디오-비주얼 처리, 상호 교체 가능한 탐지기, 그리고 설정 가능한 실험 워크플로의 통합이며, 이는 실증적 사례 연구(case study)로 뒷받침된다. 이 연구 결과는 데이터셋 간(cross-dataset) 탐지의 어려움과 순위화(ranking) 지표 및 분류 지표가 제공하는 상호 보완적 정보를 강조한다.

arXiv:2607.24016v3cs.CV공통 태그 Image Forensics, DeepFake Detection

DailyBench: 최신 생성 모델의 AI 생성 및 조작 이미지를 위한 통합 벤치마크

DailyBench: A Unified Benchmark for AI-Generated and Manipulated Images from Modern Generative Models

최근 생성 모델의 발전으로 AI 생성 이미지 탐지는 쉽게 구별 가능한 완전 합성 이미지를 식별하는 것에서, 최신 생성 및 조작 파이프라인 모두에서 생성된 고도로 사실적인 콘텐츠를 식별하는 것으로 초점이 이동했다. 그러나 기존 탐지 벤치마크는 종종 구식 생성 모델로 구축되었으며 주로 전체 이미지 합성에 중점을 두어, 벤치마크 데이터와 실제 생성 및 편집 시나리오에서 접하는 이미지 사이의 불일치가 점점 커지고 있다. 이 격차를 해소하기 위해, 우리는 AI 생성 이미지 탐지기가 최신 전체 이미지 합성과 객체 수준 조작 모두에 걸쳐 일반화할 수 있는지 평가하는 고품질 통합 벤치마크인 DailyBench를 제안한다. DailyBench는 두 가지 상호 보완적인 하위 집합으로 구성된다: 최근 오픈소스 및 상용 생성 모델로 합성한 고품질 이미지를 포함하는 FakeBench, 그리고 고급 이미지 조건부 모델을 사용해 실제 이미지에 적용한 도전적인 객체 수준 편집을 도입하는 ManipulationBench. 이 설계는 DailyBench를 미세한 국소 편집 하에서 생성기 수준 일반화와 조작 인식 탐지를 모두 연구하기 위한 현실적인 테스트베드로 만든다. DailyBench에서의 실험은 현재 탐지기의 상당한 견고성 격차를 드러낸다: GenImage에서 91-96%의 균형 정확도를 보고한 방법들은 FakeBench에서 60-76%, ManipulationBench에서 54-66%로 하락한다. 이 결과는 기존 탐지기가 사실적인 합성 및 조작에 대해 여전히 일반화가 부족함을 보여주며, DailyBench가 견고하고 조작 인식 AI 생성 이미지 탐지 방법 개발을 위한 엄격한 테스트베드임을 강조한다. 프로젝트는 https://dailybench.github.io/ 에서 확인할 수 있다.

arXiv:2607.21897v1cs.CV공통 태그 Image Forensics, DeepFake Detection

ISPCloak: 딥페이크 탐지기 대항 최적화 없는 물리적 위장을 위한 ISP 무기화

ISPCloak: Weaponizing ISP for Optimization-Free Physical Camouflage against Deepfake Detectors

생성 모델의 급속한 발전은 딥페이크 탐지기의 최악의 경우(worst-case) 견고성을 평가할 필요성을 촉발했다. 본 논문에서는 현재 포렌식 패러다임의 근본적인 사각지대를 밝힌다. 기존 탐지기는 디지털 합성 아티팩트를 포착하는 데 탁월하지만, AI 생성 콘텐츠가 진정한 물리적 촬영 특성으로 위장될 때 그 효과가 급격히 저하된다. 우리는 진짜 사진이 본질적으로 광학 센서와 이미지 신호 처리(Image Signal Processing, ISP) 파이프라인이 새긴, 인지할 수 없는 흔적인 하드웨어 고유의 통계적 시그니처를 지니며, 이는 순수 데이터 기반 생성 모델에는 근본적으로 부재한다고 주장한다. 이 통찰에 기반하여, 우리는 딥페이크 탐지기의 판단을 오도하기 위해 ISP 파이프라인을 명시적으로 무기화하는 새로운 최적화 없는 적대적 공격(adversarial attack) 프레임워크인 ISPCloak을 제안한다. 계산 비용이 큰 그래디언트 교란에 의존하는 대신, 우리 방법은 먼저 가역 ISP 네트워크를 사용하여 이미지를 RAW 도메인으로 투영한다. 그다음, 현실적인 Poisson-Gaussian 센서 노이즈를 주입하고 순방향 ISP 재구성을 수행함으로써 AI 생성 이미지에 실제 카메라의 복잡한 통계적 사전(prior)을 매끄럽게 각인한다. 생성 아티팩트 억제와 적응형 마스킹과 시너지를 이루면, 이 간소화된 물리적 시뮬레이션은 적대적 예제(adversarial example)의 초고속 생성을 가능하게 한다. 광범위한 실험은 진정한 물리적 교란을 임베딩하는 것이 현재의 다양한 탐지 메커니즘을 근본적으로 교란하며, 인지할 수 없는 시각적 변화로 보편적으로 회피 가능한 적대적 예제를 산출함을 보여준다.

arXiv:2607.06354v1cs.CV공통 태그 Image Forensics, DeepFake Detection

향상된 RGB-노이즈 표현 학습을 통한 일반화된 합성 이미지 탐지

Generalized Synthetic Image Detection with Enhanced RGB-Noise Representation Learning

대규모 생성 모델의 급격한 발전은 고도로 기만적인 AI 생성 이미지의 확산을 가속화하여, 일반화된 합성 이미지 탐지를 핵심적인 과제로 만들었다. 기존의 포렌식 네트워크는 단일 도메인 표현과 기존의 이진 분류 최적화에 의존하기 때문에 교차 모델 일반화 및 실세계 열화 문제에 어려움을 겪는 경우가 많다. 이러한 한계를 극복하기 위해, 우리는 향상된 RGB-노이즈 표현 학습을 통해 강건한 탐지를 달성하는 새로운 포렌식 프레임워크인 RNSIDNet을 제안한다. 구체적으로, 우리의 방법은 어텐션 정제 CLIP 백본으로 추출된 전역 RGB 의미론이 특징별 선형 변조(FiLM) 모듈을 통해 Bayar 컨볼루션으로 포착된 고주파 노이즈 아티팩트를 동적으로 변조하는 이중 브랜치 아키텍처를 채택한다. 학습된 표현을 더욱 향상시키기 위해, 어려운 샘플 인식 대조 학습(Hard Sample-aware Contrastive Learning, HSCL) 전략을 설계한다. 도전적인 학습 샘플에 명시적으로 패널티를 부여함으로써, HSCL은 잠재 특징 공간을 재구성하여 원본 도메인과 합성 도메인 간의 판별 마진을 최대화한다. 8개의 공개 벤치마크 데이터셋에 걸친 광범위한 실험을 통해, 우리 모델이 최첨단 성능을 달성하며 우수한 일반화 능력, 강건성, 계산 효율성을 제공함을 검증한다. 코드와 데이터셋은 https://github.com/multimediaFor/RNSIDNet에서 공개될 예정이다.

arXiv:2607.03862v1cs.CV공통 태그 Image Forensics, DeepFake Detection

텍스처 속 숨겨진 흔적: 크로스 패러다임 AI 생성 이미지 탐지를 위한 텍스처-관계 단서

Ghosts Beneath Textures: Texture-Relation Cues for Cross-Paradigm AI-Generated Image Detection

AI 생성 이미지가 급격히 확산됨에 따라 광범위한 연구가 진행되고 있다. 기존 AI 생성 이미지 탐지기 대부분은 노이즈 기반 또는 텍스트 기반 생성과 같은 이미지 자유 생성(image-free generation) 패러다임에서 개발 및 평가되었다. 그러나 이미지 조건부 생성(image-conditioned generation)은 생성 콘텐츠에 대한 보다 세밀한 제어를 가능하게 하므로 실용적 응용 분야에서 점점 더 중요해지고 있다. 이 두 패러다임에 걸쳐 AI 생성 이미지를 탐지하는 문제는 오랫동안 간과되어 온 핵심적인 크로스 패러다임 탐지 문제를 야기한다. 이 문제를 연구하기 위해, 우리는 크로스 패러다임 AI 생성 이미지 탐지를 위한 벤치마크인 ConImageGen을 구축한다. ConImageGen에 대한 평가 결과, 기존 탐지기들은 이미지 자유 생성과 이미지 조건부 생성 간에 신뢰할 만한 일반화에 실패함을 보인다. 이 문제를 해결하기 위해, 본 논문은 크로스 패러다임 포렌식 단서를 식별하고 일반화된 AI 생성 이미지 탐지를 위한 새로운 관점을 제시한다. 구체적으로, 의미론적 간섭을 억제함으로써 우리는 생성 패러다임 전반에 걸쳐 의미와 무관한 텍스처 패턴을 최초로 시각화한다. 이러한 패턴은 구조화된 국소-전역 텍스처 관계를 나타내며, 이는 일반화 가능한 포렌식 증거의 형태임을 시사한다. 이 발견에 착안하여, 우리는 명시적 아티팩트를 직접 활용하는 방식에서 텍스처 관계를 모델링하는 방향으로 초점을 전환하고, 일반화된 AI 생성 이미지 탐지를 위해 이러한 관계를 포착하고 활용하는 탐지 프레임워크인 DTS-Det을 제안한다. 광범위한 실험을 통해 우리 방법의 효과가 검증된다. DTS-Det은 다양한 평가 설정에서 최첨단 성능을 달성하며, ConImageGen에서 최적 기준선 대비 10.5% 향상된 99.6% ACC를 기록한다. 또한 PicoBanana/RAID에 대한 크로스 데이터셋 평가에서 93.2%/94.1% ACC를 달성하고, 재구성 공격 및 블랙박스 적대적 공격 하에서 각각 95.2%/88.1%의 탐지율을 유지한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.