일반화 가능한 딥페이크 탐지를 위한 교차 재구성의 재조명
Revisiting Cross-Reconstruction for Generalizable Deepfake Detection
한국어 초록
기존의 이미지 위변조 탐지기는 전이 가능한 포렌식 단서를 포착하는 능력이 제한되어 있어, 보지 못한(unseen) 조작 방식에 대한 일반화에 어려움을 겪는 경우가 많습니다. 최근 교차 재구성(cross-reconstruction) 기반 방식들은 의미론적 정보와 아티팩트의 분리(disentanglement)를 통해 일반화 성능을 향상시키고자 하지만, 일반적으로 여러 생성기에 걸친 이종 아티팩트를 정렬하고 재구성 과정에서 아티팩트 표현을 배제하므로 조작 아티팩트의 고유한 다양성과 시각적 단서를 간과할 수 있습니다. 본 연구에서는 교차 재구성을 재조명하고 강건한 이미지 위변조 탐지를 위한 아티팩트 지향 분리 프레임워크를 제안합니다. 우리는 서로 다른 생성 과정에서 발생하는 조작 아티팩트의 본질적 변이인 **아티팩트 다양성(artifact diversity)**이 바람직하지 않은 도메인 변이가 아니라 상호보완적인 포렌식 단서를 포함하고 있다고 주장합니다. 명시적인 아티팩트 정렬을 강제하는 대신, 본 프레임워크는 의미론적으로 정렬된 생성기간(cross-generator) 재구성을 통해 다양한 아티팩트 특성을 보존합니다. 나아가 재구성 과정에 아티팩트 표현을 통합하고 마스크 기반의 주파수 인지 재구성 전략을 도입하여 의미론적 간섭을 줄이면서 조작 관련 잔차를 강조합니다. 이러한 설계를 통해 모델은 다양한 아티팩트로부터 전이 가능한 포렌식 표현을 학습할 수 있습니다. 여러 벤치마크 데이터셋을 대상으로 한 광범위한 실험을 통해 교차 데이터셋 및 교차 생성기 평가 환경 모두에서 성능 향상을 입증합니다. 추가적인 분석과 절제 연구(ablation study)를 통해 아티팩트 다양성 보존과 아티팩트 인지 교차 재구성의 유효성을 검증합니다.
원문 초록
Existing image forgery detectors often suffer from generalization to unseen manipulation methods due to the limited ability to capture transferable forensic cues. Recent cross-reconstruction based methods attempt to improve generalization through semantic-artifact disentanglement, but typically align heterogeneous artifacts across generators and exclude artifact representations during reconstruction, which may overlook the inherent diversity and visual cues of manipulation artifacts. In this work, we revisit cross-reconstruction and introduce an artifact-oriented disentanglement framework for robust image forgery detection. We argue that \textbf{artifact diversity}, i.e., the intrinsic variations of manipulation artifacts introduced by different generation processes, contains complementary forensic cues rather than undesirable domain variations. Instead of enforcing explicit artifact alignment, our framework preserves diverse artifact characteristics through semantically aligned cross-generator reconstruction. Furthermore, we incorporate artifact representations into the reconstruction process and introduce a masked frequency-aware reconstruction strategy to emphasize manipulation-related residuals while reducing semantic interference. This design enables the model to learn transferable forensic representations from diverse artifacts. Extensive experiments on multiple benchmark datasets demonstrate improvements under both cross-dataset and cross-generator evaluation settings. Further analysis and ablation studies validate the effectiveness of artifact diversity preservation and artifact-aware cross-reconstruction.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
어텐션 유도 마스킹은 객체 중심 학습에서 객체 발견에 실제로 도움이 되는가?
Does Attention-Guided Masking Really Help Object Discovery in Object-Centric Learning?
객체 중심 학습(Object-Centric Learning, OCL)은 사람의 어노테이션 없이 이미지를 객체 단위로 분해하는 것을 목표로 한다. 주류 방법의 한 계열은 Slot Attention을 사용해 이미지 특징을 객체 수준 표현으로 집약한 뒤, 이를 바탕으로 마스킹된 이미지 내용, 즉 랜덤 마스킹(Random Masking, RM)을 재구성하여 자기지도 학습 신호를 제공한다. 최근 방법인 DIAS는 이미지 패치를 균일한 무작위성으로 단순히 마스킹함에도 경쟁력 있는 객체 발견 정확도를 달성한다. 집약 과정의 어텐션은 이미 객체 발견 능력을 갖고 있으므로, 이를 활용해 더 나은 이미지 패치 마스킹 전략, 즉 어텐션 유도 마스킹(Attention Guided Masking, AGM)을 개발하고 더 나은 자기지도 학습을 제공하는 방안을 탐구한다. 여섯 개의 널리 인정된 데이터셋에서의 결과는 AGM가 RM보다 항상 우수한 것은 아님을 보여준다. 무조건적 슬롯 초기화 하에서 AGM는 사실적인 텍스처를 가진 데이터셋(COCO 및 VOC)에서 배경 분할을 크게 개선한다. 조건부 또는 무조건적 슬롯 초기화 여부와 데이터셋을 불문하고, 전경 객체 발견은 비슷한 수준이거나 감소한다. OCL 커뮤니티의 동료 연구자들에게, 마스킹 디코딩으로 OCL을 개선하기 위해 내부 어텐션 의미를 활용하려는 시도는 위험할 수 있다고 제안한다. 소스 코드, 모델 체크포인트 및 평가 로그는 https://github.com/und-entropy/Does-Attention-Guided-Masking-Really-Help-Object-Discovery-in-Object-Centric-Learning-. 에서 이용할 수 있다.
말하는 얼굴 딥페이크 탐지를 위한 상보적 rPPG 유래 및 입술 영역 주파수 단서
Complementary rPPG-Derived and Lip-Region Frequency Cues for Talking-Face Deepfake Detection
말하는 얼굴(talking-face, TF) 딥페이크는 생성기(generator)마다 rPPG 기반 방법의 탐지 성능이 고르지 않다. 우리는 피험자 독립(subject-independent) 프로토콜 하에서 Celeb-DF++의 7가지 TF 방법에 대해, RhythmFormer로 추출한 rPPG 유래 파형과 입술 영역 이산 코사인 변환(discrete cosine transform, DCT) 계수라는 두 가지 경량 시각 전용(visual-only) 단서를 연구한다. 도메인 내(in-domain)에서는 SadTalker를 제외한 모든 방법에서 입술 영역 DCT가 rPPG 유래 1D ResNet과 동등하거나 더 우수하며, Concat 융합은 단일 모달(unimodal) 기준선의 AUC 0.824 및 0.827에 대해 AUC 0.891에 도달한다. 생성기 하나 제외(leave-one-generator-out) 평가에서는 두 단서가 갈라진다: 각각은 보류(hold-out)된 세 방법으로 더 뚜렷이 전이(transfer)되며, IP-LAP은 두 단서 모두에서 거의 무작위(near chance) 수준이다. Concat은 평균 0.798이지만 DCT 전이가 약한 경우 rPPG 단독보다 낮아져, 정적(static) 융합은 이러한 상보성을 부분적으로만 활용한다. 입술 영역 DCT는 7가지 방법 중 6가지에서 전체 얼굴 DCT보다 우수하다. 우리는 rPPG 유래 신호를 경험적(empirical) 단서로 취급하며, 그�이 심장(cardiac) 기원임을 주장하지 않는다.
DFD-Lab: 모듈형 오디오-비주얼 딥페이크 탐지 파이프라인
DFD-Lab: A Modular Audio-Visual Deepfake Detection Pipeline
오디오-비주얼 딥페이크 탐지기(audio-visual deepfake detector)를 비교하려면 데이터셋 적응, 시간적 입력 표현(temporal input representation), 모델 인터페이스, 실험 조건을 함께 조율해야 한다. 본 논문은 이러한 책임들을 분리하면서도 공통된 학습 및 평가 워크플로를 지원하는 모듈형 파이프라인인 DFD-Lab을 제시한다. 우리는 Xception 기반 최대 로짓(maximum-logit) 융합, 시간적 LSTM 융합을 사용하는 ResNet, 그리고 우리가 재구현한 AVFF의 세 가지 구현을 통합한다. 실험은 외부 테스트, 열화(degradation) 기반 학습 증강(training augmentation), 그리고 평가 시점의 손상(corruption)을 다룬다. Deepfake-Eval-2024의 필터링된 하위 집합(subset)에서, FakeAVCeleb으로 학습된 모델들은 각각 0.504, 0.538, 0.458의 기준선 AUROC 값을 달성한다. JPEG50 학습 증강은 이 값을 각각 0.691, 0.605, 0.570으로 높이는 반면, 세 모델의 정확도는 모두 감소한다. 이러한 결과는 학습 개입, 평가 손상, 그리고 지표에 따라 달라지는 결과가 공통 파이프라인 내에서 왜 구분되어야 하는지를 보여준다. 본 연구의 기여는 오디오-비주얼 처리, 상호 교체 가능한 탐지기, 그리고 설정 가능한 실험 워크플로의 통합이며, 이는 실증적 사례 연구(case study)로 뒷받침된다. 이 연구 결과는 데이터셋 간(cross-dataset) 탐지의 어려움과 순위화(ranking) 지표 및 분류 지표가 제공하는 상호 보완적 정보를 강조한다.
EditCLEVR: 객체 중심 표현의 구성적 충실성을 위한 전후 쌍 장면 개입 벤치마크
EditCLEVR: A Paired-Scene Intervention Benchmark for Compositional Faithfulness of Object-Centric Representations
객체 중심 학습(object-centric learning)은 장면을 객체 단위로 표현하여 각 객체의 속성을 새로운 조합에서 재사용할 수 있게 하는 것을 목표로 한다. 기존 평가는 일반적으로 분할(segmentation), 단일 이미지 요인(factor) 예측, 또는 하류(downstream) 정확도를 점수화하지만, 이러한 테스트는 통제된 의미적 편집(semantic edit) 하에서 객체별(per-object) 표현이 올바르게 동작하는지를 직접적으로 검증하지는 않는다. 우리는 EditCLEVR을 소개한다. EditCLEVR은 전후 쌍 장면 개입 벤치마크로, 각 예시는 동일한 객체 인덱스와 장면 레이아웃을 가진 CLEVR 스타일 렌더의 전/후 쌍을 포함하며, 알려진 한 객체에 대한 정확히 하나의 알려진 속성 변경이 있거나 드리프트(drift) 측정을 위한 편집 없는(no-edit) 재렌더링을 포함한다. 이 프로토콜은 표현 변화의 국소화(localization) 및 안정성(stability)에 대한 프로브 없는(probe-free) 진단을 포함하며, 분포 내(in-distribution) 및 구성적 분포 외(compositional out-of-distribution, OOD) 테스트 스위트에서 예측된 장면 변화가 의도된 개입과 일치하는지를 검증하는 프로브 디코딩(probe-decoded) 의미적 충실성 지표와 함께 제공된다. 이를 통해 코드 공간(code-space) 이동과 디코딩된 객체-속성 정확도를 별도로 평가할 수 있다. 우리는 의미적 지표 Scene-Graph Intervention Accuracy(SGIA)를 도입한다. SGIA는 전체 after-scene 예측이 정확하고, 전에서 후로 예측된 유일한 의미적 변화가 의도된 객체-요인(object-factor) 편집이어야 한다. 또한 Delta-SGIA를 보조 진단으로 정립한다. Delta-SGIA는 전체 after-scene 그래프가 정확할 필요 없이 단일 위치(single-site) 변경 패턴을 검증한다. 정답 마스크(ground-truth-mask) 백본, 학습된 슬롯(learned-slot) 모델, SAM 2 + frozen-ViT 모델, 그리고 하나의 마스크-특징(mask-feature) 하이브리드에 대한 기준선 평가 결과, CoGenT-OOD-core 성능 저하는 정답 인스턴스 마스크 하에서도 지속될 수 있으며, 마스크 출처는 고유 성능의 일부만 설명하고 전부는 아니며, 국소성(locality) 또는 안정성만으로는 의미적 충실성을 과대평가할 수 있음을 보여준다. 코드는 https://github.com/torux-bughunter/EditCLEVR 에서 이용할 수 있다.
ConFusion: 세밀한 제어 가능한 적외선 및 가시광선 이미지 융합을 위한 연속 융합 공간 학습
ConFusion: Continuous Fusion Space Learning for Fine-Grained Controllable Infrared and Visible Image Fusion
제어 가능한 적외선-가시광선 이미지 융합은 유연한 영역 인식 변조를 통해 상호 보완적인 열 및 구조 정보를 통합하여, 다양한 사용자 요구와 하류 작업에 적응하는 융합 이미지를 생성하는 것을 목표로 한다. 그러나 기존 방법들은 일반적으로 사전 정의된 이산 제어 조건에 의존하여, 세밀한 변조 요구를 지원하지 못하는 희소한 공간을 초래한다. 이를 해결하기 위해, 우리는 가우시안 조건 공간 인식 변조를 통해 연속 융합 공간을 학습하여 인스턴스 수준의 세밀한 제어 가능한 적외선 및 가시광선 이미지 융합을 가능하게 하는 새로운 프레임워크인 ConFusion을 제안한다. ConFusion은 공동 재구성 및 텍스트 유도 의미 정렬 하에서 모달리티 불변 및 모달리티 특이 표현을 분리하기 위해 이중 분기 아키텍처를 사용한다. 가우시안 조건 인스턴스 변조 변수는 Grounded SAM 기반 인스턴스 마스크와 결합되어 Mask-Guided Specific Feature Modulator를 통해 인스턴스 수준의 세밀한 변조를 유도하며, Text-Driven Invariant Feature Enhancer는 의미적 일관성을 개선하고 융합을 향상시킨다. 추론 시, 멀티모달 대규모 언어 모델은 사용자 의도를 인스턴스 수준 변조 변수로 파싱하여 이미지 융합을 유도한다. 광범위한 실험 결과, ConFusion은 세밀한 제어 가능한 이미지 융합을 지원하면서 융합 품질과 하류 작업 모두에서 여러 지표에 걸쳐 최첨단(state-of-the-art) 성능을 달성함을 보여준다. 코드는 https://github.com/HeyufeiAnto/Confusion 에서 이용할 수 있다.
뇌-기계 인터페이스에서 신경 디코딩 일반화를 위한 자기지도 일관성 강화 분리 학습
Self-Supervised Consistency Enhanced Disentangled Learning for Neural Decoding Generalization in Brain-Machine Interface
뇌-기계 인터페이스(BMI)는 뇌와 외부 장치 간의 직접적인 통신 경로를 제공하여, 인간이 보조 및 로봇 기술을 제어할 수 있게 하며, 재활, 인간 운동 기능 증강, 인간 중심 로봇 공학 분야에 적용될 잠재력을 지닌다. 그러나 신경 표류(neural drift)로 인해 BMI의 성능은 시간이 지남에 따라 저하되어, 특히 침습적 BMI(iBMI)의 장기적 실용성에 어려움을 초래한다. 기존 해결책은 두 가지 주요 한계를 갖는다: (i) 견고한 신경 표현(representation) 학습의 어려움, (ii) 신경 표류가 운동 파라미터(예: 속도, 방향, 속력)에 따라 달라진다는 점을 간과함. 이러한 한계를 극복하기 위해, 우리는 두 가지 핵심 혁신을 바탕으로 한 신경 디코딩 일반화 프레임워크인 자기지도 일관성 강화 분리 학습(SSCDL)을 제안한다. 먼저, 시뮬레이션된 신경 신호 교란과 함께 새로운 teacher-student 일관성 제약을 사용하여 신경 표류에 불변인 견고한 표현을 학습하는 백본 모델인 일관성 강화 신경 디코더(CND)를 설계한다. 다음, 신경 선호 이론(neural preference theory)에서 영감을 받아 운동 신호를 속도, 방향, 속력으로 분리하는 상보적 분리 일반화(CDG) 메커니즘 하에서 세 개의 전용 CND를 사용한다. 이 분리 학습을 통해 SSCDL은 다양한 신경 선호 관점에서 불변 신경 표현을 포착하여, 일간(cross-day) 일반화를 크게 향상시킨다. 광범위한 실험 결과, SSCDL은 최첨단 디코딩 성능을 달성하며, 높은 견고성과 일간 안정성을 보인다. 이러한 역량은 인간 중심 로봇 및 세밀한 보조 응용 분야에서의 장기 상호작용에 대한 강한 잠재력을 시사한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.