Restricted Black-box Adversarial Attack Against DeepFake Face Swapping
원문 초록
DeepFake face swapping presents a significant threat to online security and social media, which can replace the source face in an arbitrary photo/video with the target face of an entirely different person. In order to prevent this fraud, some researchers have begun to study the adversarial methods against DeepFake or face manipulation. However, existing works focus on the white-box setting or the black-box setting driven by abundant queries, which severely limits the practical application of these methods. To tackle this problem, we introduce a practical adversarial attack that does not require any queries to the facial image forgery model. Our method is built on a substitute model persuing for face reconstruction and then transfers adversarial examples from the substitute model directly to inaccessible black-box DeepFake models. Specially, we propose the Transferable Cycle Adversary Generative Adversarial Network (TCA-GAN) to construct the adversarial perturbation for disrupting unknown DeepFake systems. We also present a novel post-regularization module for enhancing the transferability of generated adversarial examples. To comprehensively measure the effectiveness of our approaches, we construct a challenging benchmark of DeepFake adversarial attacks for future development. Extensive experiments impressively show that the proposed adversarial attack method makes the visual quality of DeepFake face images plummet so that they are easier to be detected by humans and algorithms. Moreover, we demonstrate that the proposed algorithm can be generalized to offer face image protection against various face translation methods.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
StyleAT: 의미론적 공격에 대한 얼굴 인식 방어
StyleAT: Defending Face Recognition Against Semantic Attacks
얼굴 인식 모델이 일상적인 인증 및 감시에 널리 쓰이면서, 최근 연구들은 이러한 모델의 한 가지 중요한 약점을 지적했다: 이 모델들은 적대적 의미론적 편집(adversarial semantic edits)에 여전히 매우 취약하다는 것이다. 즉, 입력에 대한 적대적으로 생성된 의미론적 변화(예: 약간의 노화나 자세 변화)가 오분류를 유발할 수 있다. 기존의 일부 공격은 강력하지만 계산 비용이 커서 방어(예: 적대적 학습을 통한) 개발에는 부적합하다. 이 공백을 메우기 위해, 우리는 StyleGAN의 풍부한 잠재 공간(latent space)에서 동작하여 오분류율을 극대화하는 강력한 의미론적 공격 BoundStyle을 제안한다. 특히 BoundStyle은 기존 최첨단 공격 대비 ${\sim}{\times}9.5$배 빠르면서도 높은 공격 성공률을 달성하여, 적대적 학습에 적합하다. BoundStyle을 기반으로, 저비용 공격 변형을 포함하면서도 더 강하고 보지 못한(unseen) 의미론적 공격에 대비하는 효율적인 적대적 학습 방식 StyleAT를 개발한다. 학습 과정에서 보지 못한 두 데이터셋과 일곱 개 모델에서 평가한 결과, StyleAT는 최첨단 공격에 대한 견고 정확도(robust accuracy)를 높이며 다양한 설정에서 일반적인 방어 기법을 능가한다.
양자 내성 암호의 복원력 평가를 위한 양자 머신러닝 연구
Towards quantum machine learning for assessing the resilience of post-quantum cryptography
양자 컴퓨터의 잠재적 능력은 대규모 내결함(fault-tolerant) 양자 컴퓨터에 접근할 수 있는 적대자로부터 통신을 보호하기에 적합한 암호 프로토콜의 개발을 촉진했다. 그러나 현재 양자 컴퓨터는 규모와 정밀도 측면에서 제한적임에도 불구하고, 양자 내성 암호 프로토콜의 허점과 취약점을 찾는 데 여전히 유용할 수 있다. 본 연구에서는 이러한 목적을 위해 양자 머신러닝에서 사용되는 유망한 아키텍처 중 하나인 양자 생성적 적대 신경망(Quantum Generative Adversarial Networks, QGANs)의 능력을 활용하려는 시도를 제시한다. 해시 기반 디지털 서명의 확률 분포를 양자 컴퓨터 메모리에 적재하기 위해 QGAN 아키텍처를 적용한 예시를 설명한다. 결과는 근시일 내 하이브리드 양자-고전 방법이 이 목적에 필요한 능력을 갖추고 있음을 확인한다. 제시된 접근법은 양자 내성 암호 원시(primitive)를 공격하기 위해 양자 컴퓨팅을 활용하는 워크플로의 첫 단계로 사용할 수 있다.
커넥티드 자율주행 차량을 위한 증강된 3D 포인트 클라우드 공공 데이터셋에 대한 포이즈닝 공격의 운영적 영향 평가
Assessing the Operational Impact of Poisoning Attacks over Augmented 3D Point Cloud Public Datasets for Connected and Autonomous Vehicles
공공 데이터셋에 대한 포이즈닝 공격은 다음과 같은 주요 우려를 야기한다: (i) 오염된 데이터를 학습에 사용할 때 인식된 객체의 오분류, (ii) 학습된 모델에 특정 조건이 적용될 때 이후 트리거될 수 있는 백도어 임베딩. 데이터 증강 모델에 대한 포이즈닝의 영향은 불명확하다. 데이터 증강이 포이즈닝 공격 성공의 가능도를 낮추기는 하지만, 몇 가지 유효한 의문점이 남는다. 데이터 증강이 포이즈닝 공격의 영향을 변화시키는가? 오염된 샘플의 수 또는 주입된 백도어를 증가시킬 수 있는가? 본 논문에서는 이러한 의문들 중 일부를 탐구한다. 오염된 3D 포인트 클라우드 데이터셋을 증강할 때의 효과를 평가하고, 생성적 적대 신경망(GAN) 기법을 데이터 증강 처리의 구체적 사례로 활용하여 포이즈닝이 증강 기법의 정화(sanitizing) 특성을 회피할 수 있음을 검증한다. 또한 포이즈닝이 증강된 데이터셋 전반에 걸쳐 전파되어 범용 분류기의 최종 의사 결정을 교란시킨다는 점도 검증한다. 모든 실험 자료(도구, 데이터셋, 분류기 포함)는 재현성을 높이고 이 주제에 대한 추가 연구를 촉진하기 위해 공개적으로 제공된다.
위조에서 파운데이션 모델까지: 신분증 공격 및 탐지에 대한 체계적 서베이
From Forgeries to Foundation Models: A Systematic Survey of Identity Document Attack and Detection
신분증 위조는 근본적인 능력 전환을 겪었다. 생성형 AI 도구는 이제 최소한의 기술 전문성으로 고품질 문서 합성 및 필드 수준 조작을 가능하게 하는 반면, 탐지 방법은 이러한 위협을 반영하지 못하는 벤치마크에 의해 제약된 상태다. 이로 인한 공격 표면은 물리적 제시 공격, 디지털 주입 공격, 완전 생성적 합성에 걸쳐 있으며, 통합된 위협 모델 및 평가 프레임워크를 필요로 하는 고유한 포렌식 실패 모드를 도입한다. 본 서베이는 단일 신원 확인 위협 모델 내에서 제시 공격(Presentation Attacks), 디지털 주입 공격(Digital Injection Attacks), 그리고 생성형 AI 기반 합성을 최초로 통합적으로 다룬다. 규칙 기반 휴리스틱에서 포렌식 로컬라이제이션, 주입 인식 파이프라인, 파운데이션 모델(foundation models), 퓨샷(few-shot) 프레임워크에 이르기까지 탐지 방법론의 발전을 추적한다. 2019년부터 2025년까지의 공개 데이터셋에 대한 체계적 감사는 벤치마크 조건과 실제 운영 배포 간의 지속적인 현실 격차(Reality Gap)를 드러낸다. 또한 신분증 조작을 위한 대규모 멀티모달 모델을 분석하여, 비라틴 문자 인페인팅에서 반복적으로 나타나는 타이포그래피 실패 모드인 스크립트 의존적 생성 불안정성(Script-Dependent Generative Instability, SDGI)을 식별한다. 마지막으로, 미공개 합성 신분증에 대한 제로샷(zero-shot) 벤치마킹 결과, 가장 강력한 공개 모델조차 보안 지향적 운영 조건에서 APCER 값이 25% 이상을 기록함으로써 크로스 도메인 일반화의 상당한 한계를 드러낸다. 본 연구는 포렌식 근거에 기반하고, 프라이버시를 보존하며, 법적 책임을 갖춘 신원 확인 시스템을 향한 미래 방향을 제시하며 마무리한다.
Generative AI and Federated Learning for Intrusion Detection Systems: A Survey
Rethinking Generative Reconstruction Attacks against Graph Neural Network Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.