Safe Fakes: Evaluating Face Anonymizers for Face Detectors
원문 초록
Since the introduction of the GDPR and CCPA legislation, both public and private facial image datasets are increasingly scrutinized. Several datasets have been taken offline completely and some have been anonymized. However, it is unclear how anonymization impacts face detection performance. To our knowledge, this paper presents the first empirical study on the effect of image anonymization on supervised training of face detectors. We compare conventional face anonymizers with three state-of-the-art Generative Adversarial Network-based (GAN) methods, by training an off-the-shelf face detector on anonymized data. Our experiments investigate the suitability of anonymization methods for maintaining face detector performance, the effect of detectors overtraining on anonymization artefacts, dataset size for training an anonymizer, and the effect of training time of anonymization GANs. A final experiment investigates the correlation between common GAN evaluation metrics and the performance of a trained face detector. Although all tested anonymization methods lower the performance of trained face detectors, faces anonymized using GANs cause far smaller performance degradation than conventional methods. As the most important finding, the best-performing GAN, DeepPrivacy, removes identifiable faces for a face detector trained on anonymized data, resulting in a modest decrease from 91.0 to 88.3 mAP. In the last few years, there have been rapid improvements in realism of GAN-generated faces. We expect that further progression in GAN research will allow the use of Deep Fake technology for privacy-preserving Safe Fakes, without any performance degradation for training face detectors.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
캠페인 의사결정 지원을 위한 신뢰할 수 있는 합성 데이터: 전략 시뮬레이션 충실도와 PolicySynth 프레임워크
Trustworthy synthetic data for campaign decision support: strategy simulation fidelity and the PolicySynth framework
의사결정 지원 시스템(DSS)은 개인정보 보호 제약으로 인해 실제 데이터를 무제한으로 사용할 수 없기 때문에, 합성 고객 집단을 대상으로 고객 유지 가상 분석(what-if analysis)을 수행하는 사례가 증가하고 있다. 이러한 시스템이 신뢰할 수 있으려면 합성 데이터가 실제 데이터와 동일한 의사결정으로 이어져야 하지만, 현재 통용되는 평가 기준은 의사결정 정렬이 아닌 분포 유사성을 인증하는 데 그친다. 따라서 합성 집단이 모든 주변 분포를 일치시키면서도 마케팅 팀을 잘못된 캠페인으로 유도할 수 있다. 우리는 이 의사결정 정렬 격차를 세 가지 기여로 해소한다: 합성 집단이 실제 집단과 동일한 캠페인 실행/중단 결정을 산출하는 빈도를 측정하는 기준인 전략 시뮬레이션 충실도(SSF, strategy simulation fidelity); 의사결정 관련 구조를 정렬하기 위해 생성기를 프로덕션 이탈 예측 모델에 조건화한 DSS 프레임워크인 PolicySynth; 그리고 최소 배포 품질 기준으로서 의사결정 정렬, 멤버십 추론(membership inference) 저항성, 신규 레코드 비율의 3축 보고 표준이다. 통신 이탈 코퍼스와 은행 신규 고객 유치 코퍼스에서 PolicySynth는 평균 SSF 0.923과 0.960을 달성하였으며, 시드 간 분산은 통신 데이터셋에서 CTGAN 대비 약 10배, 은행 데이터셋에서 2.5배 더 낮았다. 이 안정성이 배포 가능한 핵심 속성으로, 실행/중단 권고안은 월별 재학습 주기 사이에서 최대 1.2 퍼센트 포인트만 변동한 반면, CTGAN은 11.5 퍼센트 포인트, 즉 9개 캠페인 중 1개에서 권고 방향이 뒤집혔다. 부트스트랩 기준선은 SSF에서 PolicySynth와 동등하지만 실제 레코드를 그대로 복사하여 멤버십 추론에 취약하다는 점에서, 단일 축만으로는 충분하지 않음을 보여주는 증거가 된다. PolicySynth는 방향성 있는 실행/중단 스크리닝을 안정적으로 지원하지만, ROI 추정값은 실제 결과와 70~78% 차이를 보이므로 본 논문에서 기술한 볼륨 보정이 필요하다.
RaMark: 생성된 테이블 형식 데이터를 위한 방사성 워터마킹
RaMark: Radioactive Watermarking for Generated Tabular Data
생성 모델링의 최근 발전으로 생성된 테이블 형식 데이터는 프라이버시에 민감한 데이터 공유를 위한 실용적인 솔루션이 되었으며, 워터마킹은 소유권 검증을 가능하게 한다. 그러나 기존 워터마킹 방법들은 재학습 공격에 근본적으로 취약하다. 재학습 공격에서 공격자는 워터마킹된 데이터셋으로 생성 모델을 재학습하여 워터마크가 포함되지 않은 고품질 데이터를 재생성한다. 우리는 생성 모델 재학습 이후에도 워터마크가 탐지 가능하게 유지되는 특성인 방사성(radioactivity)을 도입하여 이 문제를 해결하고, 데이터 분포의 내재적 구성 요소로 사인파 의존성을 삽입하는 방사성 워터마킹 방법인 RaMark를 제안한다. 워터마크를 기저 분포와 결합함으로써, RaMark는 데이터 유용성을 보존하는 모든 생성 모델이 워터마크 또한 보존해야 하도록 보장한다. 우리는 높은 확률로 워터마크 제거가 유용성을 저하시키고 데이터 분포를 변화시킴을 이론적으로 증명한다. 두 실제 테이블 형식 데이터셋에 대한 광범위한 실험에서, $10^5$개의 독립적인 데이터 소유자를 포함하는 대규모 소유권 검증 설정 하에, RaMark가 7가지 최신 방법들보다 실질적으로 강력한 방사성을 달성하며 재학습 공격과 데이터 수정 공격 모두에서 지속적으로 이들을 능가함을 보인다.
Generative AI and Federated Learning for Intrusion Detection Systems: A Survey
Rethinking Generative Reconstruction Attacks against Graph Neural Network Models
생성형 AI 워크플로우에서의 특권과 기밀성
Privilege and confidentiality in generative AI workflows
생성형 AI(GenAI) 시스템은 클라이언트 데이터를 세 가지 방식으로 저장하고 처리한다: 학습과 기억화를 통해 모델의 파라미터에, 실시간 세션 중 컨텍스트 윈도우에, 그리고 검색-증강 생성(RAG)을 위한 지식 데이터베이스에. 각 방식은 기밀성과 법적 직업상 특권에 대해 서로 다르고 종종 반직관적인 위험을 초래하며, 각각 특정한 거버넌스 대응을 요구한다. 특권과 생성형 AI를 다룬 최초의 영국 및 미국 판결인 UK and Munir v Secretary of State for the Home Department와 United States v Heppner, 이 판결들이 해석되어야 할 기존의 특권 판례들, 그리고 최근의 컴퓨터 과학 연구를 바탕으로, 우리는 실무자들이 이해할 수 있는 방식으로 데이터 저장 및 처리의 세 가지 방식을 설명하고 각각의 법적 결과를 분석한다. 이어서 우리는 이 분석을 잉글랜드 및 웨일스의 사무변호사를 규율하는 규제 체계와 통상적인 직업상 과실의 일반 원칙 내에 위치시키며, 효과적인 정보 거버넌스의 기준(그리고 그에 따라 과실 및 위법 행위를 판단하는 벤치마크)이 변화하고 있다고 주장한다. 우리는 주로 SRA 규제를 받는 실무자들을 대상으로 서술하지만, 데이터 거버넌스 분석은 특권 또는 직업상 비밀의 보호가 증명 가능한 기밀성에 달려 있는 모든 법적 관할권으로 확장될 수 있도록 구성하였다. 이 논문의 궁극적인 목적은 법률 서비스 전문가들이 GenAI 시스템에서의 주요 데이터 유출 위험을 이해하도록 돕고, 이를 통해 클라이언트 데이터 및 기타 민감한 자료에 대한 GenAI의 보다 책임 있는 배포를 촉진하는 것이다.
특징에 귀 기울여라: 신호 재구성 대신 콘텐츠 임베딩 매칭으로 구동되는 음성 익명화
Listen to the Features: Voice Anonymization Driven by Content Embedding Matching over Signal Reconstruction
이 논문은 사실적인 음성을 생성하는 것보다 콘텐츠를 보존하는 데 초점을 맞춘 음성 익명화 모델을 제안한다. 이 모델은 동결된 사전학습 wav2vec2 인코더에서 추출한 콘텐츠 임베딩에 의존한다. 해당 임베딩은 벡터 양자화와 HiFi-GAN 보코더를 사용하여 익명화된 신호로 디코딩되며, 두 모듈 모두 파형 재구성 손실이나 화자 임베딩 매핑 없이 LibriTTS로 학습된다. 학습 목적함수는 익명화된 신호의 임베딩이 원본의 임베딩과 일치하도록 강제한다. 학습 중에는 화자별 정보를 제거하기 위해 그래디언트 역전 층이 포함된 보조 화자 분류 브랜치가 사용된다. 실험 결과, 이 간단한 임베딩 기반 접근법은 매우 낮은 WER(2.53)을 달성하며, 익명화 성능(EER 13.39)은 VPC에서 1등급 수준에 해당한다. 특히, 별도의 학습 목적함수 없이도 감정이 부분적으로 보존되고(UAR 43.91), 익명화된 음성은 재구성 손실 없이도 청취 가능하다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.