Controllable Inversion of Black-Box Face Recognition Models via Diffusion
원문 초록
Face recognition models embed a face image into a low-dimensional identity vector containing abstract encodings of identity-specific facial features that allow individuals to be distinguished from one another. We tackle the challenging task of inverting the latent space of pre-trained face recognition models without full model access (i.e. black-box setting). A variety of methods have been proposed in literature for this task, but they have serious shortcomings such as a lack of realistic outputs and strong requirements for the data set and accessibility of the face recognition model. By analyzing the black-box inversion problem, we show that the conditional diffusion model loss naturally emerges and that we can effectively sample from the inverse distribution even without an identity-specific loss. Our method, named identity denoising diffusion probabilistic model (ID3PM), leverages the stochastic nature of the denoising diffusion process to produce high-quality, identity-preserving face images with various backgrounds, lighting, poses, and expressions. We demonstrate state-of-the-art performance in terms of identity preservation and diversity both qualitatively and quantitatively, and our method is the first black-box face recognition model inversion method that offers intuitive control over the generation process.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
확산 모델의 생성 환경 밝히기: 스펙트럼 유도 품질-다양성 확산 프레임워크
Uncovering the Generative Landscape of Diffusion Models: A Spectral-Guided Quality-Diversity Diffusion Framework
디노이징 확산 확률 모델(Denoising Diffusion Probabilistic Models)은 분자 설계부터 고해상도 이미지 합성에 이르기까지 다양한 분야에서 강력한 생성 사전 확률(generative prior)로 부상했습니다. 그러나 표준 확산 샘플링은 본질적으로 높은 가능도(likelihood) 영역에 편향되어 있어 출력의 다양성을 제한하는 경우가 많습니다. 많은 분야에서 단일한 고가능도 샘플만으로는 충분하지 않으며, 고성능 솔루션의 다양한 포트폴리오가 요구되므로 모델의 완전한 표현 범위를 밝혀내는 방법이 필요합니다. 본 논문에서는 품질-다양성(Quality-Diversity, QD) 최적화와 확산 모델을 통합함으로써 다양하고 성능이 뛰어난 출력을 발견할 수 있음을 보여줍니다. 먼저, 모델의 잠재 노이즈와 조건부 임베딩(embedding)을 직접 최적화하고 임베딩 모델을 활용하여 다양성을 정량화함으로써 QD를 확산 모델에 적용하는 프레임워크인 품질-다양성 확산(Quality-Diversity Diffusion)을 제안합니다. 둘째로, 모델의 입력-활성화 야코비안(Jacobian)의 주 특이 벡터를 분석하여 최대 의미론적 민감도 방향으로 탐색을 유도하는 새로운 h-공간 스펙트럼 변이(Spectral Mutation) 연산자를 도입합니다. 텍스트-투-이미지 생성에서 통합 접근 방식인 스펙트럼 유도 품질-다양성 확산(Spectral-Guided Quality-Diversity Diffusion)을 평가한 결과, 12개의 베이스라인 대비 우리 방법이 일관되게 가장 낮은 FID 점수를 달성하여 이미지 품질과 다양성 사이의 뛰어난 균형을 입증했습니다.
HYDRO: 고충실도 하이브리드 확산 및 타깃 지향 접근을 통한 비가역적 얼굴 식별 해제
HYDRO: Towards Non-Reversible Face De-Identification Using a High-Fidelity Hybrid Diffusion and Target-Oriented Approach
타깃 지향(target-oriented) 얼굴 식별 해제 모델은 서로 다른 이미지나 동영상 프레임 전반에서 특정 대상 개인의 신원을 익명화하여, 대상을 더 이상 신뢰할 수 있게 식별할 수 없게 하면서도 시각 데이터의 핵심 특성은 유지하는 것을 목표로 한다. 이러한 모델은 일반적으로 생성형 인코더-디코더(encoder-decoder) 구조를 활용해 얼굴 외형을 조작하며, 현실적이고 고충실도의 식별 해제 결과를 만들면서 상당한 속성 보존(attribute-retention) 능력을 확보한다. 그러나 타깃 지향 모델은 미세한 신원 단서를 부 inadvertent하게 보존할 위험이 있어 (잠재적으로) 가역적이며 재구성(reconstruction) 공격에 취약해질 수 있다. 이 문제를 해결하기 위해 본 논문에서는 타깃 지향 모델과, 식별 해제 절차를 되돌리는 학습을 가능하게 할 수 있는 지각하기 어려운 정보를 파괴하도록 특별히 설계된 전용 확산(diffusion) 과정을 결합한 새로운 (견고한) 얼굴 식별 해제 접근법 HYDRO를 제안한다. HYDRO는 먼저 주어진 얼굴 이미지를 식별 해제한 뒤, 재구성을 방해하기 위해 식별 해제 결과에 노이즈를 주입하고, 이어서 확산 기반 복원 단계를 적용해 충실도를 높이고 노이즈 과정이 데이터 특성에 미치는 영향을 최소화한다. 이미지 충실도를 더 높이고 시선 방향(gaze direction)을 더 잘 보존하기 위해, 새로운 Eye Similarity Discriminator(ESD)도 도입하여 HYDRO 학습에 통합한다. 세 가지 다양한 데이터셋(dataset)에 대한 광범위한 정량·정성 실험은 HYDRO가 최신(SOTA) 수준의 충실도와 속성 보존 능력을 보이며, 재구성 공격에 견디는 유일한 타깃 지향 방법임을 보여준다. 여러 SOTA 경쟁 방법과 비교했을 때 HYDRO는 재구성 공격 성공률을 평균 85.7% 감소시킨다.
CrossDistill: 궤적 수준 하이브리드 소수 스텝 증류를 통한 품질과 다양성의 균형
CrossDistill: Balancing Quality and Diversity via Trajectory-Level Hybrid Few-Step Distillation
소수 스텝 증류(few-step distillation)는 디퓨전 모델(diffusion model)을 가속화하지만 다양성과 충실도(fidelity) 사이의 균형을 맞춰야 한다: 궤적 기반 증류(trajectory-based distillation)는 모드 커버리지(mode coverage)를 보존하는 반면, 분포 매칭(distribution matching)은 샘플을 선명하게 만들지만 다양성을 감소시킬 수 있다. 우리는 이러한 긴장 관계가 노이즈 영역(noise-regime)에 따라 활용될 수 있음을 보인다: 고노이즈(high-noise) 스텝은 전역적인 모드(global mode)를 대체로 결정하는 반면, 저노이즈(low-noise) 스텝은 국소적인 세부 사항을 정제한다. 우리는 샘플링 궤적을 교차점(crossover point)에서 분할하여 고노이즈 구간에는 궤적 보존(trajectory-preserving) 목적함수를, 저노이즈 구간에는 분포 매칭 목적함수를 적용하고, 이 두 단계를 교차 상태(crossover state)를 통해 결합하는 궤적 수준 하이브리드 증류 프레임워크인 CrossDistill을 제안한다. 손실(loss) 수준 혼합과 달리, 그리고 학습(training) 시점의 2단계 방식(training-time two-stage recipe)을 보완하는 방식으로, CrossDistill은 노이즈 축을 따라 상호 보완적인 목적함수를 명시적으로 할당함으로써, 국소 통계량이 선명해지기 전에 전역적 분기(global branching)가 보존되도록 한다. CrossDistill은 노이즈 수준의 스케줄링 정책(scheduling policy)으로, PCM과 DMD는 플러그인 형태의 구체적 구현(instantiation)이며, 노이즈 분할(noise partition), 교차 결합(crossover coupling), 목적함수 순서(objective ordering)가 핵심 설계 요소이다. 텍스트-투-비디오(text-to-video) 디퓨전 모델에 대한 실험과 이미지-투-비디오(image-to-video)에 대한 정성적 결과는 CrossDistill이 소수 스텝 품질-다양성 프런티어(quality-diversity frontier)를 확장하여, 경쟁력 있는 시각적 충실도를 달성하면서도 시드 수준(seed-level)의 변동성을 유지함을 보여준다.
올인원: 평균장 게임 설계로서의 생성 모델링
All in One: Generative Modeling as Mean-Field Game Design
평균장 게임(MFG)은 연속 시간 생성 모델링에 대한 통합적 관점을 제공한다. 하나의 변분 문제의 특수 사례로서 Continuous Normalizing Flows, OT-Flow, Score-based Models, Schrödinger Bridges 등 12개의 주요 모델을 환원하는 비용 튜플(cost tuple)을 통해 말이다. 그러나 이 공간의 두 차원은 전혀 탐색되지 않은 채 남아 있다. 상호작용 항 $\mathcal{I}$는 많은 기존 모델에서 0으로 설정되어 있고, 풍부한 MFG 솔버(solver) 계열은 생성 모델링에 적용된 적이 없다. 우리는 MFGLab이라는 오픈 소스 PyTorch 라이브러리로 두 공백을 모두 해소한다. 이 라이브러리의 주요 API는 비용 튜플이며, 12개 모델 모두 네 개의 조합 가능한 비용 함수로 지정되고, 학습 루프, log-야코비안, 역 ODE 샘플러는 자동으로 공유된다. 또한 모드 커버리지(mode coverage)를 장려하기 위해 미분 가능한 엔트로피 함수형(differentiable entropy functional)을 사용하는 새로운 비용 설계 DI-Flow를 제안하고, 확률적 역학(stochastic dynamics) 행에서 신경망 학습을 상당히 능가하는 학습 기반 MFG 솔버를 제공한다. 두 개의 2차원 벤치마크에서의 실험은 통합 API가 수작업 구현 대비 손실 없이 동등함을 확인한다.
eDifFIQA: Towards Efficient Face Image Quality Assessment Based On Denoising Diffusion Probabilistic Models
모든 모달리티는 동등하지만, 비디오는 더 동등하다: 공동 비디오 생성에서 크로스-어텐션 격차 줄이기
All modalities are equal, but video is more equal: Closing the Cross-Attention Gap in Joint Video Generation
비디오는 외형, 기하학, 모션, 시간적 변화를 포착하여 물리적 사건을 풍부하게 표현합니다. 3D 신체 모션이나 오디오와 같은 다른 모달리티(modality)는 동일한 사건의 더 좁은 측면만을 인코딩합니다. 본 연구에서는 공동 멀티모달 확산 트랜스포머(joint multimodal diffusion transformer)가 교차 모달 대응(cross-modal correspondence)에서 그에 상응하는 비대칭성을 보임을 발견했습니다. 즉, 동반 모달리티는 비디오에 대해 강한 대응성을 형성하지만, 이들이 비디오를 제약하는 상호 대응성(reciprocal correspondence)은 실질적으로 훨씬 약하게 유지됩니다. 저자들은 두 방향을 비디오 토큰(token)에 대한 비교 가능한 대응 분포로 표현하고, 이들의 불일치를 상호 대응 격차(reciprocal correspondence gap)로 정의합니다. 또한 상호 교차 모달 어텐션 정규화(Reciprocal Cross-modal Attention Regularization)를 뜻하는 RecCAR를 제안합니다. 이는 이미 잘 확립된 비디오-모달리티 간 대응을 고정된 참조 기준으로 삼고, 더 취약한 모달리티-비디오 간 대응을 이에 맞춰 정렬하는 KL 정규화(regularizer) 기법입니다. 공동 비디오-모션 및 비디오-오디오 생성 전반에 걸쳐, RecCAR는 전반적인 생성을 개선하면서도 Human Anatomy 점수를 0.69에서 0.75로 향상시키고 오디오-비디오 비동기화(desynchronization)를 0.804에서 0.752로 감소시킵니다
토론
이 논문과 연결된 포럼 글이 아직 없습니다.