arXiv:2305.06402

Analyzing Bias in Diffusion-based Face Generation Models

Malsha V. Perera, Vishal M. Patel

제출 2023-05-10

원문 초록

Diffusion models are becoming increasingly popular in synthetic data generation and image editing applications. However, these models can amplify existing biases and propagate them to downstream applications. Therefore, it is crucial to understand the sources of bias in their outputs. In this paper, we investigate the presence of bias in diffusion-based face generation models with respect to attributes such as gender, race, and age. Moreover, we examine how dataset size affects the attribute composition and perceptual quality of both diffusion and Generative Adversarial Network (GAN) based face generation models across various attribute classes. Our findings suggest that diffusion models tend to worsen distribution bias in the training data for various attributes, which is heavily influenced by the size of the dataset. Conversely, GAN models trained on balanced datasets with a larger number of samples show less bias across different attributes.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2510.24046v2cs.LG공통 태그 Generative Adversarial Network, Synthetic Data Generation

강화학습을 활용한 인과 인식 테이블형 생성적 적대 신경망

Causal-Aware Tabular GANs with Reinforcement Learning

기존 테이블형 데이터 생성 방법은 실제 데이터와 합성 데이터 간의 통계적 분포 일치에 주로 집중하여 기저에 존재하는 인과 관계 보존을 간과하는 경우가 많습니다. 그 결과 생성된 샘플은 겉보기에 현실적으로 보일 수 있지만, 신뢰할 수 있는 다운스트림 분석에 필요한 인과 구조를 유지하지 못할 수 있습니다. 본 연구에서는 학습(training)과 생성 과정 모두에 인과적 지식을 명시적으로 통합하는 테이블형 데이터 합성용 인과 인식 생성 프레임워크인 CA-GAN을 제안합니다. CA-GAN은 먼저 실제 데이터에서 인과 그래프를 추출하여 구조적 사전 지식을 제공한 다음, 하위 생성기가 인과적 의존성에 따라 변수를 모델(model)링하는 그래프 조건부 Conditional WGAN-GP를 적용합니다. 더욱 중요하게는, 실제 데이터와 합성 데이터 간의 인과 그래프 불일치를 보상(reward) 신호로 취급하는 강화학습(reinforcement learning) 기반 목적 함수를 도입하여, 인과적 일관성이 샘플링 순서의 암묵적인 결과가 아닌 학습 과정에서의 명시적인 최적화 목표가 되도록 합니다. 14개의 합성 및 실제 데이터셋에 대한 광범위한 실험을 통해 CA-GAN이 뛰어난 다운스트림 유용성, 프라이버시 보호 및 데이터 품질을 달성하는 동시에 인과 관계 보존 측면에서 7개의 최신 베이스라인을 일관되게 능가함을 입증합니다. 이러한 결과는 CA-GAN이 기저의 인과 메커니즘을 보다 잘 반영하는 고품질 합성 테이블형 데이터를 생성하기 위한 효과적이고 실용적인 솔루션을 제공함을 보여줍니다.

arXiv:2603.17717v4cs.CR공통 태그 Generative Adversarial Network, Synthetic Data Generation

네트워크 공격 분류를 위한 머신러닝과 합성 데이터 생성을 위한 적대적 학습 방법론의 통계적 평가

Machine Learning for Network Attacks Classification and Statistical Evaluation of Adversarial Learning Methodologies for Synthetic Data Generation

네트워크 공격의 지도(supervised) 탐지는 네트워크 침입 탐지 시스템(NIDS)의 핵심 구성 요소로 자리해 왔다. 오늘날, 인공지능(AI)의 전환점적 시기에 생성형 인공지능(GenAI)과 강화학습 같은 고도화된 기술을 활용하는 더욱 정교한 공격들이 등장함에 따라, 웹 전반에 산재한 개인 데이터를 보호하기 위한 필수적인 구성 요소가 되었다. 본 논문에서는 두 가지 과제를 다루며, 재처리된 CIC-IDS-2017, CIC-IoT-2023, UNSW-NB15, CIC-DDoS-2019로부터 동일한 특징(feature) 공간으로 플로우 수준 데이터, 패킷 페이로드 정보, 시간적 맥락 특징을 통합한 최초의 통합 멀티모달 NIDS 데이터셋을 구축하였다. 첫 번째 과제에서는 안정성과 신뢰성을 갖추어 네트워크 공격을 방지하기 위해 계층화 교차 검증(stratified cross validation)을 적용한 머신러닝(ML) 알고리즘을 사용한다. 두 번째 과제에서는 적대적 학습 알고리즘을 사용하여 합성 데이터를 생성하고, 실제 데이터와 비교하여 SDV 프레임워크, f-발산(f-divergences), 구별 가능성(distinguishability) 및 비모수 통계 검정을 활용해 충실도(fidelity), 유용성(utility), 프라이버시를 평가한다. 연구 결과로, Synthetic Data Vault 프레임워크, TRTS 및 TSTR 테스트를 비모수 통계 검정 및 f-발산 척도와 결합함으로써, 침입 탐지를 위한 안정적인 ML 모델과 높은 충실도 및 유용성을 갖춘 생성 모델을 제시한다.

arXiv:2606.27305v1cs.CV공통 태그 Generative Adversarial Network, Face Generation

NeRF 기하 조형: 3D 인식 얼굴 GAN의 인간 선호 미세조정

Sculpting NeRF Geometry: Human-Preference Fine-Tuning of a 3D-Aware Face GAN

3D 생성을 위한 인간 피드백 강화학습(RLHF)은 여러 연구에서 이미 정착되었지만, 기존 파이프라인 대부분은 명시적 표면 표현을 최적화하며, 흔히 radiance field를 메시로 변환하고 표면 감독 데이터 위주로 학습한다. 우리는 대신 외부에서 제공되는 메시나 형상 prior 없이, radiance field 밀도($\sigma$) 값에 대한 학습된 보상으로 사전학습된 3D 인식 생성 모델을 직접 미세조정한다. 보상 모델은 사전학습이 필요 없고, 소량의 선호 샘플로 쉽게 학습되며, 3D 기하에서 견고한 개선을 이끈다. 무조건부 3D 인식 얼굴 GAN(EG3D)을 대상으로, 우리의 보상은 신경 radiance field(NeRF)의 연속 3D 밀도 필드를 직접 읽어 기하 전용 학습 신호를 제공하며, 텍스트 조건화, 메시 추출, 다중 시점 렌더링이 모두 필요하지 않다. 밀도 일관성 제약은 기하가 재형성되는 동안 2D 외관을 질적으로 유사하게 유지하며, 측정 가능하나 제한된 분포 비용(FID-50k가 4.09에서 6.66으로 증가)을 수반한다: 개념 증명으로 단일 어노테이터의 선호만으로 미세조정된 생성기를 학습했을 때, pairwise 비교의 74.4%에서 사용자가 선호하는 얼굴 기하를 생성한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.