arXiv:2410.22551

FairSkin: Fair Diffusion for Skin Disease Image Generation

Ruichen Zhang, Yuguang Yao, Zhen Tan, Zhiming Li, Pan Wang, Huan Liu, Jingtong Hu, Sijia Liu, Tianlong Chen

제출 2024-10-29

원문 초록

Image generation is a prevailing technique for clinical data augmentation for advancing diagnostic accuracy and reducing healthcare disparities. Diffusion Model (DM) has become a leading method in generating synthetic medical images, but it suffers from a critical twofold bias: (1) The quality of images generated for Caucasian individuals is significantly higher, as measured by the Frechet Inception Distance (FID). (2) The ability of the downstream-task learner to learn critical features from disease images varies across different skin tones. These biases pose significant risks, particularly in skin disease detection, where underrepresentation of certain skin tones can lead to misdiagnosis or neglect of specific conditions. To address these challenges, we propose FairSkin, a novel DM framework that mitigates these biases through a three-level resampling mechanism, ensuring fairer representation across racial and disease categories. Our approach significantly improves the diversity and quality of generated images, contributing to more equitable skin disease detection in clinical settings.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15724v1cs.LG공통 태그 Image Generation, Diversity

확산 모델의 생성 환경 밝히기: 스펙트럼 유도 품질-다양성 확산 프레임워크

Uncovering the Generative Landscape of Diffusion Models: A Spectral-Guided Quality-Diversity Diffusion Framework

디노이징 확산 확률 모델(Denoising Diffusion Probabilistic Models)은 분자 설계부터 고해상도 이미지 합성에 이르기까지 다양한 분야에서 강력한 생성 사전 확률(generative prior)로 부상했습니다. 그러나 표준 확산 샘플링은 본질적으로 높은 가능도(likelihood) 영역에 편향되어 있어 출력의 다양성을 제한하는 경우가 많습니다. 많은 분야에서 단일한 고가능도 샘플만으로는 충분하지 않으며, 고성능 솔루션의 다양한 포트폴리오가 요구되므로 모델의 완전한 표현 범위를 밝혀내는 방법이 필요합니다. 본 논문에서는 품질-다양성(Quality-Diversity, QD) 최적화와 확산 모델을 통합함으로써 다양하고 성능이 뛰어난 출력을 발견할 수 있음을 보여줍니다. 먼저, 모델의 잠재 노이즈와 조건부 임베딩(embedding)을 직접 최적화하고 임베딩 모델을 활용하여 다양성을 정량화함으로써 QD를 확산 모델에 적용하는 프레임워크인 품질-다양성 확산(Quality-Diversity Diffusion)을 제안합니다. 둘째로, 모델의 입력-활성화 야코비안(Jacobian)의 주 특이 벡터를 분석하여 최대 의미론적 민감도 방향으로 탐색을 유도하는 새로운 h-공간 스펙트럼 변이(Spectral Mutation) 연산자를 도입합니다. 텍스트-투-이미지 생성에서 통합 접근 방식인 스펙트럼 유도 품질-다양성 확산(Spectral-Guided Quality-Diversity Diffusion)을 평가한 결과, 12개의 베이스라인 대비 우리 방법이 일관되게 가장 낮은 FID 점수를 달성하여 이미지 품질과 다양성 사이의 뛰어난 균형을 입증했습니다.

arXiv:2610.02372v1cs.AI공통 태그 Image Generation, Diversity

텍스트-이미지 확산 모델에서 만족도-다양성 프론티어 탐색

Traversing the Satisfaction-Diversity Frontier in Text-to-Image Diffusion

텍스트-이미지 생성(Text-to-image generation)은 사용자가 동일한 프롬프트(prompt)로부터 생성된 여러 이미지를 탐색할 수 있도록 돕습니다. 생성된 이미지들이 유용하기 위해서는, 각 이미지가 학습된 보상(reward)으로 측정되는 사용자의 선호도를 반영해야 할 뿐만 아니라 다양성을 유지하기 위해 서로 시각적으로 달라야 합니다. 기존 방법들은 한계가 존재하는데, 보상과 다양성을 개별적으로 다루거나 단일 종합 점수로 결합하여 높은 다양성이 낮은 보상을 상쇄하도록 만듭니다. 본 논문에서는 생성을 만족화(satisficing) 문제로 정식화하여 이러한 한계를 해결합니다. 즉, 모든 이미지(후보군)는 보상 하한선을 만족해야 하며 이미지 배치(batch)는 다양성 기준선을 만족해야 합니다. 보상 하한선은 최악 후보의 보상과 배치 다양성 사이의 균형을 조절하며, 우리는 이 하한선을 변경함으로써 파레토 프론티어(Pareto frontier)가 정의됨을 보여줍니다. 이 프론티어를 탐색하기 위해, 별도의 학습(training)이 필요 없는 추론(inference) 시점 기법인 SatisDive를 제안합니다. SatisDive는 배치 상대적 보상 기준값을 사용하여 보상이 낮은 후보와 높은 후보를 구분하고, 기준값 미만인 후보에 대해서는 보상 향상을, 기준값 이상인 후보들 간에는 다양성을 강조합니다. Pick-a-Pic에서 동일한 DreamSim 수준일 때, SatisDive는 기본 모델로 FLUX.1-dev와 보상으로 HPSv3를 사용했을 때 FK steering 대비 최악 후보의 보상을 최대 0.43 향상시켰으며, 기본 모델로 SANA-1.6B와 보상으로 ImageReward를 사용했을 때는 최대 0.70 향상시켰습니다. 더 나아가, 겹치는 DreamSim 범위 전반에 걸쳐 SatisDive의 만족도-다양성 곡선은 각 설정에서 FK steering의 곡선을 파레토 지배(Pareto-dominate)합니다.

arXiv:2610.01661v1cs.CV공통 태그 Diversity, Diagnostic

DiVid: 비디오 생성 모델의 차원별 다양성 붕괴 진단

DiVid: Diagnosing Dimension-Specific Diversity Collapse in Video Generation Models

괄목할 만한 발전에도 불구하고, 비디오 생성 모델은 동일한 프롬프트에서 반복적으로 샘플링할 때 매우 유사한 결과물을 생성하는 경우가 많아 창의적인 탐험(exploration)을 위한 유용성이 제한됩니다. 기존의 다양성 평가는 주로 전역적 스칼라 지표에 의존하여 비디오의 시공간 영역에서 다양성이 어느 부분에서 붕괴하는지를 모호하게 만듭니다. 본 논문에서는 비디오 생성 다양성을 의미(Semantic), 스타일(Style), 피사체(Subject), 장면(Scene), 모션(Motion), 카메라(Camera)의 6가지 해석 가능한 차원으로 분해하는 차원 수준의 진단 프레임워크인 DiVid를 소개합니다. 각 차원은 재현 가능한 컴퓨터 비전(CV) 파이프라인을 통해 측정되며, 잠재적인 트레이드오프를 검토하기 위해 품질 및 지시 충실도와 함께 분석됩니다. 대표적인 비디오 생성 모델들에 대한 체계적인 평가는 다양성이 매우 차원 특정적임을 보여줍니다. 즉, 전역적 다양성 점수가 높은 모델이라도 특정 요인, 특히 모션과 카메라 차원에서 여전히 붕괴를 보입니다. 이러한 순위는 충실하지 않은 생성 결과를 필터링한 후에도 유지되므로, 프롬프트를 벗어난 출력이 아니라 실제 능력 차이를 나타냅니다. 측정 외에도, 통제된 프롬프트 개입 실험을 통해 두 가지 근본적인 병목 현상을 규명했습니다. 개방형 프롬프트에서 모델이 지배적인 패턴으로 회귀하는 '기본 모드 수렴(default mode convergence)'과, 특히 시간적 요인에 대해 명시적으로 요청된 다양한 대안을 충실하게 구현하지 못하는 '구현 격차(realization gap)'입니다. 시간적 요인에 대한 더 큰 충실도 손실은 텍스트만으로 모션 및 카메라 변화를 제어하는 것의 어려움을 강조합니다. 따라서 DiVid는 다양성 연구의 초점을 다양성의 존재 여부 측정에서 다양성이 어디서, 왜 붕괴하는지 진단하는 것으로 전환하며, 차원 인식 학습(training) 목표 및 제어 신호에 대한 실행 가능한 방향을 제공합니다. 다양하고 제어 가능한 비디오 생성에 관한 향후 연구를 촉진하기 위해 본 프레임워크는 공개될 예정입니다.

arXiv:2609.27033v1cs.LG공통 태그 Image Generation, Diversity

WTF?! Wasserstein-Tilted Flow Maps를 이용한 시뮬레이션 없는 강화학습

WTF?! Simulation-Free Reinforcement Learning with Wasserstein-Tilted Flow Maps

보상 미세조정은 사전학습된 플로 기반 생성 모델을 갱신하여 생성 샘플의 하류 보상을 높이는 것을 목표로 한다. 기존 방법들은 대개 이 문제를 보상 기울임(reward-tilted) 분포에서의 샘플링, 즉 KL 정규화된 보상 최대화 문제의 해로 공식화한다. 본 연구에서는 사전학습된 drift로부터 직접 구성한 최적 수송(optimal transport) 정규화 항을 도입한다. KL 보상 기울임과 달리, 이렇게 얻은 목적 함수는 기본 분포를 재가중하는 대신 개별 샘플을 더 높은 보상 쪽으로 수송한다. 우리는 이 문제가 플로 상의 결정론적 최적 제어 문제와 동등함을 보인다. 사전학습된 플로 맵이 주어지면, 이 동등성은 생성 플로 미세조정을 위한 시뮬레이션 없는(simulation-free) 강화학습 알고리즘을 제공한다. 이 프레임워크를 Wasserstein-Tilted Flow Maps(WTF)라 부르며, 이는 플로 맵에 고유한 최초의 end-to-end 미세조정 레시피이다. 그 결과로 얻는 것은 사후 증류(post-hoc distillation) 없이도 적은 스텝 추론 예산에서 강한 보상 정렬 성능을 유지하는 미세조정된 플로 맵이다. ImageNet-256 및 text-to-image 실험에서 WTF는 기준선과 비교해 동등하거나 더 높은 다양성을 유지하면서 더 높은 보상을 달성하며, 학습 연산량은 최대 $280\times$만큼 적게 든다. 더 넓게, 플로 맵과 같은 가속 샘플러는 효율적인 사후 학습을 위한 필수 인프라이며, 지배적인 KL 정규화 공식화는 재검토할 가치가 있는 여러 선택지 중 하나에 불과하다고 주장한다.

arXiv:2609.24115v1cs.AI공통 태그 Data Augmentation, Diversity

EDGEGEN: 합성 엣지 케이스 생성으로 행복 경로(happy path)를 넘어서는 도구 호출 에이전트 개선

EDGEGEN: Improving Tool-Calling Agents Beyond Happy Paths with Synthetic Edge Case Generation

도구 호출 LLM 에이전트는 기업 애플리케이션에 점점 더 많이 배포되고 있다. 그러나 효과적인 평가와 최적화를 위해서는 고품질의 다양한 태스크 데이터셋이 필요한데, 프라이버시 및 기타 제약으로 인해 이를 얻기 어려운 경우가 많다. 기존 합성 태스크 생성 방법은 종종 에이전트의 내부 상태나 데이터베이스를 무시하는 일반적인 태스크를 생성하여 실제 사용의 다양성을 반영하지 못한다. 우리는 에이전트 명세에서 준수(compliance) 규칙을 추출하고, 이를 위반하도록 설계된 데이터베이스 기반(database-grounded) 엣지 케이스 태스크를 생성하는 합성 태스크 생성 프레임워크인 EdgeGen을 제안한다. 기존 합성 데이터 생성 기법과 결합하면 EdgeGen은 파인튜닝과 하네스(harness) 최적화를 통해 에이전트 개선을 가능하게 한다. 그렇게 얻어진 파이프라인은 사람의 어노테이션 없이 완전 자동화된 폐루프(closed-loop) 시스템을 이룬다. EdgeGen으로 생성된 데이터에 대한 파인튜닝은 tau2bench 항공사 도메인에서 일관되게 평균 진행률(progress) 2%에서 42%까지 개선을 보이는 반면, 다른 기준선 방법은 일부 모델에서 성능 저하를 보인다. 한편 하네스 최적화의 경우 Gemma-4-e4b 모델에 대해 우리 방법은 사람이 큐레이션한 하네스와 기본 하네스 대비 각각 평균 진행률 10% 및 30%의 개선을 보인다.

arXiv:2609.24287v1cs.CV공통 태그 Image Generation, Diversity

플로우 매칭(Flow Matching)에서의 분류기 없는 가이던스(Classifier-Free Guidance): 비자율 포텐셜, 오버슈트, 그리고 사후 평균 제어

Classifier-Free Guidance in Flow Matching: Non-Autonomous Potentials, Overshoot, and Posterior-Mean Control

분류기 없는 가이던스(Classifier-Free Guidance, CFG)는 플로우 매칭(Flow Matching)에서 조건부 생성을 개선하지만, 강한 가이던스는 생성된 분포를 왜곡하고 다양성을 감소시킬 수 있다. 우리는 플로우 매칭을 시간에 따라 변화하는 그래디언트 흐름(gradient flow)으로 보고 CFG가 그 기저의 포텐셜(potential)을 어떻게 재구성하는지 규명함으로써 이러한 현상에 대한 기하학적 설명을 제공한다. 이러한 관점은 더 강한 정렬(alignment)이 평균 변위(mean displacement)와 궤적 집중(trajectory concentration)을 동반할 수 있는 이유를 설명하며, 모델이 암시하는 종단 사후 평균(terminal posterior mean)을 통해 가이던스를 제어하려는 동기를 제공한다. 이에 따라 우리는 추가적인 네트워크 평가 없이 실행 가능한 가장 강한 가이던스를 샘플별로 적응적으로 유지하는, 학습이 필요 없는(training-free) 방법인 사후 평균 상한 CFG(Posterior-Mean-Capped CFG, PMC-CFG)를 제안한다. 합성 데이터 및 대규모 이미지 생성 벤치마크(benchmark) 실험 결과, PMC-CFG는 가이던스로 인한 왜곡과 집중을 제한하는 동시에 정렬-다양성 트레이드오프를 개선하며, 특히 명목 가이던스(nominal guidance)가 클 때 특히 큰 이점을 보인다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.