ProxiMix: Enhancing Fairness with Proximity Samples in Subgroups
원문 초록
Many bias mitigation methods have been developed for addressing fairness issues in machine learning. We found that using linear mixup alone, a data augmentation technique, for bias mitigation, can still retain biases present in dataset labels. Research presented in this paper aims to address this issue by proposing a novel pre-processing strategy in which both an existing mixup method and our new bias mitigation algorithm can be utilized to improve the generation of labels of augmented samples, which are proximity aware. Specifically, we proposed ProxiMix which keeps both pairwise and proximity relationships for fairer data augmentation. We conducted thorough experiments with three datasets, three ML models, and different hyperparameters settings. Our experimental results showed the effectiveness of ProxiMix from both fairness of predictions and fairness of recourse perspectives.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
질병 분류기의 바이어스 완화 및 바이어스 탐지를 위한 인구통계 조건 합성 의료 영상
Demographically-Conditioned Synthetic Medical Images for Bias Mitigation and Bias Detection in Disease Classifiers
의료 영상 분류기에 대한 하위군별 공정성 감사는 표본 크기 문제에 직면한다. 홀드아웃 테스트 세트의 소수 하위군은 표본이 너무 적어, 하위군별 성능에 대한 신뢰구간이 감사가 탐지하려는 바이어스보다 더 넓어진다. 우리는 인구통계학적으로 조건을 부여한 합성 생성기가 학습 측면에서는 바이어스를 완화하고, 평가 측면에서는 바이어스를 탐지하는 두 역할을 모두 수행할 수 있다고 주장한다. 엔드투엔드(end-to-end) 미세조정 Stable Diffusion 2.1 생성기를 사용한 COVID-19 흉부 CT 분류 실험에서 두 가지 발견을 얻었다. 바이어스 완화(학습) 측면에서, 인구통계학적으로 균형 잡힌 합성 코호트는 공동 증강(joint augmentation)이 아니라 사전학습(pre-training) 사전분포(prior)로 활용될 때 가장 유용하다. 동일한 고정 데이터에서 순차적 사전학습 후 미세조정은 공동 증강을 크게 능가하며, 그 결과 분류기는 약 $\sim$$100\times$ 실데이터 효율로 전량 실데이터 기준선을 넘어선다. 바이어스 탐지(평가) 측면에서, 다섯 개의 합성 소수 코호트와 다섯 개의 분류기 시드에 걸쳐, 합성 추정량은 충분한 검정력을 갖춘 실데이터 오라클(oracle)의 하위군 순위를 재현한다(MCC와 재현율에서 Spearman $ρ= 1.00$)며, 소규모 실데이터 테스트 세트에서 표본이 부족한 셀에서 더 신뢰할 수 있는 셀별 추정을 제공한다. 따라서 합성 코호트는 공정성 감사가 중요하게 여기는 바로 그 셀에서, 하위군 바이어스의 해결책이자 측정 수단으로서 가장 유용하다.
공정하고 효율적인 악성 분류를 위한 다양한 피부과 영상의 제어 가능한 생성
Controllable Generation of Diverse Dermatological Imagery for Fair and Efficient Malignancy Classification
정확한 피부과 진단은 자연스럽게 다양한 인구 집단에 걸친 공평한 성능을 필요로 하지만, 특히 대표성이 낮은 피부 톤과 희귀 질환에 대한 전문가 주석 이미지의 체계적 부족은 측정 가능하게 공정한 방법으로의 진전을 저해한다. 우리는 cgDDI(Controllable Generation of Diverse Dermatological Imagery)를 소개한다. 이는 (1) 다른 입력 속성을 방해하지 않고 사실적인 건강한 피부 샘플을 합성하고, (2) 단일 샘플 희귀 병변을 새로운 피부 톤과 위치에 비모수적으로 매핑하며, (3) 단 10개의 학습 샘플만으로도 효율적인 모수적 생성을 가능하게 하는 하이브리드 프레임워크이다. 이 프레임워크는 사람과 자동 분할 마스킹(segmentation masking)을 모두 지원하여, 사전에 만들어진 병변 마스크가 없는 데이터셋으로도 확장 가능하게 한다. 우리는 656장 이미지 데이터셋을 400배 이상 확장하고, 생검으로 확인된 Diverse Dermatology Images(DDI)와 전문가가 검증한 Fitzpatrick17k(F17k) 두 데이터셋에서 검증한다. DDI 벤치마크에서 합성 데이터만으로 학습한 경우 86.4%의 악성 분류 정확도를, 실제 데이터 미세조정과 함께 90.9%의 최신(state-of-the-art) 성능을 달성했으며, 공정성 지표에서도 선두 수준의 결과를 보였다. 교차 데이터셋 실험에서는 질병 중복이 거의 없음에도 불구하고, 보지 못한 F17k 데이터에서 +13.9%의 정확도 향상을 보였다. 공정성 연구를 더욱 지원하기 위해 26만 6천 개 이상의 합성 이미지, 코드, 생성 모델을 https://github.com/hectorcarrion/ControllableGenDDI 에서 공개한다.
Decomposing Yes-No Bias in LLM Moral Judgment: Stance, Position, Word, and Verdict
영향력 있는 다원주의적 정렬 연구를 위한 로드맵
A Roadmap to Impactful Pluralistic Alignment Research
VIGOR: 모델 기반 강화학습에서 잠재 공간 일관성을 통한 제로샷 시각적 일반화
VIGOR: Zero-Shot Visual Generalization via Latent-Space Consistency in Model-Based Reinforcement Learning
공정한 자기지도 학습을 위한 편향 없는 Open World 정규화
Unbiased Open World Regularization for Fair Self-Supervised Learning
토론
이 논문과 연결된 포럼 글이 아직 없습니다.