PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.26955v3cs.LG

사후 처리 공정성 제약이 도움이 될 때와 해가 될 때: 8개 교차 도메인 평가로부터의 근거

When Post-Processing Fairness Constraints Help and When They Harm: Evidence from Eight Cross-Domain Evaluations

프로덕션 ML에서 공정성 감사는 보통 배포 시점에 한 번, 단일 도메인에 대해서만 수행된다. 실제로는 둘 다 한계가 있다. 재학습이나 사용자층 변화 이후 공정성이 달라질 수 있고, 한 데이터셋에서 검증된 개입은 조직이 배포하는 이질적 도메인 전반에서 거의 검증되지 않는다. 우리는 FAPE(Fairness Auditing for Production Environments)를 제시한다. 이는 Fairlearn의 ThresholdOptimizer라는 단일 사후 처리 개입을 8가지 도메인 평가—형사 사법, 소득 예측, 법학 입학, 신용 대출, 농업 대출, 다중 도메인 벤치마크 코퍼스, 의료, 교육—에서 평가하는 4단계 프레임워크이다. 각 평가는 인구통계적 균등(demographic parity)과 균등 오즈(equalized odds) 차이, 그리고 계산 가능한 경우 차등 영향 비율(disparate impact ratio)과 정확도 비용으로 채점된다. 개입 효과는 기준선 불균형의 크기를 따른다. 모델-도메인 쌍 전반에서 제약은 불균형이 큰 14건 중 9건에서 불균형을 개선했고, 거의 공정한 4건 중 3건에서는 악화시켰다. 불균형이 큰 예외 5건 각각은 최소 집단 크기 또는 홀드아웃 데이터에 맞춘 임계값이라는 두 측정 점검 중 하나에서 결과가 뒤집힌다. 배포 시 시작한 CUSUM 모니터를 시뮬레이션된 분포 변화에 대해 검증한 결과, 0.1 parity 관례를 한 번도 충족하지 못한 제약 모델과 충족했다가 이후 퇴행한 모델을 구분한다. 따라서 배포 시점의 단일 감사는 신뢰할 수 있는 지표가 아니며, 이는 기준선 불균형 스크리닝과 지속적 모니터링을 뒷받침한다.

arXiv:2607.05098v2cs.LG

비선형 회귀를 위한 평균 인구통계학적 패리티의 직접 최적화

Directly Optimizing Mean Demographic Parity for Nonlinear Regression

본 연구에서는 민감 속성값 전반에 걸쳐 평균 예측값을 균등화하는 공정성 목표인 평균 인구통계학적 패리티(mean demographic parity)를 다루는 회귀 설정에 주목합니다. 이 기준을 직접 최적화하는 것은 미지수이며 학습(training) 중에 변화하는 조건부 평균에 의존하기 때문에 어렵습니다. 일반적인 의존성 페널티 및 적대적 방법은 이 조건부 평균을 추정하지 않는 대신, 예측이 완전한 독립성을 갖도록 강제합니다. 이러한 더 강한 제약 조건은 평균 예측값이 이미 동일한 경우에도 정확도를 저하시킬 수 있습니다. 기존의 조건부 평균 방법들은 선형 예측기 또는 저차원 민감 속성으로 제한됩니다. 본 연구에서는 조건부 평균 예측의 분산으로 정의되는 공정성 척도인 DPVar를 사용하여 평균 인구통계학적 패리티의 직접 최적화를 가능하게 합니다. 조건부 평균은 예측기가 변화함에 따라 추정되어야 하므로, DPVar를 최적화하면 함수형 이단계 문제(functional bilevel problem)로 이어집니다. 본 연구에서는 폐형태 하이퍼그래디언트(closed-form hypergradient)를 사용하는 FBO와 조건부 평균 추정기의 업데이트 과정을 통해 미분하는 반복 미분(iterative-differentiation, ITD) 솔버라는 두 가지 솔버를 개발합니다. 이전의 조건부 평균 방법들과 달리, 본 접근 방식은 비선형 예측기 및 고차원 연속형 민감 속성에 적용할 수 있습니다. 21개의 정형 회귀 데이터셋으로 구축된 준합성 벤치마크 및 Communities & Crime 데이터 전반에서, FBO와 ITD는 기존 방법보다 경쟁력 있거나 더 우수한 정확도-DPVar 트레이드오프를 달성합니다.

arXiv:2606.23515v1stat.ML

FairBED: 더 공정한 데이터 수집을 위한 베이지안 실험 설계 접근법

FairBED: A Bayesian Experimental Design Approach to Gathering Fairer Data

FairBED는 공정한 데이터셋이 민감 속성(sensitive attribute)에 대해 비정보적이어야 한다는 원칙으로 데이터셋 공정성을 정량화하고, 관심 대상에 대한 기대 정보 이득(EIG)은 최대화하면서 민감 속성에 대한 정보 누출은 최소화하는 공정성 인식 베이지안 실험 설계(BED) 목적함수를 제안한다. 인구통계적 패리티(demographic parity)와의 이론적 연관과 함께, FairBED로 수집한 데이터로 학습한 모델이 무작위 수집 및 기존 BED 대비 더 나은 공정성-정확도 트레이드오프를 달성함을 보였다.