PFGuard: A Generative Framework with Privacy and Fairness Safeguards
원문 초록
Generative models must ensure both privacy and fairness for Trustworthy AI. While these goals have been pursued separately, recent studies propose to combine existing privacy and fairness techniques to achieve both goals. However, naively combining these techniques can be insufficient due to privacy-fairness conflicts, where a sample in a minority group may be amplified for fairness, only to be suppressed for privacy. We demonstrate how these conflicts lead to adverse effects, such as privacy violations and unexpected fairness-utility tradeoffs. To mitigate these risks, we propose PFGuard, a generative framework with privacy and fairness safeguards, which simultaneously addresses privacy, fairness, and utility. By using an ensemble of multiple teacher models, PFGuard balances privacy-fairness conflicts between fair and private training stages and achieves high utility based on ensemble learning. Extensive experiments show that PFGuard successfully generates synthetic data on high-dimensional data while providing both fairness convergence and strict DP guarantees - the first of its kind to our knowledge.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
나이지리아 핀테크 섹터의 구조적 불평등 중립화
Neutralizing Structural Inequality in the Nigerian FinTech Sector
금융 서비스의 알고리즘 의사결정 시스템은 구조적 불평등을 의도치 않게 인코딩하는 데이터 프록시에 의존하는 경우가 많다. 본 논문은 나이지리아 핀테크 섹터의 포인트 오브 세일(Point of Sale) 사기 탐지를 위한 계층적 인간-AI 트리아지 모델을 소개한다. '우리 모두는 평등하다(We Are All Equal)' 세계관을 채택하여, 시스템이 농촌 네트워크 타임아웃과 같은 인프라 관련 우연적 노이즈(aleatoric noise)를 사기 의도로 잘못 해석하는 차별 세탁(discrimination laundering) 문제를 다룬다. 우리는 보정된 앙상블 모델을 1차 필터로 활용하는 3단계 라우팅 정책을 구현한다. 이 정책은 콜드 스타트 신규 계정과 같이 인식론적 불확실성(epistemic uncertainty)을 특징으로 하는 거래를 전문 분석가에게 라우팅하는 한편, 고위험 사례는 선임 감독자를 위해 유보한다. 유한한 인간 처리 용량을 관리하기 위해 동적 섀도우 가격(dynamic shadow price)을 활용하여 인간의 주의를 배분하고, 인간 기술 퇴화를 방지하는 무작위 감사 메커니즘을 구현한다. 실험 결과, 자율 기준선 대비 통계적으로 유의미한 1.88%의 상보성 격차(complementarity gap)와 24.79%포인트의 사기 재현율 향상이 확인되었다. 특히, 모델은 지역 간 성능 격차를 19.43에서 2.88 퍼센트포인트로 줄여 구조적 바이어스를 중립화한다. 계층적 협력은 실질적인 기회 균등을 위한 강건한 메커니즘을 제공하며, 농촌 계정이 환경적 우연(environmental brute luck)으로 인해 디지털 경제에서 배제되지 않도록 보장한다.
방글라데시 아동의 학대 관련 트라우마 스크리닝을 위한 설명 가능한 AI: 노이즈 인식 합성 데이터로 평가된 학습 없는 멀티모달 프레임워크
Explainable AI for Screening Abuse-Related Trauma in Bangladeshi Children: A Training-Free Multimodal Framework Evaluated on Noise-Aware Synthetic Data
방글라데시에는 인구 10만 명당 약 1.17명의 정신건강 전문가가 있으며, 전국에 소아 정신과 의사가 단 여섯 명뿐입니다. 아동의 학대 관련 심리적 트라우마 조기 스크리닝을 위한 벵골어 기반의 문화적으로 적합한 도구는 존재하지 않습니다. 우리는 ShishuRaksha AI를 제시합니다. 이는 의사결정 지원(진단이 아닌) 프레임워크로, 검증된 설문지(SDQ, CPSS), 벵골어 서술 텍스트, 집-나무-사람(HTP) 그림 특징, 얼굴 정서의 네 가지 스크리닝 양식을 융합합니다. 이 융합은 학습이 필요 없고 임상적으로 가중치가 부여되며, 교차 모달 어텐션을 사용하고 단일 양식 우선 적용 규칙을 포함합니다. 모든 위험 점수는 임상적으로 가중된 섭동 기반 가산 귀인을 통해 설명되며, 2013년 아동법에 따라 국가 아동보호 서비스(OCC, DSS, NMHH)로의 의뢰 경로가 포함된 이중 언어(방글라/영어) 보고서로 출력됩니다. 현 단계에서는 피해 아동의 임상 데이터셋을 윤리적으로 수집할 수 없으므로, 노이즈 인식 합성 벤치마크(500 케이스, 116개 양성[23.2%], 네 개의 의도적 노이즈 레이어, 문헌 기반 HTP 사전)를 도입하고, 5겹 층화 교차 검증하에 융합 설계(얼굴 채널 제외)의 트리 앙상블 대리 모델을 평가합니다. 융합 모델은 AUC 0.874[0.834-0.908]를 달성하였으며, SDQ 단독 기준선의 0.756[0.705-0.803]과 비교되고, 절제 분석, 운영 지점, 서브그룹, 보정 분석을 포함합니다. 우리는 합성 데이터만 사용, 보류 평가셋 없음, 텍스트 특징 순환성, 도시-농촌 서브그룹 격차를 포함한 모든 한계를 명시합니다. 이 연구는 저자원 환경에서 윤리적으로 배포 가능한 아동보호 스크리닝을 향한 타당성 연구이자 설계적 기여입니다.
Fusion-Free Multimodal Classification with Heterogeneous Deep Ensembles
Calibrated selective prediction using deep ensembles for thyroid nodule ultrasound classification under dataset shift
FFM-CP: 퓨샷 계산병리학을 위한 비전-언어 기반 모델의 교차 백본 융합
FFM-CP: Cross-Backbone Fusion of Vision-Language Foundation Models for Few-Shot Computational Pathology
병리학 비전-언어 기반 모델은 질환과 과제에 따라 성능이 달라지며, 어떤 단일 모델도 일관되게 최고 성능을 내지 못한다. 전문가 병리 주석의 높은 비용은 과제별 적응에 사용할 수 있는 라벨 데이터를 제한하기도 한다. 상호 보완적인 사전학습 표현을 결합하는 것은 이러한 한계에 대한 잠재적 접근이지만, 소수의 라벨 예시로부터 효과적인 융합을 학습하는 것은 여전히 어렵다. 본 연구는 퓨샷 학습 설정에서 여러 병리학 비전-언어 모델을 결합하는 프레임워크인 Few-shot Fusion Foundation Models of Computational Pathology(FFM-CP)를 제안한다. 이 프레임워크는 먼저 대응하는 서포트 이미지로부터 추정한 폐형식(closed-form) 직교 프로크루스테스(Orthogonal Procrustes) 변환을 사용하여 이질적인 표현을 정렬한다. 이 정렬은 추가 정렬 네트워크를 학습하지 않고도 모델 내부 특징 기하를 보존한다. 정렬된 공간 안에서 통합 그래프는 서포트 이미지 특징과 시각·텍스트 클래스 프로토타입을 공동으로 정제함으로써 백본 간 정보 교환을 가능하게 한다. 이렇게 정제된 표현은 의미적 클래스 지식과 클래스 내 시각적 변이를 각각 포착하는 상호 보완적인 텍스트-프로토타입 분기와 케이스 검색(case-retrieval) 분기를 지원한다. 각 분기는 모든 순서화된 백본 쌍의 예측을 결합하는 방법을 학습하여, 한 모델로 인코딩된 쿼리가 다른 모델이 표현한 증거를 활용할 수 있게 한다. 우리는 6개의 조직병리학 데이터셋에서 클래스당 4, 8, 16샷 조건으로 3가지 백본 조합을 평가했다. FFM-CP는 54번 비교 중 50번에서 각 융합 집합의 개별 적응 멤버 중 가장 강한 모델보다 더 높은 평균 macro-F1을 달성했다. 이러한 결과는 주석이 제한될 때 상호 보완적인 사전학습 표현의 결합이 조직병리학 분류를 개선할 수 있음을 시사한다.
Decomposing Yes-No Bias in LLM Moral Judgment: Stance, Position, Word, and Verdict
토론
이 논문과 연결된 포럼 글이 아직 없습니다.