arXiv:2606.12615v1 cs.LG

증명 가능한 공정한 머신러닝을 향하여: 일관적이고 투명한 예측을 위한 베이지안 접근법

Towards Provably Fair Machine Learning: Bayesian Approaches For Consistent and Transparent Predictions

Owen O'Neill, Fintan Costello

제출 2026-06-10

한국어 초록

고위험 도메인에 배포된 ML 분류기는 하위 그룹 전반에 걸쳐 예측 품질이 체계적으로 변동하는 예측을 생성한다. 여러 특성의 교차점으로 정의되는 세분화된 하위 그룹의 경우, 예측이 관측 데이터와 일치하지 않는 경우가 많다: 해당 하위 그룹에 대해 가용한 증거와 모델의 출력이 모순된다. 이 문제는 정규화(regularisation)에 의해 더욱 악화되는데, 정규화는 소규모 하위 그룹을 더 큰 그룹으로 통합함으로써 집계 성능을 향상시키지만 인구통계학적 소수자에게 불균형적인 영향을 미친다. 우리는 일관된 예측을 위한 두 가지 요건을 정의한다: 결정론(determinism, 동일한 개인은 동일한 예측을 받음)과 통계적 일관성(해당 하위 그룹에 대해 추론된 베이지안 최적 목표 분포로부터 하위 그룹의 예측이 추출되었다는 가설을 유의수준 alpha에서 기각할 수 없음). 이러한 요건으로부터 우리는 Fair Bayesian 분류기를 도출하는데, 이는 모든 그룹 및 하위 그룹에 걸쳐 두 요건을 동시에 시행하며, 일관된 결정론적 예측이 불가능한 경우 예측을 보류(abstain)한다. 세 가지 벤치마크 데이터셋(Adult, COMPAS, Bank Marketing)에서 표준 분류기는 상당한 비율의 하위 그룹에 대해 통계적으로 일관성 없는 예측을 생성한다. 우리의 분류기는 구성상 일관성 오류를 0으로 달성하면서 테스트된 모든 데이터셋에서 기준선 정확도와 멀티캘리브레이션(multicalibration)을 초과한다. 통계적 일관성은 알고리즘 공정성(algorithmic fairness)에 직접적인 함의를 지닌 예측 품질에 대한 원칙적 토대를 제공한다. 소수 인구통계는 소규모 하위 그룹에 불균형적으로 집중되어 있으며, 이는 정확히 빈도주의적(frequentist) 추론이 가장 신뢰성이 낮은 영역이다; 따라서 이 추론 문제를 해결하는 것은 공정한 ML을 향한 필수적인 단계이다. 데이터가 지지하는 가장 세밀한 해상도에서 베이지안 일관성을 강제함으로써, 우리의 분류기는 원칙적 예측 보류를 통한 포괄적 하위 그룹 공정성이 실제로 달성 가능함을 입증한다.

원문 초록

ML classifiers deployed in high-stakes domains produce predictions whose quality varies systematically across subgroups. For granular subgroups defined by intersections of multiple features, predictions are often inconsistent with the observed data: the model's outputs contradict the evidence available for that subgroup. This problem is exacerbated by regularisation, which improves aggregate performance by collapsing small subgroups into larger groups, disproportionately affecting demographic minorities. We define two requirements for consistent prediction: determinism (identical individuals receive identical predictions) and statistical consistency (we cannot reject, at significance level alpha, the hypothesis that the predictions for a subgroup were drawn from the Bayesian optimal target distribution inferred for that subgroup). From these requirements we derive the Fair Bayesian classifier, which enforces both across every group and subgroup simultaneously and abstains whenever no consistent deterministic prediction is possible. On three benchmark datasets (Adult, COMPAS, and Bank Marketing), standard classifiers produce statistically inconsistent predictions for a substantial proportion of subgroups. Our classifier achieves zero consistency error by construction while exceeding baseline accuracy and multicalibration on every dataset tested. Statistical consistency provides a principled foundation for prediction quality with direct implications for algorithmic fairness. Minority demographics are disproportionately concentrated in small subgroups, precisely where frequentist inference is least reliable; addressing this inference problem is therefore a necessary step toward fair ML. By enforcing Bayesian consistency at the finest resolution the data supports, the our classifier demonstrates that exhaustive subgroup fairness with principled abstention is achievable in practice.

요약

세분화된 하위 그룹에서 데이터와 모순되는 예측 문제를 해결하기 위해 결정론과 통계적 일관성을 강제하고 불가능 시 예측을 보류하는 Fair Bayesian 분류기를 제안한다. 이 방법은 벤치마크 데이터셋에서 기존 모델보다 높은 정확도를 보이며 일관성 오류를 0으로 달성하여 포괄적인 공정성을 실현함을 입증했다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.12615v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26652v1math.ST공통 태그 Fairness, Binary Classification

조건부 대표 모니터링 및 분류를 위한 문맥 적응형 임계값 설정

Context-Adaptive Thresholding for Conditionally Representative Monitoring and Classification

일반적으로 분류기(classifier)와 모니터링 절차는 오분류율과 같은 목적 함수를 최적화(optimization)하여 레이블이 지정된 데이터로부터 학습(training)됩니다. 이는 중요한 외생 변수가 주어졌을 때 결과(레이블)의 조건부 분포가 모집단의 조건부 법칙과 달라져 비대표적인(unrepresentative) 조건부 분포를 초래할 수 있습니다. 본 연구에서는 오경보율(false alarm rate)을 유지하면서 민감도(sensitivity)를 분배하기 위해 공변량 $Z$(문맥)에 맞춰 임계값을 적응시킴으로써, 임의의 주어진 임계값 형태 분류기 및 모니터링 규칙을 수정하여 대표성 있는 조건부 레이블 예측을 달성하는 방법을 제시합니다. 경보 이벤트가 알려지지 않은 경우, 이 접근법은 임계값 설정 규칙 관점에서 해당 이벤트를 (근사적으로) 추론(inference)할 수도 있게 합니다. 이 접근법은 계산 비용이 저렴한 비모수적 추정 절차를 통해 구현되며, 그 특성은 경험적 과정 이론(empirical process theory)을 포함한 점근적 분포 이론 및 비점근적 오차 한계 관점에서 연구됩니다. 이러한 결과는 균일 신뢰대(uniform confidence bands), 함수형 가설 검정 및 변화 탐지 절차의 구성을 가능하게 합니다. 해석 가능한 머신러닝에서 자주 사용되는 잘 알려진 FICOS 신용 평가 예시에서, 임계값 적응은 일반적인 분류 평가 지표 측면에서 트랜스포머(transformer)를 포함한 최신(SOTA) 방법들과 견줄 수 있는 쉽게 해석 가능한 결정 규칙으로 이어집니다.

arXiv:2607.22811v1cs.LG공통 태그 Bayesian Inference, Binary Classification

하이브리드 기계론-데이터 기반 모델링에서 뉴로-심볼릭 AI로: 무엇, 왜, 어떻게

From Hybrid Mechanistic--Data-Driven Modeling Toward Neuro-Symbolic AI: What, Why, and How

제1원리(first-principles)와 학습된 구성 요소를 결합하는 하이브리드 기계론/데이터 기반 모델은 공정 엔지니어링과 과학적 머신러닝(scientific machine learning)에서 점점 더 많이 사용되고 있다. 일반적인 하이브리드 모델링 설계는 주로 아키텍처와 학습 손실을 통해 명시되며, 이는 도메인 간 비교하거나 검증할 수 있는 공유 의미론적 인터페이스를 위한 제한적인 기반을 제공하고, 기계론적 부분의 인식론적 불확실성(epistemic uncertainty)에는 비교적 적은 관심이 기울여진다. 우리는 이러한 설계를 NeSy 인터페이스의 사례로 재구성함으로써 하이브리드 모델링과 뉴로-심볼릭(NeSy) AI를 연결한다. 그 결과로 얻어진 변환인 Hybrid-to-NeSy(H2N)는 기계론적 지식을 언어(language) 측에, 학습된 모듈을 믿음(belief) 측에, 유효성 영역(validity domains)과 제약을 논리(logic) 측에 배치한다. 각 설계에 대해 H2N은 명시적인 NeSy 추론 함수(functional)와 논리-믿음 분해를 산출한다. 이 분해로부터 우리는 두 가지 지표를 도출한다: 학습된 믿음이 기계론적 구조를 준수하는지를 측정하는 구조적 위반율(structural violation rate, SVR); 그리고 학습된 타당성(plausibility)이 얼마나 집중되어 있는지를 측정하며, 하이브리드 모델의 기계론적 부분에 대한 인식론적 불확실성 역할을 하는 믿음 분산(belief dispersion, BD). 우리는 레이블 노이즈(label noise) 하에서 이진 분류를 위한 구조화된 하이브리드 모델의 사례 연구에 H2N을 적용하고, SVR과 BD가 더 높은 모델이 보류 정확도(held-out accuracy)에서 더 큰 변동성을 보인다는 것을 보여준다. 구조적 분포 이동(structural distribution shift) 하에서 H2N은 외삽(extrapolation) 중 모델의 불확실성을 추가로 정량화하는 반면, 테스트 정확도는 동일한 이동을 사후(post hoc)에만 드러낸다.

arXiv:2607.20461v1cs.CL공통 태그 Fairness, Binary Classification

자연어에서 정서가(valence)가 도덕성을 반영할 수 있는가? 예비 주석 연구

Can Valence Reflect Morality in Natural Language? A Preliminary Annotation Study

현재 인공지능(AI) 윤리 구현은 감정, 또는 정서(affect)를 충분히 고려하지 않는다. AI가 인간 윤리와 정렬(alignment)되어야 한다면, 감정이 사람이 취하는 행동, 판단 또는 진술에 역할을 하는 덕목 있는 인간의 윤리적 행위를 반영하는 AI 행동의 가능성을 철저히 조사하는 것이 타당해 보인다. 또한 규범적 윤리의 주요 이론들이 종종 그 차이와 한계 측면에서 논의되지만, 덕 윤리, 결과주의, 칸트적 의무론 윤리는 모두 어느 정도 인간의 감정을 고려한다는 공통점을 공유하는 반면, 인기 있는 기술적 윤리 이론인 도덕 기초 이론(Moral Foundations Theory)은 많은 기초에서 감정을 핵심으로 둔다. 따라서 본 논문에서는 Commonsense Norm Bank 데이터셋의 텍스트로 제시된 시나리오에 대해 -1에서 1까지의 범위로 행동/판단 및 결과의 도덕적 정서가 모두에 대한 6명의 참가자가 수행한 500건의 주석으로 구성된 도덕 정서가 데이터셋을 제안한다. 결과적으로 얻어진 정서가 특징은 다중 분류(비도덕/재량/도덕) 및 이진 비도덕/도덕 범주와 유의미한 관계를 공유하며, 더불어 이진 분류를 위한 규제화된 로지스틱 회귀를 사용할 때 주목할 만한 테스트 세트 매튜스 상관계수(Matthew's correlation coefficient) 0.764를 제공한다. 이는 텍스트의 도덕성 추정을 위한 정서가 특징의 유용성에 대한 초기 증거를 제공하며, 타인에 대한 반응이 초래하는 정서가를 지닌 결과를 보다 인간적이고 도덕적으로 정렬된 AI를 향해 고려할 수 있음을 시사한다. 정서-도덕(affective-moral) 컴퓨팅 연구를 더욱 촉진하기 위해, 본 연구의 주석은 요청 시 연구 목적으로 제공될 예정이다.

arXiv:2607.20897v1cs.CV공통 태그 Fairness, Binary Classification

MAGE-Vein: 손가락 정맥 이미지 기반 다중 인스턴스 연령·성별 추정

MAGE-Vein: Multi-Instance Age and Gender Estimation from Finger Vein Images

손가락 정맥 이미지를 이용한 연령 추정은 공개 데이터셋의 심각한 인구통계학적 편향과 성별과 같은 생리학적 교란 요인으로 인해 실용적이지 않다고 널리 여겨져 왔다. 이러한 한계를 극복하기 위해, 우리는 새로운 다중 인스턴스, 다중 과제 학습(multi-task learning) 프레임워크인 MAGE-Vein을 제안한다. 우리의 접근법은 세 손가락의 하이브리드 특징 수준(feature-level) 융합을 통해 견고한 구조적 노화 징후를 추출하여 국소 영상 노이즈를 효과적으로 억제한다. 또한 성별 분류를 동시에 최적화함으로써 네트워크가 성별 특이적 혈관 변이를 효과적으로 제거하도록 유도한다. 인구통계학적으로 균형 잡힌 402명의 피험자 데이터셋에서 평가한 결과, MAGE-Vein은 평균 절대 오차 6.12년과 상관계수 0.880을 달성한다. 우리의 결과는 손가락 정맥 모달리티의 한계에 관한 기존 합의를 뒤집을 뿐만 아니라, 이전 추정 실패가 주로 편향된 공개 데이터셋에서 기인한 인공물이었음을 보여준다. 코드는 https://github.com/gsisaoki/MAGE-Vein 에서 제공된다.

arXiv:2607.14729v1cs.CL공통 태그 Fairness, Binary Classification

자폐 작문이 AI 생성 텍스트로 오분류되는 현상

The Misclassification of Autistic Writing as AI-Generated

최근 연구에 따르면 인공지능(AI) 탐지 모델은 AI 생성 텍스트를 정확히 식별하지 못할 수 있으며, 특정 소수 집단에 대해 바이어스를 보일 수 있다. 본 연구에서는 자폐 작가의 글이 AI 생성으로 더 자주 탐지된다는 일화적 주장을 실증적으로 검증한다. 약 60,000개의 Reddit 게시물로 구성된 코퍼스를 "자폐 가능성 높음(likely-autistic)" 및 "일반 Reddit(general-Reddit)" 하위 코퍼스로 나누어 OpenAI GPT-2 탐지 모델이 출력하는 확률 분포를 비교한다. 하위 코퍼스 간 텍스트 특성 차이를 관찰하고 AI 생성 텍스트의 보고된 특성과 비교한다. 결과적으로 모델이 AI 생성으로 표시한 글은 각 하위 코퍼스 모두 2% 미만이었지만, 자폐 가능성 높은 하위 코퍼스의 글이 유의미하게 더 많이 표시되었다. 자폐 가능성 높은 작가의 글 특성과 AI 생성 텍스트 특성 간의 연관은 단순하지 않았다. 자폐 작가에 대한 잠재적 바이어스를 드러낼 수 있는 AI 탐지 모델의 광범위한 사용은 윤리적 검토를 촉발하며, 저자들은 모델 자체와 학술 맥락에서의 활용에 대한 비판적 재검토를 권고한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.