arXiv:2410.02799

A Data Envelopment Analysis Approach for Assessing Fairness in Resource Allocation: Application to Kidney Exchange Programs

Ali Kaazempur-Mofrad, Xiaowu Dai

제출 2024-09-18

원문 초록

Kidney exchange programs have significantly increased transplantation rates but raise pressing questions about fairness in organ allocation. We present a novel framework leveraging Data Envelopment Analysis (DEA) to evaluate multiple fairness criteria--Priority, Access, and Outcome--within a single model, capturing complexities that may be overlooked in single-metric analyses. Using data from the United Network for Organ Sharing, we analyze these criteria individually, measuring Priority fairness through waitlist durations, Access fairness through Kidney Donor Profile Index scores, and Outcome fairness through graft lifespan. We then apply our DEA model to demonstrate significant disparities in kidney allocation efficiency across ethnic groups. To quantify uncertainty, we employ conformal prediction within the DEA framework, yielding group-conditional prediction intervals with finite sample coverage guarantees. Our findings show notable differences in efficiency distributions between ethnic groups. Our study provides a rigorous framework for evaluating fairness in complex resource allocation systems, where resource scarcity and mutual compatibility constraints exist. All code for using the proposed method and reproducing results is available on GitHub.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.24562v1cs.AI공통 태그 Fairness, Conformal Prediction

언어 모델 선택적 예측을 위한 계층적 그룹-조건부 컨포멀 리스크 제어

Hierarchical Group-Conditional Conformal Risk Control for Selective Prediction in Language Models

대규모 언어 모델(LLM)은 도메인, 주제 난이도, 언어적 스타일에 따라 구조화된 이질적인 집단을 대상으로 한다. 컨포멀 리스크 제어(CRC)는 기권(abstention)을 포함한 선택적 예측에 대해 엄밀한 주변(marginal) 리스크 보장을 제공하지만, 주변 보장이 그룹별 보장을 의미하지는 않는다. 모델은 전체 모집단 예산을 충족하면서도 하위 그룹에 체계적으로 과도한 오류 노출을 일으킬 수 있다. 그룹 구성의 경미한 변화(shift) 하에서 표준 CRC는 최대 47%의 시행에서 예산을 위반한다. 우리는 사용자가 정의한 그룹 계층의 모든 노드에 걸쳐 동시 리스크 보장을 강제하는 사후(post-hoc) 보정 프레임워크인 HG-CRC(Hierarchical Group-Conditional CRC)를 제안한다. 이는 노드에 대한 Bonferroni 보정과, 적용 가능한 가장 구체적인 임계값을 사용하는 leaf-first 정책을 적용하며, 더 세분화된 노드가 미인증(uncertified)이거나 예시를 거부할 때는 더 거친(coarser) 노드로 대체(fallback)한다. 재학습 없이 보류(hold-out) 보정 세트만 필요하다. 세 가지 모델(Qwen3-4B, Llama-3.1-8B-Instruct, Gemma-3-4B)과 두 벤치마크(ARC Challenge, MMLU-Pro)에 대해, IID 일반화, 이질성, 혼합/도메인/프롬프트/난이도 변화, 레이블 노이즈, 양자화를 탐구하는 여덟 가지 구성으로 평가한다. 주요 결과: HG-CRC는 고정확도 모델(Qwen3-4B, Llama-3.1-8B)에 대해 ARC Challenge에서 경험적 위반율 0%와 WGER=0에 도달한다. 500회 부트스트랩 시행에서 이 0값들은 경험적 상한(실제 비율 최대 0.6%)이며, 인증(certified)된 것은 아니다. 결과는 벤치마크별로 다르다. MMLU-Pro에서는 이 모델들이 전면 기권하거나(Llama) WGER=0.014를 유지한다. 여기서 보정이 잘 되지 않은 Gemma-3-4B는 기권을 통해 우아하게 성능이 저하된다. 전역 CRC 대비 참여(participation) 비용은 22~37%p이다. ablation은 계층적 깊이가 예산을 충족함을 보여준다. 난이도 수준을 제거하면 위반이 약 11%로 되돌아간다. Bonferroni는 이론적 보장에 필요하지만, 그 경험적 효과는 노드가 많을 때만 중요하다.

arXiv:2607.21623v1cs.LG공통 태그 Fairness, Conformal Prediction

클라우드 네이티브 평가-서비스(EaaS): Conformal 보장을 갖춘 확장 가능한 AI 모니터링을 위한 마이크로서비스 아키텍처

Cloud-Native Evaluation-as-a-Service: A Microservices Architecture for Scalable AI Monitoring with Conformal Guarantees

우리는 AI 평가 방법을 여섯 개의 stateless Kubernetes 마이크로서비스로 운영화하는 클라우드 네이티브 참조 아키텍처인 EaaS를 제시한다: 유한 표본 보정 Adaptive Prediction Sets를 적용한 conformal prediction, calibration 평가, RFF-근사 Maximum Mean Discrepancy(RFF-MMD)를 통한 drift detection, bootstrap 신뢰구간을 갖춘 fairness 모니터링, 방향성 비순환 그래프(DAG) 기반 파이프라인 오케스트레이터, 결과 저장 API. 네 가지 핵심 방법론적 관심사를 검증한다. 첫째, K=50개의 무작위 calibration/test 분할에서 경험적 coverage는 marginal conformal 보장과 일치하며, 평균 coverage는 명목 목표치에서 1.4 percentage points 이내이다. 둘째, MMLU의 네 가지 답변 token이 모두 top-20 logprobs에 포함되며 imputation이 0% 필요하고, 10%에서 시뮬레이션된 imputation은 coverage에 1.5% 미만의 영향을 준다. 셋째, RFF-MMD는 중간 휴리스틱 bandwidth에서 경미한 및 심각한 drift에 대해 100% detection power를 달성하며, Type I error는 5-8.5%이다. 넷째, UCI Adult Income 데이터셋에 대한 fairness 모니터링은 인종별 유의미한 demographic parity 격차(DP gap=0.33)를 드러내고, 순차 배치에서 안정적인 alert를 보인다. Conformal prediction 및 calibration 서비스는 배치 크기 100에서 p99 지연시간이 2ms 미만이다; RFF-MMD는 ~500ms가 필요하며 주기적 배치 모니터링에 적합하다. 네 개의 오픈소스 도구와의 비교에 따르면, 우리가 아는 한 현재 어떤 플랫폼도 conformal-prediction-as-a-service, 마이크로서비스 분해, DAG 기반 오케스트레이션을 결합하지 않는다.

arXiv:2610.02975v2cs.AI공통 태그 Conformal Prediction

불완전한 프록시 보상을 활용한 신뢰할 수 있는 자기 진화

Reliable Self-Evolution with Imperfect Proxy Rewards

대규모 언어 모델(LLM) 기반의 자기 진화 탐색은 과학적 발견을 위한 유망한 접근법입니다. 그러나 일부 영역에서는 모든 후보에 대해 고충실도(high-fidelity) 평가를 수행하는 데 엄청난 비용이 듭니다. 따라서 이러한 환경의 자기 진화 시스템은 비용이 저렴하지만 불완전한 프록시 보상(proxy reward)에 의존하며, 이는 실현 불가능한 후보에 높은 점수를 부여할 수 있습니다. 이러한 위양성(false positive)은 최종 출력뿐만 아니라 후속 세대를 유도하는 데 사용되는 피드백까지 오염시킬 수 있습니다. 이는 보다 신뢰할 수 있는 자기 진화 탐색을 위해 통계적으로 보정된 보상 구간을 도입하는 동기가 됩니다. 본 논문에서는 조건부 등분산 추론(conditional conformal inference)과 반복(iteration)별 온라인 밀도비 추정을 사용하여 후보별 보상 구간을 구성하는 CISE(Conformal Interval-Driven Self-Evolution)를 제안합니다. CISE는 진화적 피드백을 위해 보수적인 구간 기반 보상을 사용하며, 요구되는 모든 속성 구간이 각자의 실행 가능한 영역 내에 완전히 포함될 때만 후보를 반환합니다. 본 연구는 독립성 및 공변량 변화(covariate shift)에 대한 명시적 가정 하에서 고정 반복 커버리지 결과를 도출합니다. 또한 재료과학 분야의 세 가지 자기 진화 탐색 작업에서 CISE를 평가합니다. 실험 결과, 고충실도 평가에서 CISE가 반환한 모든 후보는 진양성(true positive)이었던 반면, 베이스라인들은 더 많은 후보를 반환하지만 위양성을 포함했습니다. 이러한 결과는 다운스트림 검증 예산이 제한적일 때 더 작지만 더 정밀한 후보 목록이 갖는 가치를 강조합니다. 연구 저장소는 https://github.com/MLAI-Yonsei/CISE.git 에서 확인할 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.