통계적 관점을 통한 확률적 가치 추정의 1차 효율성
First-Order Efficiency for Probabilistic Value Estimation via A Statistical Viewpoint
한국어 초록
샤플리 값(Shapley values)과 세미밸류(semivalues)를 포함한 확률적 가치(probabilistic values)는 블랙박스 모델의 동작을 데이터 포인트나 특성에 귀속시키는 모델 불가지론적(model-agnostic) 프레임워크를 제공하며, 설명 가능한 인공지능(XAI) 및 데이터 가치 평가를 포함한 광범위한 응용 분야를 갖습니다. 그러나 이들의 정확한 계산에는 지수적으로 많은 연합에 대한 효용 평가가 필요하므로, 현대 머신러닝 응용에서는 몬테카를로(Monte Carlo) 근사가 필수적입니다. 기존 추정량들은 가중 평균, 자기 정규화 가중치, 회귀 조정, 가중 최소제곱법 등 다양한 표현 전략을 통해 주로 개발되었습니다. 본 연구의 핵심 관찰은 겉보기에 서로 달라 보이는 이러한 구성들이 공통된 1차 전개(first-order expansion)를 공유하며, 이 전개의 주도 항(leading term)이 표본추출 분포(sampling law)와 작동 대리 함수(working surrogate function)에 의해 결정된다는 점입니다. 이러한 1차 표현은 표본추출 분포와 대리 함수가 통계적 효율성을 어떻게 공동으로 결정하는지를 특징짓는 주요 평균 제곱 오차(MSE)의 명시적 표현을 도출합니다. 이 기준을 바탕으로, 본 논문에서는 1차 MSE를 최소화하도록 표본추출 분포와 대리 함수를 직접 선택하는 EASE(Efficiency-Aware Surrogate-adjusted Estimator)를 제안합니다. 실험을 통해 EASE가 다양한 확률적 가치에 대해 기존 추정량들을 일관되게 능가함을 입증합니다.
원문 초록
Probabilistic values, including Shapley values and semivalues, provide a model-agnostic framework to attribute the behavior of a black-box model to data points or features, with a wide range of applications including explainable artificial intelligence and data valuation. However, their exact computation requires utility evaluations over exponentially many coalitions, making Monte Carlo approximation essential in modern machine learning applications. Existing estimators are often developed through different representation strategies, including weighted averages, self-normalized weighting, regression adjustment, and weighted least squares. Our key observation is that these seemingly distinct constructions share a common first-order expansion, in which the leading term is determined by the sampling law and a working surrogate function. This first-order representation yields an explicit expression for the leading mean squared error (MSE), which characterizes how the sampling law and the surrogate jointly determine statistical efficiency. Guided by this criterion, we propose an Efficiency-Aware Surrogate-adjusted Estimator (EASE) that directly chooses the sampling law and surrogate to minimize the first-order MSE. We demonstrate that EASE consistently outperforms existing estimators for various probabilistic values.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2605.02827v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.