설명이 경쟁할 때: 불확실성 하에서의 정책 인지형 선택
When Explanations Compete: Policy-Aware Selection Under Uncertainty
불확실성을 인지하는 설명 방법들은 동일한 예측에 대해 종종 여러 대안을 생성합니다. 이들 중에서 선택하려면 예측 신뢰도, 불확실성, 그리고 애플리케이션의 제약 조건 간의 균형을 맞추는 정책이 필요합니다. 본 논문은 생성된 고정된 설명 집합에 이러한 정책을 적용하기 위한 프레임워크를 제시합니다. 후보들은 불확실성 변화, 예측 방향, 그리고 가능한 경우 결정 경계(decision boundary)에 대한 구간 위치로 특성화됩니다. 이 프레임워크는 이러한 속성들을 적격성 규칙, 선택적 양방향 파레토 스크리닝(bidirectional Pareto screening), 정책 인지형 순위 매기기와 결합합니다. 가상의 전립선암 예시를 통해 서로 다른 설명 목적이 동일한 후보 집합에서 어떻게 서로 다른 선택으로 이어지는지 보여줍니다. 우리는 분류(classification), 임계값 기반 회귀, 일반 회귀를 위한 Calibrated Explanations를 통해 이 프레임워크를 구체화합니다. 41개 벤치마크 데이터셋에 걸쳐 평균 후보 수는 단일 특징(feature) 설명의 경우 11.57개에서 21.75개, 결합(conjunction)이 포함된 경우 29.48개에서 69.53개에 이릅니다. 동일 가중치(equal-weight) 정책과 신뢰도 전용 정책은 동일한 신뢰도 방향을 선호하면서도 평균 28.7%의 선택 불일치율을 보입니다. 보조적인 δ-CLUE 실험은 두 번째 생성기와의 활용 가능성을 입증합니다. 선택 정책을 명시화함으로써, 본 프레임워크는 애플리케이션이 의도된 용도에 따라 설명을 비교하고 우선순위를 정할 수 있도록 합니다.