arXiv:2611.20387v1 stat.ML

밴딧 피드백을 활용한 일반화된 예측 집합

Generalized Prediction Set with Bandit Feedback

Zhou Wang, Xingye Qiao

제출 2026-11-16

한국어 초록

불확실성이 크고 예측 오류의 영향이 큰 환경에서 집합값 예측은 각 테스트 사례에 대해 가능한 레이블을 여러 개 제시함으로써 오류의 잠재적 위험을 줄이는 신중하고 강건한 방법이다. 그러나 밴딧 피드백을 받는 온라인 학습 같은 환경에서 이 접근법을 분포 외(OOD) 탐지와 결합하는 연구는 드물다. 밴딧 피드백은 정답 레이블을 직접 알려 주는 대신 선택한 팔 또는 행동이 맞았는지만 학습기에 알려 준다. 따라서 잘못된 행동을 선택하면 실제 클래스 레이블을 알 수 없다. 본 연구는 이 문제를 해결하기 위해 클래스의 정답 레이블을 추정하여 밴딧 피드백 환경에서 집합값 예측과 OOD 탐지를 함께 수행하는 BanditGPS를 제안한다. BanditGPS는 크기가 작고 유용한 정보를 담은 예측 집합을 생성하고, OOD 탐지 성능을 높이며, 모든 정상 클래스의 재현율이 미리 정한 요구 조건을 충족하도록 제어한다. 이 접근법의 손실 함수는 OOD 탐지 성능을 높이는 목표와 예측 집합의 크기를 줄이는 목표 사이의 균형을 조절한다. 이론적으로 후회의 수렴률이 $\tilde{\mathcal{O}}(T^{-1/2})$임을 증명한다. 실험 결과, BanditGPS는 재현율을 효과적으로 제어했으며 OOD 탐지와 유용한 정보를 담은 예측에서 유망한 성능을 보였다.

원문 초록

In high-stakes environments where uncertainties abound, set-valued prediction offers a cautious and robust mechanism by presenting multiple potential labels as the prediction for each test instance to mitigate the potential risk associated with prediction errors. Yet, integrating this paradigm with out-of-distribution (OOD) detection remains scarcely explored in such settings as online learning with bandit feedback. The bandit feedback mechanism informs the learner about the correctness of the pulled arm/action instead of the explicit ground truth label, leaving the true class label unknown when an incorrect action is taken. To address this challenge, we introduce BanditGPS which conducts set-valued prediction with OOD detection in the bandit feedback setting, using an estimation to the ground truth of class labels. BanditGPS achieves three objectives: render small/informative prediction sets, enhance the OOD detection performance, and control the recall for all normal classes to meet prescribed requirements. Our approach is characterized by the loss function, which trades off between high OOD detection and small prediction sets. Theoretically, we prove that the convergence rate of the regret is $\tilde{\mathcal{O}}(T^{-1/2})$. The empirical results further show that BanditGPS effectively controls the recalls with promising performances on OOD detection and informative prediction.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.20387v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.