온라인 등각 위험 제어를 위한 용량 제약 지연 피드백
Capacity-Constrained Delayed Feedback for Online Conformal Risk Control
한국어 초록
온라인 등각 위험 제어(OCRC)는 모델 출력을 장기적 위험 보장을 갖는 예측 집합으로 변환함으로써 기계학습에서 신뢰할 수 있는 불확실성 정량화를 가능하게 한다. 그러나 이러한 보장은 각 라운드의 손실이 즉시 그리고 손실 없이 공개된다는 가정에 의존한다. 실제로는 피드백이 지연될 수 있고, 제한된 자원으로 인해 대기 중인 모든 예측을 추적하지 못해 일부 피드백이 소실될 수 있다. 이 문제를 해결하기 위해 우리는 제한된 추적 피드백 용량을 어떻게 할당하고 예측 집합을 어떻게 구성할지를 함께 결정하는 프레임워크인 용량 인지 OCRC(CA-OCRC)를 개발한다. CA-OCRC는 대리 지연을 표본추출하여 현재 라운드의 피드백을 추적할지 여부와 얼마나 오래 추적할지를 결정하는 무작위 추적 정책에 기반한다. CA-OCRC는 역확률 가중을 통해 예측 집합을 갱신하여 지연과 제한된 추적 용량으로 인해 피드백이 소실될 가능성을 보상한다. 우리는 임의 지연과 확률적 지연 모두에 대한 위험 한계를 분석하여, 더 많은 피드백을 받는 것과 용량 포화를 피하는 것 사이의 상충 관계를 밝힌다. 이 한계를 바탕으로 대리 지연 분포를 최적화하고, 무제한 피드백을 가진 OCRC와 동일한 장기 위험을 보장하는 추적 용량의 스케일링 법칙을 보인다. 의료 영상, 자연어 처리, 컴퓨터 비전, 무선 통신 분야의 실험은 기존 OCRC 방식에 비해 CA-OCRC가 효과적임을 보여 준다.
원문 초록
Online conformal risk control (OCRC) enables reliable uncertainty quantification in machine learning by converting model outputs into prediction sets with long-term risk guarantees. These guarantees, however, hinge on the assumption that the loss of each round is revealed immediately and losslessly. In practice, feedback may be delayed, and limited resources may prevent tracking all pending predictions, causing some feedback to be lost. To address this challenge, we develop capacity-aware OCRC (CA-OCRC), a framework that jointly determines how to allocate limited tracking feedback capacity and how to construct prediction sets. CA-OCRC is based on a randomized tracking policy that samples a proxy delay to decide whether, and for how long, feedback for the current round is tracked. CA-OCRC updates the prediction sets via inverse probability weighting, compensating for the possibility of feedback lost due to delays and limited tracking capacity. We analyze risk bounds for both arbitrary and stochastic delays, revealing a trade-off between receiving more feedback and avoiding capacity saturation. Building on these bounds, we optimize the proxy delay distribution, showing scaling laws for the tracking capacity that ensure the same long-term risk as OCRC with unlimited feedback. Experiments on medical imaging, natural language processing, computer vision, and wireless communications show the effectiveness of CA-OCRC as compared to existing OCRC mechanisms.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.