arXiv:2211.06684

A Generalized Doubly Robust Learning Framework for Debiasing Post-Click Conversion Rate Prediction

Quanyu Dai, Haoxuan Li, Peng Wu, Zhenhua Dong, Xiao-Hua Zhou, Rui Zhang, Jie Sun

제출 2022-11-12

원문 초록

Post-click conversion rate (CVR) prediction is an essential task for discovering user interests and increasing platform revenues in a range of industrial applications. One of the most challenging problems of this task is the existence of severe selection bias caused by the inherent self-selection behavior of users and the item selection process of systems. Currently, doubly robust (DR) learning approaches achieve the state-of-the-art performance for debiasing CVR prediction. However, in this paper, by theoretically analyzing the bias, variance and generalization bounds of DR methods, we find that existing DR approaches may have poor generalization caused by inaccurate estimation of propensity scores and imputation errors, which often occur in practice. Motivated by such analysis, we propose a generalized learning framework that not only unifies existing DR methods, but also provides a valuable opportunity to develop a series of new debiasing techniques to accommodate different application scenarios. Based on the framework, we propose two new DR methods, namely DR-BIAS and DR-MSE. DR-BIAS directly controls the bias of DR loss, while DR-MSE balances the bias and variance flexibly, which achieves better generalization performance. In addition, we propose a novel tri-level joint learning optimization method for DR-MSE in CVR prediction, and an efficient training algorithm correspondingly. We conduct extensive experiments on both real-world and semi-synthetic datasets, which validate the effectiveness of our proposed methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2501.09731v2stat.ML공통 태그 Imputation공식 코드 · Papers with Code

예측을 대리 결과로: AI 시대의 대리 결과 재검토

Predictions as Surrogates: Revisiting Surrogate Outcomes in the Age of AI

우리는 생물통계학과 경제학에서 수십 년간 발전해 온 대리 결과(surrogate outcome) 모델과 새로 부상하는 예측 기반 추론(prediction-powered inference, PPI) 분야 사이의 형식적 연결을 확립한다. 이 연결은 AI 시대에 널리 쓰이는 사전학습(pre-trained) 모델의 예측을 값비싼 결과에 대한 비용 효율적인 대리물(surrogate)로 간주한다. 대리 결과 문헌을 바탕으로, 우리는 재보정(recalibrated) 예측 기반 추론을 개발하며, 이는 기존 PPI 제안들보다 더 효율적인 통계적 추론 접근법이다. 우리 방법은 재보정(recalibration)이라 부르는 단계를 통해 최적의 ``대체된 손실(imputed loss)''을 학습하기 위해 유연한 기계학습 기법을 사용함으로써 기존 제안들과 차별화된다. 중요하게도, 이 방법은 최적의 대체된 손실이 불완전하게 추정되더라도, 관측 가능한 실제 결과만을 가진 데이터에 전적으로 의존하는 추정량(estimator)보다 항상 개선하며, 추정이 일치(consistent)하면 PPI 추정량들 중 가장 작은 절근 분산(asymptotic variance)을 달성한다. 계산 측면에서, 목표 매개변수를 정의하는 손실 함수가 볼록(convex)할 때마다 우리의 최적화 목적함수는 볼록하다. 우리는 관심 결과와 기계학습 예측이 체계적으로 어긋나는 여러 일반적인 시나리오에서 재보정의 이점을 이론적으로와 수치적으로 추가로 분석한다. 우리는 최신 기계학습/AI 모델을 활용한 세 가지 응용을 통해 기존 PPI 제안들 대비 유효 표본 크기(effective sample size)에서의 유의미한 이득을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.