Time-aligned Exposure-enhanced Model for Click-Through Rate Prediction
원문 초록
Click-Through Rate (CTR) prediction, crucial in applications like recommender systems and online advertising, involves ranking items based on the likelihood of user clicks. User behavior sequence modeling has marked progress in CTR prediction, which extracts users' latent interests from their historical behavior sequences to facilitate accurate CTR prediction. Recent research explores using implicit feedback sequences, like unclicked records, to extract diverse user interests. However, these methods encounter key challenges: 1) temporal misalignment due to disparate sequence time ranges and 2) the lack of fine-grained interaction among feedback sequences. To address these challenges, we propose a novel framework called TEM4CTR, which ensures temporal alignment among sequences while leveraging auxiliary feedback information to enhance click behavior at the item level through a representation projection mechanism. Moreover, this projection-based information transfer module can effectively alleviate the negative impact of irrelevant or even potentially detrimental components of the auxiliary feedback information on the learning process of click behavior. Comprehensive experiments on public and industrial datasets confirm the superiority and effectiveness of TEM4CTR, showcasing the significance of temporal alignment in multi-feedback modeling.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
TiSASRec: Time Interval Aware Self-Attention for Sequential Recommendation
Deep Neural Networks for YouTube Recommendations
RoleMix: 의미 토큰화를 통한 순차·비순차 특징 통합 기반 클릭 후 전환율 예측
RoleMix: Unifying Sequential and Non-Sequential Features via Semantic Tokenization for Post-Click Conversion Rate Prediction
클릭 후 전환율(PCVR) 예측은 산업용 추천의 핵심이지만, 희소하고 순서 없는 다중 필드 특징과 긴 도메인 특화 행동 이력 간의 구조적 불일치로 인해 여전히 어려움이 남아 있다. 기존 모델들은 이러한 신호를 별도 경로로 처리한 뒤 후기에 융합하는 경우가 많아, 의미론적 역할을 약화시키고 교차 신호 정제를 제한한다. 우리는 순차 및 비순차 증거를 공유된 역할 보존 토큰 인터페이스를 통해 표현하는 통합 상호작용 아키텍처인 RoleMix를 제안한다. 비순차 필드는 사용자, 아이템, 쌍(pairwise), 밀집(dense), 맥락적, 교차 특징 역할을 보존하는 명시적 의미 토큰으로 변환되며, 긴 행동 도메인은 2단계 계층적 윈도우 어텐션을 통해 아이템 및 맥락 인식 시퀀스-쿼리 토큰으로 압축된다. 그 결과 생성된 전역, 의미, 시퀀스-쿼리 토큰은 PCVR 예측을 위해 쌓인 UniMixing-Lite 블록에 의해 공동으로 정제된다. 대규모 KDD Cup 2026 Tencent UniRec Challenge에서 RoleMix는 83.648%의 온라인 AUC를 달성하여, 공식 산업 기준선을 1.953%p 초과한다. 어블레이션 연구는 의미 토큰화가 가장 큰 단독 성능 향상을 가져옴을 보여주며, 대규모 PCVR 모델링의 핵심 원칙을 강조한다: 토큰 인터페이스 수준에서 필드 의미론을 보존하는 것은 상호작용 백본을 스케일링하는 것만큼 중요하다.
CTR 모델의 초기 학습 붕괴 완화
Mitigating Early Training Collapse in CTR Models
클릭률(CTR) 예측을 위한 딥 뉴럴 모델은 학습 손실이 지속적으로 개선됨에도 불구하고 첫 번째 학습 에포크 직후 검증 성능이 급격히 저하되는 현상을 자주 보인다. 이러한 불안정성은 효과적인 학습을 제한하고 모델 성능을 저하시킨다. 본 연구에서는 대규모 산업 데이터셋을 활용하여 이 현상을 분석하고 실용적인 완화 전략을 평가한다. 학습률을 낮추는 방법은 점진적인 개선만을 제공하는 반면, 특징 희소성을 제어하는 방법은 상당한 성능 향상을 가져온다. 희소성이 높은 특징을 제거하고 빈도가 낮은 특징 값을 집계하면 학습이 안정화되고, 유효한 학습이 단일 에포크를 넘어 지속되며, 오프라인 평가 지표와 온라인 시스템 성능이 모두 향상된다.
PIT-SUN: 추천 시스템 회귀를 위한 기댓값 일관성 복원 기반의 배포 가능한 경험적 주변 변환 프레임워크
PIT-SUN: A Deployable Empirical Marginal Transform Framework with Expectation-Consistent Recovery for Regression in Recommender Systems
원래 공간의 조건부 기댓값 추정은 체류 시간, GMV, LTV 예측 등 가치 기반 추천 시스템의 핵심 과제이다. 표준 MSE는 원칙적으로 기댓값 일관성을 갖추고 있으나, 헤비테일·영 과잉(zero-inflated)·다봉 분포 타깃에서 기울기가 불안정해져 평균 붕괴(mean collapse)와 꼬리 축소(tail shrinkage)를 유발한다. 타깃 변환은 이러한 스케일 충돌을 완화하지만, 유용한 비선형 주변 변환은 직접 역변환 시 기댓값 일관성을 잃는다. 이는 구현 상의 실수가 아니다. 직접 역변환 추정기가 보편적으로 기댓값 일관성을 갖기 위해서는 역변환이 아핀(affine)이어야 하며, 이는 유계 꼬리 압축과 동시에 달성될 수 없다. 기존의 조건부 선형 복원 방법들은 기댓값 일관성을 회복하지만, 희소하고 복잡한 주변 분포에 대해 어떤 좌표, 역분위수 조회, 복원 기저, 배포 모니터를 선택해야 하는지는 여전히 열린 문제로 남아 있다. 본 논문은 배포 가능한 경험적 주변 복원 프레임워크인 확률 적분 변환 기반 불편 복원(Probability-Integral-TranSformed Unbiased recovery, PIT-SUN)을 제안한다. PIT-SUN은 하나의 경험적 주변 테이블을 이용해 유계 정규 점수 좌표, 역분위수 조회, 분산 제어 복원 기저, 드리프트 모니터링을 정의하고, 변환된 예측을 직접 역변환하는 대신 승산적 SUN 복원을 적용하여 원래 공간의 기댓값을 추정한다. 합성 분포, 공개 벤치마크, 대규모 산업 데이터셋, 온라인 배포 실험에서 경량의 배포 오버헤드로 포인트 정확도, 캘리브레이션, 랭킹 품질 전반에 걸쳐 안정적인 성능 향상이 확인되었다.
News Popularity Beyond the Click-Through-Rate for Personalized Recommendations
토론
이 논문과 연결된 포럼 글이 아직 없습니다.