arXiv:2112.05197

Self-Supervised Bot Play for Conversational Recommendation with Justifications

Shuyang Li, Bodhisattwa Prasad Majumder, Julian McAuley

제출 2021-12-09

원문 초록

Conversational recommender systems offer the promise of interactive, engaging ways for users to find items they enjoy. We seek to improve conversational recommendation via three dimensions: 1) We aim to mimic a common mode of human interaction for recommendation: experts justify their suggestions, a seeker explains why they don't like the item, and both parties iterate through the dialog to find a suitable item. 2) We leverage ideas from conversational critiquing to allow users to flexibly interact with natural language justifications by critiquing subjective aspects. 3) We adapt conversational recommendation to a wider range of domains where crowd-sourced ground truth dialogs are not available. We develop a new two-part framework for training conversational recommender systems. First, we train a recommender system to jointly suggest items and justify its reasoning with subjective aspects. We then fine-tune this model to incorporate iterative user feedback via self-supervised bot-play. Experiments on three real-world datasets demonstrate that our system can be applied to different recommendation models across diverse domains to achieve superior performance in conversational recommendation compared to state-of-the-art methods. We also evaluate our model on human users, showing that systems trained under our framework provide more useful, helpful, and knowledgeable recommendations in warm- and cold-start settings.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2603.03536v2cs.CL공통 태그 Recommendation Systems, Conversational Recommendation

SafeCRS: LLM 기반 대화형 추천 시스템을 위한 개인화된 안전성 정렬

SafeCRS: Personalized Safety Alignment for LLM-Based Conversational Recommender Systems

현재 LLM 기반 대화형 추천 시스템(conversational recommender systems, CRS)은 주로 추천 정확도와 사용자 만족도를 최적화한다. 우리는 추천 출력이 개인화된 안전 제약을 위반하여 사용자에게 부정적인 영향을 미칠 수 있는, 아직 충분히 탐구되지 않은 취약점을 확인한다. 이는 트라우마 유발 요인, 자해 이력, 공포증과 같은 개인별 안전 민감도가 대화에서 암묵적으로 추론되지만 추천 과정에서 존중되지 않을 때 발생한다. 우리는 이 과제를 개인화된 CRS 안전성으로 형식화하고, 사용자별 제약 하에서 LLM 기반 CRS의 안전 위험을 체계적으로 평가하기 위해 설계된 새로운 벤치마크 데이터셋 SafeRec를 소개한다. 이 문제를 더 해결하기 위해, 추천 품질과 개인화된 안전성 정렬을 공동으로 최적화하기 위해 Safe 지도 미세조정(Safe-SFT)과 Safe Group reward-Decoupled Normalization Policy Optimization(Safe-GDPO)을 통합하는 안전 인식 학습 프레임워크 SafeCRS를 제안한다. SafeRec에 대한 광범위한 실험은 SafeCRS가 가장 강력한 추천 품질 기준선 대비 안전 위반률을 최대 96.5% 감소시키면서 경쟁력 있는 추천 품질을 유지함을 보여준다. 경고: 본 논문에는 잠재적으로 유해하고 불쾌한 내용이 포함되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.