arXiv:1610.01546

Conversational Recommendation System with Unsupervised Learning

Yueming Sun, Yi Zhang, Yunfei Chen, Roger Jin

제출 2016-09-22

원문 초록

We will demonstrate a conversational products recommendation agent. This system shows how we combine research in personalized recommendation systems with research in dialogue systems to build a virtual sales agent. Based on new deep learning technologies we developed, the virtual agent is capable of learning how to interact with users, how to answer user questions, what is the next question to ask, and what to recommend when chatting with a human user. Normally a descent conversational agent for a particular domain requires tens of thousands of hand labeled conversational data or hand written rules. This is a major barrier when launching a conversation agent for a new domain. We will explore and demonstrate the effectiveness of the learning solution even when there is no hand written rules or hand labeled training data.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2603.03536v2cs.CL공통 태그 Recommendation Systems, Conversational Recommendation

SafeCRS: LLM 기반 대화형 추천 시스템을 위한 개인화된 안전성 정렬

SafeCRS: Personalized Safety Alignment for LLM-Based Conversational Recommender Systems

현재 LLM 기반 대화형 추천 시스템(conversational recommender systems, CRS)은 주로 추천 정확도와 사용자 만족도를 최적화한다. 우리는 추천 출력이 개인화된 안전 제약을 위반하여 사용자에게 부정적인 영향을 미칠 수 있는, 아직 충분히 탐구되지 않은 취약점을 확인한다. 이는 트라우마 유발 요인, 자해 이력, 공포증과 같은 개인별 안전 민감도가 대화에서 암묵적으로 추론되지만 추천 과정에서 존중되지 않을 때 발생한다. 우리는 이 과제를 개인화된 CRS 안전성으로 형식화하고, 사용자별 제약 하에서 LLM 기반 CRS의 안전 위험을 체계적으로 평가하기 위해 설계된 새로운 벤치마크 데이터셋 SafeRec를 소개한다. 이 문제를 더 해결하기 위해, 추천 품질과 개인화된 안전성 정렬을 공동으로 최적화하기 위해 Safe 지도 미세조정(Safe-SFT)과 Safe Group reward-Decoupled Normalization Policy Optimization(Safe-GDPO)을 통합하는 안전 인식 학습 프레임워크 SafeCRS를 제안한다. SafeRec에 대한 광범위한 실험은 SafeCRS가 가장 강력한 추천 품질 기준선 대비 안전 위반률을 최대 96.5% 감소시키면서 경쟁력 있는 추천 품질을 유지함을 보여준다. 경고: 본 논문에는 잠재적으로 유해하고 불쾌한 내용이 포함되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.