arXiv:2211.02848

Aligning Recommendation and Conversation via Dual Imitation

Jinfeng Zhou, Bo wang, Minlie Huang, Dongming Zhao, Kun Huang, Ruifang He, Yuexian Hou

제출 2022-11-05

원문 초록

Human conversations of recommendation naturally involve the shift of interests which can align the recommendation actions and conversation process to make accurate recommendations with rich explanations. However, existing conversational recommendation systems (CRS) ignore the advantage of user interest shift in connecting recommendation and conversation, which leads to an ineffective loose coupling structure of CRS. To address this issue, by modeling the recommendation actions as recommendation paths in a knowledge graph (KG), we propose DICR (Dual Imitation for Conversational Recommendation), which designs a dual imitation to explicitly align the recommendation paths and user interest shift paths in a recommendation module and a conversation module, respectively. By exchanging alignment signals, DICR achieves bidirectional promotion between recommendation and conversation modules and generates high-quality responses with accurate recommendations and coherent explanations. Experiments demonstrate that DICR outperforms the state-of-the-art models on recommendation and conversation performance with automatic, human, and novel explainability metrics.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2603.03536v2cs.CL공통 태그 Recommendation Systems, Conversational Recommendation

SafeCRS: LLM 기반 대화형 추천 시스템을 위한 개인화된 안전성 정렬

SafeCRS: Personalized Safety Alignment for LLM-Based Conversational Recommender Systems

현재 LLM 기반 대화형 추천 시스템(conversational recommender systems, CRS)은 주로 추천 정확도와 사용자 만족도를 최적화한다. 우리는 추천 출력이 개인화된 안전 제약을 위반하여 사용자에게 부정적인 영향을 미칠 수 있는, 아직 충분히 탐구되지 않은 취약점을 확인한다. 이는 트라우마 유발 요인, 자해 이력, 공포증과 같은 개인별 안전 민감도가 대화에서 암묵적으로 추론되지만 추천 과정에서 존중되지 않을 때 발생한다. 우리는 이 과제를 개인화된 CRS 안전성으로 형식화하고, 사용자별 제약 하에서 LLM 기반 CRS의 안전 위험을 체계적으로 평가하기 위해 설계된 새로운 벤치마크 데이터셋 SafeRec를 소개한다. 이 문제를 더 해결하기 위해, 추천 품질과 개인화된 안전성 정렬을 공동으로 최적화하기 위해 Safe 지도 미세조정(Safe-SFT)과 Safe Group reward-Decoupled Normalization Policy Optimization(Safe-GDPO)을 통합하는 안전 인식 학습 프레임워크 SafeCRS를 제안한다. SafeRec에 대한 광범위한 실험은 SafeCRS가 가장 강력한 추천 품질 기준선 대비 안전 위반률을 최대 96.5% 감소시키면서 경쟁력 있는 추천 품질을 유지함을 보여준다. 경고: 본 논문에는 잠재적으로 유해하고 불쾌한 내용이 포함되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.