arXiv:2402.01135

A Multi-Agent Conversational Recommender System

Jiabao Fang, Shen Gao, Pengjie Ren, Xiuying Chen, Suzan Verberne, Zhaochun Ren

제출 2024-02-02

원문 초록

Due to strong capabilities in conducting fluent, multi-turn conversations with users, Large Language Models (LLMs) have the potential to further improve the performance of Conversational Recommender System (CRS). Unlike the aimless chit-chat that LLM excels at, CRS has a clear target. So it is imperative to control the dialogue flow in the LLM to successfully recommend appropriate items to the users. Furthermore, user feedback in CRS can assist the system in better modeling user preferences, which has been ignored by existing studies. However, simply prompting LLM to conduct conversational recommendation cannot address the above two key challenges. In this paper, we propose Multi-Agent Conversational Recommender System (MACRS) which contains two essential modules. First, we design a multi-agent act planning framework, which can control the dialogue flow based on four LLM-based agents. This cooperative multi-agent framework will generate various candidate responses based on different dialogue acts and then choose the most appropriate response as the system response, which can help MACRS plan suitable dialogue acts. Second, we propose a user feedback-aware reflection mechanism which leverages user feedback to reason errors made in previous turns to adjust the dialogue act planning, and higher-level user information from implicit semantics. We conduct extensive experiments based on user simulator to demonstrate the effectiveness of MACRS in recommendation and user preferences collection. Experimental results illustrate that MACRS demonstrates an improvement in user interaction experience compared to directly using LLMs.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2603.03536v2cs.CL공통 태그 Recommendation Systems, Conversational Recommendation

SafeCRS: LLM 기반 대화형 추천 시스템을 위한 개인화된 안전성 정렬

SafeCRS: Personalized Safety Alignment for LLM-Based Conversational Recommender Systems

현재 LLM 기반 대화형 추천 시스템(conversational recommender systems, CRS)은 주로 추천 정확도와 사용자 만족도를 최적화한다. 우리는 추천 출력이 개인화된 안전 제약을 위반하여 사용자에게 부정적인 영향을 미칠 수 있는, 아직 충분히 탐구되지 않은 취약점을 확인한다. 이는 트라우마 유발 요인, 자해 이력, 공포증과 같은 개인별 안전 민감도가 대화에서 암묵적으로 추론되지만 추천 과정에서 존중되지 않을 때 발생한다. 우리는 이 과제를 개인화된 CRS 안전성으로 형식화하고, 사용자별 제약 하에서 LLM 기반 CRS의 안전 위험을 체계적으로 평가하기 위해 설계된 새로운 벤치마크 데이터셋 SafeRec를 소개한다. 이 문제를 더 해결하기 위해, 추천 품질과 개인화된 안전성 정렬을 공동으로 최적화하기 위해 Safe 지도 미세조정(Safe-SFT)과 Safe Group reward-Decoupled Normalization Policy Optimization(Safe-GDPO)을 통합하는 안전 인식 학습 프레임워크 SafeCRS를 제안한다. SafeRec에 대한 광범위한 실험은 SafeCRS가 가장 강력한 추천 품질 기준선 대비 안전 위반률을 최대 96.5% 감소시키면서 경쟁력 있는 추천 품질을 유지함을 보여준다. 경고: 본 논문에는 잠재적으로 유해하고 불쾌한 내용이 포함되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.