A Review-Driven Neural Model for Sequential Recommendation
원문 초록
Writing review for a purchased item is a unique channel to express a user's opinion in E-Commerce. Recently, many deep learning based solutions have been proposed by exploiting user reviews for rating prediction. In contrast, there has been few attempt to enlist the semantic signals covered by user reviews for the task of collaborative filtering. In this paper, we propose a novel review-driven neural sequential recommendation model (named RNS) by considering users' intrinsic preference (long-term) and sequential patterns (short-term). In detail, RNS is devised to encode each user or item with the aspect-aware representations extracted from the reviews. Given a sequence of historical purchased items for a user, we devise a novel hierarchical attention over attention mechanism to capture sequential patterns at both union-level and individual-level. Extensive experiments on three real-world datasets of different domains demonstrate that RNS obtains significant performance improvement over uptodate state-of-the-art sequential recommendation models.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
ARERec: Attentive Local Interaction Model for Sequential Recommendation
LLM2Rec: Large Language Models Are Powerful Embedding Models for Sequential Recommendation
RecGPT: A Foundation Model for Sequential Recommendation
Flow Matching based Sequential Recommender Model
LIME: 효율적인 테스트 시간 스케일링을 위한 분리된 XOR 어텐션 기반 링크 사용자-아이템 상호작용 모델링
LIME: Link-based User-item Interaction Modeling with Decoupled XOR Attention for Efficient Test Time Scaling
대규모 추천 시스템을 확장(scaling)하려면 더 긴 사용자 이력 처리, 후보군 확장, 모델(model) 용량 증대라는 세 가지 주요 영역의 발전이 필요합니다. 트랜스포머(Transformer)는 유망하지만, 연산 비용이 사용자 시퀀스 길이에 따라 이차적으로 증가하고 후보군 수에 따라 선형적으로 증가합니다. 이러한 절충 관계(trade-off)로 인해 상당한 성능 향상에도 불구하고 추론(inference) 시 후보군을 확장하거나 시퀀스 길이를 늘리는 데 막대한 비용이 발생합니다. 본 논문에서는 이러한 절충 관계를 해결하는 새로운 아키텍처인 LIME을 소개합니다. 두 가지 핵심 혁신을 통해 LIME은 연산 복잡도를 근본적으로 줄입니다. 첫째, 로우랭크(low-rank) "링크 임베딩(link embeddings)"은 사용자와 후보 간의 상호작용을 분리하여 어텐션(attention) 가중치를 사전 계산할 수 있도록 함으로써, 추론 비용이 후보군 크기에 거의 영향을 받지 않도록 만듭니다. 둘째, 선형 어텐션 메커니즘인 LIME-XOR는 사용자 시퀀스 길이에 따른 복잡도를 이차($O(N^2)$)에서 선형($O(N)$)으로 감소시킵니다. 공개 데이터셋과 산업 데이터셋을 활용한 실험 결과, LIME은 최첨단(SOTA) 트랜스포머와 유사한 성능을 달성하면서도 대규모 후보군이나 긴 시퀀스 길이에서 10배($10\times$) 빠른 추론 속도 향상을 입증했습니다. 주요 추천 플랫폼에서 테스트했을 때, LIME은 후보군 크기 및 사용자 이력 길이에 따른 추론 비용을 최소한으로 유지하면서 사용자 참여도를 향상시켜 효율적이고 표현력 있는 추천 시스템을 위한 새로운 패러다임을 확립했습니다.
순차 추천 시스템에서 시간적 귀속을 위한 설명 가능 방법의 체계적 벤치마크
A Systematic Benchmark of Explainable Methods for Temporal Attribution in Sequential Recommendation Systems
순차 추천 시스템(Sequential RecSys)은 현대 개인화의 중심에 있으며, 사용자의 과거 상호작용 시퀀스를 활용해 다음 단계 의사결정을 이끈다. 심층 학습 모델, 특히 CNN 및 트랜스포머 기반 아키텍처는 이러한 이력에서 시간적 의존성을 포착하는 데 매우 효과적임이 입증되었다. 투명성과 신뢰를 위해, 어떤 과거 상호작용이 특정 추천을 이끄는지 이해하는 것은 모델 행동을 감사하는 개발자와 근거를 원하는 사용자 모두에게 점점 더 중요해지고 있다. 그러나 이러한 모델에 예측력을 부여하는 비선형성은 동시에 블랙박스로 만들어, 의사결정을 특정 상호작용에 귀속하기 어렵게 한다. 그래디언트 기반, 교란(perturbation) 기반, 어텐션 기반 설명 가능성 방법은 존재하지만, 순차 추천에서 그 충실성(faithfulness)에 대한 체계적 벤치마크는 부재하다. 우리는 한 모델이 타임스텝별 귀속 점수를 제공하고, 별도로 학습된 마스킹-강건(masking-robust) 탐침(probe)이 예측 확률의 변화를 측정하는 이중 모델 마스킹 지표를 도입하여 이 공백을 메운다. 이 지표를 사용해 KuaiRand와 MovieLens에서 CNN, 트랜스포머, SASRec, BERT4Rec 백본에 걸쳐 열 가지 XAI 방법을 벤치마크하고, 시간적 귀속 패턴, 아이템 인기도 교란(confounding), 입력 손상에 대한 강건성 분석을 보완한다. 핵심 발견은 다음과 같다: (1) 그래디언트 기반 방법, 특히 GradientSHAP와 Integrated Gradients가 가장 충실하고 강건한 귀속을 제공한다; (2) 원시 어텐션 가중치는 신뢰할 수 없지만, 그래디언트 가중 어텐션은 더 짧은 시퀀스에서 충실성을 회복하며, 더 긴 구간에서는 소프트맥스 어텐션 확률이 균일한 중요도 점수로 수렴하면서 정보가 있는 상호작용을 식별하는 방법의 능력이 줄어들어 성능이 저하된다; (3) 충실한 방법에서의 시간적 귀속 패턴은 최근성(recency)이나 인기도 바이어스가 아니라 실제 과업 구조를 반영한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.