arXiv:1807.09142

Recurrent Neural Networks for Long and Short-Term Sequential Recommendation

Kiewan Villatel, Elena Smirnova, Jérémie Mary, Philippe Preux

제출 2018-07-23

원문 초록

Recommender systems objectives can be broadly characterized as modeling user preferences over short-or long-term time horizon. A large body of previous research studied long-term recommendation through dimensionality reduction techniques applied to the historical user-item interactions. A recently introduced session-based recommendation setting highlighted the importance of modeling short-term user preferences. In this task, Recurrent Neural Networks (RNN) have shown to be successful at capturing the nuances of user's interactions within a short time window. In this paper, we evaluate RNN-based models on both short-term and long-term recommendation tasks. Our experimental results suggest that RNNs are capable of predicting immediate as well as distant user interactions. We also find the best performing configuration to be a stacked RNN with layer normalization and tied item embeddings.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02968v1cs.AI공통 태그 Recommendation Systems, Sequential Recommendation

단순한 근거 제시를 넘어 증거에 기반한 추론: LLM 기반 추천을 위한 검증 가능한 선호도 증명

Reasoning with Evidence, Not Merely Rationales: Verifiable Preference Proofs for LLM-Based Recommendation

대규모 언어 모델(LLM)은 상호작용 이력과 리뷰로부터 사용자의 선호도를 추론할 수 있지만, 모델이 생성하는 설명(rationale)은 추천에 실제로 사용된 정보를 반영하지 못할 수 있습니다. 선호도 주장이 선택된 증거에 의해 미약하게 뒷받침되거나 최종 순위에 거의 영향을 미치지 못할 수 있으며, 본 논문에서는 이러한 두 가지 실패를 그라운딩-영향력 격차(grounding-influence gap)라고 정의합니다. 본 연구에서는 LLM 기반 추천에서 검증 가능한 선호도 추론을 위한 일반적 프레임워크인 PROVE-REC을 소개합니다. 패스 A는 타깃 이전의 전체 이력을 선택된 증거 항목들과 연결된 긍정 및 회피 주장으로 구성된 간결한 선호도 증명으로 변환합니다. 패스 B는 이 증명과 선택된 증거만을 사용하여 다음 아이템을 예측함으로써 추천 시스템이 추론 경로를 우회하지 못하도록 방지합니다. 증거-증명 간 그라운딩을 검증하기 위해, 선택된 증거를 마스킹했을 때의 효과를 비교 가능한 대조군 항목을 마스킹했을 때와 비교합니다. 증명-추천 간 영향력을 검증하기 위해, 선호도 주장을 제거하고 그에 따른 타깃 아이템의 랭킹 마진(ranking margin) 감소를 측정합니다. 또한 순위 보존 목적함수를 통해 전체 이력에서 유용한 정보를 추가로 유지합니다. 다양한 실제 데이터셋에 대한 포괄적인 실험을 통해 PROVE-REC이 강력한 순차적, 생성형 및 LLM 강화 베이스라인을 일관되게 능가하며 최대 7.45%의 성능 향상을 달성함을 입증합니다. 통제된 소거 연구(ablation study)는 2단계 패스 아키텍처와 검증 목적함수의 효과를 확인해 줍니다. 나아가 PROVE-REC은 순위 품질을 보존하면서도 과거 증거에 더욱 강력하게 그라운딩되고 추천에 더 큰 영향력을 미치는 주장을 생성합니다.

arXiv:2609.27201v1cs.LG공통 태그 Recommendation Systems, Sequential Recommendation

순차 추천 시스템에서 시간적 귀속을 위한 설명 가능 방법의 체계적 벤치마크

A Systematic Benchmark of Explainable Methods for Temporal Attribution in Sequential Recommendation Systems

순차 추천 시스템(Sequential RecSys)은 현대 개인화의 중심에 있으며, 사용자의 과거 상호작용 시퀀스를 활용해 다음 단계 의사결정을 이끈다. 심층 학습 모델, 특히 CNN 및 트랜스포머 기반 아키텍처는 이러한 이력에서 시간적 의존성을 포착하는 데 매우 효과적임이 입증되었다. 투명성과 신뢰를 위해, 어떤 과거 상호작용이 특정 추천을 이끄는지 이해하는 것은 모델 행동을 감사하는 개발자와 근거를 원하는 사용자 모두에게 점점 더 중요해지고 있다. 그러나 이러한 모델에 예측력을 부여하는 비선형성은 동시에 블랙박스로 만들어, 의사결정을 특정 상호작용에 귀속하기 어렵게 한다. 그래디언트 기반, 교란(perturbation) 기반, 어텐션 기반 설명 가능성 방법은 존재하지만, 순차 추천에서 그 충실성(faithfulness)에 대한 체계적 벤치마크는 부재하다. 우리는 한 모델이 타임스텝별 귀속 점수를 제공하고, 별도로 학습된 마스킹-강건(masking-robust) 탐침(probe)이 예측 확률의 변화를 측정하는 이중 모델 마스킹 지표를 도입하여 이 공백을 메운다. 이 지표를 사용해 KuaiRand와 MovieLens에서 CNN, 트랜스포머, SASRec, BERT4Rec 백본에 걸쳐 열 가지 XAI 방법을 벤치마크하고, 시간적 귀속 패턴, 아이템 인기도 교란(confounding), 입력 손상에 대한 강건성 분석을 보완한다. 핵심 발견은 다음과 같다: (1) 그래디언트 기반 방법, 특히 GradientSHAP와 Integrated Gradients가 가장 충실하고 강건한 귀속을 제공한다; (2) 원시 어텐션 가중치는 신뢰할 수 없지만, 그래디언트 가중 어텐션은 더 짧은 시퀀스에서 충실성을 회복하며, 더 긴 구간에서는 소프트맥스 어텐션 확률이 균일한 중요도 점수로 수렴하면서 정보가 있는 상호작용을 식별하는 방법의 능력이 줄어들어 성능이 저하된다; (3) 충실한 방법에서의 시간적 귀속 패턴은 최근성(recency)이나 인기도 바이어스가 아니라 실제 과업 구조를 반영한다.

arXiv:2607.15242v1cs.LG공통 태그 Dimensionality Reduction, Recommendation Systems

재학습 없는 추천을 위한 가변 저랭크 스케치

Mutable Low-Rank Sketches for Retrain-Free Recommendation

2단계 추천에서 흔한 병목은 임베딩 노후화(staleness)입니다. 사용자가 새 항목을 평가하면, 다음 재학습 주기까지 그들의 임베딩은 고정된 채로 남습니다. 우리는 mutable sketch를 제안합니다. 이는 각 사용자의 선호도를 KP-tree(합 집계를 갖는 희소 세그먼트 트리)에 저장하고, 저랭크 투영을 한 번 적합한 뒤, 평가가 도착할 때마다 임베딩을 즉석에서 재계산합니다. 각 새 관측이 예측 오차 범위를 단조적으로 좁힌다는 것을 증명합니다(Theorem 1). 이는 FunkSVD와 eALS에는 없는 보장입니다. KuaiRec에서 mutable sketch는 데이터 읽기 1.8%로 RMSE 0.810을 달성한 반면, ALS는 100%에서 0.822를 기록했으며, 배치당 업데이트는 8배 더 빠릅니다. 새 사용자는 첫 평가 이후 1 ms 미만 만에 개인화된 추천을 받을 수 있으며, 모델 재학습은 필요하지 않습니다. 밀도 구간별 샘플링 전략 비교에 따르면, KP-tree의 노름 비례(norm-proportional) 샘플링은 희소 데이터(밀도 <1%)에서 항목 커버리지를 40–130% 더 높이는 반면, 밀집 행렬에서는 균등 샘플링으로 충분합니다.

arXiv:2607.11168v1cs.CV공통 태그 Recommendation Systems, Sequential Recommendation

SISA-Rec: A Semantically Integrated Sequential Recommender with Contrastive Alignment

추천 시스템은 방대한 선택지 중에서 사용자에게 관련 아이템을 추천하는 역할을 한다. 트랜스포머(transformer) 기반 순차 추천에 관한 현재 연구들은 상호작용 로그에서 사용자 선호도를 학습하지만, 대부분 아이템 식별자에 초점을 맞추고 아이템의 의미론적 정보를 충분히 활용하지 않는다. 이러한 한계는 과거 상호작용 데이터가 부족한 희소(sparse) 및 콜드 스타트(cold-start) 환경에서 주요한 도전 과제가 된다. 이 문제를 해결하기 위해, 우리는 의미론적 맥락을 순차 모델링에 직접 임베딩하는 트랜스포머 기반 프레임워크인 SISA-Rec(Semantically Integrated Sequential Recommendation)을 제안한다. 우리의 접근 방식은 게이트 융합 모듈(gated fusion module)을 통해 아이템 ID 임베딩과 BERT 기반 텍스트 임베딩을 결합하고, 셀프 어텐션(self-attention) 메커니즘에 의미론적 유사도를 주입하며, 어텐션 기반 집계 모듈을 활용하여 포괄적인 사용자 표현을 구성한다. 마지막으로, 베이지안 개인화 랭킹(Bayesian Personalized Ranking, BPR)과 대조적 정렬 손실을 결합한 결합 학습 목표가 행동 공간과 의미 공간을 정렬한다. 실험은 99.93%의 희소성을 가진 Amazon Beauty와 Amazon Toys & Games 두 고희소성 데이터셋에서 수행되었다. 결과는 SISA-Rec이 모든 평가 지표에서 최신 기준선 모델을 능가함을 보여준다. BERT4Rec \cite{petrov2022systematic}과 비교하여, SISA-Rec은 Amazon Beauty에서 HR@10을 16.6%, NDCG@10을 10.3% 향상시키고, Amazon Toys & Games에서 HR@10을 23.1%, NDCG@10을 17.9% 향상시킨다. 콜드 스타트 분석은 제안된 모델이 상호작용 이력이 제한된 사용자에게서 가장 큰 성능 향상을 달성함을 추가로 보여준다. 이는 사용자 행동 데이터가 부족할 때 의미론적 정보의 가치를 잘 보여준다. 전반적으로, 결과는 의미론적 정보를 어텐션 메커니즘에 통합하는 것이 더 정확하고 신뢰할 수 있는 추천으로 이어진다는 것을 입증한다.

arXiv:2607.08971v1cs.LG공통 태그 Dimensionality Reduction, Recommendation Systems

부분 관측 행동을 갖는 확률적 선형 밴딧

Stochastic Linear Bandits with Partially Observed Actions

확률적 선형 밴딧(stochastic linear bandit)은 행동을 벡터로 표현하고 보상이 선형인 순차적 의사결정의 핵심 패러다임이다. 본 연구에서는 학습 에이전트가 각 행동에 대해 좌표의 무작위 부분집합만을 관측하는 부분 관측(partially observed) 변형 문제를 다룬다. 이러한 부분 관측 가능성은 추천 및 의료와 같이 전체 행동 기술(description)을 얻는 것이 비용이 많이 들거나 불가능한 환경에서 자연스럽게 발생한다. 일반적으로 이는 준선형 후회(sublinear regret)를 정보이론적으로 불가능하게 만든다. 그러나 행동 벡터의 내재적 차원(intrinsic dimension)이 낮을 경우 이 장벽을 극복할 수 있음을 보인다. 우리는 마스킹된 행동으로부터 잠재 행동 부분공간(latent action subspace)을 추정하고, 에포크 단위로 고정된 표현을 이용해 현재 행동을 대체(impute)하며, 그 결과 얻어진 저차원 좌표에서 OFUL을 실행하는 알고리즘 TOFU-POV를 제안한다. 이론적으로 TOFU-POV는 주변 차원(ambient dimension)이 아닌 내재적 행동 부분공간 차원에 비례하는 $\sqrt{T}$ 후회를 달성하며, 이들 수량과 결측률, 결정 집합 크기, 부분공간 조건화(subspace conditioning) 간의 상호작용을 정량화한다. 또한 내재적 차원에 대한 사전 지식 없이도 동작하는 랭크 적응형(rank-adaptive) 알고리즘도 고안한다. 이러한 보장을 보완하기 위해, 통상적인 보상 학습 불확실성과 부분 관측에 내재된 결측 의존적 비용을 분리하는 새로운 곱 구성(product construction)에 기반한 하한을 제시한다. 합성 및 실제 데이터 실험을 통해 이론을 뒷받침하고, TOFU-POV가 이 어려운 문제에서 자연스러운 베이스라인에 비해 상당한 성능 향상을 달성할 수 있음을 보인다.

arXiv:2607.02881v1cs.CL공통 태그 Recommendation Systems, Sequential Recommendation

PraMem: 장기 행동 예측을 위한 실전 기반 경험적 메모리

PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction

장기 행동 예측(long-horizon behavior prediction)은 긴 이력 시퀀스를 기반으로 사용자의 다음 행동을 추론하는 것을 목표로 하며, 인공지능 분야에서 중요한 역할을 담당한다. 대규모 언어 모델(LLM)의 부상은 순차적 행동 예측에 유망한 방향을 제시하지만, LLM은 장기 행동 예측에 있어 잠재적 행동 패턴 귀납 및 모델 내재적 인지 편향 문제를 겪는다. 기존의 메모리 관리 방법들은 이력 시퀀스의 부담을 완화하여 이 문제를 해결하려는 컨텍스트 압축 패러다임을 따르지만, 핵심 과제를 해결하지 못한다. 본 논문에서는 긴 이력 시퀀스를 부담이 아닌 활용 가능한 가치 있는 자원으로 재정의하는 패러다임 전환을 제안하며, 이에 따라 PraMem을 제안한다. PraMem은 긴 이력 시퀀스에 대해 사전 실전 훈련(practice)을 수행하여 경험적 메모리(experiential memory)를 구축하고, 이를 정확한 장기 행동 예측을 위한 보조 입력으로 활용한다. 다양한 태스크에 걸친 광범위한 실험을 통해 PraMem이 기존 방법보다 우월한 성능을 달성함을 입증하며, 심층 분석을 통해 경험적 메모리의 메커니즘과 발전 과정에 대한 유의미한 인사이트를 제공한다. 코드: https://github.com/icip-cas/PraMem.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.