Retraining A Graph-based Recommender with Interests Disentanglement
원문 초록
In a practical recommender system, new interactions are continuously observed. Some interactions are expected, because they largely follow users' long-term preferences. Some other interactions are indications of recent trends in user preference changes or marketing positions of new items. Accordingly, the recommender needs to be periodically retrained or updated to capture the new trends, and yet not to forget the long-term preferences. In this paper, we propose a novel and generic retraining framework called Disentangled Incremental Learning (DIL) for graph-based recommenders. We assume that long-term preferences are well captured in the existing model, in the form of model parameters learned from past interactions. New preferences can be learned from the user-item bipartite graph constructed using the newly observed interactions. In DIL, we design an Information Extraction Module to extract historical preferences from the existing model. Then we blend the historical and new preferences in the form of node embeddings in the new graph, through a Disentanglement Module. The essence of the disentanglement module is to decorrelate the historical and new preferences so that both can be well captured, via carefully designed losses. Through experiments on three benchmark datasets, we show the effectiveness of DIL in capturing dynamics of useritem interactions. We also demonstrate the robustness of DIL by attaching it to two base models - LightGCN and NGCF.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
재학습 없는 추천을 위한 가변 저랭크 스케치
Mutable Low-Rank Sketches for Retrain-Free Recommendation
2단계 추천에서 흔한 병목은 임베딩 노후화(staleness)입니다. 사용자가 새 항목을 평가하면, 다음 재학습 주기까지 그들의 임베딩은 고정된 채로 남습니다. 우리는 mutable sketch를 제안합니다. 이는 각 사용자의 선호도를 KP-tree(합 집계를 갖는 희소 세그먼트 트리)에 저장하고, 저랭크 투영을 한 번 적합한 뒤, 평가가 도착할 때마다 임베딩을 즉석에서 재계산합니다. 각 새 관측이 예측 오차 범위를 단조적으로 좁힌다는 것을 증명합니다(Theorem 1). 이는 FunkSVD와 eALS에는 없는 보장입니다. KuaiRec에서 mutable sketch는 데이터 읽기 1.8%로 RMSE 0.810을 달성한 반면, ALS는 100%에서 0.822를 기록했으며, 배치당 업데이트는 8배 더 빠릅니다. 새 사용자는 첫 평가 이후 1 ms 미만 만에 개인화된 추천을 받을 수 있으며, 모델 재학습은 필요하지 않습니다. 밀도 구간별 샘플링 전략 비교에 따르면, KP-tree의 노름 비례(norm-proportional) 샘플링은 희소 데이터(밀도 <1%)에서 항목 커버리지를 40–130% 더 높이는 반면, 밀집 행렬에서는 균등 샘플링으로 충분합니다.
OrDA: 홈페이지 마케팅 블록 추천을 위한 접근 습관 직교 분리 프레임워크
OrDA: Orthogonal Disentanglement of Access Habits Framework for Homepage Marketing Block Recommendations
홈페이지 마케팅 블록에서의 클릭은 콘텐츠 관심도와 접근 습관이라는 이중 메커니즘에 의해 발생한다. 그러나 습관적 클릭은 종종 마케팅 슬롯에서 Pseudo-Positives를 만들어내며, 위치상의 이점이 평범한 콘텐츠 품질을 가려 편향된 추천 생태계로 이어진다. 관심 신호를 정제하기 위해 Orthogonal Disentanglement of Access habits(OrDA) 프레임워크를 제안한다. OrDA는 게이트 할당 층을 갖춘 dual-tower 구조를 이용해 특징을 적응적으로 라우팅하고 간섭을 최소화한다. 엄격한 분리를 보장하기 위해 직교 정규화를 사용하여 잠재 관심 및 습관 매니폴드가 기하학적으로 직교하도록 제약한다. OrDA는 추론 중 인과적 개입(do-calculus)을 수행하여 정제된 관심 점수만으로 아이템을 순위 매긴다. 대규모 데이터셋에서의 실증적 온라인 평가는 OrDA가 접근 습관 바이어스를 효과적으로 제거하며 예측 정확도에서 최신(state-of-the-art) 방법들을 능가함을 보여준다. 온라인 AB 테스트에서 Zhima 홈페이지 마케팅 블록 및 Zhima rent-floor 추천에 대해 사용자 클릭률(UCTR)이 5.64% 개선되었다.
DOMFN: A Divergence-Orientated Multi-Modal Fusion Network for Resume Assessment
TiSASRec: Time Interval Aware Self-Attention for Sequential Recommendation
만족을 넘어서: 콘텐츠, 리뷰, 웰빙 간의 연관성 학습
Beyond Satisfaction: Learning Associations Between Content, Reviews, and Well-Being
추천 알고리즘은 사람들이 온라인에서 소비하는 것을 형성하지만, 주로 별점, 좋아요, 감성과 같은 사용자 만족의 신호에 맞추어 최적화된다. 이러한 신호가 순간적 선호를 넘어 사용자에게 무엇이 좋은지를 포착하는지는 대체로 검토되지 않았다. 웰빙은 만족을 넘어서는, 심리학에 기반한 대안적 목표를 제공한다. 본 연구는 이를 리뷰에 나타난 PERMA 다섯 측면의 즉각적 표현과 지속적 표현으로 조작화한다. 실증적으로, 즉각적인 긍정 정서와 몰입은 더 쾌락적(즐거움 지향)으로 군집을 이루는 반면, 관계, 의미, 성취, 그리고 지속적인 긍정 정서와 몰입은 더 행복주의적(의미 및 성장 지향)으로 나타난다. Goodreads 리뷰 1,370만 건과 도서 1만 6천 권의 내용을 분석하여, PERMA 표현이 만족 목표와 어떻게 다른지, 그리고 어떤 도서 내용 특징이 이와 연관되는지를 연구한다. 첫째, 만족 신호(별점과 리뷰 감성)는 즉각적인 쾌락적 웰빙과는 중간 정도의 상관을 보이나(r = .43-.50) 그 지속적 표현과는 상관이 더 낮고(r <= .28), 행복주의적 측면과는 거의 연관이 없다(r <= .09). 둘째, 도서 내용 특징은 만족 신호(|r| <= .15)보다 PERMA 측면과 더 강하게 연관된다(r 최대 .46). 즉각적 쾌락적 웰빙과 연관된 내용은 지속적 및 행복주의적 웰빙과 연관된 내용과 다르다. 3인칭 대명사와 과거 지향 언어는 즉각적 몰입과 양의 관계를 보이지만(d=1.14, 1.05) 모든 지속적 측면과는 음의 관계를 보이며(d 최저 -1.58, -1.32), 친사회적 언어와 성취 지향 언어는 각각 관계와 성취와 관련된다(d=.45, .96). 이러한 결과는 만족 신호가 사용자가 표현하는 웰빙의 일부만을 포착하며, 웰빙에 기반한 목표를 사용하면 플랫폼이 상당히 다른 콘텐츠를 추천하게 될 수 있음을 시사한다.
scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기
scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning
단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.