arXiv:2308.03470

Uncertainty-aware Consistency Learning for Cold-Start Item Recommendation

Taichi Liu, Chen Gao, Zhenyu Wang, Dong Li, Jianye Hao, Depeng Jin, Yong Li

제출 2023-08-07

원문 초록

Graph Neural Network (GNN)-based models have become the mainstream approach for recommender systems. Despite the effectiveness, they are still suffering from the cold-start problem, i.e., recommend for few-interaction items. Existing GNN-based recommendation models to address the cold-start problem mainly focus on utilizing auxiliary features of users and items, leaving the user-item interactions under-utilized. However, embeddings distributions of cold and warm items are still largely different, since cold items' embeddings are learned from lower-popularity interactions, while warm items' embeddings are from higher-popularity interactions. Thus, there is a seesaw phenomenon, where the recommendation performance for the cold and warm items cannot be improved simultaneously. To this end, we proposed a Uncertainty-aware Consistency learning framework for Cold-start item recommendation (shorten as UCC) solely based on user-item interactions. Under this framework, we train the teacher model (generator) and student model (recommender) with consistency learning, to ensure the cold items with additionally generated low-uncertainty interactions can have similar distribution with the warm items. Therefore, the proposed framework improves the recommendation of cold and warm items at the same time, without hurting any one of them. Extensive experiments on benchmark datasets demonstrate that our proposed method significantly outperforms state-of-the-art methods on both warm and cold items, with an average performance improvement of 27.6%.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01533v1cs.AI공통 태그 Recommendation Systems, Graph Neural Network

흑백의 이분법을 넘어: 그래프 기반 시맨틱 ID(GrIS)를 통한 시맨틱 및 협업 신호의 균형

Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)

생성형 추천을 위한 시맨틱 ID(Semantic ID, SID)에 관한 기존 연구들은 SID 구축을 표현 학습(representation learning) 문제로 취급하여, 아이템을 양자화된 잠재 공간으로 인코딩하고 코드를 읽어내는 방식을 취합니다. 본 논문에서는 이러한 관점이 본질적이지 않다고 주장합니다. SID 구축은 본질적으로 재귀적 클러스터링(recursive clustering) 문제이며, 이렇게 정의하면 클러스터링할 자연스러운 대상은 노드가 시맨틱 콘텐츠를 담고 에지가 협업 신호(collaborative signal)를 전달하는 그래프가 됩니다. 즉, SID 할당은 계층적 그래프 분할(hierarchical graph partition)이 됩니다. 이러한 재구성을 통해 기존 접근 방식을 대체하기보다는 포괄하는 통합 프레임워크인 그래프 기반 시맨틱 ID(Graph-Informed Semantic IDs, GrIS)를 도출합니다. RQ-VAE 및 RQ-KMeans는 그래프가 비어 있는 특수한 경우로 환원되며, 이는 콘텐츠 전용 양자화가 지금까지 하나로 뭉쳐져 있던 두 축인 그래프 구축과 재귀적 분할 알고리즘으로 이루어진 더 큰 설계 공간의 한 단면에 불과함을 보여줍니다. 본 연구에서는 두 가지 대조적인 구현체를 탐색합니다. 하나는 미분 가능한 그래프 풀링(pooling)을 통해 계층적 할당을 수행하는 RecDMoN이고, 다른 하나는 그래프 인식 아이템 표현과 그래프 재구성 목적 함수를 통해 RQ-VAE를 확장하는 RQ-GAE입니다. 여러 실제 데이터셋에서 GrIS는 협업 필터링(CF) 인식 최신 기술(SOTA) 대비 일관되게 향상된 성능을 보여주며, Hit@10에서 최대 +52%의 성능 향상을 달성합니다. 그래프 구축과 분할이 명시적이고 개별적으로 구성 가능한 컴포넌트이기 때문에, 두 축 중 어느 한쪽의 개선점이라도 결합하여 체계적으로 평가할 수 있습니다.

arXiv:2607.24213v1cs.AI공통 태그 Recommendation Systems, Graph Neural Network

제약 인식 그래프 어텐션을 통한 사실적·규범적 산업 지식 통합 기반 공정 계획 추천

Integrating Factual and Normative Industrial Knowledge via Constraint-Aware Graph Attention for Process Plan Recommendation

사실적 관계와 의사결정 제약을 포함한 이종 산업 지식의 통합은 여전히 산업 정보 시스템의 핵심 과제이다. 가공 공정 계획은 재료 특성, 특징 특성, 품질 요구사항을 종합하여 공정을 선택해야 하므로 이 문제를 잘 보여준다. 기존 방법은 주로 유사도 검색이나 분류에 의존하며, 통합된 순위 목표나 표준화된 평가는 없다. 우리는 가공 공정 계획 추천을 지식 그래프 강화 협업 필터링 문제로 공식화하는 PCA-GAT를 제안한다. Bayesian Personalized Ranking이 학습 목표를 제공하고, Recall@K와 NDCG@K가 평가를 정의한다. 지식 그래프는 협업 신호가 희소할 때 의미론적 구조를 제공한다. 네 가지 도메인 제약—재료 호환성, 정밀도 요구사항, 특징 적용 가능성, 공정 순서—을 그래프 전파 과정에서 어텐션 편향으로 도입한다. 유형별 가중치가 각 제약의 중요도를 학습하고, 적응형 게이트가 지역적 맥락을 사용해 그 영향을 조절한다. 115개 부품과 507개 계획을 포함한 실제 항공우주 데이터셋에서 PCA-GAT는 Recall@1 = 0.9087을 달성하고 강한 콜드스타트 견고성을 보이며, 심각한 희소성 하에서 가장 강한 기준선 대비 약 절반 수준의 성능 저하만을 보인다. 소거 연구는 지식 그래프 보강이 필수적이고, 제약이 가치를 더하며, 게이트 없는 제약 주입은 성능을 해칠 수 있음을 보여준다. 학습된 가중치는 재료-공정 호환성이 지배적 요인임을 식별하며, 이는 도메인 전문 지식과 일치한다. 세 개의 공개 벤치마크에서의 결과는 제약이 없을 때 성능 저하가 없음을 보여주며, 제조 분야를 넘어선 일반화를 뒷받침한다. 본 연구는 공학 공정 계획을 위한 표준화된 추천 프로토콜을 수립하고 세 범주에 걸친 일곱 가지 방법을 벤치마킹하여, 지식 표현이 주요 병목임을 보여준다.

arXiv:2607.22287v1cs.LG공통 태그 Recommendation Systems, Graph Neural Network

그래프 조(coarsening)와 레이블 전파를 통한 효율적 추천

Efficient Recommendations via Graph Coarsening and Label Propagation

그래프 기반 추천은 실제 산업 응용에서 널리 채택되고 있다. 그러나 이러한 시스템의 그래프는 종종 대규모에 이르며, 상당한 확장성 및 효율성 문제를 야기한다. 이는 예측 품질과 계산 비용을 효과적으로 균형 있게 맞출 수 있는 기법을 요구한다. 유망한 접근법 중 하나는 그래프 조(coarsening)로, 적응형 그래프 축소 기법으로 원래의 대규모 그래프보다 작으면서도 구조적으로 대표적인 버전을 체계적으로 구성하는 방법을 제공한다. 본 연구에서는 통신(telecommunications) 분야에서 그래프 조(coarsening)와 다단계 레이블 전파(label propagation)를 결합한 유연한 2단계 확산(diffusion) 프레임워크를 제안한다. 도메인 특화 휴리스틱을 적용하여 먼저 노드를 의미 있는 커뮤니티(community)로 집계하고, 그래프 크기를 줄이면서 비즈니스와 관련된 핵심 관계를 보존한다. 레이블 전파 알고리즘(LPA) 또는 그래프 신경망(GNN)에 의한 초기 확산 과정이 조(coarsened) 그래프 전체에 레이블을 전파하여 거친 수준(coarse-grained)의 예측을 생성한다. 마지막으로, 서브그래프(subgraph) 내에서 수행되는 두 번째 LPA가 개별 사용자에 대한 최종 추천을 생성한다. 실제 통신 데이터셋(dataset)에서 두 단계 모두 LPA를 사용할 때, 본 방법은 전체 그래프 LPA 기준선(baseline) 대비 NDCG@5에서 최대 +24%를 달성한다. 1단계에 경량 GNN을 통합하면 NDCG@5가 50% 이상 더 향상되지만, 상당한 학습(training) 및 추론(inference) 시간이 필요하다. 광범위한 실험과 상세한 ablation을 통해 이러한 트레이드오프를 정량화하고, 조(coarsening) 기반 접근법이 확장성, 지연 시간(latency), 추천 품질 사이의 최적 균형을 제공함을 보여준다.

arXiv:2607.20737v1cs.LG공통 태그 Recommendation Systems, Graph Neural Network

카디널리티 분해 손실: 이질적 추천 그래프에서 관계 구조에 학습 목표를 맞추기

Cardinality-Decomposed Loss: Matching Training Objectives to Relation Structure in Heterogeneous Recommendation Graphs

이질적 이분 그래프에서 학습된 그래프 신경망(GNN)은 추천 시스템의 일반적인 기반을 형성한다. 이러한 그래프는 종종 카디널리티(cardinality)가 다른 관계를 표현하며, 예를 들어 사용자-아이템 선호는 일대다(one-to-many)이고 사용자-속성 특징은 일대일(one-to-one)이다. 전통적으로 네트워크의 모든 구성 요소에 동일한 손실 함수가 적용되며, 이는 종종 Bayesian Personalized Ranking(BPR)이다. BPR은 추천 작업에서 잘 작동하지만, 속성 임베딩이 거의 무작위 기하학에 붕괴하는 원인이 됨을 발견했다 — 이는 표준 순위 지표에 거의 영향을 주지 않아 기존 평가에서는 드러나지 않는 조용한 실패(silent failure)이다. 이는 사용자 노드 임베딩을 오염시키며, 사용자 노드 임베딩은 두 엣지 유형에 의해 동시에 형성되므로 개인화, 세분화 등 하류 작업에 해를 끼친다. 여기서 우리는 Cross Entropy(CE)와 BPR을 결합하여 모델이 서로 다른 카디널리티의 관계를 집합적으로 최적화할 수 있게 하는 Cardinality-Decomposed Loss(CDL)를 제안한다. 공유 인코더의 매개변수 공간에서 두 손실이 경쟁함을 보여 CE-BPR 충돌을 확인한다. CDL을 두 가지 구조적 구성 — 사용자 노드의 일대일 속성(MovieLens-1M, Last.fm-360K, PayPal Audience Factory, BookCrossing)과 아이템 노드의 일대일 속성(Yelp) — 을 아우르는 다섯 데이터셋에서 평가하고, CDL이 속성 임베딩의 판별력을 일관되게 향상시킴을 확인한다. 또한 속성이 의미 있는 선호 신호를 담고 있을 때 순위(NDCG)가 개선되지만, 상관관계가 약할 때는 이와 충돌함을 보인다. 람다 매개변수로 이 트레이드오프를 조절하며, 람다 스윕(lambda-sweep)을 통해 데이터셋 동작이 두 가지 그래프 속성 — 의미적 정렬(semantic alignment)과 토폴로지 누출(topology leakage) — 에 의해 지배됨을 밝힌다. 의미적 정렬은 속성이 선호를 예측하는지를, 토폴로지 누출은 그래프의 연결성이 이미 이를 인코딩하는지를 측정한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.