Improving Accuracy and Diversity in Matching of Recommendation with Diversified Preference Network
원문 초록
Recently, real-world recommendation systems need to deal with millions of candidates. It is extremely challenging to conduct sophisticated end-to-end algorithms on the entire corpus due to the tremendous computation costs. Therefore, conventional recommendation systems usually contain two modules. The matching module focuses on the coverage, which aims to efficiently retrieve hundreds of items from large corpora, while the ranking module generates specific ranks for these items. Recommendation diversity is an essential factor that impacts user experience. Most efforts have explored recommendation diversity in ranking, while the matching module should take more responsibility for diversity. In this paper, we propose a novel Heterogeneous graph neural network framework for diversified recommendation (GraphDR) in matching to improve both recommendation accuracy and diversity. Specifically, GraphDR builds a huge heterogeneous preference network to record different types of user preferences, and conduct a field-level heterogeneous graph attention network for node aggregation. We also innovatively conduct a neighbor-similarity based loss to balance both recommendation accuracy and diversity for the diversified matching task. In experiments, we conduct extensive online and offline evaluations on a real-world recommendation system with various accuracy and diversity metrics and achieve significant improvements. We also conduct model analyses and case study for a better understanding of our model. Moreover, GraphDR has been deployed on a well-known recommendation system, which affects millions of users. The source code will be released.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
흑백의 이분법을 넘어: 그래프 기반 시맨틱 ID(GrIS)를 통한 시맨틱 및 협업 신호의 균형
Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)
생성형 추천을 위한 시맨틱 ID(Semantic ID, SID)에 관한 기존 연구들은 SID 구축을 표현 학습(representation learning) 문제로 취급하여, 아이템을 양자화된 잠재 공간으로 인코딩하고 코드를 읽어내는 방식을 취합니다. 본 논문에서는 이러한 관점이 본질적이지 않다고 주장합니다. SID 구축은 본질적으로 재귀적 클러스터링(recursive clustering) 문제이며, 이렇게 정의하면 클러스터링할 자연스러운 대상은 노드가 시맨틱 콘텐츠를 담고 에지가 협업 신호(collaborative signal)를 전달하는 그래프가 됩니다. 즉, SID 할당은 계층적 그래프 분할(hierarchical graph partition)이 됩니다. 이러한 재구성을 통해 기존 접근 방식을 대체하기보다는 포괄하는 통합 프레임워크인 그래프 기반 시맨틱 ID(Graph-Informed Semantic IDs, GrIS)를 도출합니다. RQ-VAE 및 RQ-KMeans는 그래프가 비어 있는 특수한 경우로 환원되며, 이는 콘텐츠 전용 양자화가 지금까지 하나로 뭉쳐져 있던 두 축인 그래프 구축과 재귀적 분할 알고리즘으로 이루어진 더 큰 설계 공간의 한 단면에 불과함을 보여줍니다. 본 연구에서는 두 가지 대조적인 구현체를 탐색합니다. 하나는 미분 가능한 그래프 풀링(pooling)을 통해 계층적 할당을 수행하는 RecDMoN이고, 다른 하나는 그래프 인식 아이템 표현과 그래프 재구성 목적 함수를 통해 RQ-VAE를 확장하는 RQ-GAE입니다. 여러 실제 데이터셋에서 GrIS는 협업 필터링(CF) 인식 최신 기술(SOTA) 대비 일관되게 향상된 성능을 보여주며, Hit@10에서 최대 +52%의 성능 향상을 달성합니다. 그래프 구축과 분할이 명시적이고 개별적으로 구성 가능한 컴포넌트이기 때문에, 두 축 중 어느 한쪽의 개선점이라도 결합하여 체계적으로 평가할 수 있습니다.
확산 유도 공간 어텐션 기반 중첩 커뮤니티 탐지
Diffusion-Induced Spatial Attention Overlapping Community Detection
중첩 커뮤니티 탐지는 노드가 여러 구조적 또는 기능적 그룹에 동시에 속하는 네트워크를 모델링하는 데 필수적이다. 기존 그래프 신경망 접근법은 일반적으로 국소 메시지 패싱에 의존하는데, 이는 스무딩(smoothing)으로 인해 커뮤니티 경계를 흐릴 수 있으며 구조적으로 관련된 장거리 의존성의 표현을 제한한다. 본 논문에서는 영향력 확산 동역학에서 도출한 구조적 사전 분포(structural prior), 희소 멀티헤드 어텐션, 비음수 커뮤니티 소속도 학습을 결합한 딥러닝 프레임워크인 DISCO(Diffusion-Induced Spatial Attention Community Detection)를 제안한다. 이 사전 분포는 직접 인접한 이웃 너머의 후보 상호작용을 식별하고 구조적 근접도에 따라 어텐션에 편향을 부여하며, 베르누이-푸아송(Bernoulli-Poisson) 엣지 재구성 목적 함수는 노드 속성, 구조적 프로파일 또는 이 둘 모두로부터 중첩 커뮤니티를 추론할 수 있게 한다. 벤치마크 실험 결과, DISCO는 다양한 입력 구성에서 기존의 그래프 합성곱 및 그래프 어텐션 접근법과 대등한 성능을 보였다. 실용적 적용 가능성을 보이기 위해, 연속된 통신 네트워크 스냅샷에서 추론한 커뮤니티 할당 간의 변화가 해석 가능한 이상 징후 신호를 제공하는 사이버 보안 사용 사례를 개념 증명(proof-of-concept)으로 제시한다. 시간적 커뮤니티 유사도는 구조적 이탈을 식별하고, 노드 수준의 기여도는 이와 관련된 장치를 찾는 데 도움을 준다. 따라서 DISCO는 중첩 커뮤니티 탐지를 위한 유연한 방법이자 동적 네트워크의 구조적 변화를 분석하기 위한 기반을 제공한다.
Graph Attention Network를 이용한 토양 미세플astics 및 유기물의 공간 예측
Spatial Prediction of Soil Microplastics and Organic Matter Using Graph Attention Networks
토양 미세플astics 및 유기물의 정확한 추정은 생태계 건강을 평가하고 지속 가능한 토지 이용을 지원하는 데 필수적이다. 본 연구는 91개의 지리좌표가 부여된 토양 시료 간 공간적 의존성을 모델링하기 위해 Graph Attention Networks(GAT)를 사용하는 그래프 기반 심층 학습 접근법을 제시한다. 공간 좌표, 토양 특성, 토지 이용 데이터를 통합하여 지역적 상호작용을 포착하는 2층 GAT 아키텍처를 개발하였다. 최종 모델은 우수한 성능을 보였으며, 미세플astics에 대해 RMSE 625.06($R^2 = 0.87$), 유기물에 대해 0.43($R^2 = 0.91$)을 달성하였다. 그러나 교차 검증 결과 일반화 성능이 제한적임이 드러났으며, 이는 아마도 작은 표본 크기와 희소한 그래프 구조 때문인 것으로 보인다. 이러한 결과는 공간적 토양 예측에서 GAT의 잠재력을 보여주며, 밀집된 데이터셋과 개선된 그래프 연결성의 필요성을 강조한다.
제약 인식 그래프 어텐션을 통한 사실적·규범적 산업 지식 통합 기반 공정 계획 추천
Integrating Factual and Normative Industrial Knowledge via Constraint-Aware Graph Attention for Process Plan Recommendation
사실적 관계와 의사결정 제약을 포함한 이종 산업 지식의 통합은 여전히 산업 정보 시스템의 핵심 과제이다. 가공 공정 계획은 재료 특성, 특징 특성, 품질 요구사항을 종합하여 공정을 선택해야 하므로 이 문제를 잘 보여준다. 기존 방법은 주로 유사도 검색이나 분류에 의존하며, 통합된 순위 목표나 표준화된 평가는 없다. 우리는 가공 공정 계획 추천을 지식 그래프 강화 협업 필터링 문제로 공식화하는 PCA-GAT를 제안한다. Bayesian Personalized Ranking이 학습 목표를 제공하고, Recall@K와 NDCG@K가 평가를 정의한다. 지식 그래프는 협업 신호가 희소할 때 의미론적 구조를 제공한다. 네 가지 도메인 제약—재료 호환성, 정밀도 요구사항, 특징 적용 가능성, 공정 순서—을 그래프 전파 과정에서 어텐션 편향으로 도입한다. 유형별 가중치가 각 제약의 중요도를 학습하고, 적응형 게이트가 지역적 맥락을 사용해 그 영향을 조절한다. 115개 부품과 507개 계획을 포함한 실제 항공우주 데이터셋에서 PCA-GAT는 Recall@1 = 0.9087을 달성하고 강한 콜드스타트 견고성을 보이며, 심각한 희소성 하에서 가장 강한 기준선 대비 약 절반 수준의 성능 저하만을 보인다. 소거 연구는 지식 그래프 보강이 필수적이고, 제약이 가치를 더하며, 게이트 없는 제약 주입은 성능을 해칠 수 있음을 보여준다. 학습된 가중치는 재료-공정 호환성이 지배적 요인임을 식별하며, 이는 도메인 전문 지식과 일치한다. 세 개의 공개 벤치마크에서의 결과는 제약이 없을 때 성능 저하가 없음을 보여주며, 제조 분야를 넘어선 일반화를 뒷받침한다. 본 연구는 공학 공정 계획을 위한 표준화된 추천 프로토콜을 수립하고 세 범주에 걸친 일곱 가지 방법을 벤치마킹하여, 지식 표현이 주요 병목임을 보여준다.
그래프 조(coarsening)와 레이블 전파를 통한 효율적 추천
Efficient Recommendations via Graph Coarsening and Label Propagation
그래프 기반 추천은 실제 산업 응용에서 널리 채택되고 있다. 그러나 이러한 시스템의 그래프는 종종 대규모에 이르며, 상당한 확장성 및 효율성 문제를 야기한다. 이는 예측 품질과 계산 비용을 효과적으로 균형 있게 맞출 수 있는 기법을 요구한다. 유망한 접근법 중 하나는 그래프 조(coarsening)로, 적응형 그래프 축소 기법으로 원래의 대규모 그래프보다 작으면서도 구조적으로 대표적인 버전을 체계적으로 구성하는 방법을 제공한다. 본 연구에서는 통신(telecommunications) 분야에서 그래프 조(coarsening)와 다단계 레이블 전파(label propagation)를 결합한 유연한 2단계 확산(diffusion) 프레임워크를 제안한다. 도메인 특화 휴리스틱을 적용하여 먼저 노드를 의미 있는 커뮤니티(community)로 집계하고, 그래프 크기를 줄이면서 비즈니스와 관련된 핵심 관계를 보존한다. 레이블 전파 알고리즘(LPA) 또는 그래프 신경망(GNN)에 의한 초기 확산 과정이 조(coarsened) 그래프 전체에 레이블을 전파하여 거친 수준(coarse-grained)의 예측을 생성한다. 마지막으로, 서브그래프(subgraph) 내에서 수행되는 두 번째 LPA가 개별 사용자에 대한 최종 추천을 생성한다. 실제 통신 데이터셋(dataset)에서 두 단계 모두 LPA를 사용할 때, 본 방법은 전체 그래프 LPA 기준선(baseline) 대비 NDCG@5에서 최대 +24%를 달성한다. 1단계에 경량 GNN을 통합하면 NDCG@5가 50% 이상 더 향상되지만, 상당한 학습(training) 및 추론(inference) 시간이 필요하다. 광범위한 실험과 상세한 ablation을 통해 이러한 트레이드오프를 정량화하고, 조(coarsening) 기반 접근법이 확장성, 지연 시간(latency), 추천 품질 사이의 최적 균형을 제공함을 보여준다.
PinEqualizer: Pinterest의 전체 퍼널 콘텐츠 탐색 및 디바이어싱 시스템
PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
본 논문에서는 산업 규모의 검색 및 추천 시스템에서 콘텐츠 콜드 스타트(cold-start) 문제를 해결하기 위한 새로운 솔루션을 제안한다. 기존 접근법과 비교하여 다음과 같은 새로운 기여를 이뤘다. 1) 본 솔루션은 전체 다단계 퍼널에 걸쳐 적용되며 검색 및 추천 서피스 모두에 잘 일반화된다. 2) 본 솔루션은 기존 콘텐츠를 선호하는 바이어스를 줄여 콘텐츠 유형 전반에 걸친 더 정확한 모델 예측을 가능하게 하고, 대량의 명시적 콘텐츠 탐색과 관련된 단기적 트레이드오프를 완화한다. 3) 본 솔루션은 단기 실험을 빠르게 수행하면서 장기적 영향을 검증할 수 있는 확장 가능한 측정 프레임워크로 평가되었다. 지난 2년간 Pinterest에서 이 새로운 시스템을 반복적으로 구축·배포했으며, 신규 콘텐츠 탐색, 전반적인 사용자 참여, 콘텐츠 생태계 건강성에서 유의미한 개선을 관측했다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.