Federated Social Recommendation with Graph Neural Network
원문 초록
Recommender systems have become prosperous nowadays, designed to predict users' potential interests in items by learning embeddings. Recent developments of the Graph Neural Networks~(GNNs) also provide recommender systems with powerful backbones to learn embeddings from a user-item graph. However, only leveraging the user-item interactions suffers from the cold-start issue due to the difficulty in data collection. Hence, current endeavors propose fusing social information with user-item interactions to alleviate it, which is the social recommendation problem. Existing work employs GNNs to aggregate both social links and user-item interactions simultaneously. However, they all require centralized storage of the social links and item interactions of users, which leads to privacy concerns. Additionally, according to strict privacy protection under General Data Protection Regulation, centralized data storage may not be feasible in the future, urging a decentralized framework of social recommendation. To this end, we devise a novel framework \textbf{Fe}drated \textbf{So}cial recommendation with \textbf{G}raph neural network (FeSoG). Firstly, FeSoG adopts relational attention and aggregation to handle heterogeneity. Secondly, FeSoG infers user embeddings using local data to retain personalization. Last but not least, the proposed model employs pseudo-labeling techniques with item sampling to protect the privacy and enhance training. Extensive experiments on three real-world datasets justify the effectiveness of FeSoG in completing social recommendation and privacy protection. We are the first work proposing a federated learning framework for social recommendation to the best of our knowledge.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
흑백의 이분법을 넘어: 그래프 기반 시맨틱 ID(GrIS)를 통한 시맨틱 및 협업 신호의 균형
Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)
생성형 추천을 위한 시맨틱 ID(Semantic ID, SID)에 관한 기존 연구들은 SID 구축을 표현 학습(representation learning) 문제로 취급하여, 아이템을 양자화된 잠재 공간으로 인코딩하고 코드를 읽어내는 방식을 취합니다. 본 논문에서는 이러한 관점이 본질적이지 않다고 주장합니다. SID 구축은 본질적으로 재귀적 클러스터링(recursive clustering) 문제이며, 이렇게 정의하면 클러스터링할 자연스러운 대상은 노드가 시맨틱 콘텐츠를 담고 에지가 협업 신호(collaborative signal)를 전달하는 그래프가 됩니다. 즉, SID 할당은 계층적 그래프 분할(hierarchical graph partition)이 됩니다. 이러한 재구성을 통해 기존 접근 방식을 대체하기보다는 포괄하는 통합 프레임워크인 그래프 기반 시맨틱 ID(Graph-Informed Semantic IDs, GrIS)를 도출합니다. RQ-VAE 및 RQ-KMeans는 그래프가 비어 있는 특수한 경우로 환원되며, 이는 콘텐츠 전용 양자화가 지금까지 하나로 뭉쳐져 있던 두 축인 그래프 구축과 재귀적 분할 알고리즘으로 이루어진 더 큰 설계 공간의 한 단면에 불과함을 보여줍니다. 본 연구에서는 두 가지 대조적인 구현체를 탐색합니다. 하나는 미분 가능한 그래프 풀링(pooling)을 통해 계층적 할당을 수행하는 RecDMoN이고, 다른 하나는 그래프 인식 아이템 표현과 그래프 재구성 목적 함수를 통해 RQ-VAE를 확장하는 RQ-GAE입니다. 여러 실제 데이터셋에서 GrIS는 협업 필터링(CF) 인식 최신 기술(SOTA) 대비 일관되게 향상된 성능을 보여주며, Hit@10에서 최대 +52%의 성능 향상을 달성합니다. 그래프 구축과 분할이 명시적이고 개별적으로 구성 가능한 컴포넌트이기 때문에, 두 축 중 어느 한쪽의 개선점이라도 결합하여 체계적으로 평가할 수 있습니다.
제약 인식 그래프 어텐션을 통한 사실적·규범적 산업 지식 통합 기반 공정 계획 추천
Integrating Factual and Normative Industrial Knowledge via Constraint-Aware Graph Attention for Process Plan Recommendation
사실적 관계와 의사결정 제약을 포함한 이종 산업 지식의 통합은 여전히 산업 정보 시스템의 핵심 과제이다. 가공 공정 계획은 재료 특성, 특징 특성, 품질 요구사항을 종합하여 공정을 선택해야 하므로 이 문제를 잘 보여준다. 기존 방법은 주로 유사도 검색이나 분류에 의존하며, 통합된 순위 목표나 표준화된 평가는 없다. 우리는 가공 공정 계획 추천을 지식 그래프 강화 협업 필터링 문제로 공식화하는 PCA-GAT를 제안한다. Bayesian Personalized Ranking이 학습 목표를 제공하고, Recall@K와 NDCG@K가 평가를 정의한다. 지식 그래프는 협업 신호가 희소할 때 의미론적 구조를 제공한다. 네 가지 도메인 제약—재료 호환성, 정밀도 요구사항, 특징 적용 가능성, 공정 순서—을 그래프 전파 과정에서 어텐션 편향으로 도입한다. 유형별 가중치가 각 제약의 중요도를 학습하고, 적응형 게이트가 지역적 맥락을 사용해 그 영향을 조절한다. 115개 부품과 507개 계획을 포함한 실제 항공우주 데이터셋에서 PCA-GAT는 Recall@1 = 0.9087을 달성하고 강한 콜드스타트 견고성을 보이며, 심각한 희소성 하에서 가장 강한 기준선 대비 약 절반 수준의 성능 저하만을 보인다. 소거 연구는 지식 그래프 보강이 필수적이고, 제약이 가치를 더하며, 게이트 없는 제약 주입은 성능을 해칠 수 있음을 보여준다. 학습된 가중치는 재료-공정 호환성이 지배적 요인임을 식별하며, 이는 도메인 전문 지식과 일치한다. 세 개의 공개 벤치마크에서의 결과는 제약이 없을 때 성능 저하가 없음을 보여주며, 제조 분야를 넘어선 일반화를 뒷받침한다. 본 연구는 공학 공정 계획을 위한 표준화된 추천 프로토콜을 수립하고 세 범주에 걸친 일곱 가지 방법을 벤치마킹하여, 지식 표현이 주요 병목임을 보여준다.
그래프 조(coarsening)와 레이블 전파를 통한 효율적 추천
Efficient Recommendations via Graph Coarsening and Label Propagation
그래프 기반 추천은 실제 산업 응용에서 널리 채택되고 있다. 그러나 이러한 시스템의 그래프는 종종 대규모에 이르며, 상당한 확장성 및 효율성 문제를 야기한다. 이는 예측 품질과 계산 비용을 효과적으로 균형 있게 맞출 수 있는 기법을 요구한다. 유망한 접근법 중 하나는 그래프 조(coarsening)로, 적응형 그래프 축소 기법으로 원래의 대규모 그래프보다 작으면서도 구조적으로 대표적인 버전을 체계적으로 구성하는 방법을 제공한다. 본 연구에서는 통신(telecommunications) 분야에서 그래프 조(coarsening)와 다단계 레이블 전파(label propagation)를 결합한 유연한 2단계 확산(diffusion) 프레임워크를 제안한다. 도메인 특화 휴리스틱을 적용하여 먼저 노드를 의미 있는 커뮤니티(community)로 집계하고, 그래프 크기를 줄이면서 비즈니스와 관련된 핵심 관계를 보존한다. 레이블 전파 알고리즘(LPA) 또는 그래프 신경망(GNN)에 의한 초기 확산 과정이 조(coarsened) 그래프 전체에 레이블을 전파하여 거친 수준(coarse-grained)의 예측을 생성한다. 마지막으로, 서브그래프(subgraph) 내에서 수행되는 두 번째 LPA가 개별 사용자에 대한 최종 추천을 생성한다. 실제 통신 데이터셋(dataset)에서 두 단계 모두 LPA를 사용할 때, 본 방법은 전체 그래프 LPA 기준선(baseline) 대비 NDCG@5에서 최대 +24%를 달성한다. 1단계에 경량 GNN을 통합하면 NDCG@5가 50% 이상 더 향상되지만, 상당한 학습(training) 및 추론(inference) 시간이 필요하다. 광범위한 실험과 상세한 ablation을 통해 이러한 트레이드오프를 정량화하고, 조(coarsening) 기반 접근법이 확장성, 지연 시간(latency), 추천 품질 사이의 최적 균형을 제공함을 보여준다.
카디널리티 분해 손실: 이질적 추천 그래프에서 관계 구조에 학습 목표를 맞추기
Cardinality-Decomposed Loss: Matching Training Objectives to Relation Structure in Heterogeneous Recommendation Graphs
이질적 이분 그래프에서 학습된 그래프 신경망(GNN)은 추천 시스템의 일반적인 기반을 형성한다. 이러한 그래프는 종종 카디널리티(cardinality)가 다른 관계를 표현하며, 예를 들어 사용자-아이템 선호는 일대다(one-to-many)이고 사용자-속성 특징은 일대일(one-to-one)이다. 전통적으로 네트워크의 모든 구성 요소에 동일한 손실 함수가 적용되며, 이는 종종 Bayesian Personalized Ranking(BPR)이다. BPR은 추천 작업에서 잘 작동하지만, 속성 임베딩이 거의 무작위 기하학에 붕괴하는 원인이 됨을 발견했다 — 이는 표준 순위 지표에 거의 영향을 주지 않아 기존 평가에서는 드러나지 않는 조용한 실패(silent failure)이다. 이는 사용자 노드 임베딩을 오염시키며, 사용자 노드 임베딩은 두 엣지 유형에 의해 동시에 형성되므로 개인화, 세분화 등 하류 작업에 해를 끼친다. 여기서 우리는 Cross Entropy(CE)와 BPR을 결합하여 모델이 서로 다른 카디널리티의 관계를 집합적으로 최적화할 수 있게 하는 Cardinality-Decomposed Loss(CDL)를 제안한다. 공유 인코더의 매개변수 공간에서 두 손실이 경쟁함을 보여 CE-BPR 충돌을 확인한다. CDL을 두 가지 구조적 구성 — 사용자 노드의 일대일 속성(MovieLens-1M, Last.fm-360K, PayPal Audience Factory, BookCrossing)과 아이템 노드의 일대일 속성(Yelp) — 을 아우르는 다섯 데이터셋에서 평가하고, CDL이 속성 임베딩의 판별력을 일관되게 향상시킴을 확인한다. 또한 속성이 의미 있는 선호 신호를 담고 있을 때 순위(NDCG)가 개선되지만, 상관관계가 약할 때는 이와 충돌함을 보인다. 람다 매개변수로 이 트레이드오프를 조절하며, 람다 스윕(lambda-sweep)을 통해 데이터셋 동작이 두 가지 그래프 속성 — 의미적 정렬(semantic alignment)과 토폴로지 누출(topology leakage) — 에 의해 지배됨을 밝힌다. 의미적 정렬은 속성이 선호를 예측하는지를, 토폴로지 누출은 그래프의 연결성이 이미 이를 인코딩하는지를 측정한다.
개인화와 프라이버시의 균형을 맞춘 프라이버시 보존 추천 시스템
Privacy Preserving Recommender Systems Balancing Personalization with Privacy
개인화 추천 시스템은 현대 이커머스 및 소매 플랫폼의 핵심이지만, 일반적으로 상세한 사용자 상호작용 데이터의 중앙집중식 저장에 의존하여 상당한 프라이버시 및 규제 문제를 야기한다. GDPR, CCPA, CPRA와 같은 규정의 요구가 증가함에 따라, 조직은 추천 품질을 크게 저하시키지 않으면서 사용자 프라이버시를 보존하는 추천 시스템을 개발해야 한다. 본 연구는 연합 학습(federated learning), 차등 프라이버시(differential privacy), 코호트 수준 모델링(cohort-level modeling), 프라이버시 인식 지능형 에이전트(privacy-aware intelligent agents)를 결합한 프라이버시 보존 추천 프레임워크를 제시하고 평가한다. 이 프레임워크는 원시 사용자 데이터를 분산 상태로 유지하면서 모델 업데이트에 수학적으로 제한된 노이즈를 도입한다. 고객 클릭스트림 및 구매 행동을 모사하는 합성 소매 데이터셋(dataset)에서 실험을 수행했다. 추천 품질은 여러 차등 프라이버시 예산에 걸쳐 클릭률(CTR), 정밀도@K(Precision@K), 재현율@K(Recall@K), 정규화 할인 누적 이득(NDCG@K)으로 평가했다. 다양한 프라이버시 제약 하에서 행렬 분해(matrix factorization), 신경망 협업 필터링(neural collaborative filtering), GRU4Rec을 평가하고 프라이버시와 유틸리티(utility) 간의 트레이드오프를 분석한다. 추천 성능, 순위 안정성, 프라이버시-유틸리티 트레이드오프, 공정성(fairness) 지표를 시각화하는 대화형 Streamlit 대시보드를 개발했다. 결과는 제안 프레임워크가 중간 수준의 프라이버시 예산(약 ε≈5)에서 경쟁력 있는 추천 품질을 유지함을 보여주며, 강력한 프라이버시 보장이 추천 효과에 제한적인 영향만으로 달성될 수 있음을 입증한다. 본 연구는 개인화, 규제 준수, 비즈니스 목표의 균형을 맞추는 프라이버시 보존 추천 시스템 배포를 위한 실용적 프레임워크를 제공하며, 차세대 AI 기반 소매 플랫폼을 위한 확장 가능한 접근법을 제시한다.
DualGNN: Dual Graph Neural Network for Multimedia Recommendation
토론
이 논문과 연결된 포럼 글이 아직 없습니다.