PDSR: A Privacy-Preserving Diversified Service Recommendation Method on Distributed Data
원문 초록
The last decade has witnessed a tremendous growth of service computing, while efficient service recommendation methods are desired to recommend high-quality services to users. It is well known that collaborative filtering is one of the most popular methods for service recommendation based on QoS, and many existing proposals focus on improving recommendation accuracy, i.e., recommending high-quality redundant services. Nevertheless, users may have different requirements on QoS, and hence diversified recommendation has been attracting increasing attention in recent years to fulfill users' diverse demands and to explore potential services. Unfortunately, the recommendation performances relies on a large volume of data (e.g., QoS data), whereas the data may be distributed across multiple platforms. Therefore, to enable data sharing across the different platforms for diversified service recommendation, we propose a Privacy-preserving Diversified Service Recommendation (PDSR) method. Specifically, we innovate in leveraging the Locality-Sensitive Hashing (LSH) mechanism such that privacy-preserved data sharing across different platforms is enabled to construct a service similarity graph. Based on the similarity graph, we propose a novel accuracy-diversity metric and design a $2$-approximation algorithm to select $K$ services to recommend by maximizing the accuracy-diversity measure. Extensive experiments on real datasets are conducted to verify the efficacy of our PDSR method.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Rushes: 다원적 정렬을 위한 인간 선호 데이터셋
Rushes: A Human Preference Dataset for Pluralistic Alignment
본 논문은 상호작용형 서사 환경에서 드러난 인간 참여(engagement) 선호를 연구하기 위한 데이터셋 및 벤치마크인 Rushes를 소개한다. Rushes는 사용자가 AI 생성 분기형 서사와 상호작용하고 각 결정 지점에서 소규모의 명시적 후보 집합 중 하나를 선택하는 게임 인터페이스를 통해 수집되었다. 각 상호작용은 전체 후보 집합, 사용자의 선택, 그리고 진행 중인 서사 맥락을 기록하여, 지속적인 사용자 수준 식별자를 갖는 시간 순서 궤적을 생성한다. Rushes는 6개 게임에 걸쳐 8,167명의 고유 사용자로부터 44,226건의 결정 이벤트를 포함하며, 정적 판단이 아닌 순차적·개인화된 참여 행동을 포착한다. 사용자 선택이 구조화된 비무작위 패턴을 보임을 보이며, 이는 균일 기준선 대비 낮은 선택 엔트로피로 정량화된다. Rushes를 다원적 정렬을 위한 진단 벤치마크로 제시하고, 견고한 Engagement Gap(참여 격차)을 입증한다. GPT-5를 포함한 최신 대규모 언어 모델(LLM)은 단순 기준선을 능가하지 못한다. 고전적 행렬 분해(SVD)는 측정 가능한 개인화 신호(37.7%)를 포착하는 반면, 최신 LLM(34.23%)은 이벤트 수준 선택 예측에서 Popularity Baseline(인기도 기준선, 36.4%)조차 맞추기 어렵다. 이 격차는 현대 인간 피드백 강화학습(RLHF)에서 사용되는 것과 같은 단일·집단 수준 목적함수가 이질적·맥락 의존적 참여 신호를 포착하기에 불충분함을 시사한다. 결과적으로, 고도로 유능한 모델조차 개별 궤적에 적응하기보다 다수 선호에 기본값으로 수렴한다. 생성 시스템에서의 다원적 정렬 및 순차적 의사결정 연구를 지원하기 위해 Rushes를 공개한다. 플랫폼 및 데이터셋의 전체 코드는 다음에서 제공된다: https://github.com/microsoft/rushes
개인화와 프라이버시의 균형을 맞춘 프라이버시 보존 추천 시스템
Privacy Preserving Recommender Systems Balancing Personalization with Privacy
개인화 추천 시스템은 현대 이커머스 및 소매 플랫폼의 핵심이지만, 일반적으로 상세한 사용자 상호작용 데이터의 중앙집중식 저장에 의존하여 상당한 프라이버시 및 규제 문제를 야기한다. GDPR, CCPA, CPRA와 같은 규정의 요구가 증가함에 따라, 조직은 추천 품질을 크게 저하시키지 않으면서 사용자 프라이버시를 보존하는 추천 시스템을 개발해야 한다. 본 연구는 연합 학습(federated learning), 차등 프라이버시(differential privacy), 코호트 수준 모델링(cohort-level modeling), 프라이버시 인식 지능형 에이전트(privacy-aware intelligent agents)를 결합한 프라이버시 보존 추천 프레임워크를 제시하고 평가한다. 이 프레임워크는 원시 사용자 데이터를 분산 상태로 유지하면서 모델 업데이트에 수학적으로 제한된 노이즈를 도입한다. 고객 클릭스트림 및 구매 행동을 모사하는 합성 소매 데이터셋(dataset)에서 실험을 수행했다. 추천 품질은 여러 차등 프라이버시 예산에 걸쳐 클릭률(CTR), 정밀도@K(Precision@K), 재현율@K(Recall@K), 정규화 할인 누적 이득(NDCG@K)으로 평가했다. 다양한 프라이버시 제약 하에서 행렬 분해(matrix factorization), 신경망 협업 필터링(neural collaborative filtering), GRU4Rec을 평가하고 프라이버시와 유틸리티(utility) 간의 트레이드오프를 분석한다. 추천 성능, 순위 안정성, 프라이버시-유틸리티 트레이드오프, 공정성(fairness) 지표를 시각화하는 대화형 Streamlit 대시보드를 개발했다. 결과는 제안 프레임워크가 중간 수준의 프라이버시 예산(약 ε≈5)에서 경쟁력 있는 추천 품질을 유지함을 보여주며, 강력한 프라이버시 보장이 추천 효과에 제한적인 영향만으로 달성될 수 있음을 입증한다. 본 연구는 개인화, 규제 준수, 비즈니스 목표의 균형을 맞추는 프라이버시 보존 추천 시스템 배포를 위한 실용적 프레임워크를 제공하며, 차세대 AI 기반 소매 플랫폼을 위한 확장 가능한 접근법을 제시한다.
ViHoRec: 품질 관리 기반 베트남 호텔 추천 데이터셋 및 콜드 스타트 벤치마크
ViHoRec: A Quality-Controlled Vietnamese Hotel Recommendation Dataset and Cold-Start Benchmark
베트남어 추천 시스템 연구는 공개되고 잘 문서화된 호텔 상호작용 리소스의 부재로 인해 여전히 제한적이다. 이러한 리소스를 구축하는 것은 세 가지 이유로 어렵다: 상호작용을 비교 가능하게 하려면 플랫폼 간 호텔명을 먼저 조정해야 한다; 품질은 임의의 정제가 아니라 재현 가능한 지표로 검증되어야 한다; 공개 배포는 현실적인 콜드 스타트 조건에서 벤치마크 가능성을 유지하면서 프라이버시를 보존해야 한다. 우리는 Booking.com, Traveloka, Ivivu에서 크롤링한 6,832명의 사용자와 560개 호텔 간 18,267건의 상호작용으로 구성된 품질 관리 기반 베트남 호텔 추천 데이터셋 ViHoRec을 소개한다. 우리의 기여는 다음과 같다: (i) 플랫폼 간 엔티티 정합과 정량적 품질 관리를 갖춘 재현 가능한 구축 파이프라인; (ii) HMAC 가명을 활용한 프라이버시 보존 공개; (iii) 시간적 leave-last-one-out 분할, 데이터 중심 ablation, 의존성 없는 baseline을 포함한 공개 콜드 스타트 벤치마크. 공개 분할에서 학습된 모델은 짧은 이력을 가진 사용자에 대해 급격히 성능이 저하되며(BPR-MF 재현율@10: 0.065 vs. 0.120), UserKNN이 전체적으로 가장 강한 성능을 보이며, ViHoRec을 저자원 추천을 위한 희소하고 콜드 스타트가 지배적인 테스트베드로 확립한다. 모든 데이터는 https://github.com/MinhNguyenDS/ViHoRec 에서 공개적으로 이용 가능하다.
Privacy-Preserving Visual Content Tagging using Graph Transformer Networks
특징에 귀 기울여라: 신호 재구성 대신 콘텐츠 임베딩 매칭으로 구동되는 음성 익명화
Listen to the Features: Voice Anonymization Driven by Content Embedding Matching over Signal Reconstruction
이 논문은 사실적인 음성을 생성하는 것보다 콘텐츠를 보존하는 데 초점을 맞춘 음성 익명화 모델을 제안한다. 이 모델은 동결된 사전학습 wav2vec2 인코더에서 추출한 콘텐츠 임베딩에 의존한다. 해당 임베딩은 벡터 양자화와 HiFi-GAN 보코더를 사용하여 익명화된 신호로 디코딩되며, 두 모듈 모두 파형 재구성 손실이나 화자 임베딩 매핑 없이 LibriTTS로 학습된다. 학습 목적함수는 익명화된 신호의 임베딩이 원본의 임베딩과 일치하도록 강제한다. 학습 중에는 화자별 정보를 제거하기 위해 그래디언트 역전 층이 포함된 보조 화자 분류 브랜치가 사용된다. 실험 결과, 이 간단한 임베딩 기반 접근법은 매우 낮은 WER(2.53)을 달성하며, 익명화 성능(EER 13.39)은 VPC에서 1등급 수준에 해당한다. 특히, 별도의 학습 목적함수 없이도 감정이 부분적으로 보존되고(UAR 43.91), 익명화된 음성은 재구성 손실 없이도 청취 가능하다.
Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화
Mitigating Private Data Leakage in LLMs with Whiteout
최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.