arXiv:2006.16977

Learning Post-Hoc Causal Explanations for Recommendation

Shuyuan Xu, Yunqi Li, Shuchang Liu, Zuohui Fu, Xu Chen, Yongfeng Zhang

제출 2020-06-30

원문 초록

State-of-the-art recommender systems have the ability to generate high-quality recommendations, but usually cannot provide intuitive explanations to humans due to the usage of black-box prediction models. The lack of transparency has highlighted the critical importance of improving the explainability of recommender systems. In this paper, we propose to extract causal rules from the user interaction history as post-hoc explanations for the black-box sequential recommendation mechanisms, whilst maintain the predictive accuracy of the recommendation model. Our approach firstly achieves counterfactual examples with the aid of a perturbation model, and then extracts personalized causal relationships for the recommendation model through a causal rule mining algorithm. Experiments are conducted on several state-of-the-art sequential recommendation models and real-world datasets to verify the performance of our model on generating causal explanations. Meanwhile, We evaluate the discovered causal explanations in terms of quality and fidelity, which show that compared with conventional association rules, causal rules can provide personalized and more effective explanations for the behavior of black-box recommendation models.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02968v1cs.AI공통 태그 Recommendation Systems, Sequential Recommendation

단순한 근거 제시를 넘어 증거에 기반한 추론: LLM 기반 추천을 위한 검증 가능한 선호도 증명

Reasoning with Evidence, Not Merely Rationales: Verifiable Preference Proofs for LLM-Based Recommendation

대규모 언어 모델(LLM)은 상호작용 이력과 리뷰로부터 사용자의 선호도를 추론할 수 있지만, 모델이 생성하는 설명(rationale)은 추천에 실제로 사용된 정보를 반영하지 못할 수 있습니다. 선호도 주장이 선택된 증거에 의해 미약하게 뒷받침되거나 최종 순위에 거의 영향을 미치지 못할 수 있으며, 본 논문에서는 이러한 두 가지 실패를 그라운딩-영향력 격차(grounding-influence gap)라고 정의합니다. 본 연구에서는 LLM 기반 추천에서 검증 가능한 선호도 추론을 위한 일반적 프레임워크인 PROVE-REC을 소개합니다. 패스 A는 타깃 이전의 전체 이력을 선택된 증거 항목들과 연결된 긍정 및 회피 주장으로 구성된 간결한 선호도 증명으로 변환합니다. 패스 B는 이 증명과 선택된 증거만을 사용하여 다음 아이템을 예측함으로써 추천 시스템이 추론 경로를 우회하지 못하도록 방지합니다. 증거-증명 간 그라운딩을 검증하기 위해, 선택된 증거를 마스킹했을 때의 효과를 비교 가능한 대조군 항목을 마스킹했을 때와 비교합니다. 증명-추천 간 영향력을 검증하기 위해, 선호도 주장을 제거하고 그에 따른 타깃 아이템의 랭킹 마진(ranking margin) 감소를 측정합니다. 또한 순위 보존 목적함수를 통해 전체 이력에서 유용한 정보를 추가로 유지합니다. 다양한 실제 데이터셋에 대한 포괄적인 실험을 통해 PROVE-REC이 강력한 순차적, 생성형 및 LLM 강화 베이스라인을 일관되게 능가하며 최대 7.45%의 성능 향상을 달성함을 입증합니다. 통제된 소거 연구(ablation study)는 2단계 패스 아키텍처와 검증 목적함수의 효과를 확인해 줍니다. 나아가 PROVE-REC은 순위 품질을 보존하면서도 과거 증거에 더욱 강력하게 그라운딩되고 추천에 더 큰 영향력을 미치는 주장을 생성합니다.

arXiv:2609.27201v1cs.LG공통 태그 Recommendation Systems, Sequential Recommendation

순차 추천 시스템에서 시간적 귀속을 위한 설명 가능 방법의 체계적 벤치마크

A Systematic Benchmark of Explainable Methods for Temporal Attribution in Sequential Recommendation Systems

순차 추천 시스템(Sequential RecSys)은 현대 개인화의 중심에 있으며, 사용자의 과거 상호작용 시퀀스를 활용해 다음 단계 의사결정을 이끈다. 심층 학습 모델, 특히 CNN 및 트랜스포머 기반 아키텍처는 이러한 이력에서 시간적 의존성을 포착하는 데 매우 효과적임이 입증되었다. 투명성과 신뢰를 위해, 어떤 과거 상호작용이 특정 추천을 이끄는지 이해하는 것은 모델 행동을 감사하는 개발자와 근거를 원하는 사용자 모두에게 점점 더 중요해지고 있다. 그러나 이러한 모델에 예측력을 부여하는 비선형성은 동시에 블랙박스로 만들어, 의사결정을 특정 상호작용에 귀속하기 어렵게 한다. 그래디언트 기반, 교란(perturbation) 기반, 어텐션 기반 설명 가능성 방법은 존재하지만, 순차 추천에서 그 충실성(faithfulness)에 대한 체계적 벤치마크는 부재하다. 우리는 한 모델이 타임스텝별 귀속 점수를 제공하고, 별도로 학습된 마스킹-강건(masking-robust) 탐침(probe)이 예측 확률의 변화를 측정하는 이중 모델 마스킹 지표를 도입하여 이 공백을 메운다. 이 지표를 사용해 KuaiRand와 MovieLens에서 CNN, 트랜스포머, SASRec, BERT4Rec 백본에 걸쳐 열 가지 XAI 방법을 벤치마크하고, 시간적 귀속 패턴, 아이템 인기도 교란(confounding), 입력 손상에 대한 강건성 분석을 보완한다. 핵심 발견은 다음과 같다: (1) 그래디언트 기반 방법, 특히 GradientSHAP와 Integrated Gradients가 가장 충실하고 강건한 귀속을 제공한다; (2) 원시 어텐션 가중치는 신뢰할 수 없지만, 그래디언트 가중 어텐션은 더 짧은 시퀀스에서 충실성을 회복하며, 더 긴 구간에서는 소프트맥스 어텐션 확률이 균일한 중요도 점수로 수렴하면서 정보가 있는 상호작용을 식별하는 방법의 능력이 줄어들어 성능이 저하된다; (3) 충실한 방법에서의 시간적 귀속 패턴은 최근성(recency)이나 인기도 바이어스가 아니라 실제 과업 구조를 반영한다.

arXiv:2609.22747v1cs.IR공통 태그 Recommendation Systems, counterfactual

원시 참여를 넘어: Netflix 추천 시스템을 위한 반사실적 관측 가능성 프레임워크

Beyond Raw Engagement: A Counterfactual Observability Framework for Recommender Systems at Netflix

대규모 추천 시스템의 성능을 이해하는 일은 여전히 충분히 다루어지지 않은 과제이며, 특히 콘텐츠 제작자와 모델 개발자에게 그렇다. 그들에게 제공되는 조회수·클릭 같은 원시 참여 신호는 콘텐츠 품질, 모델 행동, 프레젠테이션 바이어스, 청중 도달 범위를 뒤섞어 결과를 올바른 원인에 귀속하기 어렵게 한다. 본 연구에서는 Netflix의 여러 추천 시스템 전반에서 관측 가능성을 높이는 일반적인 평가(evaluation) 프레임워크를 제시하고, 여러 프로덕션 배포를 통해 그 효과를 입증한다. 이 프레임워크는 추천 시스템 관측 가능성을 반사실적(counterfactual) 측정 문제로 본다. 즉, 특정 콘텐츠 항목이나 모델 결정이 없었을 때 추천 시스템이 어떻게 행동했을지, 그리고 그에 이어 어떤 참여가 발생했을지를 추정하는 것이다. 콘텐츠 제작자와 모델 개발자를 위한 이해관계자 중심의 관측 가능성 원칙 세 가지를 정립하고, 바이어스 감소, 상대성(relativity), 증분성(incrementality)을 다루는 측정 방법론을 제안한다. 이는 단일 단계 및 계단식(cascading) 추천 시스템 모두에 적용 가능하며, 단일 측정 기반 위에서 두 이해관계자 집단을 모두 지원한다.

arXiv:2607.22012v1cs.LG공통 태그 Recommendation Systems, counterfactual

문맥적 밴딧을 위한 교차 도메인 오프-정책 평가 및 학습

Cross-Domain Off-Policy Evaluation and Learning for Contextual Bandits

문맥적 밴딧에서 오프-정책 평가 및 학습(OPE/L)은 과거에 기록된 로그 데이터만으로 새로운 정책을 안전하게 평가하고 학습할 수 있기 때문에 실제 시스템에서 빠르게 주목받고 있다. 그러나 OPE/L의 기존 방법들은 퓨샷(few-shot) 데이터, 결정론적 로깅 정책, 새로운 행동(action)과 같이 도전적이지만 널리 존재하는 많은 시나리오를 다룰 수 없다. 맞춤형 의료, 콘텐츠 추천, 교육, 광고 등 많은 응용 분야에서는 이러한 과제가 있는 상황에서 새로운 정책을 평가하고 학습해야 한다. 기존 방법들은 로그 데이터의 잘 알려진 분산 문제나 제한된 탐험(exploration) 때문에 이러한 상황에서 효과적으로 평가하고 최적화할 수 없다. 이러한 미해결 과제 하에서도 OPE/L을 가능하게 하기 위해, 새로운 정책이 구현될 대상(target) 도메인의 로그 데이터뿐만 아니라 다른 도메인에서 수집된 로그 데이터셋에도 접근할 수 있는 교차 도메인 OPE/L이라는 새로운 문제 설정을 제안한다. 이 새로운 공식화는 대상 병원, 국가, 기기, 사용자 세그먼트뿐만 아니라 다른 병원, 국가, 기기, 세그먼트의 과거 데이터도 활용할 수 있기 때문에 널리 적용 가능하다. 우리는 대상 및 소스(source) 데이터셋을 모두 활용하여 OPE/L을 해결하는 새로운 추정량(estimator)과 정책 그래디언트(policy gradient) 방법을 개발했으며, 실험 평가에서 이전에 해결되지 않았던 상황에서 OPE/L 성능이 실질적으로 향상되었다.

arXiv:2607.14161v1cs.IR공통 태그 Recommendation Systems, counterfactual

Pinterest에서 효율적인 전자상거래 배분을 위한 딥러닝 인과적 검색 최적화

Deep-learning Causal Retrieval Optimization for Efficient e-commerce Distribution in Pinterest

Pinterest는 사용자가 아이디어를 탐색한 뒤 실행으로 옮기는 과정에서, 종종 쇼핑 가능(shoppable) 콘텐츠를 발견하며 영감을 행동으로 바꾸는 공간이다. 이 여정을 지원하려면 콘텐츠가 방해가 될 때가 아니라 도움이 될 때 상거래 콘텐츠를 배분해야 한다. 이를 초기 검색(retrieval) 단계에서 쇼핑 후보 생성기(candidate generator)를 트리거하는 인과적(causal) 의사결정으로 formulation하고, Pinterest에서 개인화되고 문맥화된 트리거 정책을 학습하는 프로덕션 시스템을 배포했다. 딥 멀티태스크 모델이 여러 이벤트의 결과(outcome)와 uplift를 공동 예측하며, 안정적인 단일-강건(single-robust) uplift 학습을 위해 보정(calibrated)된 outcome 손실과 함께 이중-강건(doubly-robust) pseudo-outcome으로 학습된다. 무작위화(randomized) 데이터 로깅이 counterfactual 커버리지를 제공하고, 모델은 전면적인 평가를 위해 regular metric과 reverse metric 모두로 평가된다. 선형 시간 offline replay가 임계값 선택과 정책 영향 예측을 위해 설계되었으며, 온라인 결과와 극히 높은 일치성을 보인다. 프로덕션화를 위해 모델은 end-to-end 지연(latency) 퇴보 없이 원격 검색 호출과 병렬로 실행된다. 웹 규모에서 쇼핑 트리거를 최대 85% 줄였고, 핵심 쇼핑 세션은 중립을 유지하면서 중요한 전체 세션(+0.26%)과 Pin 저장(+1.10%)을 개선했으며, 상당한 인프라 절감을 달성했다. 딥 인과 학습과 신뢰할 수 있는 offline replay를 통합하고 프로덕션급 배포를 입증함으로써, 본 연구는 쇼핑을 넘어 현대의 cascading recommender에서 초기 검색 최적화를 위한 일반적으로 실용적인 방법을 제시하며, 대규모로 사용자 의도에 맞춰 탐험(exploration)과 비용을 정렬한다.

arXiv:2607.14604v1cs.LG공통 태그 Recommendation Systems, counterfactual

반사실 추정을 통한 A/B 테스트 가속화: 정책 겹침을 통한 분산 감소

Accelerating A/B-Tests with Counterfactual Estimation: Reducing Variance through Policy Overlap

온라인 통제 실험은 온라인 플랫폼에서 가설 검정의 황금 표준이다. 보편적으로 사용됨에도 불구하고 실행 비용이 매우 높으며, 분산 문제가 처치 효과(treatment effect) 평가의 통계적 검정력을 저해한다. 표준 분산 감소 기법은 모델 기반 통제 변량(control variates)을 활용해 결과 노이즈를 줄이지만, 경쟁 정책 간 잠재적 구조적 관계에는 무관하다. 본 연구에서는 표준 A/B 테스트 프로토콜의 중요한 비효율을 확인한다: 처치 정책과 대조 정책이 동일한 행동(action)에 동의할 때, 그 결과는 처치 효과에 관한 신호 없이 노이즈만 기여하여—불필요하게 신뢰 구간을 팽창시킨다. 우리는 이러한 정책 겹침(policy overlap)을 활용해 실험을 가속화하는 새로운 실험 프로토콜을 제안한다. 핵심 통찰은 무작위 처치 배정 메커니즘을 메타-정책(meta-policy)으로 구성하고, $Δ$-Off-Policy Estimation 방법을 활용해 평균 처치 효과에 대한 편향 없는(unbiased) 추정치를 얻는 것이다. 우리는 해석적으로 본 접근법이 일반적인 경우 표준 A/B 테스트 관행을 복원함을 증명하며, 그 분산은 원시 결과 분산이 아니라 정책 간 발산(divergence)에 비례함을 보인다. 따라서 정책이 공통 지지(common support)를 가질 때 표준 평균 차(Difference-in-Means) 추정량을 지배(d dominate)하며, 겹침 영역이 0이 아닌 잔차 분산(residual variance)을 기여할 때 개선은 엄격(strict)하다. 실증 결과는 이러한 이론적 통찰을 뒷받침하며—추천 시스템, 정보 검색(information retrieval) 파이프라인, 대규모 언어 모델 인터페이스의 실세계 평가에 상당한 영향을 미칠 가능성을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.