추천 시스템에서 미묘한 목표를 구현하기 위한 LLM 보조 재순위화
LLM-Assisted Reranking to Operationalize Nuanced Objectives in Recommender Systems
한국어 초록
추천 시스템은 우리가 보는 정보를 형성하며, 필터 버블, 급진화, 양극화, 사회적 불평등에 대한 우려를 낳는다. 대규모 언어 모델(LLM)은 이러한 역학을 심화할 수 있는 더 강력한 개인화를 가능하게 하지만, 대부분의 추천 시스템은 참여도나 좁은 정확도 지표에 맞춰 조정되어 있으며 더 넓은 사회적 영향에는 거의 주의를 기울이지 않는다. 본 연구는 LLM 보조 재순위화가 개인화를 개선하면서, 이론적으로 제기되었으나 아직 실증적으로 규명되지 않은 위험인 이념적으로 부합하거나 극단적이거나 음모론적인 정치 콘텐츠에 대한 노출을 의도치 않게 증폭하는지 조사한다. 실제 YouTube 궤적을 사용하여, 임베딩 베이스라인과 함께 세 개의 모델에 대한 제로샷 프롬프팅으로 플랫폼의 사이드바 후보를 재순위화하고, 관련성, 이념적 정렬과 다양성, 음모론적 또는 극단주의적 콘텐츠에 대한 노출을 평가한다. 결과는 다음과 같다. (i) 순수한 개인화 지시 하에서 재순위화는 관련성을 개선하는 한편 이념적 노출을 좁히며, 세 모델 중 두 모델에서는 그러한 이력을 가진 사용자에게 문제적 콘텐츠를 부각시킨다. 가장 명시적으로 당파적인 요청을 거절하는 세 번째 모델은 모델별 가드레일을 시사한다. (ii) 경량의 프롬프트 수준 제약은 세 모델 모두에서 문제적 노출을 상당히 줄이며, 정규화된 재순위기는 여전히 관련성에서 플랫폼 베이스라인보다 높은 순위를 유지한다. (iii) 주제 단서와 당파 단서를 독립적으로 변화시킨 합성 실험은 둘 사이에 고정된 선호가 없음을 보여 준다. 낙태와 이민에서는 주제가 지배적이고, 주제 신호가 더 약한 선거에서는 당파성이 우세해진다. 본 결과는 위험이 큰 정치 추천에서 맥락적 뉘앙스를 구현하는 LLM의 힘을 부각하며, LLM 보조 개인화를 정확도를 넘어 평가해야 하고 프롬프트 설계를 중립적 기본값이 아닌 가치 개입적 선택으로 다루어야 할 필요성을 강조한다.
원문 초록
Recommender systems shape what information we see, raising concerns about filter bubbles, radicalization, polarization, and social inequality. Large language models (LLMs) enable more powerful personalization that may intensify these dynamics, yet most recommenders are tuned for engagement or narrow accuracy metrics, with little attention to broader social effects. We investigate whether LLM-assisted reranking, while improving personalization, inadvertently amplifies exposure to ideologically congenial, extreme, or conspiratorial political content, a risk theorized but not yet empirically characterized. Using real YouTube trajectories, we rerank the platform's sidebar candidates by zero-shot prompting across three models, alongside an embedding baseline, and evaluate relevance, ideological alignment and diversity, and exposure to conspiratorial or extremist content. We find that (i) under a pure personalization instruction, reranking improves relevance while narrowing ideological exposure and, on two of three models, promoting problematic content for users with such histories; the third model, which declines most explicitly partisan requests, points to model-specific guardrails; (ii) lightweight prompt-level constraints substantially reduce problematic exposure on all three models, while the regularized rerankers still rank above the platform baseline on relevance; and (iii) synthetic experiments varying topical and partisan cues independently show no fixed preference between them: topic dominates on abortion and immigration, while partisanship takes over on elections, where the topical signal is weaker. Our results highlight the power of LLMs to operationalize contextual nuance in high-stakes political recommendation, and underscore the need to evaluate LLM-assisted personalization beyond accuracy and to treat prompt design as a value-laden choice rather than a neutral default.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.02883v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.