arXiv:2606.26369v1 cs.IR

스코어링만으로는 부족하다: 랭킹에서 유틸리티-공정성 트레이드오프의 격차 해소

Scoring Is Not Enough: Addressing Gaps in Utility-fairness Trade-offs for Ranking

Shubham Singh, Ian A. Kash, Mesrob I. Ohannessian

제출 2026-06-24

한국어 초록

스코어링 함수는 개별 문서의 관련성(relevance)을 표현하는 데 사용된다. 현대 정보 검색(information retrieval) 또는 추천 시스템에서 스코어링 함수는 종종 데이터로부터 학습되며, 쿼리나 사용자에 대한 유틸리티를 극대화하는 방식으로 문서나 아이템 집합의 랭킹에 핵심적인 역할을 한다. 최근 알고리즘 공정성(algorithmic fairness)에 대한 관심과 함께, 스코어링의 성공은 자연스럽게 공정성과 유틸리티를 동시에 트레이드오프하는 점수를 학습하는 방법으로 이어졌다. 본 연구에서는 유틸리티 중심 목표와는 대조적으로, 스코어링이 모든 유틸리티-공정성 트레이드오프를 달성하는 데 최적이 아님을 보인다. 이를 일반적인 공정성 정식화와 함께 일련의 반례를 통해 정립한다. 결정론적 스코어링 함수든 확률적 스코어링 함수든, 단일 쿼리 수준에서든 다중 쿼리 전반에서든 문제는 지속된다. 긍정적인 측면에서는 반탐욕적 사후처리(semi-greedy post-processing)가 훨씬 더 나은 트레이드오프를 달성할 잠재력이 있음을 실증적으로 보이며, 종종 실행 가능한 방식으로 전수 사후처리(exhaustive post-processing)의 이상에 근접한다.

원문 초록

Scoring functions are used to represent the relevance of individual documents. In modern information retrieval or recommendation systems, they are often learned from data and play a pivotal role in ranking sets of documents or items in a way that maximizes utility to a query or user. With the recent interest in algorithmic fairness, the success of scoring has naturally led to methods that learn scores that simultaneously trade off fairness and utility. In this work, we show that in stark contrast with utility-centric objectives, scoring is sub-optimal in achieving all utility-fairness trade-offs. We establish this with a series of counter-examples with a generic fairness formulation. We show that the issue persists whether we have a deterministic scoring function or a randomized one, or whether we measure fairness at the scope of a single query or across multiple queries. On the positive side, we empirically demonstrate that semi-greedy post-processing has the potential to achieve much better trade-offs, often approaching the ideal of exhaustive post-processing in a tractable way.

요약

정보 검색·추천에서 공정성과 유틸리티를 동시에 맞추기 위해 문서별 점수를 학습하는 스코어링 기반 랭킹은, 유틸리티 중심 목표와 달리 모든 유틸리티-공정성 트레이드오프를 달성하는 데 최적이 아니며, 결정론·확률적 스코어링과 단일·다중 쿼리 설정 모두에서 한계가 지속됨을 반례로 보인다. 대안으로 관련성을 먼저 학습한 뒤 사후처리(re-ranking)로 공정성을 반영하는 반탐욕적 빔 서치(beam search)가 스코어링보다 더 넓은 트레이드오프를 효율적으로 달성할 수 있음을 실험으로 확인한다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.26369v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22518v1cs.IR공통 태그 Fairness, Recommendation Systems, Information Retrieval

PinEqualizer: Pinterest의 전체 퍼널 콘텐츠 탐색 및 디바이어싱 시스템

PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest

본 논문에서는 산업 규모의 검색 및 추천 시스템에서 콘텐츠 콜드 스타트(cold-start) 문제를 해결하기 위한 새로운 솔루션을 제안한다. 기존 접근법과 비교하여 다음과 같은 새로운 기여를 이뤘다. 1) 본 솔루션은 전체 다단계 퍼널에 걸쳐 적용되며 검색 및 추천 서피스 모두에 잘 일반화된다. 2) 본 솔루션은 기존 콘텐츠를 선호하는 바이어스를 줄여 콘텐츠 유형 전반에 걸친 더 정확한 모델 예측을 가능하게 하고, 대량의 명시적 콘텐츠 탐색과 관련된 단기적 트레이드오프를 완화한다. 3) 본 솔루션은 단기 실험을 빠르게 수행하면서 장기적 영향을 검증할 수 있는 확장 가능한 측정 프레임워크로 평가되었다. 지난 2년간 Pinterest에서 이 새로운 시스템을 반복적으로 구축·배포했으며, 신규 콘텐츠 탐색, 전반적인 사용자 참여, 콘텐츠 생태계 건강성에서 유의미한 개선을 관측했다.

arXiv:2610.10920v1cs.LG공통 태그 Recommendation Systems, Information Retrieval

전자상거래 검색에서 페이지 수준 레이아웃 결정을 위한 언어 모델

Language Models for Page-Level Layout Decisions in E-commerce Search

전자상거래(E-commerce) 검색 페이지는 수백만 명의 온라인 쇼핑객에게 중요한 접점입니다. 전통적인 검색 엔진은 순위가 매겨진 검색 결과 목록을 반환하는 반면, 최신 전자상거래 검색 페이지는 특정 위치에 대안적 상품 그룹을 노출하는 보조 스택(secondary stack)과 같은 추천 시스템 모듈을 점차 더 많이 통합하고 있습니다. 적절하게 도입될 경우 보조 스택은 사용자 참여도를 향상시킬 수 있지만, 최적화되지 않은 배치는 탐색 흐름을 방해하고 주요 검색 결과를 저하시킬 수 있습니다. 인터리빙(interleaving)과 같은 평가 기법이 잘 정립되어 있는 전통적인 검색 랭킹과 달리, 특정 위치와 시점에 보조 스택을 삽입하는 것과 같은 페이지 수준의 레이아웃 변경을 평가하는 것은 비용이 많이 드는 온라인 A/B 테스팅 없이는 여전히 어려운 과제입니다. 이를 해결하기 위해, 본 연구에서는 특정 위치에 보조 스택을 포함하는 것과 같은 주어진 레이아웃 결정이 사용자에게 유익한지 여부를 평가하기 위한 오프라인 방법을 연구합니다. 저자들은 직접적인 프롬프트(prompt) 기반 방식, 프롬프트에서 유도된 특징(feature) 방식, 표현(representation) 기반 방식을 비교하여 확장 가능한 평가자로서 언어 모델을 조사합니다. 실험 결과, 사용자 참여도를 예측하는 데 있어 표현 기반 접근 방식이 프롬프트 기반 평가보다 일관되게 우수한 성능을 보였으며, 이는 해당 방식이 전자상거래 검색에서 오프라인 레이아웃 평가를 위한 신뢰할 수 있는 기반을 제공함을 시사합니다.

arXiv:2609.34951v3cs.AI공통 태그 Recommendation Systems, Information Retrieval

AX는 새로운 AEO이다

AX is the New AEO

2023년에 AI 모델(model)은 학습(training) 데이터로부터 답변했고 데이터가 부족할 때 환각(hallucination)을 일으켰으며, 기업들은 이러한 지식을 심어두라는 조언을 받았습니다. 이후 모델의 학습 지식은 실시간 웹 검색에 자리를 내주었고 조언 역시 이를 따랐습니다. 즉, 답변 엔진 최적화(AEO, answer-engine optimization)는 이제 AI 엔진이 기업을 노출하고 추천할 가능성을 높이기 위해 포럼 스레드, 리스티클, 외부 인용 전반에 빵 부스러기(흔적)를 흩뿌려 두라고 기업에 권장합니다. 그러나 단순히 노출되는 것만으로는 더 이상 충분하지 않습니다. 에이전트(agent)는 결정을 내리기 전에 결과를 열고 읽으며, 구매자의 질문 하나로 인해 여러 차례의 검색과 가져오기(fetch) 단계를 거칩니다. 이 심층 탐색 단계에서 결과를 좌우하는 것은 에이전트가 기업 자체 사이트를 가져와서 읽을 수 있는지 여부, 즉 에이전트 경험(AX, agent experience)입니다. 본 논문에서는 AX가 새로운 AEO라고 주장합니다. 우리는 인지도, 기존 모델 지식, 두 가지 AEO 대리 지표를 일치시킨 1,056개의 실제 기업을 대상으로 네 개의 독립적인 하네스(harness)에 걸쳐 기업에 대한 구매자 질문으로 구성된 37,927회의 에이전트 여정을 실행한 뒤, 이들의 AX 수준에 따라 분류했습니다. 사이트 가독 여부와 관계없이 완성된 답변 중 모델의 학습 지식에서 나온 비율은 7~10%에 불과했습니다. 에이전트 친화적인(agent-ready) 기업은 자체 페이지를 기반으로 답변이 구축된 비율이 56% 대비 78%였으며 명확하게 추천되는 빈도가 1.9배 더 높았던 반면, 에이전트 친화적이지 않은 기업에 대한 그라운딩(grounding)된 답변은 에이전트에 평균 64% 더 많은 비용을 초래했습니다. 기업, 하네스, 질문을 고정했을 때 사이트를 기반으로 구축된 답변은 평균 41% 더 정확했습니다. 주요 실패 요인은 조작(fabrication)이 아닌 누락(omission)으로, 웹 기반으로 구축된 답변은 구매자가 요청한 사실을 전혀 포함하지 않을 확률이 3.7배 더 높았습니다. 4개 하네스 간의 기준선(baseline)은 크게 달랐으며 스택에 따라 명확한 추천 비율이 7배나 차이 났지만, 추천 격차는 모든 하네스에서 유지되었습니다. 에이전트 웹 시대에는 회자되는 것보다 읽힐 수 있는 것이 더 중요하며, 사이트의 AX를 개선하는 것이 기업이 활용할 수 있는 가장 강력한 수단입니다.

arXiv:2609.27953v1cs.IR공통 태그 Recommendation Systems, Information Retrieval

LLM 추천 리랭킹의 재현율 한계

The Recall Ceiling of LLM Recommendation Reranking

일부 LLM 기반 추천 리랭커는 정답 아이템이 평가 대상 집합에 반드시 존재하도록 보장하는 오라클 프로토콜로 평가된다. 이는 정답 아이템을 후보 목록에 주입하거나 샘플링된 네거티브와 비교하여 점수를 매기는 방식으로 이루어진다. 세 개의 주요 Amazon 데이터셋에서 이 프로토콜이 현실적인 NDCG@10을 92~95% 과대평가함을 보인다. 그 원인은 재현율 한계(recall ceiling)에 있다. 세 개 도메인의 여덟 개 데이터셋에 걸쳐, 현실적인 검색(retrieval)은 $K=100$에서 관련 아이템의 2~19%만을 포착하며, 이는 모든 폐쇄 후보(closed-candidate) 리랭커의 top-$k$ NDCG에 결정론적 상한을 부과한다. 리브-원-아웃(leave-one-out) 평가에서는 $\mathbb{E}[\mathrm{NDCG}@k] \leq \mathrm{Recall}@|W_\pi|$가 성립하며, 여기서 $W_\pi$는 리랭커의 후보 윈도우이다. 현실적인 검색 조건에서는 우리의 주요 Amazon 데이터셋에서 테스트한 어떤 최적화 전략도 협업 필터링(CF) 기준선을 유의미하게 개선하지 못한다. 이러한 전략에는 프롬프트 엔지니어링, 168배 매개변수 범위에 걸친 모델 스케일링, 순차 모델, 지도 학습 기반 신경망 리랭커, LoRA 미세조정, 하이브리드 검색, 점수 인지(score-aware) 프롬프팅, LLM+CF 융합이 포함된다. 텍스트 인지(text-aware) 검색은 한 데이터셋에서 재현율을 높이지만 종단 간(end-to-end) NDCG를 개선하지는 못하며, 상위 단계의 CF 점수를 제공하면 주로 LLM이 CF의 순서를 그대로 재현하게 된다. 따라서 우리는 재현율 인지 평가 프로토콜(Recall-Aware Evaluation Protocol, RAEP)을 제안한다. 먼저 검색 재현율 구간(regime)을 분류한 뒤, 상한이 의미 있는 차별화를 허용하는 경우에 한해 리랭킹을 평가하는 것이다. 여기서 측정된 낮은 재현율 구간에서는 리랭커의 정교함을 높이는 것보다 검색을 개선하는 것이 더 중요하다. 다만 이러한 순서가 더 높은 재현율, 더 풍부한 특징, 또는 온라인 피드백을 갖춘 프로덕션 시스템에서도 반드시 성립하는 것은 아니다.

arXiv:2609.26218v1cs.IR공통 태그 Recommendation Systems, Information Retrieval

학술 출판 네트워크에 대한 시맨틱 접근법: OpenAlex 데이터 기반 문서 벡터 표현 및 하이브리드 구조적-시맨틱 융합

A Semantic Approach to the Academic Publishing Network: Document Vector Representations and Hybrid Structural-Semantic Fusion over OpenAlex Data

학술 출판 네트워크에 대한 구조적 그래프 분석은 엔티티 간의 위상학적 관계를 포착하지만 연구 저작물의 내용은 파악하지 못합니다. 본 연구는 기존 구조적 접근법을 바탕으로 시맨틱 층(layer)과 매개변수화된 구조적-시맨틱 융합을 통해 이를 보완합니다. 우리는 과학 문헌을 인용 정보 기반 벡터 임베딩(SPECTER2)으로 표현하고, 고유한 OpenAlex ID를 키로 하여 임베디드 벡터 데이터베이스에 저장함으로써 그래프 층과 직접 연결되도록 합니다. 또한 시맨틱 유사도(임베딩의 코사인 유사도)와 구조적 유사도(서지 결합)를 특정 태스크에 따라 값이 선택되는 조정 가능한 가중치(weight) 알파(alpha)로 결합하는 모듈형 후기 융합 함수를 정의합니다. VSB - Technical University of Ostrava 코퍼스를 대상으로 두 가지를 보여줍니다. 즉, 인용 정보 기반 임베딩은 TF-IDF 기준선(baseline)보다 전문가가 구축한 OpenAlex 주제 분류 체계와 더 잘 일치하며, 추천 활용 사례에서는 가용 데이터에 따라 구조적, 시맨틱 및 결합된 신호가 서로 다른 체계에서 정보를 전달한다는 점입니다. 여기서 하이브리드 융합은 보편적으로 더 우수한 방법이라기보다는 태스크에 맞추어 상호 보완적인 신호를 제어하기 위한 명시적 메커니즘입니다. 우리는 재현 가능한 워크플로와 함께 전체 접근법을 apnet 라이브러리의 오픈 소스 확장으로 공개합니다.

arXiv:2609.17639v2cs.IR공통 태그 Recommendation Systems, Information Retrieval

MLLM 기반 추천을 위한 구체적인 설명의 스케일링

Scaling Articulated Rationales for MLLM-based Recommendation

본 논문에서는 희소하고 구체적인(articulated) 사용자 설명(rationale)을 확장 가능한 추천 신호로 변환하는 산업용 프레임워크인 SARA를 제시했습니다. SARA의 데이터 엔진은 설문 응답을 SARA-HQ로 정제하여, 지도 미세조정(SFT) 및 품질 개선 DPO(Quality-Refining DPO)를 통해 SARA-7B를 정렬(alignment)하기 위한 명시적 선호도 지도(supervision)를 제공합니다. 이러한 정렬을 통해 설명 생성 범위를 설문으로 다루어진 $86{,}564$명의 작성자에서 전체 $10$M 작성자 공간으로 확장합니다. SARA-Ranker는 생성된 긍정적 및 부정적 설명을 사용자-작성자 상호작용 모델링과 부정적 피드백 이력 모델링을 위한 피처로 변환하여 구체적인 이유를 프로덕션 랭킹과 연결합니다. 확인되지 않은 작성자에 대한 평가(evaluation) 결과, SARA-7B는 평가 대상 범용 MLLM보다 더 구체적이고 관련성 높으며 그라운딩된(grounded) 설명을 생성함을 입증했습니다. 멀티모달 피처를 갖춘 강력한 산업용 랭킹 기준선(baseline) 위에서 진행된 개별 온라인 A/B 테스트 결과, 긍정적 설명 통합은 시청 시간을 $0.99\%$ 증가시킨 반면, 부정적 설명 통합은 싫어요(Hate) 피드백을 $8.16\%$ 감소시켰습니다. 매일 진행되는 갱신(daily refresh)과 $30$일 이상의 프로덕션 배포는 이 접근 방식의 운영 실현 가능성을 더욱 잘 보여줍니다. 이러한 결과는 구체적인 설명이 행동 및 콘텐츠 신호에 유용한 보완책임을 입증하며, 희소한 인간의 설명을 산업용 추천을 개선하는 선호도 정보로 스케일링(scaling)하는 데 있어 MLLM의 실용적인 역할을 보여줍니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.