arXiv:2109.08621

Data-Driven Off-Policy Estimator Selection: An Application in User Marketing on An Online Content Delivery Service

Yuta Saito, Takuma Udagawa, Kei Tateno

제출 2021-09-17

원문 초록

Off-policy evaluation (OPE) is the method that attempts to estimate the performance of decision making policies using historical data generated by different policies without conducting costly online A/B tests. Accurate OPE is essential in domains such as healthcare, marketing or recommender systems to avoid deploying poor performing policies, as such policies may hart human lives or destroy the user experience. Thus, many OPE methods with theoretical backgrounds have been proposed. One emerging challenge with this trend is that a suitable estimator can be different for each application setting. It is often unknown for practitioners which estimator to use for their specific applications and purposes. To find out a suitable estimator among many candidates, we use a data-driven estimator selection procedure for off-policy policy performance estimators as a practical solution. As proof of concept, we use our procedure to select the best estimator to evaluate coupon treatment policies on a real-world online content delivery service. In the experiment, we first observe that a suitable estimator might change with different definitions of the outcome variable, and thus the accurate estimator selection is critical in real-world applications of OPE. Then, we demonstrate that, by utilizing the estimator selection procedure, we can easily find out suitable estimators for each purpose.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00212v1cs.AI공통 태그 Decision Making, Recommendation Systems

EviGraph: 시간적 공공 서비스 지식 그래프 기반의 증명 수반 선택적 추천

EviGraph: Proof-Carrying Selective Recommendation over Temporal Public-Service Knowledge Graphs

공공 서비스 추천에는 요청된 서비스, 범위 및 날짜와 일치하는 근거가 필요하다. 그러나 누락된 모든 세부 사항을 결정적인 것으로 취급하면 유용한 추천이 보류될 수 있다. 본 논문에서는 미해결 상태로 남아 있어도 되는 정보와 핵심적인 결정 요건을 구분하는 EviGraph를 소개한다. 언어 에이전트(language agent)는 이러한 요건을 시간적 지식 그래프의 근거와 연결하며, 결정론적 검사기(deterministic checker)는 추천이 뒷받침되는지 여부를 확립한다. 실행 가능한 정책 참조가 포함된 이중 언어 홍콩 공공 서비스 벤치마크에 대한 평가 결과, 이러한 구분이 불필요한 기권(abstention)을 줄여주는 것으로 나타났다. 그러나 추가적인 검증은 결정 품질을 향상시키지 않으면서 뒷받침된 추천을 철회할 위험이 있다. 이러한 발견은 신뢰할 수 있는 근거 기반 탐색이 단순히 검증을 늘리는 것보다 결정을 위해 무엇이 확립되어야 하는지를 명시하는 것에 달려 있음을 시사한다.

arXiv:2609.24644v1cs.HC공통 태그 Decision Making, Recommendation Systems

Annie, Are You Okay? 스타일 및 맥락 기반 개인화가 AI 보조 의사결정을 어떻게 형성하는가

Annie, Are You Okay? How Style- and Context-Based Personalization Shape AI-Assisted Decision-Making

사람들이 금융 조언을 위해 생성형 AI를 이용하면서, 이러한 시스템은 소통 방식과 전달 내용을 개인화할 수 있다. 이러한 형태의 개인화가 의사결정에 서로 다르게 영향을 미치는지는 아직 불분명하다. 우리는 사전 등록된 2×2 피험자 간 요인설계 실험(N=240)을 수행했다. 참가자들은 비슷한 수준으로 타당한 세 종목 주식의 순위를 매긴 뒤 AI와 논의하고 다시 순위를 매겼다. 참가자들은 두 형태의 개인화를 모두 인지했지만, 맥락 기반 개인화만이 순위 행동을 일관되게 바꿨다. 이는 재검토를 늘리고 순위를 AI가 배정한 추천 쪽으로 이동시켰다. 참가자들은 AI를 더 정확하거나, 신뢰할 만하거나, 지능적이거나, 호감이 가거나, 고품질이라고 판단하지 않으면서도 더 영향을 받았다고 느꼈다. 처음에 그 추천과 더 멀었던 사람들은 조언을 덜 정확하다고 판단하면서도 더 많이 그쪽으로 이동했으며, 탐색적 분석은 전문성이 낮은 참가자일수록 더 큰 수용성을 시사한다. 이러한 결과는 개인화된 AI가 최소한의 평가적 흔적만으로도 정당화 가능한 선택지들 사이에서 의사결정을 유도할 수 있음을 보여 주며, 개인화된 의사결정 지원의 설계와 거버넌스에 대한 우려를 제기한다.

arXiv:2609.24927v1cs.AI공통 태그 Decision Making, Recommendation Systems

Et Tu, Brute? 개인 AI 에이전트의 경제적 정렬 오류

Et Tu, Brute? Economic Misalignment in Personal AI Agents

개인 AI 에이전트(personal AI agent)는 항공권 구매, 건강보험 선택, 대학원 프로그램 선정 등 고위험 경제적 상황에서 사용자를 대신해 추천을 제공하고 행동을 수행한다. 이 에이전트는 사용자에게 최적화된 개인화 결정을 내릴 목적으로 이메일 수신함이나 개인 속성에 대한 구조화된 프로필 등 사용자의 개인 맥락(personal context)에 접근할 수 있다. 우리는 이러한 개인 맥락을 제공하는 것만으로도 에이전트가 명시적인 지시 없이 추론된 부(wealth)에 따라 추천을 유도한다는 것을 보여준다. 항공권, 건강보험, 대학원 프로그램이라는 세 가지 유형의 경제적 결정에 걸쳐 13개 에이전트를 대상으로 32만 5천 건의 실험을 수행한 결과, 동일한 요청에 대해 8개 모델이 더 부유한 사용자에게 체계적으로 더 비싼 옵션을 선택한다는 것을 확인했다. 이러한 유도는 사용자가 명시한 목표와 직접 상충하는 경우에도 계속된다. 즉, 가장 저렴한 옵션을 찾도록 명시적으로 지시받은 경우에도 일부 에이전트는 자신이 추론한 부 프로필에 따라 행동한다. 이는 과제와 무관한 이메일과 같은 주변 데이터(ambient data)로부터 부가 추론되는 경우에도 나타난다. 또한 특정 속성을 차단하는 개인정보 보호 제어 하에서도 지속된다. 재무 관련 속성을 차단하면 격차가 대체로 사라지지만, 다른 속성을 차단하면 격차는 그대로 유지되거나 보험의 경우 최대 40%까지 증가할 수 있는데, 이는 에이전트가 남은 신호에 의존해 부를 추론하기 때문이다. 더 크고 성능이 뛰어난 모델이라고 해서 더 낫지 않으며, Claude Opus 4.8이 가장 큰 효과를 보인다. 우리는 이러한 정렬 오류(misalignment)를 "적대적 위임(adversarial delegation)"이라고 명명한다. 이는 개인 AI 에이전트를 유용하게 만드는 바로 그 조건, 즉 개인 정보에 대한 접근이 오히려 사용자의 이익에 반해 행동하도록 만드는 것을 뜻한다.

arXiv:2608.16666v3cs.AI공통 태그 Decision Making

Chronocooked: 강화학습 에이전트의 시간 간격 측정 능력을 위한 벤치마크

Chronocooked: A Benchmark for Interval Timing in Reinforcement Learning Agents

구간 시간 지각(interval timing)은 인간 인지의 중요한 측면으로 여겨진다. 인공 에이전트가 인간과 함께 기능하는 경우가 늘어나면서 이들의 구간 시간 지각 능력을 연구할 필요가 있다. 그러나 이 분야의 연구는 아직 제한적이고 산재해 있다. 본 논문은 강화학습(RL) 에이전트의 구간 시간 지각 능력을 체계적으로 연구할 수 있는 RL 벤치마크 환경 Chronocooked를 제시한다. 이 제품군은 심리학 문헌에서 착안한 구간 시간 지각 과제를 포함하는 요리 시나리오로 구성된다. 각 과제에는 RL 에이전트의 구간 시간 지각의 여러 측면, 즉 과제 성능, 인간과 유사한 시간 지각, 확장성을 연구하기 위한 평가 지표가 함께 제공된다. 비순환 모델(CNN), 순환 모델(LSTM), 생물학적으로 영감을 받은 순환 모델(CTRNN)을 사용한 기준선을 보고한다. CNN 모델은 기본적인 시간 지각 과제를 수행하는 능력이 제한적이었다. 반면 충분한 메모리를 갖춘 두 순환 모델은 시간 지각 과제를 성공적으로 수행했고, 고정 간격(FI) 과제에서 시간적 통제를 보였으며, 시간 이분(Temporal Bisection) 과제에서 인간과 유사한 심리측정 곡선을 정성적으로 재현했다. 그러나 인간과 유사한 시간 지각 행동에 대한 정량적 증거는 발견되지 않았다. 인공 에이전트의 구간 시간 지각에 대한 체계적인 연구는 인간-로봇 상호작용(HRI)과 같은 분야에서 과제 성능을 개선하기 위한 보완적 관점을 제공할 수 있으며, 시간 지각에 관한 더 넓은 연구에도 기여할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.