인간 정렬 하에서 AI 지원을 받아 의사결정하는 방법 학습
Learning to Decide with AI Assistance under Human-Alignment
한국어 초록
고위험 분야에서 AI 모델이 관심 결과를 예측하여 의사결정자를 지원할 때, 예측의 신뢰도를 함께 전달해야 한다는 데에는 널리 의견이 일치한다. 그러나 경험적 증거에 따르면 의사결정자는 전달된 신뢰도만으로는 예측을 언제 신뢰해야 하는지 판단하기 어려워하는 경우가 많다. 이러한 맥락에서 최근의 이론적, 경험적 연구는 AI 지원 의사결정의 효용과, AI의 신뢰도와 의사결정자가 자신의 예측에 대해 갖는 신뢰도 사이의 정렬 정도 간에 양의 상관관계가 있음을 시사한다. 그러나 이러한 발견은 이 정렬이 반복적인 상호작용을 통해 최적의 의사결정을 학습하는 복잡도에 어느 정도 영향을 미치는지는 아직 밝히지 못한다. 본 논문에서는 이진 예측과 이진 의사결정이라는 표준적인 경우에서 이 문제를 다룬다. 먼저 이 문제가 완전한 피드백을 갖는 두 팔 온라인 맥락적 학습 문제와 동등함을 보이고, 어떤 학습자든 달성할 수 있는 기대 후회에 대해 $\Omega (\sqrt{|H| \cdot |B| \cdot T} )$의 하한을 수립한다. 여기서 $H$와 $B$는 각각 인간과 AI의 신뢰도 값의 집합을 나타낸다. 이어서 AI와 인간의 신뢰도가 완벽하게 정렬된 경우 학습자가 $O(\sqrt{|H| \cdot T\log T})$의 기대 후회를 달성할 수 있으며, $\sqrt{|H|} = O(\log T)$이고 $B$가 가산 집합일 때에는 Dvoretzky-Kiefer-Wolfowitz 부등식의 비자명한 일반화를 통해 후회 한계가 $O(\sqrt{T\log T})$로 개선됨을 보인다. 종합하면 이러한 결과는 정렬이 AI 지원 의사결정 학습의 복잡도를 줄일 수 있음을 보여 준다. 참가자들이 AI 모델의 지원을 받아 단순한 의사결정 과제를 푸는 두 가지 인간 대상 연구의 실제 데이터를 이용한 실험은, 우리의 이론적 결과가 완전한 정렬이 깨지는 경우에도 강건함을 보여 준다.
원문 초록
It is widely agreed that when AI models assist decision-makers in high-stakes domains by predicting an outcome of interest, they should communicate the confidence of their predictions. However, empirical evidence suggests that decision-makers often struggle to determine when to trust a prediction based solely on this communicated confidence. In this context, recent theoretical and empirical work suggests a positive correlation between the utility of AI-assisted decision-making and the degree of alignment between the AI confidence and the decision-makers' confidence in their own predictions. Crucially, these findings do not yet elucidate the extent to which this alignment influences the complexity of learning to make optimal decisions through repeated interactions. In this paper, we address this question in the canonical case of binary predictions and binary decisions. We first show that this problem is equivalent to a two-armed online contextual learning problem with full feedback, and establish a lower bound of $\Omega (\sqrt{|H| \cdot |B| \cdot T} )$ on the expected regret any learner can attain, where $H$ and $B$ denote the sets of human and AI confidence values. We then demonstrate that, under perfect alignment between AI and human confidence, a learner can attain an expected regret of $O(\sqrt{|H| \cdot T\log T})$ and, when $\sqrt{|H|} = O(\log T)$ and $B$ is countable, a non-trivial generalization of the Dvoretzky-Kiefer-Wolfowitz inequality improves the regret bound to $O(\sqrt{T\log T})$. Taken together, these results reveal that alignment can reduce the complexity of learning to make decisions with AI assistance. Experiments on real data from two different human-subject studies where participants solve simple decision-making tasks assisted by AI models show that our theoretical results are robust to violations of perfect alignment.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2605.12646v3제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.