민감한 토론을 수행하는 방법: AI 토론을 위한 인스턴스 최적 프로토콜
How to Have a Sensitive Debate: An Instance-Optimal Protocol for AI Debate
강력한 인공지능(AI) 시스템이 인지적으로 까다로운 다양한 작업 전반에서 인간 전문가의 능력을 도달하거나 때로는 능가함에 따라, 이러한 시스템에 대한 정확한 감독 및 관리 감독(supervision) 문제가 점점 더 시급해지고 있습니다. 유망한 접근법 중 하나는 두 개의 강력한 AI 간의 토론을 활용하여 복잡한 질문을 직접 쉽게 판단할 수 있는 더 단순한 주장들로 분해하는 AI 토론(AI debate)입니다. 토론에 관한 이론적 연구는 계산 복잡도 이론의 언어로 이러한 직관을 공식화해 왔으며, 여기서의 목표는 제한된 감독 하에서도 복잡한 문제에 대한 해답 판단의 정확성을 엄격하게 보장하는 프로토콜(즉, 토론 게임의 규칙)을 설계하는 것입니다. 구체적으로, 현재 최상의 프로토콜은 하위 문제로 충분히 안정적인 분해가 가능한 모든 문제에 대해 작동하는 것으로 입증되었습니다. 본 논문에서는 동일한 문제 군을 대상으로 이전 연구를 여러 방면에서 개선한 새로운 프로토콜을 설계합니다. 첫째, 정확성이 평균적(average-case) 의미가 아닌 최악의 경우(worst-case)에도 유지됩니다. 둘째, 정직하고 정확하게 행동하는 것이 슈타켈버그 균형(Stackelberg equilibrium)이 아니라 양쪽 토론자 모두에게 우월 전략 균형(dominant-strategy equilibrium)이 됩니다. 마지막으로, 블랙박스 하한(black-box lower bounds)을 증명하여 새로운 프로토콜이 인스턴스별 최적(instance-wise optimal)임을 보입니다. 즉, 이 문제 군에 대해 인간의 판단에 대한 블랙박스 질의만을 수행하면서 본 프로토콜보다 우수한 성능을 낼 수 있는 프로토콜은 존재하지 않습니다. 저자들은 안정적인 문제 분해라는 개념을 질의 복잡도(query complexity)의 분수 블록 민감도(fractional block sensitivity) 개념과 연관 지음으로써 이러한 결과를 도출합니다.