외교 정책 AI 평가 격차
The Foreign Policy AI Evaluation Gap
우리는 외교 정책 업무 수행에 활용되는 AI 시스템—넓게는 '국정술(statecraft)'을 실행하는—이 기술적 AI 거버넌스 연구의 우선적 시험 사례가 되어야 한다고 주장한다. 외교 정책 수행이란 정치 행위자들이 대외적 목표를 수립하고 이행하는 과정을 의미한다. 국정술은 극단적인 하방 위험과 표준 평가 관행이 제대로 다루지 못하는 구조적 특성을 지닌 고위험 배포 영역이다. 이러한 특성에는 부분 관측 가능성(partial observability), 무한 행동 공간(unbounded action spaces), 논쟁적 정답(contested ground truth), 다차원적 목표가 포함된다. 본 논문은 문헌에 근거한 연구 어젠다를 제안한다. 우리의 기여는 세 가지로 구성된다: (i) 재앙적 꼬리 위험(catastrophic tail risk)과 기술적 평가 복잡성이 결합되는 외교 정책의 구조적 조건에 관한 주장, (ii) 접근성(ACCESS), 검증(VERIFICATION), 보안(SECURITY), 운용화(OPERATIONALIZATION)보다 평가(ASSESSMENT) 기능에 비대칭적으로 집중되어 있음을 조명하는 에코시스템 검토, (iii) 외교 정책 워크플로우를 인간의 재결합을 포함한 범위가 한정되고 평가 가능한 하위 작업으로 분해하는 수요 측면 평가 프레임워크. AI 시스템이 이미 전쟁과 평화의 수행에 배포되고 있는 상황에서, 기술적 AI 거버넌스 커뮤니티의 공개 평가 인프라가 제한적인 만큼, 이 어젠다는 시급한 우선 과제이다.