사이버네틱과 인식론적 관점: 신뢰할 수 있는 에이전트 위임을 위해 결여된 어휘
Cybernetic and Epistemic: A Missing Vocabulary for Trustworthy Agentic Delegation
코드 생성이 AI 시스템에 점점 더 많이 위임됨에 따라, 병목 현상은 코드를 직접 작성하는 것에서 코드를 작성하는 시스템을 감독하는 것으로 이동하고 있으며, 이는 컴퓨터 과학 교육 연구자들이 명명하기 시작한 변화입니다. 이러한 변화는 어휘의 공백을 드러냅니다. 즉, 학계는 위임 채널에서 언어가 수행하는 두 가지 역할, 즉 행동의 조율(사이버네틱: 단어에 맞춰 세상이 변화할 때 성공함)과 이해의 조율(인식론적: 단어가 세상에 부합하고 청자가 이를 검증할 수 있을 때 성공함) 사이의 실질적인 구분 없이 "인간의 감독(human oversight)"만을 요구하고 있습니다. 여기서 지적하는 실패는 사이버네틱 언어 자체가 아니라 사이버네틱 역할을 수행하는 인식론적 형태의 언어, 즉 진실보다는 승인을 얻기 위해 조율된 설명 형태의 출력입니다. 출력이 승인되었는지만 확인하는 감독은 형식적인 승인(rubber-stamping)으로도 만족될 수 있습니다. 에이전트(agent)에게 책임을 묻는 감독은 작업 이면의 추론을 회수하고 검증할 수 있어야 합니다. 본 연구에서는 감사 가능성을 유지하면서도 인식론적 참여가 실현 가능함을 보여주는 세 가지 위임 사례(통제된 실증이 아닌 예시), 권고안이 자체적으로 명시한 조건에 따라 철회된 공개 기록 한 건, 그리고 재량적 선택에 대한 이유를 요구하지 않는 감독을 보여주는 실패 사례 한 건을 제시합니다. 또한 기존의 기술적 신뢰성 특성과 더불어 에이전트 시스템 거버넌스를 위한 기준을 제안합니다. 즉, 모든 중대한 선택은 제3자가 테스트할 수 있는 형태로, 다른 선택을 내렸을 조건을 함께 수반해야 한다는 점입니다. 이러한 조건이 없다면 제3자는 진정한 결정과 형식적인 승인을 구별할 수 없습니다. 본 연구는 이 기준을 실행 가능한 형태, 즉 섭동(perturbation) 하에서 제2의 독자가 에이전트의 행동을 예측할 수 있는지 여부로 위임 기록을 평가하는 2단계 재구성 테스트와 함께, 해당 조건을 기록된 모든 선택의 필수 요소로 만드는 숙고 기록 규약인 ORRCF로 제시합니다.