Epi-Logic: 자율 AI 에이전트를 위한 인식론적 런타임 제어, 스키마 유효성 검사 및 통제된 수용의 개념적 프레임워크
Epi-Logic: A Conceptual Framework for Epistemic Runtime Control, Schema Validity Checking, and Controlled Accommodation in Autonomous AI Agents
자율 AI 에이전트는 잘못된 결정을 되돌리기 어려운 영역에 점점 더 배치되고 있다. 본 논문은 스키마 불일치(schema mismatch)를 검토한다. 이는 에이전트가 현재 맥락에 더 이상 적용되지 않는 해석 프레임 안에서 동작하는 상태를 말한다. 이러한 불일치 하에서 생성된 출력은 내적으로 일관되어 보이고, 언어적으로 그럴듯하며, 대체로 사실상 맞는 것처럼 보일 수 있다. 따라서 출력 품질 지표만으로는 근본적인 유효성 상실을 부분적으로만 포착할 수 있다. 본 논문은 인식론적 런타임 제어를 위한 개념적 프레임워크인 Epi-Logic을 제안한다. 이는 스키마 불협화음 탐지, 단계적 자율성 축소, 검증된 스키마로의 감사 가능한 전환을 결합한다. 스키마는 변수 공간, 기대 모델, 유효성 조건, 공리, 메타데이터의 튜플로 형식화된다. Epi-Score는 인식론적 불협화음의 일곱 가지 등급 차원을 집계한다. 시간적 유효성 차원 D8, 유효성 조건 G의 위반, 공리 위반은 집계와 상쇄되지 않는 별도의 범주형 경로로 유지된다. 이 아키텍처는 검사 비대칭에 기반한다. 형식화된 유효성 조건은 런타임에 검사할 수 있는 반면, 많은 행동의 정확성은 사후적으로만 확립된다. 본 논문은 두 가지 아키텍처적 속성, 순차적 변화점 탐지(sequential changepoint detection)로부터의 조건부 결과, 그리고 경험적 잔여(empirical remainder)를 구분한다. 명명된 베이스라인을 갖춘 여덟 개의 반증 가능한 명제가 경험적 검증으로의 전환을 기술한다. 모든 명제는 경험적으로 검증 가능한 가설이며, 확립된 결과가 아니다.