무엇을 강제할 수 있는가? 도구 사용 에이전트의 인증된 런타임 안전성 이론
What Can Be Enforced? A Theory of Certified Runtime Safety for Tool-Using Agents
런타임 가드레일은 되돌릴 수 없는 도구 호출 전에 작동하지만, 그 보장은 정책 상태의 표현 가능성, 판단자(judge)가 관측하는 것, 그리고 개입이 미래 행동을 바꾸는지 여부에 달려 있다. 우리는 세 가지 질문을 분리한다. 첫째, 고정된 오라클 술어에 대해 결정론적 게이트는 그 레지스터 모델이 인식하는 좋은 접두사(good prefix)를 가진 비어 있지 않은 안전성 정책만을 정확히 강제한다; 정책의 비자명성(nontriviality)은 두 개의 감소 가능한 카운터에서는 판단 불가능하지만 분리 가능한 단조(monotone) 조각에서는 PSPACE에 속한다. 둘째, 고정된 외생(exogenous) 법칙 하에서 Neyman-Pearson은 정확한 거짓 차단(false-block)/누락(miss) 프론티어를 제공하고, conformal calibration은 유한 표본 한계(marginal) 인증서를 제공하며, 경우에 따라 전면 차단(block-all)을 통해 이를 달성할 수 있다. 셋째, 차단이 미래 제안을 바꾸면 정적 점수와 게이트 없는 궤적은 폐루프(closed-loop) 프론티어를 식별하지 못할 수 있다; 대신 지정된 유한 제어 모델이 점유(occupancy) 프로그램을 산출한다. 유계 표현(bounded representation) 공격은 견고성 마진을 추가하므로, 정상(benign) calibration만으로는 전이(transfer)되지 않는다. 실험은 정적 진단, 제어 모델 열거, 표현 재작성, 그리고 쌍을 이룬 폐루프 재실행을 통해 이러한 구분을 검증한다.