PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.00132v1cs.CR

인지적 연속성 테스트: 지속적 AI 에이전트의 통제된 상태 전이 검증

The Cognitive Continuity Test: Verifying Governed State Transitions in Persistent AI Agents

지속적 AI 에이전트(persistent AI agent)는 신념을 수정하고, 메모리를 통합하며, 실행 기저를 교체합니다. 서로 다른 권한이 부여된 전이 주장에도 유사한 후속 상태가 수반될 수 있는 반면, 정당한 발전 과정에서도 상태가 크게 변경될 수 있습니다. 본 논문에서는 범위가 지정된 권한, 출처(provenance), 결정론적 적용, 의미론적 술어(semantic predicates), 후보-지속성 영수증을 사용하여 제출된 전이를 검증하는 정책 상대적 계약인 인지적 연속성 테스트(Cognitive Continuity Test, CCT)를 소개합니다. CCT는 검증된 허용 가능성, 적극적 위반, 미해결된 필수 증거를 구분합니다. 분리 결과는 실시간 런타임 식별성이 아닌 전이 주장과 관련되며, 건전성(soundness)은 지정된 검사기 및 평가자 가정에 조건부로 종속됩니다. IdentityLineageBench는 24개의 생성된 전이 패밀리를 제공합니다. 참조 사후 해결 검증기는 576개의 표준 홀드아웃 라벨 모두와 일치하는 반면, 어휘적 상태 유사도 및 계보 전용 진단 기준선(baseline)은 유효하지 않은 픽스처의 60.0% 및 80.0%를 허용합니다. 이러한 비교는 정책 인식 배포 시스템에 대한 우월성이 아닌 합성 적합성을 입증합니다. 서명된 적대적 회귀는 조작된 상호작용 횟수, 근거 없는 신념 변화, 누락되거나 모순된 증거의 혼합을 다룹니다. SIT 동작 및 실제 모델(model) 마이그레이션은 측정되지 않은 상태로 남아 있습니다. 18,000회 실행의 유효 경로 연구에서는 상주 입력에 대해 기본 중앙값 6.21 ms를 측정합니다. 본 연구는 배포에 필요한 추가적인 활성화 및 복구 의무를 명시합니다.