되돌릴 수 있는가? AI 에이전트 행동의 가역성 등급
Can You Undo It? Reversibility Classes for AI Agent Actions
한국어 초록
도구를 쓰는 AI 에이전트는 파일, 데이터베이스, 접근 권한, 공개 정보를 바꾼다. 도구 호출 권한만으로는 잘못된 행동을 되돌릴 수 있는지 알 수 없다. 가역성 등급은 명시적으로 선언하는 5단계 분류 체계다. 호출 인자에 따른 규칙, 보수적 기본값, 이전 상태를 저장하는 명시적 계약을 포함한다. 버전을 고정한 구현과 근거를 연결한 등록부는 MCP 서버 20개의 도구 536개를 다룬다. 규칙 사례 검사 738건 전부가 선언된 예상과 일치했다. 기존 주석을 변환한 결과는 비교 가능한 481개 도구 중 118개에서 등록부 초안의 등급과 달랐다. AI의 도움을 받은 검토자 한 명이 등급 148건을 승인했고 그중 75건이 등록부와 일치했다. 이 결과는 독립적인 검토자 간 합의로 볼 수 없다. 기록한 실행 2,158건에서 구현한 세션 보호 장치는 공격이 발생하고 관련 동작을 식별한 실행 29건 모두에서 해당 동작에 승인 절차를 적용했다. 읽기·쓰기 기반 대리 기준은 18건에서 적용했다. 정상 실행 1,209건에서는 승인 지점 9곳을 추가했다. 파일, Git, SQLite, 브라우저 세 가지를 사용한 통제 실험에서 복구는 저장한 상태, 이후의 변경, 편집기의 저장 방식, 복구 경로에 따라 달라졌으며, Git 병합 상태의 예외도 드러났다. 이 결과는 복구의 전제를 명시하고 시험할 수 있게 만드는 접근을 뒷받침한다. 등록부 전체의 정확도, 운영 피해 감소, 일반적인 복구 신뢰성은 입증하지 못했다.
원문 초록
Tool-using AI agents change files, databases, access rights and public information, yet permission to call a tool does not establish whether a mistake can be undone. We present Reversibility Classes, a declared five-level vocabulary with argument-sensitive rules, conservative defaults and an explicit prior-state capture contract. The pinned implementation and evidence-linked registry cover 536 tools across 20 MCP servers. All 738 rule-case checks conform to declared expectations, while native annotation mapping differs from draft registry labels for 118 of 481 comparable tools. One AI-assisted reviewer approves 148 ratings, 75 matching the registry; this is not independent agreement. On 2,158 recorded runs, the implemented session guard gates the associated action in all 29 attributable attack-positive runs, compared with 18 for a read/write proxy, while adding nine approval points across 1,209 benign runs. Controlled file, Git, SQLite and three-browser experiments show that recovery depends on captured state, later changes, editor storage and recovery route, and expose a Git merge-state exception. The evidence supports making recovery assumptions explicit and testable. It does not establish registry-wide accuracy, reduced production harm or general recovery reliability.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22075v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.