다중 에이전트 대규모 언어 모델 시스템의 동시성 이상 현상에 대한 검증된 탐지 및 방지
Verified Detection and Prevention of Concurrency Anomalies in Multi-Agent Large Language Model Systems
다중 에이전트 대규모 언어 모델(LLM) 시스템은 메모리 저장소, 벡터 인덱스, 툴 레지스트리를 통해 상태를 공유한다. 우리는 이러한 공유를 결정론적 생성 시맨틱스—지속 실행 엔진이 결정론적 재현으로 강제하는 체계—하에서의 장기 실행 읽기-생성-쓰기 연산으로 모델링하고, TLA+에서 네 가지 동시성 이상 현상을 형식화한다: stale-generation, phantom-tool, causal-cascade, tool-effect reordering. 이들은 고전적 격리 이상 현상의 구조적 유사체이며, 각각 TLC 반례를 가진다. 이 이상 현상들에 대한 배제 격자는 자명하다; 본 논문의 기여는 기계적으로 검증된 실현 가능성과 그 안에서 하나의 극대 사슬 $L_0 \subsetneq \cdots \subsetneq L_4$의 엄격한 분리이며, 우리가 아는 한 이러한 런타임에 대한 최초의 기계 검증 일관성 계층이다. 274개의 Verus 검증 조건(assume 0개, admit 0개; 신뢰 기반: 두 개의 구조적 공리 및 뮤텍스 대응)의 개발은 탐지기가 명세에 대해 건전하고 완전함을 증명하며 각 런타임이 자신의 회피 집합임을 증명한다. 세 개의 배포된 Rust 런타임이 L0-L1을 실현하며(비관적 잠금, 직렬화 가능 스냅샷 격리, default-SI), 각각 stale-generation에 대해 검증되고 상태 기계로 정제된다; L2-L4는 의존성 없는 방지 쌍(A3, A6, A2: 0/1000 대 1000/1000)으로 실행 모드 검증되며, L2는 세 모델 패밀리에 걸쳐 실시간으로 실행된다(A3는 철회된 120개 세션 전체에서 방지됨). 우리는 ByteDance의 deer-flow에서 발생하는 무음 손실 업데이트를 재현하여 그 수정을 검증된 $L_0 \to L_1$ 정제로 형식화하고, 수정되지 않은 출력에서 LangGraph의 ToolNode에서의 tool-effect reordering을 제시하며, 이는 L3 커밋 순서 시퀀서에 의해 제거된다. 검증된 탐지기, 정제, 실현 가능성 아티팩트가 본 논문의 기여이며, 현상과 격자는 고전적이다.