arXiv:2610.08928v1 cs.CR

LLM 기반 자율 에이전트의 시뮬레이션 기반 V&V를 위한 다면적 런타임 검증

Multi-Aspect Runtime Verification for Simulation-Based V&V of LLM-Enabled Autonomous Agents

Nikolaos Kekatos, Dimitrios Nikou, Anastasios Temperekidis, Alexios Lekidis, Nikolaos Kolokotronis, Panagiotis Katsaros, Stylianos Basagiannis

제출 2026-10-06

저자 비고

arXiv Comments

28 pages, 2 figures, 2 tables. Accepted at Modelling and Simulation for Autonomous Systems (MESAS 2026), to appear in Springer LNCS

한국어 초록

대규모 언어 모델(LLM) 기반 에이전트(agent)는 준수해야 할 의무가 이미 명문화되어 구속력을 가지며, 조달된 컴포넌트로 모델이 도입되어 재학습을 제어 수단으로 활용할 수 없는 국방 참모 업무의 의사결정 지원 역할에 도입되고 있습니다. 공학적으로 제어할 수 있는 부분은 에이전트와 에이전트가 작용하는 시스템 간의 인터페이스입니다. 이러한 의무는 공간적, 시간적, 텍스트 의미적 특성을 동시에 지니며, 위반은 대개 다단계 상호작용의 결합에서 발생하므로 이벤트별 가드레일은 순차적인 도구 공격 체인을 놓치게 됩니다. 본 연구에서는 자연어 정책 조항을 단일 표준 이벤트 스트림 상의 형식화된 공간/시간/의미론적 트리플(triple)로 분해하고, 고유한 모니터링 명세로 각 측면을 검사하며, 출처 정보를 보존하는 4치 대수를 통해 판정을 융합하는 다면적 런타임 검증 프레임워크를 제안합니다. 공간적 측면은 임무 기하구조와 정보 공개 토폴로지가 단일 객체로 통합된 가중치 기반 이종(two-sorted) 위치 그래프 상에서 해석되며, 이러한 공간적 의무가 일반적으로 1차 시제 명세에 포함되지 않음을 보입니다. 과거 시제 측면은 수정되지 않은 MonPoly 엔진에서 실행되며, 이는 모든 시점에서 당사의 참조 모니터와 일치합니다. 사상자 후송 및 분쟁 지역 군수 지원이라는 두 가지 임무 도메인과 하나의 민간 도메인 전반에서, 예방적 차단 정책 하의 결합 적용은 관찰된 위양성 없이 마이크로초 단위의 이벤트당 비용으로 공격 성공률을 0으로 낮추었으나, 단일 측면 또는 쌍 단위의 검증은 상당한 비율의 공격 성공을 허용했습니다. 폐루프 실험에서 정책을 인식하지 못하는 플래너는 차폐되지 않은 임무의 대부분에서 위반 상태에 도달했으나 차폐된 임무에서는 전혀 도달하지 않았으며, 거부된 에피소드 5건 중 4건은 규정을 준수하는 결과로 복구되었습니다.

원문 초록

LLM-based agents are entering decision-support roles in defence staff work, where the obligations they must respect are already written down and binding, and where retraining is not available as a control because models arrive as procured components. What can be placed under engineering control is the interface between the agent and the systems it acts on. Those obligations are at once spatial, temporal and text-semantic, and a violation typically lives in the composition of a multi-step interaction, which is why per-event guardrails miss sequential tool-attack chains. We present a multi-aspect runtime-verification framework that decomposes a natural-language policy clause into a typed spatial/temporal/semantic triple over one canonical event stream, checks each aspect with its own monitoring specification, and fuses the verdicts through a four-valued algebra that carries provenance. The spatial aspect is interpreted over a weighted two-sorted location graph in which mission geometry and information-release topology are one object; we show that these spatial obligations are not in general subsumed by a first-order temporal specification. The past-time aspect runs on the unmodified MonPoly engine, which agrees with our reference monitor at every time point. Across two mission domains, casualty evacuation and contested sustainment, and one civil domain, composition under the precautionary blocking policy drives attack success to zero with no observed false positives and microsecond-scale per-event cost, while every single aspect and every pair leaves a substantial share of attacks succeeding. In a closed-loop experiment a policy-naive planner reaches a violating state in most unshielded missions and in none when shielded, and four refused episodes in five still recover to a compliant outcome.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.08928v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.