arXiv:2610.00354v1 cs.CR

증명 기반 서명: 온체인 AI 에이전트를 위한 상태 드리프트 상황에서도 유효한 솔버 검증 트랜잭션 보호 장치

Proof-Gated Signing: Solver-Checked Transaction Guards that Hold Under State Drift for Onchain AI Agents

Bravish Ghosh

제출 2026-09-30

저자 비고

arXiv Comments

16 pages, 3 figures, 5 tables. Code and data: https://github.com/LoopGlitch26/Proof-Gated-Signing

한국어 초록

지갑을 제어하는 AI 에이전트(agent)는 공격자가 접근 가능한 콘텐츠를 읽기 때문에 유해한 트랜잭션을 제안하도록 유도될 수 있습니다. 일반적인 최종 방어선은 정적 허용 목록(allowlist), LLM 검토기, 또는 트랜잭션 시뮬레이션과 같은 서명 전 검사입니다. 이 세 가지 방식은 모두 하나의 공통된 결함을 공유합니다. 즉, 검사는 검사 시점의 체인 상태를 기술하지만, 트랜잭션은 공격자가 프런트러닝(front-running), 컨트랙트 업그레이드 또는 토큰 매개변수(parameter) 변경을 통해 조작할 수 있는 이후 상태에서 실행된다는 점입니다. 우리는 이를 상태 드리프트(state drift)라고 부릅니다. 본 논문에서는 제안된 트랜잭션을 시뮬레이션하고, 그 효과를 추출하며, SMT 솔버를 사용하여 오라클 불확실성 대역 내의 모든 가격에 대해 선언적 가치 및 권한 정책을 검사하는 증명 기반 서명(PGS, Proof-Gated Signing)을 제시합니다. 그런 다음 온체인 사후 조건(지갑 잔액 범위, 수취인 영수증, 허용 한도 상한 및 소유권)을 컴파일하고, 이를 만족하는 모든 실행이 정책 또한 만족함을 증명합니다. 에이전트의 스마트 컨트랙트 지갑은 이러한 조건을 원자적으로 강제하므로, 임의의 드리프트가 발생하는 상황에서도 실행된 트랜잭션에 보장이 적용됩니다. 260개 시나리오(드리프트 패밀리 5개 및 적응형 패밀리 2개를 포함한 14개 공격 패밀리와 12개 정상 패밀리)로 구성된 공개 테스트베드에서 정책 대신 공격자 잔액을 기준으로 피해를 측정한 결과, PGS는 140개의 유해한 시나리오 중 93.6%를 방지하고 정상 시나리오의 97.5%를 통과시켰습니다. 반면 시뮬레이션 전용 검사는 57.9%, 정적 허용 목록은 71.4%를 방지하는 데 그쳤습니다. PGS 적용 하에서 50개의 드리프트 시나리오 중 공격자 이득을 발생시킨 시나리오는 전혀 없었습니다. 유일하게 방지되지 않은 패밀리인 정책 내 탈취(in-policy drain)는 세션당 예산 범위 내로 제한되었습니다. 또한 LLM 검토기에게 드리프트 이전의 깨끗한 시뮬레이션 결과를 제공했을 때 드리프트 공격을 승인할 가능성이 오히려 더 높아진다는 점도 발견했습니다. 오버헤드는 검사당 약 41k 가스(gas) 및 0.1-0.2초 수준입니다.

원문 초록

AI agents that control wallets read attacker-reachable content, so they can be steered into proposing harmful transactions. The usual last line of defense is a pre-signing check: a static allowlist, an LLM reviewer, or a transaction simulation. All three share a gap: the check describes the chain state at check time, but the transaction executes in a later state that an adversary can shape through front-running, contract upgrades or token-parameter changes. We call this state drift. We present Proof-Gated Signing (PGS), which simulates a proposed transaction, extracts its effects, and uses an SMT solver to check a declarative value-and-permission policy for every price in an oracle-uncertainty band. It then compiles on-chain post-conditions (wallet balance bounds, payee receipts, allowance caps and ownership) and proves that every execution satisfying them also satisfies the policy. The agent's smart-contract wallet enforces them atomically, so the guarantee applies to the executed transaction under arbitrary drift. On an open testbed of 260 scenarios (14 attack families including five drift and two adaptive families, and 12 benign families), with harm measured from attacker balances rather than from any policy, PGS prevented 93.6% of the 140 harmful scenarios and passed 97.5% of the benign ones. Simulation-only checking prevented 57.9% and a static allowlist 71.4%. None of the 50 drift scenarios produced attacker gain under PGS. The only unprevented family, an in-policy drain, was bounded by the per-session budget. We also find that giving an LLM reviewer a clean pre-drift simulation made it more likely to approve a drift attack. Overhead is about 41k gas and 0.1-0.2 s per check.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.00354v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.18098v1cs.AI공통 태그 formal verification, blockchain

IsabeLLM: 합의의 형식적 검증에 적용된 자동 정리 증명

IsabeLLM: Automated Theorem Proving Applied to Formally Verifying Consensus

인공지능(AI)의 발전으로 인해 정리 증명을 위한 AI가 컴퓨터 시스템의 형식적 검증을 위한 유망한 수단이 되었습니다. 형식적 검증은 전통적으로 필요한 전문 지식과 노력으로 인해 안전 중심(safety-critical) 시스템에만 국한되어 왔으나, AI는 이러한 작업 부하의 상당 부분을 자동화하여 접근성을 훨씬 높일 수 있습니다. 블록체인 기반 시스템은 점차 대중화되고 있으나 악의적인 행위자들의 빈번한 공격 대상이 되어 종종 막대한 재정적 손실을 초래하고 있어, 이러한 시스템을 더욱 철저히 검증하고 취약점을 완화할 필요성이 강조되고 있습니다. 이러한 시스템의 가장 중요한 구성 요소는 잠재적으로 적대적인 환경에서 노드가 결정에 합의할 수 있게 하는 합의 프로토콜입니다. 본 논문에서는 Isabelle의 자동 정리 증명 도구인 IsabeLLM을 개선합니다. 구체적으로, 대규모 언어 모델(LLM)에 제공되는 컨텍스트를 개선하기 위해 검색-증강 생성(RAG) 프레임워크, 오류 추적(error tracing), 그리고 반례(counterexample) 생성을 구현합니다. 또한 효율성을 높이기 위해 최신 버전의 Isabelle 및 Sledgehammer와의 호환성도 구현했습니다. 비트코인의 작업 증명(Proof of Work) 합의 검증을 완료하는 능력에 있어 IsabeLLM 두 버전의 성능을 비교합니다.

arXiv:2610.13461v1cs.AI공통 태그 formal verification

SqueezeBench: 포화에 강건한 수학적 능력 평가

SqueezeBench: Saturation-Resilient Evaluation of Mathematical Capability

AI 시스템은 수학 분야에서 빠르게 발전하고 있지만, 이러한 발전을 측정하기는 어렵다. 이미 풀린 문제들로 구성된 벤치마크(benchmark)는 포화(saturate)되며, 미해결 문제들로 구성된 벤치마크에서는 각 문제가 최초로 단 한 번만 해결될 수 있다. 우리는 포화에 강건한 벤치마크인 SqueezeBench를 제시한다: 성공은 문제를 제거하는 대신 기준을 높인다. 각 문제는 작은 $n$에 대해서만 값이 알려진 정수 함수 $f(n)$을 고정하며, 벤치마크는 이에 대한 하한(lower) 기록과 상한(upper) 기록을 유지한다. 기록(record)은 $f$를 한정(bound)함을 기계 검증된 증명(machine-checked proof)으로 보인 계산 가능한 Lean 함수이다. 제출(submission)은 새로운 함수를 제안하고, 그 함수가 $f$를 한정하며, 모든 $n$에서 현재 기록보다 나쁘지 않고, 일부 $n$에서는 엄밀히 더 우수함을 증명한다. 채택되면 해당 제출은 다음 제출이 넘어서야 할 새로운 기록이 된다. 따라서 이 시스템은 한계값(bound)뿐 아니라 그 증명까지 선택하며, 단일 $n$에서의 기록을 개선할 수도 있고 성장률(growth rate)을 개선할 수도 있다. 모든 $n$에서 두 기록 사이의 간극은 인증된 한계값들이 $f(n)$을 결정하는 데에서 얼마나 떨어져 있는지를 보여준다. 모든 증명은 두 개의 독립적인 Lean 커널에 의해 검증되므로, 심판이 수학적 내용을 검토할 필요가 없다. 검증 과정은 또한 작은 $n$에서 전수 탐색(exhaustive search)으로 $f$를 계산하는 함수를 거부하며, 유지관리자(maintainer)는 제출자의 보고서만 읽고 더 큰 $n$에서 그러한 탐색이 있는지를 확인한다. 우리는 극단적 조합론(extremal combinatorics) 분야의 열 가지 문제를 스무 개의 증명된 초기 기록 및 승인 도구(admission tools)와 함께 공개한다. 기준선(baseline)으로서, 최신(frontier) 언어 모델(language model) 기반 에이전트(agent)는 기록당 최대 한 시간을 사용하여 82건의 제출을 승인받았고 모든 기록을 개선했으며, 이는 기존 발표된 문헌의 범위를 넘어서지는 않았다. 이후 두 개의 더 새로운 모델(model) 기반 에이전트들이 이 기록들로부터 시작하여 60건의 추가 제출을 승인받았고, 20개의 기록 중 19개를 다시 개선했다. 열 가지 문제 중 여덟 가지 문제에서는, 적어도 하나의 기록이 여전히 발표된 최선의 한계값(bound)에 비해 점근적으로(asymptotically) 뒤처져 있다.

arXiv:2603.25414v5cs.PL공통 태그 formal verification

구조적 결정 가능성: 진정한 무결점 시스템을 위한 설계 시점 검증

Decidable By Construction: Design-Time Verification for Truly Fearless Systems

컴파일러가 대기 상태(wait-for) 엣지를 추적하고, 멀티스레드 작업의 건전성을 증명하며, 분산 경계 계약을 보존할 때 동시성, 병렬성 및 분산 실행은 진정으로 두려움 없는(fearless) 시스템이 됩니다. 본 설계에서 저자들의 Composer 컴파일러는 C나 벤더 API를 통한 변환 없이 Clef를 네이티브 CPU, GPU, NPU 및 FPGA 코드로 직접 저수준화(lowering)하는 과정에서도 증명을 보존합니다. 본 연구의 프로그램 의미론 그래프(Program Semantic Graph)는 BAREWire의 언박싱된 경계 계약을 정당화하는 값, 관계 및 전제를 유지합니다. 또한 C 및 C++ 인터페이싱은 명시적인 마샬링 경계 역할을 하며, 증명은 실제 인자, 변환 및 반환값에 연계됩니다. 네 가지 검증 계층(tier)이 본 설계에 대한 설명을 유기적으로 연결합니다. 계층 1은 주 차원 유형(principal dimensional types)에 기반한 구조적 추론(inference)을 제공합니다. 계층 2는 노드(node) 수준에서 로컬 산술, 표현 및 계산 무결성을 생성하고 검사합니다. 계층 3은 Iris, Actris, Aneris가 지원하는 분산 증명을 포함하여 재사용 가능한 도메인 및 시스템 보조정리(lemma)를 인스턴스화합니다. 계층 1~3은 개발자의 어노테이션을 요구하지 않으며, 사용 사례 확장에 맞춰 적용 범위를 넓힐 수 있도록 인용 기반 보조정리 라이브러리 설계를 활용합니다. 계층 4는 계산 및 확률적 관계 증명을 수용하며, 프로젝트 어노테이션을 통해 필요한 관계를 식별합니다. 또한 동일한 라이브러리 방향성을 확장하여 하이퍼그래프 구조로부터 관계적 구성을 인식하도록 합니다. 형식적 합성 규칙은 산술, 소유권, 프로토콜 및 실체화 근거를 연결합니다. 본 연구에서 구현한 분산 리덕션(distributed reduction)은 동시 작업자, 도착 순서 변경 및 경계 매핑 전반에 걸쳐 명시된 단일 결과를 보존합니다. 그 확률적 확장은 명시적인 오류 허용 예산(failure budget)과 함께 작업자 및 변환 오류를 수용합니다. Urschel의 최근 연구와 결합하여, 바운드가 재사용 가능한 증명 항의 유효한 원천을 제공함을 입증합니다. 이러한 구조적 설계를 통해 다양한 하드웨어 타깃 전반에서 검증을 진정한 무결점 프로그램 및 시스템을 위한 핵심 엔지니어링 원칙으로 확립합니다.

arXiv:2610.10580v1cs.AR공통 태그 formal verification

LLM 통합 하드웨어 설계 검증에 관한 서베이

A Survey on LLM-Integrated Hardware Design Verification

대규모 언어 모델(LLM)은 명세서 해석, 검증 산출물 생성, 디버깅, 정형 추론, 도구 오케스트레이션을 자동화하기 위해 하드웨어 검증에 점차 통합되고 있습니다. 본 서베이는 SystemVerilog 어서션 생성, 자극 및 테스트벤치 생성, 버그 위치 특정 및 설계 수정, 모델 검사 및 동등성 검사, SAT/SMT 최적화, 최신 에이전트 기반 검증 워크플로 전반에 걸친 LLM 지원 하드웨어 기능 검증에 대한 체계적인 검토를 제공합니다. 본 논문은 방법론, 검증 목표, 도구 상호작용, 벤치마크, 평가 기준별로 관련 문헌을 정리하며, 프롬프팅, 검색, 구조화된 추론, 에이전트 기반 워크플로를 포함한 추론(inference) 시점 기법과 학습(training) 시점 적응을 모두 살펴봅니다. 이러한 영역 전반에서 공통적인 패턴이 나타납니다. 시뮬레이터, 정형 엔진, 커버리지 도구, 솔버가 실행 가능한 피드백과 정확성 증거를 제공하는 반면, LLM은 검증을 고려한 워크플로 내에 내장된 의미론적 추론, 탐색, 오케스트레이션 구성 요소로서 가장 효과적입니다. 그러나 어서션, 테스트, 수정 또는 증명이 완전한 설계 의도를 충실히 포착하지 못한 채 제공된 검사만을 만족할 수도 있으므로, 도구 승인만으로는 검증 정확성이 확립되지 않습니다. 따라서 명세서와 검증 증거 간의 의미론적 정렬, 결정론적 도구와의 확장 가능한 통합, 미확인 설계에 대한 일반화, 그리고 정확성, 비용, 강건성, 인적 노력에 대한 엄격한 평가를 핵심 과제로 식별합니다. 마지막으로, LLM의 유연성과 독립적으로 검증 가능한 검증 증거를 결합하는 명세 중심, 신경-기호(neuro-symbolic), 지속형 에이전트 검증 시스템을 향한 새로운 방향을 논의합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.