arXiv:2606.23768v1 cs.CR

Cryptographic certificates of validity for trustworthy AI

Murdoch J. Gabbay

제출 2026-06-22

원문 초록

We propose cryptographic certificates of validity for agentic AI systems. The core idea is to formally specify a correctness or policy condition as a logical predicate, compile this predicate to a witness-checking problem over polynomial constraints, and use a succinct cryptographic proof system (and optionally zero-knowledge) to certify that the condition holds. This offers a middle ground between formal verification of source code, and cryptographic authentication. An agent's action can be accompanied by an independently checkable proof that it satisfies an agreed formal policy, without requiring the verifier to trust the agent or to re-execute computation. We outline the approach at a high level, give the core mathematical translation, relate the proposal to proof-carrying code, zkVMs, formal methods, and agent governance, and note the specification, auditing, and deployment questions that a full implementation must answer.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.23768v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09770v2cs.AI공통 태그 agentic ai, formal verification

유한 규칙 수정을 통한 적응형 에이전틱 컨트롤러의 검증

Verification of Adaptive Agentic Controllers through Finite Rule Revision

산업용 에이전틱(agentic) AI 시스템에서 프로토타입 성능과 실제 배포 사이의 격차가 점차 두드러지고 있다. 특히 적응형 에이전트는 비결정성, 기밀성 제약, 제한된 컨텍스트, 낮은 관측 가능성 조건에서 타당해 보이는 출력을 생성하면서도 검증하기 어려운 문제가 있다. 본 논문은 유한 심볼릭 규칙, 명시적 진단 술어(diagnostic predicate), 설명 로그, 보류 재평가(held-out re-evaluation)로 표현된 적응형 에이전틱 컨트롤러에 대한 경계 검증 프로토콜을 형식화한다. 핵심 연구 질문은 다음과 같다: 적응형 에이전틱 컨트롤러가 유한 규칙, 명시적 진단 술어, 설명 로그, 보류 재평가로 표현될 때, 무제한적인 인간-개입(human-in-the-loop) 판단에 의존하지 않고 어떤 종류의 컨트롤러 실패를 탐지하거나 국소적으로 수정하거나 거부할 수 있는가? 제안된 프레임워크는 컨트롤러를 유한하게 수정 가능한 객체로 취급한다. 진단 실패는 규칙 추가, 규칙 삭제, 우선순위 수정을 포함하는 사전 정의된 규칙 수준의 편집에 매핑된다. 수정된 컨트롤러는 이후 보류된 시뮬레이션 시드 또는 복제된 초기 상태에서 평가된다. 양식화된 재정 제약 재고 관리(inventory-control) 벤치마크에서의 실험은 세 가지 결과를 보여준다: 단일 규칙 편집으로는 수정 불가능한 자원 유발 실패, 임계값 또는 가드레일 위반으로 인해 거부되는 부분 수정, 그리고 평활화 규칙 제거로 유발된 주문 변동성 실패에 대한 국소적 단일 단계 수정. 본 연구의 기여는 방법론적인 것으로, 특정 컨트롤러 수준의 실패를 관측 가능하고 설명 가능하며 국소적으로 수정 가능하고 통제된 조건에서 실증적으로 재검증할 수 있는지를 테스트하는 시뮬레이션 호환 절차를 제공한다.

arXiv:2610.13461v1cs.AI공통 태그 formal verification

SqueezeBench: 포화에 강건한 수학적 능력 평가

SqueezeBench: Saturation-Resilient Evaluation of Mathematical Capability

AI 시스템은 수학 분야에서 빠르게 발전하고 있지만, 이러한 발전을 측정하기는 어렵다. 이미 풀린 문제들로 구성된 벤치마크(benchmark)는 포화(saturate)되며, 미해결 문제들로 구성된 벤치마크에서는 각 문제가 최초로 단 한 번만 해결될 수 있다. 우리는 포화에 강건한 벤치마크인 SqueezeBench를 제시한다: 성공은 문제를 제거하는 대신 기준을 높인다. 각 문제는 작은 $n$에 대해서만 값이 알려진 정수 함수 $f(n)$을 고정하며, 벤치마크는 이에 대한 하한(lower) 기록과 상한(upper) 기록을 유지한다. 기록(record)은 $f$를 한정(bound)함을 기계 검증된 증명(machine-checked proof)으로 보인 계산 가능한 Lean 함수이다. 제출(submission)은 새로운 함수를 제안하고, 그 함수가 $f$를 한정하며, 모든 $n$에서 현재 기록보다 나쁘지 않고, 일부 $n$에서는 엄밀히 더 우수함을 증명한다. 채택되면 해당 제출은 다음 제출이 넘어서야 할 새로운 기록이 된다. 따라서 이 시스템은 한계값(bound)뿐 아니라 그 증명까지 선택하며, 단일 $n$에서의 기록을 개선할 수도 있고 성장률(growth rate)을 개선할 수도 있다. 모든 $n$에서 두 기록 사이의 간극은 인증된 한계값들이 $f(n)$을 결정하는 데에서 얼마나 떨어져 있는지를 보여준다. 모든 증명은 두 개의 독립적인 Lean 커널에 의해 검증되므로, 심판이 수학적 내용을 검토할 필요가 없다. 검증 과정은 또한 작은 $n$에서 전수 탐색(exhaustive search)으로 $f$를 계산하는 함수를 거부하며, 유지관리자(maintainer)는 제출자의 보고서만 읽고 더 큰 $n$에서 그러한 탐색이 있는지를 확인한다. 우리는 극단적 조합론(extremal combinatorics) 분야의 열 가지 문제를 스무 개의 증명된 초기 기록 및 승인 도구(admission tools)와 함께 공개한다. 기준선(baseline)으로서, 최신(frontier) 언어 모델(language model) 기반 에이전트(agent)는 기록당 최대 한 시간을 사용하여 82건의 제출을 승인받았고 모든 기록을 개선했으며, 이는 기존 발표된 문헌의 범위를 넘어서지는 않았다. 이후 두 개의 더 새로운 모델(model) 기반 에이전트들이 이 기록들로부터 시작하여 60건의 추가 제출을 승인받았고, 20개의 기록 중 19개를 다시 개선했다. 열 가지 문제 중 여덟 가지 문제에서는, 적어도 하나의 기록이 여전히 발표된 최선의 한계값(bound)에 비해 점근적으로(asymptotically) 뒤처져 있다.

arXiv:2603.25414v5cs.PL공통 태그 formal verification

구조적 결정 가능성: 진정한 무결점 시스템을 위한 설계 시점 검증

Decidable By Construction: Design-Time Verification for Truly Fearless Systems

컴파일러가 대기 상태(wait-for) 엣지를 추적하고, 멀티스레드 작업의 건전성을 증명하며, 분산 경계 계약을 보존할 때 동시성, 병렬성 및 분산 실행은 진정으로 두려움 없는(fearless) 시스템이 됩니다. 본 설계에서 저자들의 Composer 컴파일러는 C나 벤더 API를 통한 변환 없이 Clef를 네이티브 CPU, GPU, NPU 및 FPGA 코드로 직접 저수준화(lowering)하는 과정에서도 증명을 보존합니다. 본 연구의 프로그램 의미론 그래프(Program Semantic Graph)는 BAREWire의 언박싱된 경계 계약을 정당화하는 값, 관계 및 전제를 유지합니다. 또한 C 및 C++ 인터페이싱은 명시적인 마샬링 경계 역할을 하며, 증명은 실제 인자, 변환 및 반환값에 연계됩니다. 네 가지 검증 계층(tier)이 본 설계에 대한 설명을 유기적으로 연결합니다. 계층 1은 주 차원 유형(principal dimensional types)에 기반한 구조적 추론(inference)을 제공합니다. 계층 2는 노드(node) 수준에서 로컬 산술, 표현 및 계산 무결성을 생성하고 검사합니다. 계층 3은 Iris, Actris, Aneris가 지원하는 분산 증명을 포함하여 재사용 가능한 도메인 및 시스템 보조정리(lemma)를 인스턴스화합니다. 계층 1~3은 개발자의 어노테이션을 요구하지 않으며, 사용 사례 확장에 맞춰 적용 범위를 넓힐 수 있도록 인용 기반 보조정리 라이브러리 설계를 활용합니다. 계층 4는 계산 및 확률적 관계 증명을 수용하며, 프로젝트 어노테이션을 통해 필요한 관계를 식별합니다. 또한 동일한 라이브러리 방향성을 확장하여 하이퍼그래프 구조로부터 관계적 구성을 인식하도록 합니다. 형식적 합성 규칙은 산술, 소유권, 프로토콜 및 실체화 근거를 연결합니다. 본 연구에서 구현한 분산 리덕션(distributed reduction)은 동시 작업자, 도착 순서 변경 및 경계 매핑 전반에 걸쳐 명시된 단일 결과를 보존합니다. 그 확률적 확장은 명시적인 오류 허용 예산(failure budget)과 함께 작업자 및 변환 오류를 수용합니다. Urschel의 최근 연구와 결합하여, 바운드가 재사용 가능한 증명 항의 유효한 원천을 제공함을 입증합니다. 이러한 구조적 설계를 통해 다양한 하드웨어 타깃 전반에서 검증을 진정한 무결점 프로그램 및 시스템을 위한 핵심 엔지니어링 원칙으로 확립합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.