arXiv:2611.22396v1 cs.LO

제약에서 인과관계로: 이진 신경망의 추론을 설명하는 페트리 넷 인코딩

From Constraints to Causality: Petri net Encodings for Explaining Binary Neural Network Inference

Alex Chan (Newcastle University), Mohamed Tarraf (Newcastle University), Alex Yakovlev (Newcastle University), Rishad Shafik (Newcastle University)

제출 2026-11-18

한국어 초록

이진 신경망(BNN)은 자원이 제한된 하드웨어와 자율 시스템의 온디바이스 구성 요소에 적합하다. 그러나 이산적이고 비선형적으로 동작하므로 안전이 중요한 환경에서 분석하고 신뢰하기 어렵다. SAT와 이론을 결합한 만족 가능성 판정(SMT) 기반 접근법은 BNN의 입출력 속성을 검증할 수 있다. 다만 신경망 전체를 하나의 제약 시스템으로 다뤄 속성의 성립 여부만 보여 주며, 어떤 계산 과정을 거쳐 결과가 나왔는지는 보여 주지 않는다. 이를 보완하는 이산 사건 관점을 제시하는 초기 연구를 소개한다. 학습 후 고정한 BNN의 추론 의미를 구성 요소별로 변환해 1-안전 페트리 넷(PN)으로 표현한다. 각 계산 단계는 명시적인 전이이며, 전이의 발화 시퀀스는 BNN 결정의 인과적 실행 기록이다. 구체적 예제에서 참조 구현과 가능한 모든 입출력이 일치함을 확인해 변환의 충실성을 입증했다. 서로 다른 발화 시퀀스를 대조하면 특징 하나의 변화가 예측을 어디에서 바꾸는지 찾을 수 있다. 향후 두 방향을 제시한다. 하나는 변환의 정확성을 보장하는 정리다. 다른 하나는 학습한 BNN 두 개의 결정이 갈라지는 지점을 찾는 인과적 실행 추적 분석으로, 제약 기반 검증기가 표현할 수 없는 구조적 질문을 다룬다.

원문 초록

Binary Neural Networks (BNNs) are attractive for resource-constrained hardware and on-device components in autonomous systems. However, their discrete, non-linear behaviour makes them difficult to analyse and trust in safety-relevant settings. Existing approaches based on SAT and Satisfiability Modulo Theories can verify a BNN's input-output properties, but treat it as a monolithic constraint system, which reveal only whether a property holds and not how the computation reaches its result. In this paper, we present an early work that provides a complementary, discrete-event view. We give a compositional translation from the inference semantics of a fixed, trained BNN to a 1-safe Petri net (PN), where each computation step is an explicit transition, so that a firing sequence is a causal trace of the BNN's decision. On a worked example, we establish faithfulness via exhaustive input-output equivalence against a reference implementation, and show how contrasting firing sequences localises where a single-feature change alters the prediction. Finally, we outline two directions this opens: a correctness-of-translation theorem, and a causal-trace analysis of where two trained BNNs diverge in their decisions, a structural question that constraint-based verifiers cannot express.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.22396v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.