arXiv:2611.24648v1 cs.LG

신경망 양자화 오차의 조노토프 분석

Zonotopic Analysis of Quantization Error in Neural Networks

Robert Debbas, \'Eric Goubault, Sylvie Putot

제출 2026-11-19

한국어 초록

양자화 신경망은 정밀도를 낮추어 계산 효율을 달성하지만, 이산적인 반올림 및 클램핑 연산 때문에 양자화 오차를 한정하는 것은 여전히 어려운 과제이다. 본 논문에서는 양자화된 ReLU 순전파 신경망 검증을 위한 조노토프 기반 추상 해석 프레임워크를 제시하고, 두 연산을 함께 처리하는 통합 round-clamp 추상 변환자를 도입한다. 이 프레임워크를 선형 제약을 추가해 경계를 조이는 제약 조노토프로 확장하고, 건전한 양자화 오차 표현을 유도한다. round-clamp 추상 변환자의 건전성과 아핀 스트립 최적성, 그리고 그 완전한 제약 형식의 볼록 껍질 최적성을 증명한다. ACAS Xu 벤치마크에서 제안한 제약 조노토프 방법은 가장 작은 두 섭동 반경(r=3 및 r=6)에서 QEBVerif의 기호적 DRA 전파에 비해 평균 오차 경계 폭을 약 70-85%, 실행 시간을 65-80% 줄인다. 이러한 개선은 비트폭 전반에서 균일하지 않으며, 더 큰 반경에서는 기호적 DRA가 더 조밀한 경계를 달성한다. 일반 조노토프 방법은 평균적으로 약 300배 빠르게 경쟁력 있는 건전한 경계를 제공한다.

원문 초록

Quantized neural networks achieve computational efficiency by reducing precision, but bounding their quantization error remains a challenge due to discrete rounding and clamping operations. We present a zonotope-based abstract interpretation framework for quantized ReLU feed-forward network verification, introducing a unified round-clamp abstract transformer that jointly handles both operations. We extend this framework to constrained zonotopes, which add linear constraints to tighten bounds, and derive sound quantization error representations. We establish soundness and affine-strip optimality of the round-clamp abstract transformer, as well as convex-hull optimality of its complete constrained formulation. On the ACAS Xu benchmarks, our constrained zonotope method reduces average error-bound widths by approximately 70-85% and runtimes by 65-80% compared to QEBVerif's symbolic DRA propagation at the two smallest tested perturbation radii (r=3 and r=6). These improvements are not uniform across bitwidths, and symbolic DRA achieves tighter bounds at larger radii. Our plain zonotope method delivers competitive sound bounds nearly 300 times faster on average.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24648v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.