PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01436v1cs.AI

ATLAS 연계 실행 가능 규칙 및 정형 검증을 갖춘 결정론적이고 감사 가능한 AI 보안 위험 평가 프레임워크

A Deterministic and Auditable AI Security Risk Assessment Framework with ATLAS Aligned Executable Rules and Formal Verification

인공지능 시스템이 파급력이 크고 안전성이 중요한 환경에 점점 더 많이 배포되고 있으나, 보안 평가는 감사 환경에서 재현하고 방어하기가 여전히 어렵습니다. 기존 접근 방식은 종종 서술형 체크리스트나 평가자 주도의 점수 산정에 의존하며, 관찰 가능한 엔지니어링 산출물에서 안정적인 기법 수준의 결과로 이어지는 명시적이고 기계 평가 가능한 매핑이 부족합니다. 본 논문에서는 평가를 결정론적(deterministic) 결정 함수로 운용하는 증거 기반 AI 보안 평가 프레임워크를 제시합니다. 이 프레임워크는 이기종 산출물을 유계 4단계 서열 척도로 점수화되는 프로젝트 독립적 제어 ID(Control ID) 분류 체계로 정규화하고, 명시적인 완화책-제어 매핑을 통해 고정된 MITRE ATLAS 스냅샷으로부터 기법 수준의 술어를 컴파일하며, 유발 증거로의 추적 가능한 링크와 함께 기법별 실행 가능성 및 영향 수준을 출력합니다. 또한 스냅샷 전반에 걸친 반복 가능한 재평가를 지원하기 위해 모든 규범적 선택 사항을 버전 관리되는 평가 정책 객체로 패키징합니다. 의미론적 정확성을 보장하기 위해 선언된 전체 점수 도메인에 걸쳐 컴파일된 평가기의 유계성, 전사성, 순서 의미적 일관성, 단조성을 정형 검증(formal verification)합니다. 명시적인 저장소 스냅샷으로 고정된 5개의 공개 오픈소스 AI 프로젝트에서 프레임워크를 평가하고, 통합된 보안 강화 개입에 따른 사전 및 사후 변화를 정량화하며, 소프트웨어 자재명세서(SBOM) 생성 및 지속적 통합(CI) 보안 스캐닝 게이트의 포크 기반 구현을 통해 실제 엔지니어링 변화에 대한 반응성을 검증합니다. 결과에 따르면 관찰 가능한 제어가 강화됨에 따라 실행 가능성 프로파일이 일관되게 하향 이동하는 한편, 기법별 핵심 제어가 증거 범위에 여전히 부재한 경우에는 최악의 잔여 실행 가능성이 지속됨을 보여줍니다.