PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.19023v1cs.CR

보안 ML 모델 실행을 위한 수명 주기 인식 동적 분석

Lifecycle-Aware Dynamic Analysis for Secure ML Model Execution

사전 학습된 머신러닝(ML) 모델에 대한 의존도가 증가함에 따라 새로운 공격 표면이 도입되었습니다. 최근 취약점들은 악의적인 행동이 모델 아티팩트 내에 내장될 수 있으며, 종종 기존 방어를 우회한다는 것을 보여줍니다. 현재 모델 스캐닝 솔루션은 주로 정적이고 형식에 특정한 규칙이나 알려진 공격 서명에 의존하며, 이는 프레임워크 간의 일반화 능력과 새로운 악용 경로를 탐지하는 능력을 제한합니다. 대조적으로, 우리는 모델을 실행하는 호스트 시스템에 미치는 공격의 영향에 초점을 맞추고 ML 모델 실행에 대한 기본적인 직관을 바탕으로 구축된 솔루션을 제안합니다. 특히, 우리는 ML 모델이 명확히 정의된 수명 주기 단계 내에서 작동하며, 각 단계 내에서 호스트 시스템과의 상호작용이 고도로 구조화되고 예측 가능하다는 것을 관찰했습니다. 우리는 이러한 직관을 ML 모델 실행 보안을 위한 동적 수명 주기 인식 접근 방식인 Moat로 변환하고, 참조 구현인 Re-Moat에서 이 설계를 구현했습니다. 우리는 Hugging Face Hub의 77,974개의 실제 모델 아티팩트, CVE의 31개의 개념 증명(PoC), 그리고 최첨단 데이터셋의 334개 모델을 사용하여 여러 ML 프레임워크에 걸쳐 Re-Moat를 평가하고, 최첨단 모델 스캐닝 솔루션과 비교했습니다. 결과는 우리의 접근 방식이 거의 0에 가까운 오탐율을 유지하면서 평가된 모든 공격 클래스를 탐지함을 보여주며, 이는 우리의 직관을 검증하고 ML 모델 실행 보안을 위한 동적 분석의 필요성을 뒷받침합니다.