PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.22981v1cs.CR

학습된 AI 모델 이중 잠금: PIN 기반 희소 QIM 워터마킹 및 적응형 인덱스 순열 접근법

Dual-Locking Learned AI Models: A PIN-Based Sparse QIM Watermarking and Adaptive Index Permutation Approach

본 논문에서는 키 기반 인덱스 순열(index permutation)과 희소 양자화 인덱스 변조(Sparse Quantization Index Modulation, QIM) 기반의 PIN 워터마킹을 결합하여 학습된 신경망을 보호하는 이중 잠금(dual-locking) 방법을 제안한다. 적응적으로 선택된 인덱스 벡터의 각 행에 균등 무작위 순열을 독립적으로 적용하여 암호학적 무작위성을 도입한다. 그런 다음 양자화된 값을 변조하여 바이어스 계수에 강건한 블라인드 이진 워터마크를 삽입함으로써, 사용자가 정의한 개인 식별 번호(PIN)에 네트워크를 결속시킨다. 올바른 키가 없으면 네트워크는 아키텍처를 유지하지만 내부 표현이 교란되어 기능적으로 손상된다. 역순열을 통해 원래 모델 정확도를 완전히 복원할 수 있으며, 삽입된 워터마크는 감지되지 않는 상태를 유지하면서 키 연관성 및 모델 소유권에 대한 블라인드 검증을 가능하게 한다. 잠금 효과와 복구 가능성을 모두 향상시키기 위해, 적응형 키 선택 전략을 통해 크기가 큰 가중치를 민감도가 낮은 위치로, 그 반대로 재배치함으로써 완전한 복원력을 유지하면서도 잠금 상태에서의 성능 저하를 극대화한다. 완전 연결 신경망, ResNet CNN, 트랜스포머 아키텍처를 사용하여 MNIST, CIFAR-10/100, ImageNet-1K에서 수행한 실험에 따르면, 잠금 시 정확도가 10% 미만으로 떨어지고 CNN의 경우 0.5% 미만까지 감소하는 반면, 올바른 키를 사용하면 성능이 완전히 복원됨을 보여준다. 워터마크는 측정 가능한 정확도 저하를 유발하지 않으며 소유권을 안정적으로 인증한다. 또한 CNN과 트랜스포머 전반에 걸친 임베딩 분포 분석은 과소학습되거나 최적화되지 않은 구조로 설계된 모델을 식별하는 데 잠재적인 진단 가치가 있음을 나타낸다. 따라서 제안된 접근 방식은 모델 보호, 복구 및 소유권 검증을 동시에 제공한다.

arXiv:2606.30423v1cs.LG

머신러닝 모델에 대한 소유권 증명

Proofs of Ownership for Machine Learning Models

머신러닝 모델의 소유권 보호 문제를 공식화하여, 소유자·도둑·판정자 간의 게임으로 소유권 증명(Proof of Ownership)을 모델링하고 블랙박스 설정에서의 이분법적 주요 결과를 제시한다. 표준 암호학적 가정 하에서 어떤 개념 클래스(concept class)에 대한 모델 소유권 증명이 가능한 것은 해당 개념 클래스가 자기 교정 불가능(not self-correctable)한 경우에 한함을 구성적으로 증명하며, 이를 통해 지식 증류(distillation)나 재학습 등 다양한 워터마크 제거 공격을 단일 원리로 설명한다.