PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.24084v1cs.CR

비트에서 신념으로: 대규모 언어 모델 블랙박스 검증을 위한 복구 가능한 의미론적 지문

From Bits to Beliefs: Recoverable Semantic Fingerprints for Black-Box Verification of Large Language Models

오픈 가중치(open-weight) 대규모 언어 모델(LLM)은 복제·수정·재배포되어 블랙박스 API 뒤에 숨겨질 수 있어, 공개 이후 소유권 검증이 어렵다. 기존 블랙박스 지문(fingerprint)은 비밀 질의-키 쌍에 의존해 미리 정해진 응답을 재현하는 경우가 많아, 미세조정, 가지치기, 양자화, 모델 병합, 서빙 시점의 프롬프트 변경에 쉽게 깨진다. 본 논문은 블랙박스 LLM 소유권 검증을 위한 복구 가능한 의미론적 지문 프레임워크 SimPrint를 제안한다. 고립된 완전 일치에 의존하는 대신, SimPrint는 사유자(owner)의 비공개 서명을 부호화된 의미론적 지문 영역에 담아, 자연스러운 이진형 질의응답 프로브에 소유권 증거를 분산한다. 원래 모델 동작을 유지하는 저간섭 배치 업데이트를 통해 기본 모델과만 다른 프로브만 심고, 이후 의심 모델의 응답을 신뢰할 수 있는 비트 또는 지움(erasure)으로 파싱한 뒤 오류 정정 복구 메커니즘으로 서명을 복원한다. 검증이 입출력 질의만 사용하므로, 모델 가중치나 활성화(activation)에 접근할 수 없을 때도 SimPrint를 적용할 수 있다. 세 가지 오픈 가중치 LLM에 대한 실험에서 SimPrint는 깨끗한 설정과 수정된 설정 모두에서 소유자 서명을 안정적으로 복구하며, 미세조정, 가지치기, 양자화, 모델 병합, 서빙 시점 perturbation에도 견고하고, 하류(downstream) 유용성도 유사한 수준을 유지한다.