PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2602.12630v2cs.CR

TensorCommitments: 언어 모델을 위한 경량 검증 가능 추론

TensorCommitments: A Lightweight Verifiable Inference for Language Models

대부분의 대규모 언어 모델(LLM)은 외부 클라우드에서 실행됩니다. 사용자는 프롬프트를 전송하고 추론 비용을 지불하며, 원격 GPU가 적대적 변조 없이 LLM을 실행한다고 신뢰해야만 합니다. 본 연구에서는 증명자(서비스)가 검증자(클라이언트)에게 LLM을 재실행하지 않고도 추론이 올바르게 수행되었음을 확신시켜야 하는 검증 가능한 LLM 추론을 어떻게 달성할 수 있는지 비판적으로 질문합니다. 기존의 암호학적 연구들은 LLM 규모에서 너무 느린 반면, 비암호학적 연구들은 고성능 검증자 GPU를 필요로 합니다. 이에 본 논문에서는 텐서 네이티브 추론 증명(proof-of-inference) 기법인 TensorCommitments(TC)를 제안합니다. TC는 LLM 추론을 다변수 Terkle Tree로 구성된 비가역적 태그이자 변조 시 파기되는 약정(commitment)에 바인딩합니다. LLaMA2 실험에서 TC는 검증자 GPU를 필요로 하는 기존 최선 연구 대비 맞춤형 LLM 공격에 대한 견고성을 최대 48% 향상시키면서도, 추론 시간 대비 증명자 시간은 0.97%, 검증자 시간은 0.12%만을 추가합니다.

arXiv:2607.21162v1cs.LG

모델에 합의하고, 추론을 검증하라: HND 기반 트랜스포머 추론을 위한 GKR 프로토콜

Agree on the Model, Verify the Inference: GKR Protocols for HND-Based Transformer Inference

외주 트랜스포머 추론은 클라이언트를 모델 대체 및 불완전 실행에 노출시키는 반면, 직접 재실행(replay)은 위임의 계산적 이점을 없앤다. 우리는 동형--비동형 분해(Homomorphic--Nonhomomorphic Decomposition) 트랜스포머의 다항식 백본을 검증하기 위한 등록 모델(registered-model) 프로토콜 GKR-HND를 제안한다. 유지 검증자(retained verifier)는 GKR 전사(transcript)와 등록 가중치 개방을 검사하되, 비용이 큰 공개 평가(public evaluations)는 지정된 계산 워커(computation worker)에 위임한다. 정직한 유지 검증자와 증명자-워커 간 비공모(non-collusion)를 가정하면, 검증자는 워커의 서명되고 요청에 바인딩된(request-bound) 응답이 증명 주장(proof claims)과 일치할 때만 이를 수락한다. 사전학습된 HND 모델에 대한 실험은 밀집 행렬(dense-matrix) 재실행 없이 증명 경로와 위임된 공개 계산을 검증한다.