TensorCommitments: 언어 모델을 위한 경량 검증 가능 추론
TensorCommitments: A Lightweight Verifiable Inference for Language Models
대부분의 대규모 언어 모델(LLM)은 외부 클라우드에서 실행됩니다. 사용자는 프롬프트를 전송하고 추론 비용을 지불하며, 원격 GPU가 적대적 변조 없이 LLM을 실행한다고 신뢰해야만 합니다. 본 연구에서는 증명자(서비스)가 검증자(클라이언트)에게 LLM을 재실행하지 않고도 추론이 올바르게 수행되었음을 확신시켜야 하는 검증 가능한 LLM 추론을 어떻게 달성할 수 있는지 비판적으로 질문합니다. 기존의 암호학적 연구들은 LLM 규모에서 너무 느린 반면, 비암호학적 연구들은 고성능 검증자 GPU를 필요로 합니다. 이에 본 논문에서는 텐서 네이티브 추론 증명(proof-of-inference) 기법인 TensorCommitments(TC)를 제안합니다. TC는 LLM 추론을 다변수 Terkle Tree로 구성된 비가역적 태그이자 변조 시 파기되는 약정(commitment)에 바인딩합니다. LLaMA2 실험에서 TC는 검증자 GPU를 필요로 하는 기존 최선 연구 대비 맞춤형 LLM 공격에 대한 견고성을 최대 48% 향상시키면서도, 추론 시간 대비 증명자 시간은 0.97%, 검증자 시간은 0.12%만을 추가합니다.