Black-Box Inference of LLM Architectural Properties with Restrictive API Access
제한적인 블랙박스 API 접근만으로 상용 대규모 언어 모델(LLM)의 은닉 차원, 깊이, 파라미터 수를 추정하는 공격 기법 NightVision을 제시하며, 단일 로그 확률 노출만 가능한 현재 API 환경에서도 공통 집합 프롬프팅(common-set prompting)과 추론 타이밍 측정을 결합해 32개 오픈소스 LLM에서 은닉 차원을 평균 23% 오차로 복원하는 데 성공했다. 이 결과는 현재 상용 LLM API가 모델 아키텍처 정보를 완전히 은닉하기에 충분히 제한적이지 않음을 시사한다.