가중치를 모두 담기에 메모리가 부족한 소비자용(consumer-grade) GPU에 LLM을 배포하면 추론 속도가 지나치게 느려질 수 있는데, 이는 디코딩 과정에서 오프로딩된 가중치를 시스템 RAM이나 플래시 스토리지에서 GPU로 반복적으로 전송해야 하며, 이 전송 대역폭이 로컬 GPU 메모리 접근보다 훨씬 낮기 때문이다. 활성화 희소성(activation sparsity)은 0이거나 0에 가까운 활성화(activation)와 연관된 가중치를 건너뜀으로써 이러한 전송을 줄인다. 그러나 더 많은 활성화 기여분을 생략할수록 모델 품질이 결국 급격히 저하되는데, 이는 작은 크기의 활성화와 연관된 가중치들이 전체적으로 모델 품질에 큰 영향을 미친다는 것을 보여준다. 본 연구에서는 활성화 희소성을 활용할 때 모델 품질과 디코딩 성능 간의 trade-off를 개선한다. 핵심 아이디어는 가중치를 읽을지 여부에 대한 이진 선택을, 완전히 유지하거나, 압축된 가중치 표현(compressed weight representation)을 사용해 근사하거나, 완전히 생략하는 세 가지 옵션으로 대체하는 것이다. SpAx는 0에 가장 가까운 활성화와 연관된 가중치를 건너뛰고, 더 작은 크기의 활성화에 대해서는 근사된 가중치를 읽으며, 가장 큰 크기의 활성화에 대해서는 원본 가중치를 읽는다. 더 작은 크기의 활성화는 근사 가중치로 인해 발생하는 오차를 완화시키며, 압축된 가중치 표현은 전송해야 할 바이트 수를 줄인다. 가중치를 CPU 메모리로 오프로딩한 경우, SpAx는 16비트 가중치에서 평균 3.86배(최대 5.57배), 4비트 가중치에서 평균 2.06배(최대 2.74배)의 디코딩 속도 향상을 달성하며, WikiText-2 퍼플렉시티(perplexity) 증가는 최대 10%에 그친다. 가중치를 플래시 스토리지로 오프로딩한 경우, 속도 향상은 평균 3.31배(최대 4.81배) 및 평균 1.54배(최대 2.03배)이다.
활성화 희소성(activation sparsity)은 중요하지 않은 활성화를 0으로 설정하여 해당 연산을 건너뛸 수 있도록 함으로써 대규모 언어 모델(LLM) 추론을 가속화합니다. 그러나 기존의 학습 불필요(training-free) 방식들은 서로 다른 트레이드오프를 가집니다. TEAL과 같은 임계값 기반 방식은 토큰별로 희소성 수준을 적응시키지만 실제 실현되는 희소성을 엄밀하게 제어하지 못하는 반면, WINA와 같은 TopK 기반 방식은 고정된 희소성 수준을 강제하지만 모든 토큰에 대해 동일한 희소성 예산을 사용합니다. 또한 두 방식 모두 트랜스포머 블록 간의 민감도 차이가 큼에도 불구하고 모든 블록에 걸쳐 동일한 예산을 적용합니다. 본 논문에서는 경계가 지정된 토큰 수준의 희소성 적응과 민감도 인식 블록 수준 예산 할당을 결합하여 두 가지 한계를 모두 해결하는 학습 불필요 방식인 TopK-Guided를 소개합니다. Llama-2 및 Llama-3 모델 전반에서 TopK-Guided는 WINA와 실질적으로 동일한 희소성 의존적 투영 연산량을 유지하면서도 TEAL 및 WINA 대비 펄플렉서티(perplexity)와 다운스트림 정확도를 일관되게 향상시키며, 특히 높은 희소성에서 가장 큰 성능 향상을 보입니다. 제거 연구(ablation study)를 통해 두 구성 요소가 상호 보완적인 개선을 제공함을 보여줍니다.
대규모 언어 모델(LLM)에서의 효율적인 추론은 모델 품질을 유지하면서 연산을 줄일 수 있는 지점을 결정하는 것을 필요로 한다. 우리는 다층 퍼셉트론(MLP) 활성화 희소화와 토큰 수준의 조건부 라우팅을 통해 이 문제를 연구한다. 먼저, 활성화 백분위수로부터 임계값을 직접 보정하는 대신 지역적 MLP 출력 민감도 프록시를 사용하여 층별 게이트 임계값을 선택하는 임계값 보정 방법인 희소성을 위한 민감도 인식 임계값 설정(SATS)을 제안한다. SATS는 게이트 활성화에 임계값을 적용해 MLP 활성화를 희소화하는 기존 메커니즘을 유지하면서, 백분위수 기반 보정을 민감도 인식 선택 규칙으로 대체한다. 이어서, 수정된 연산을 모든 토큰에 균일하게 적용하는 대신 토큰별로 기본 경로와 수정된 경로를 동적으로 선택하는 경량 토큰 라우팅 프레임워크를 제시한다. 두 방법을 최근의 여러 오픈 가중치 LLM에서 평가한 결과, SATS는 동일한 실제 희소성에서 임계값 기반 희소화 기준선보다 성능이 향상되며, 토큰 라우팅은 정적 활성화 수정 기준선보다 더 유리한 품질-처리량 트레이드오프를 나타냄을 확인하였다. 전반적으로, 본 연구의 결과는 개선된 임계값 보정과 토큰 라우팅이 LLM의 품질-처리량 트레이드오프를 향상시킬 수 있음을 시사한다.