Energy-Efficient GPU DVFS for Fine-Tuning of SLMs on Resource-constrained Embedded Devices
자원이 제한된 임베디드 GPU 플랫폼(NVIDIA Jetson AGX Orin)에서 소형 언어 모델(SLM) 파인튜닝의 에너지 효율을 높이기 위해 BERT 및 Pythia 변형 모델의 GPU 주파수-지연-에너지 특성을 분석하고, 해석 가능한 결정 트리(Decision Tree) 기반 DVFS 거버너 정책을 제안하였다. 제안된 ML 기반 GPU 주파수 선택 방법은 제약 없는 MAXN Mode 0 대비 평균 13.11%, 최대 26.73%의 에너지 절감을 달성하였다.