nu.edu.kz

이 이메일 도메인이 관측된 논문 3건

arXiv:2607.05933v1cs.PF

Energy-Efficient GPU DVFS for Fine-Tuning of SLMs on Resource-constrained Embedded Devices

자원이 제한된 임베디드 GPU 플랫폼(NVIDIA Jetson AGX Orin)에서 소형 언어 모델(SLM) 파인튜닝의 에너지 효율을 높이기 위해 BERT 및 Pythia 변형 모델의 GPU 주파수-지연-에너지 특성을 분석하고, 해석 가능한 결정 트리(Decision Tree) 기반 DVFS 거버너 정책을 제안하였다. 제안된 ML 기반 GPU 주파수 선택 방법은 제약 없는 MAXN Mode 0 대비 평균 13.11%, 최대 26.73%의 에너지 절감을 달성하였다.

arXiv:2607.02158v1cs.CV

Efficient PEFT Methods with Adaptive Checkpointing for Vision Models and VLMs on Resource Constrained Consumer-GPUs

제한된 VRAM 환경(2GB 수준)에서 Transformer 및 Mamba 기반 비전 백본에 LoRA, AdaLoRA, QLoRA, BitFit 등 5가지 파라미터 효율적 파인튜닝(PEFT) 기법과 메모리 예산 인식 적응형 그래디언트 체크포인팅 알고리즘을 비교 평가한 연구로, QLoRA와 BitFit이 정확도 1~2% 손실로 에너지를 20~30% 절감하고, 제안한 적응형 알고리즘이 피크 메모리를 최대 79%까지 감소시킴을 보였다. 또한 DINOv2가 CIFAR-100에서 파인튜닝 모델을 능가하며 훨씬 적은 에너지로도 경쟁력 있는 성능을 달성한 반면, 소형 자기회귀 비전-언어 모델(VLM)은 이 환경에서 경쟁력이 낮음을 확인하였다.