노트북 내장 GPU에서 SFT와 QLoRA로 Gemma 4 엣지 모델의 MATLAB 신호 처리 코드 생성 능력 미세조정
Fine-Tuning Gemma 4 Edge Models for MATLAB Signal-Processing Code with SFT and QLoRA on a Laptop iGPU
한국어 초록
노트북에서 실행되는 소형 언어 모델은 오프라인에서 신호 처리 코드를 작성하는 데 유용할 수 있지만, 디지털 신호 처리(DSP) 규약에서 반복적으로 오류를 낸다. MATLAB 신호 처리 하위 과제 11개를 포괄하는 검증된 예시 66개로 Gemma 4 엣지 모델 E2B와 E4B를 지도 미세조정(SFT)했다. 노트북 내장 GPU(iGPU)에서 저랭크 적응(LoRA)과 양자화 LoRA(QLoRA)를 사용했으며, 8비트 정수(int8) 모델을 어댑터와 함께 OpenVINO로 배포했다. 따로 보관한 변형 문제를 결정론적 검사기로 평가한 결과, E2B의 통과 건수는 66건 중 18건에서 LoRA와 QLoRA 모두 37건으로 늘었다. E4B의 경우 QLoRA로 66건 중 32건에서 47건으로 늘었다. 실패한 프로그램 159개를 모두 검토한 결과, 어댑터는 지연의 부호, 단위, 배열 형상 같은 규약 오류는 대부분 없앴지만, 신호와 잡음을 구성하는 오류는 거의 줄이지 못했다. 추론 시 어댑터를 적용하면 생성 속도가 17~19% 감소했다.
원문 초록
Small language models that run on a laptop are attractive for writing signal-processing code offline, but they make systematic errors on digital signal processing (DSP) conventions. We apply supervised fine-tuning (SFT) to the Gemma 4 edge models E2B and E4B with 66 checked examples covering 11 signal-processing MATLAB subtasks, using low-rank adaptation (LoRA) and quantized LoRA (QLoRA) on the integrated GPU (iGPU) of a laptop, and deploy the 8-bit integer (int8) models with the adapters through OpenVINO. On held-out variants scored by deterministic checkers, the pass rate rises from 18/66 to 37/66 (LoRA) and 37/66 (QLoRA) for E2B and from 32/66 to 47/66 for E4B (QLoRA). Reading all 159 failing programs shows that the adapters remove most errors of convention, such as the sign of a lag, units and array shapes, but few errors in building signals and noise. Applied at run time, the adapter costs 17-19% of the generation speed.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23205v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.