arXiv:2205.09646

Great Power, Great Responsibility: Recommendations for Reducing Energy for Training Language Models

Joseph McDonald, Baolin Li, Nathan Frey, Devesh Tiwari, Vijay Gadepally, Siddharth Samsi

제출 2022-05-19

원문 초록

The energy requirements of current natural language processing models continue to grow at a rapid, unsustainable pace. Recent works highlighting this problem conclude there is an urgent need for methods that reduce the energy needs of NLP and machine learning more broadly. In this article, we investigate techniques that can be used to reduce the energy consumption of common NLP applications. In particular, we focus on techniques to measure energy usage and different hardware and datacenter-oriented settings that can be tuned to reduce energy consumption for training and inference for language models. We characterize the impact of these settings on metrics such as computational performance and energy consumption through experiments conducted on a high performance computing system as well as popular cloud computing platforms. These techniques can lead to significant reduction in energy consumption when training language models or their use for inference. For example, power-capping, which limits the maximum power a GPU can consume, can enable a 15\% decrease in energy usage with marginal increase in overall computation time when training a transformer-based language model.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15965v1cs.LG공통 태그 GPU, Language Modelling

반복 데이터 사전학습 스케일링: 배치 크기, 정규화 및 GPU-시간 트레이드오프

Scaling Repeated-Data Pretraining: Batch Size, Regularization, and GPU-Time Tradeoffs

본 연구에서는 연산량은 풍부하지만 고유한 학습(training) 데이터가 유한하여 동일한 데이터에 대한 반복 학습이 필요한 환경에서의 사전학습(pre-training)을 다룹니다. 먼저 무한 연산량 사전학습(Kim et al. 2026)을 재검토하여, 그 프론티어가 기존에 고정되었거나 개별적으로만 연구되었던 선택 사항들에 결정적으로 의존함을 보입니다. 특히 에포크(epoch) 수와 함께 배치(batch) 크기를 최적화하면 검증 손실(validation loss)과 배치 크기 사이에 U자형 관계가 나타나 일반적인 사전학습보다 더 작은 배치를 선호하게 됨을 밝히며, 이는 소배치 그래디언트(gradient) 노이즈가 암묵적 정규화(implicit regularization)를 제공하기 때문인 것으로 보입니다. 나아가 기존에 단일 패스 가정 하에서 최적화되었던 학습 레시피를 조정할 수 있음을 확인했습니다. 예를 들어 에포크마다 문서를 새로운 시퀀스로 재패킹하는 것, 가중치 공유(weight tying), 그리고 양의 임베딩 가중치 감쇠(positive embedding weight decay) 등이 있습니다. 이후 무한 연산량 가정을 완화합니다. 특히 일반적인 경우보다 작은 배치 크기는 지나치게 긴 순차적 학습 시간을 요구할 수 있으므로, GPU와 시간을 별개의 자원으로 다루어야 할 필요성이 발생합니다. 마감 기한이 촉박할수록 더 큰 배치가 유리하며, 지연 시간 중심의 병렬 처리를 통해 추가 GPU를 투입하여 학습 시간을 단축할 수 있습니다. 그럼에도 불구하고 고정된 시간 예산 내에서도 더 적은 수의 GPU와 작은 배치를 사용하는 것이 더 많은 GPU와 큰 배치를 사용하는 것보다 더 낮은 검증 손실을 달성할 수 있으며, 이는 마감 기한 내에서 GPU 활용도를 극대화하기 위해 데이터 병렬 처리를 늘리는 일반적인 관행에 도전합니다. 종합적으로 본 연구 결과는 반복 데이터 학습에서 충분히 탐구되지 않았던 요인들을 식별하고, 단일 패스 사전학습 대비 학습 레시피와 자원 할당이 어떻게 변화해야 하는지에 대한 구체적인 지침을 제공합니다.

arXiv:2610.10845v1cs.CL공통 태그 GPU, Language Modeling

AI를 위한 진정한 장기 기억: 재계산보다 더 빠르고 저렴한 5,000만 토큰 윈도우

Real Long-Term Memory for AI: A 50-Million-Token Window That Is Faster and Cheaper Than Recompute

대규모 언어 모델(LLM)은 컨텍스트 윈도우에 들어가는 텍스트만 사용할 수 있으며, 프롬프트가 전송될 때마다 해당 프롬프트에 대한 내부 키-값(KV) 상태를 다시 계산합니다. 본 연구에서는 약 16,000개 토큰 블록의 KV 상태를 암호화된 로컬 NVMe 디스크에 저장하고, 이후 재계산 없이 바이트 단위로 정확하게(byte-exact) 다시 로드하는 메모리 층인 공개 패키지 galahad-kv를 테스트합니다. 단일 NVIDIA H100에서 vLLM을 통해 서빙되는 50,000,000개 토큰의 실제 공개 텍스트를 대상으로 Gemma 4 12B 및 Gemma 4 31B와 함께 이를 실행했습니다. 조사한 모든 블록은 두 모델 모두에서 재계산 없이 암호화된 저장소로부터 다시 로드되었습니다(0부터 5,000만 토큰 깊이에서 100회 중 100회). 블록을 로드하는 것은 재계산하는 것보다 2.8배에서 4.3배 더 빨랐고 GPU 에너지를 8.8배에서 12.3배 적게 사용했으며, 전체 5,000만 토큰 스트림 동안 GPU 메모리는 일정하게 유지되었습니다. 수백만 토큰 앞서 심어둔 사실에 대한 질문에서 12B 모델은 100회 중 82회, 31B 모델은 100회 중 98회 올바른 답변을 제시했습니다. 두 모델 모두 답을 지어내지 않았습니다. 한계점은 다음과 같습니다. 이는 더 넓은 어텐션 윈도우가 아니라 저장된 상태를 재사용하는 것입니다. 즉, 한 번에 하나의 블록이 로드되며, 질문에 얼마나 잘 답하는지는 모델에 달려 있습니다. 메모리 쓰기는 일회성 비용이며 저장소는 수 테라바이트의 로컬 NVMe 디스크를 차지합니다. 본 논문에서는 롱 컨텍스트 벤치마크를 왜곡하는 일반적인 방식에 대응하도록 설계된 테스트 프로토콜을 설명하고, 공개 소프트웨어 및 해당 패키지의 무료 라이선스를 활용하는 단일 GPU 재현 방안을 제공합니다.

arXiv:2609.25008v1cs.CL공통 태그 GPU, Language Modeling

Rust 환경에서 엔드투엔드로 언어 모델 학습하기: 경험 보고서

Training a Language Model End-to-End in Rust: An Experience Report

본 연구에서는 대여한 GPU 비용 164달러로 팀 없이 혼자, PyTorch와 Python을 학습 경로에 전혀 사용하지 않고 Rust 환경에서 순수하게 언어 모델(LM)을 엔드투엔드(end-to-end)로 사전학습(pre-training)했습니다. 이는 추천이 아닌 성과로서 보고하는 것이며, 본 논문의 더 유용한 기여는 2026년 기준 학습(추론이 아님) 백엔드로서 대표적인 두 Rust ML 프레임워크인 Candle과 Burn의 실측된 실패 분류 체계(failure taxonomy)를 제시한다는 점입니다. 저자는 그래디언트를 조용히 생성하지 않는 융합 커널(fused kernel)을 포함한 5건의 Candle 결함과, 이론적 GPU 처리량의 약 3% 수준에 불과한 역전파(backward pass) 및 수십억 개 매개변수 규모에서 학습 중간에 세그멘테이션 오류(segfault)를 일으키는 커널 융합 경로를 포함한 3건의 Burn 결함을 상세히 기술합니다. 모든 결함은 일반적인 손실 곡선 검사를 통과했으며, 어떤 결함도 스스로 드러나지 않았습니다. 저자는 이러한 6가지 은밀한 오류를 잡아낸 검증 규율을 설명하며, 이는 어떤 프레임워크에도 일반화할 수 있는 '그래디언트 흐름 중재자(gradient-flow arbiter)'—한 번의 순전파/역전파를 실행하고 학습 가능한 모든 매개변수가 유한하고 0이 아닌 그래디언트를 받는지 단언(assert)하는 테스트—를 중심으로 합니다. 학습된 모델(약 0.4B 매개변수, 벵골어 중심)은 무작위 초기화된 동일 모델의 12.60 대비 토큰당 음의 로그 가능도(NLL) 0.93을 기록하며 강력한 벵골어 언어 모델링 신호를 보여주었으며, 영어 상식 객관식 평가에서는 우연 수준의 점수를 기록했는데, 이는 의도적으로 작게 설정된 벵골어 위주의 예산(약 20억 토큰, 54.6시간, 대여한 H100 1장)에서 예상된 결과입니다. 또한 저자는 벵골 문자 체계에서의 토크나이저 다산성 함정(fertility trap)을 보고합니다. 단순 바이트 수준 토큰화는 벵골어를 토큰당 약 1.4자로 축소시켜 영어의 3.9자에 비해 코퍼스의 언어 균형을 은밀히 역전시켰으며, 이를 수정한 후에는 약 4.1자에 도달했습니다. 저자가 아는 한, 이는 순수 Rust 환경에서 문서화된 최초의 엔드투엔드 언어 모델 사전학습 사례 중 하나입니다. 이번 실행 이후 저자는 학습을 PyTorch로 옮기고 온디바이스 서빙에만 Rust를 유지했습니다. 저자의 경험에 비추어 볼 때, Rust는 언어 모델을 서빙하기에는 좋은 환경일 수 있으나 언어 모델을 학습하기에는 아직 경쟁력 있는 환경이 아닙니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.