PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.19989v1cs.DC

LLM 학습을 위한 형식적 보증을 갖춘 온라인 동적 배치

Online Dynamic Batching with Formal Guarantees for LLM Training

최신 LLM 학습은 오프라인 배치 샘플러의 핵심 가정을 깹니다: 샘플의 실제 학습 비용은 전처리, 증강, 템플릿 적용, 토큰화, 멀티모달 비주얼 토큰 확장 후에만 관찰 가능합니다. 전처리 및 증강 의존적 길이 캐시에 비용을 지불하지 않는 한, 배치 구성은 패딩, 메모리 사용량, GPU 포화도를 결정하는 양에 대해 맹목적입니다. 우리는 정확한 관찰 가능성 시점으로 배치 형성을 이동시키면서 DDP 스텝 정렬을 보존하는, 데이터로더 측의 드롭인 시스템인 온라인 동적 배치(ODB)를 소개합니다. 우리는 이 동기화 요구사항을 분산 그룹 정렬 문제(Distributed Group Alignment Problem)로 공식화하고, 기본 조인 모드 아이덴티티 커버리지와 선택적 비조인 샘플 할당량 폐쇄를 통해 교착 상태 없는 유한 종료를 증명합니다. ODB는 모델, 옵티마이저 또는 어텐션 커널 변경을 요구하지 않으며, 가벼운 트레이너 어댑터와 함께 online-dynamic-batching으로 공개되었습니다. UltraChat/LLaVA/ShareGPT4o에서의 공개 2B/8B Qwen3-VL 실행 전반에서, ODB는 고정 배치 Standard 대비 단일 노드 Full FT/LoRA에서 1.58-2.51배, 2노드 Full FT에서 1.71-3.78배 향상된 실제 발행 샘플 처리량을 보이며, Standard와 유사한 품질을 유지합니다. 프로덕션 MM-Mix는 4.43배에 달합니다. GMT/BMT 오프라인 토큰 예산 오라클과 비교했을 때, ODB는 UltraChat/LLaVA에서 15% 이내의 성능을 보이며 높은 변동성(CV)을 가진 ShareGPT4o에서는 더 빠릅니다: 단일 노드 Full FT/LoRA에서 2.24-2.39배, 2노드 Full FT에서 3.06-3.69배입니다. 종합적으로, ODB는 높은 이질성을 가진 LLM 미세조정을 위한 온라인/드롭인 영역을 차지합니다: Standard와 유사한 품질로 큰 처리량 향상, 형식적 DGAP 보증, 그리고 길이 캐시 사전 계산이나 커널 재작성이 필요 없습니다.