PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.17489v1cs.LG

시변 수요 하 제약 밴딧 기반 온라인 LLM 선택

Online LLM Selection via Constrained Bandits with Time-Varying Demand

대규모 언어 모델(LLM)은 정확도, 지연 시간, 비용 특성이 서로 다른 다양한 사용자 작업을 처리하기 위해 엣지-클라우드 추론 시스템에 점점 더 많이 배치되고 있다. 각 수신 작업에 적절한 LLM을 선택하는 것은 서비스 품질과 효율적인 자원 활용을 보장하는 데 중요하다. 그러나 모델 이질성, 확률적이고 알려지지 않은 성능 특성, 시간에 따라 변하는 작업 수요로 인해 정적 선택 전략은 부적절하다. 실제 배포 환경에서는 종종 금전적 지출 한도와 같은 엄격한(hard) 자원 예산과, 지연 시간 보장과 같은 완화된(soft) 서비스 수준 요구사항이 함께 부과된다. 이러한 제약은 온라인 의사결정에 추가적인 어려움을 만든다. 우리는 이 문제를 제약 확률적 밴딧 학습 과제로 공식화하며, 학습자는 packing형(엄격) 제약과 covering형(완화) 제약 모두 하에서 모델을 순차적으로 선택하면서 시변 작업 수요에 적응한다. 학습자는 기저 보상, 비용, 지연 시간 분포에 접근할 수 없으며 부분 피드백에 의존해야 한다. 우리는 신뢰 경계(confidence-bound) 추정과 수요 예측을 활용하여 보상 극대화와 장기적 제약 만족의 균형을 맞추는 새로운 온라인 학습 알고리즘을 개발한다. 우리는 완전 정보를 갖는 오프라인 벤치마크 대비 준선형(sublinear) regret과 준선형 covering 제약 위반을 보이는 이론적 보장을 제공한다. 합성 워크로드에 대한 실험 결과는 동적이고 자원 제약이 있는 환경에서 우리 접근법의 효과성과 견고성을 보여준다.