ThinkBooster: 대규모 언어 모델(LLM) 추론의 매끄러운 테스트 타임 스케일링을 위한 통합 프레임워크
ThinkBooster: A Unified Framework for Seamless Test-Time Scaling of LLM Reasoning
테스트 타임 컴퓨트(TTC) 스케일링은 추론(inference) 과정에서 추가적인 연산을 할당함으로써 대규모 언어 모델(LLM) 추론을 개선하는 강력한 패러다임으로 등장했습니다(예: 다중 샘플 생성 및 검증 기반 재순위화). 기존의 TTC 스케일링 전략과 추론 채점기(reasoning scorer)는 여전히 파편화되어 있고, 일관되지 않은 프로토콜 하에서 평가되며, 품질-비용(trade-off) 관점에서 거의 분석되지 않았습니다. 우리는 LLM 추론의 원활한 테스트 타임 컴퓨트 스케일링을 위한 통합 프레임워크인 ThinkBooster를 소개합니다. 이는 (i) 최신 TTC 스케일링 전략과 채점기 패밀리(families)를 구현하는 모듈식 Python 라이브러리, (ii) 성능과 계산 효율성을 공동으로 평가하는 벤치마크(benchmark), (iii) 실제 애플리케이션에 적응형 추론(adaptive reasoning)을 드롭인(drop-in) 방식으로 통합할 수 있는 배포 가능한 OpenAI 호환 프록시 서비스로 구성됩니다. 또한 우리는 추론 궤적(reasoning trajectories), 중간 선택 결정, 대안적 추론 경로를 검사하기 위한 데모 시각화 디버거를 제공합니다. 수학 및 코딩 작업에 대한 실증적 결과는 TTC 스케일링 전략과 채점 방법의 성능-연산(performance-compute) 트레이드오프를 보여주며, ThinkBooster가 실제 작업에서 실용적인 이득을 제공함을 입증합니다. 코드는 MIT 라이선스 하에 온라인에서 제공됩니다.