PyTorchKR Papers

최신 논문

총 22편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.06915v1cs.CL

ThinkBooster: 대규모 언어 모델(LLM) 추론의 매끄러운 테스트 타임 스케일링을 위한 통합 프레임워크

ThinkBooster: A Unified Framework for Seamless Test-Time Scaling of LLM Reasoning

테스트 타임 컴퓨트(TTC) 스케일링은 추론(inference) 과정에서 추가적인 연산을 할당함으로써 대규모 언어 모델(LLM) 추론을 개선하는 강력한 패러다임으로 등장했습니다(예: 다중 샘플 생성 및 검증 기반 재순위화). 기존의 TTC 스케일링 전략과 추론 채점기(reasoning scorer)는 여전히 파편화되어 있고, 일관되지 않은 프로토콜 하에서 평가되며, 품질-비용(trade-off) 관점에서 거의 분석되지 않았습니다. 우리는 LLM 추론의 원활한 테스트 타임 컴퓨트 스케일링을 위한 통합 프레임워크인 ThinkBooster를 소개합니다. 이는 (i) 최신 TTC 스케일링 전략과 채점기 패밀리(families)를 구현하는 모듈식 Python 라이브러리, (ii) 성능과 계산 효율성을 공동으로 평가하는 벤치마크(benchmark), (iii) 실제 애플리케이션에 적응형 추론(adaptive reasoning)을 드롭인(drop-in) 방식으로 통합할 수 있는 배포 가능한 OpenAI 호환 프록시 서비스로 구성됩니다. 또한 우리는 추론 궤적(reasoning trajectories), 중간 선택 결정, 대안적 추론 경로를 검사하기 위한 데모 시각화 디버거를 제공합니다. 수학 및 코딩 작업에 대한 실증적 결과는 TTC 스케일링 전략과 채점 방법의 성능-연산(performance-compute) 트레이드오프를 보여주며, ThinkBooster가 실제 작업에서 실용적인 이득을 제공함을 입증합니다. 코드는 MIT 라이선스 하에 온라인에서 제공됩니다.

arXiv:2606.07108v1cs.AI

DyCon: 진화하는 난이도 모델링을 통한 동적 추론 제어

DyCon: Dynamic Reasoning Control via Evolving Difficulty Modeling

최근 대규모 추론 모델(LRM)은 복잡한 작업을 반복적으로 성찰하고, 탐색하고, 실행함으로써 뛰어난 성능 향상을 보여주지만, "과잉 사고(overthinking)"로 알려진 중복 추론으로 인한 비효율을 겪는다. 이 문제를 완화하는 기존 방법들은 정적 난이도 추정에 의존하거나 작업별 학습을 필요로 하므로, 추론 과정 중 동적으로 변하는 복잡도에 적응하지 못한다. 본 연구에서는 문제 난이도가 추론 과정 전반에 걸쳐 동적으로 진화하며 LRM의 단계별 임베딩에 선형적으로 인코딩됨을 실증적으로 보인다. 이 통찰을 바탕으로, 잠재 단계별 표현을 활용해 진화하는 작업 난이도를 명시적으로 모델링하고 추론 깊이를 동적으로 제어하여 과잉 사고 문제를 완화하는 학습 없는(training-free) 프레임워크인 DyCon을 제안한다. 4B부터 32B까지 네 가지 모델과 수학 추론, 일반 질의응답, 코딩 작업에 걸친 열두 개의 벤치마크에서 수행한 광범위한 실험은 DyCon이 정확도나 일반화를 희생하지 않으면서 중복 단계를 줄여 추론 효율을 크게 향상시킴을 보여준다. 프로젝트 페이지와 코드는 https://github.com/yu-lin-li/DyCon 에서 확인할 수 있다.