PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.00956v2cs.LG

1단계 룩어헤드 베이지안 최적화의 리그렛 보장을 향하여

Towards Regret Guarantees for One-Step Lookahead Bayesian Optimization

본 논문에서는 1단계 룩어헤드(one-step lookahead) 베이지안 최적화(BO) 기법의 이론적 보장을 연구한다. 엔트로피 탐색(entropy search)과 같은 1단계 룩어헤드 BO 기법들의 실증적 유효성은 광범위하게 연구되어 왔으나, 이러한 기법들은 계산적으로 다루기 힘든 근사에 의존하는 경우가 많으며 리그렛(regret) 보장은 여전히 충분히 개발되지 않은 상태이다. 이에 따라 본 논문에서는 사후 표본추출(posterior sampling)과 몬테카를로 근사만을 필요로 하는 1단계 룩어헤드 BO 기법인 최적점 분산 감소(OVR)를 분석한다. 연구진은 획득 함수(acquisition function) 계산 시 입력 도메인 전반에 대한 균일한 몬테카를로 추정 오차 한계를 도출한다. 나아가 탐험을 촉진하도록 약간 수정한 정규화된 OVR이 점근적으로 0으로 수렴하는 베이지안 기대 단순 리그렛 상한을 달성함을 보인다. 마지막으로 수치 실험을 통해 OVR 및 정규화된 OVR의 성능을 검증한다.