arXiv:2606.00956v2 cs.LG

1단계 룩어헤드 베이지안 최적화의 리그렛 보장을 향하여

Towards Regret Guarantees for One-Step Lookahead Bayesian Optimization

Shion Takeno

제출 2026-05-31

저자 비고

arXiv Comments

27pages, 4 figures

한국어 초록

본 논문에서는 1단계 룩어헤드(one-step lookahead) 베이지안 최적화(BO) 기법의 이론적 보장을 연구한다. 엔트로피 탐색(entropy search)과 같은 1단계 룩어헤드 BO 기법들의 실증적 유효성은 광범위하게 연구되어 왔으나, 이러한 기법들은 계산적으로 다루기 힘든 근사에 의존하는 경우가 많으며 리그렛(regret) 보장은 여전히 충분히 개발되지 않은 상태이다. 이에 따라 본 논문에서는 사후 표본추출(posterior sampling)과 몬테카를로 근사만을 필요로 하는 1단계 룩어헤드 BO 기법인 최적점 분산 감소(OVR)를 분석한다. 연구진은 획득 함수(acquisition function) 계산 시 입력 도메인 전반에 대한 균일한 몬테카를로 추정 오차 한계를 도출한다. 나아가 탐험을 촉진하도록 약간 수정한 정규화된 OVR이 점근적으로 0으로 수렴하는 베이지안 기대 단순 리그렛 상한을 달성함을 보인다. 마지막으로 수치 실험을 통해 OVR 및 정규화된 OVR의 성능을 검증한다.

원문 초록

This paper studies theoretical guarantees of a one-step lookahead Bayesian optimization (BO) method. Although the empirical effectiveness of one-step lookahead BO methods, such as entropy search, has been studied extensively, they often rely on computationally intractable approximations, and their regret guarantees remain underdeveloped. Thus, this paper analyzes a one-step lookahead BO method, which we refer to as optimal-point variance reduction (OVR), that requires only posterior sampling and Monte Carlo approximations. We obtain a uniform Monte Carlo estimation error bound over an input domain in an acquisition function computation. Furthermore, we show that the regularized OVR, with a slight modification to facilitate exploration, achieves a vanishing Bayesian expected simple regret upper bound. Finally, we validate the performance of OVR and regularized OVR through numerical experiments.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.00956v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.11082v1stat.ML공통 태그 Bayesian Optimization, Gaussian Processes, regret bounds

커널 밴딧(Kernel Bandits)에 대한 일반적인 $\widetildeΩ(\sqrt{Tγ_T})$ 하한

A General $\widetildeΩ(\sqrt{T γ_T})$ Lower Bound for Kernel Bandits

커널 밴딧(kernel bandit) 문제는 주어진 재생 커널 힐베르트 공간(Reproducing Kernel Hilbert Space, RKHS)에서 유계 노름(bounded norm)을 갖는 미지의 함수를 잡음이 있는 피드백(noisy feedback)을 통해 순차적으로 최적화하는 문제이다. 커널 밴딧의 후회(regret) 분석에서 중심이 되는 양은 최대 정보 획득량(maximum information gain) $γ_T$이다. 특히, 기존에 알려진 가장 좋은 상한(upper bound)은 로그 항(log factor)을 제외하면 $\sqrt{Tγ_T}$로 스케일링되며, 제곱 지수(squared exponential) 커널과 마테른(Matérn) 커널과 같은 특정 커널에 대해서는 이와 거의 일치하는 하한(lower bound)이 도출되어 왔다. 그러나 일반적인 커널에 대한 하한은 부족하여, 어느 정도의 일반성에서 상한이 근사 최적(near-optimal)인지가 불분명하다. 본 논문에서는 콤팩트 정의역(compact domain) 상의 비상수 연속 커널(non-constant continuous kernel)에 대해 일반적인 $Ω(\sqrt{Tγ_T/\log T})$ 미니맥스 후회 하한을 수립하여, 매우 일반적인 의미에서 (로그 항 범위 내에서의) 근사 최적성을 입증한다. 우리는 이 하한에 나타나는 로그 항이 일반적으로는 피할 수 없음을 보이지만, 특정 조건 하에서는 이를 제거할 수 있음을 보인다. 특히 우리의 결과는 $ν\in (0,2)$인 마테른-$ν$(Matérn-$ν$) 커널, $γ\in (0,2)$인 $γ$-지수(γ-exponential) 커널, 그리고 특정 조각별 다항식(piecewise-polynomial) 커널에 대해 미니맥스 최적 스케일링이 (상수 인자 범위 내에서) 정확히 $Θ(\sqrt{Tγ_T})$임을 함의한다.

arXiv:2610.13656v1stat.ML공통 태그 Stochastic Optimization, Gaussian Processes

비가우시안 공간 장을 위한 확장 가능한 희소 자기회귀 변분 추론

Scalable Sparse Autoregressive Variational Inference for Non-Gaussian Spatial Fields

잠재 장 모델(Latent field model)은 공간 통계학에서 필수적이지만, 가우시안 프로세스(GP) 사전을 사용하더라도 가능도(likelihood)가 비가우시안(non-Gaussian)일 때마다 잠재 장의 사후 분포는 해석적으로 다루기 어렵습니다. 기존의 근사 기법들은 대규모 비가우시안 데이터셋에 적용하기에 너무 느리거나 지나치게 제약적입니다. 본 논문에서는 변분 족(variational family) 내에서 사전 분포의 희소 최근접 이웃 자기회귀 구조를 반영하고, 표현력을 위해 정규화 흐름(normalizing flow) 조건부 분포를 사용하며, 단일 공유 신경 조건화기(neural conditioner)를 통해 모든 변분 파라미터를 상각(amortize)하는 확장 가능한 변분 추론(variational inference) 프레임워크를 제안합니다. 축소된 조상 집합을 활용한 이중 확률적 최적화(doubly stochastic optimization)를 통해 반복(iteration)당 다항 로그 복잡도를 달성합니다.

arXiv:2607.10669v2cs.LG공통 태그 Bayesian Optimization, Gaussian Processes

tidyHEBO: 모델 일관적 워핑과 파레토 탐색을 결합한 강건한 범용 베이지안 최적화

tidyHEBO: Robust General-Purpose Bayesian Optimization with Model-Consistent Warping and Pareto Search

베이지안 최적화(BO)는 비용이 많이 드는 블랙박스 문제에 널리 사용되지만, 실제 성능은 고수준의 알고리즘 선택뿐만 아니라 대리 모델(surrogate model) 학습, 입력 및 출력 워핑(warping) 변환, 획득 함수(acquisition function), 그리고 후보 탐색이 어떻게 구현되는지에 따라서도 달라집니다. 본 논문에서는 강건한 범용 최적화를 위해 설계된 BoTorch 기반의 단일 목적 옵티마이저인 tidyHEBO를 제시합니다. tidyHEBO는 Yeo-Johnson 출력 워핑을 가우시안 프로세스(Gaussian process) 대리 모델과 함께 결합 적합(joint fit)하고, 결정론적 수치적분(deterministic quadrature)이나 몬테카를로 샘플(MC-samples)을 활용해 원래 목적 척도 상에서 획득 함수를 평가하며, 여러 획득 기준에 걸쳐 제약 조건이 있는 누적 파레토 탐색(cumulative Pareto search)을 수행합니다. Olympus 전용 하이퍼파라미터 튜닝 없이 기본 옵티마이저 구성만을 사용하여, tidyHEBO는 Olympus 벤치마크에서 평가된 방법 중 1위를 차지했습니다. 중앙값 nAUC, CVaR_nAUC, IQR_nAUC로 각각 측정한 일반적인 성능(평균 순위 1.53), 최악의 꼬리 성능(1.21), 실행 간 변동성(2.00)에서 모두 최고 평균 순위를 달성했습니다. 동일한 기본 구성을 적용했을 때 tidyHEBO는 합성 문제 및 건초더미 속 바늘 찾기(Needle-in-a-Haystack) 문제에서도 뛰어난 성능을 보였으며, Bayesmark에서는 HEBO와 매우 근접한 성능(92.64 대 93.34)을 기록하면서 로그 기대 개선(logarithmic expected improvement)을 사용하는 GP 및 무작위 탐색(random search)을 능가했습니다. 적응형 배치는 피드백 라운드를 줄이는 동시에 배치 상한이 증가함에 따라 병렬화와 최적화 품질 사이의 제어 가능한 트레이드오프를 보여주었습니다. 이러한 결과는 tidyHEBO가 과학적 응용 및 하이퍼파라미터 튜닝을 포함한 광범위한 실제 최적화 문제를 위한 강건하고 재현 가능한 범용 옵티마이저임을 보여줍니다.

arXiv:2609.28427v1cs.LG공통 태그 Bayesian Optimization, Gaussian Processes

외골격 개인화를 위한 문맥 연속적 선호도 학습

Context-Continuous Preference Learning for Exoskeleton Personalization

다양한 동작 조건에 걸쳐 외골격(exoskeleton) 보조를 개인화하는 것은 사용자 피드백을 수집하는 데 필요한 시간과 신체적 노력으로 인해 제약을 받습니다. 본 연구에서는 사용자의 선호도 지형(preference landscape)이 동작 조건 전반에서 매끄럽게 변화하는지, 그리고 이러한 연속성이 제한된 피드백으로부터의 학습을 언제 뒷받침하는지 조사했습니다. 본 논문에서는 문맥별 효용 추정치를 유지하면서 인접한 문맥 간 관측치를 공유하는 가우시안 프로세스(Gaussian-process) 선호도 모델인 CCPL(Context-Continuous Preference Learning)을 제안합니다. 성인 9명의 발목 및 팔꿈치 외골격 선호도 데이터를 바탕으로 시뮬레이션과 후향적 분석을 통해 CCPL을 평가했습니다. 시뮬레이션에서 CCPL은 선호도가 매끄럽게 변할 때 독립적 학습(independent learning) 대비 재구성(reconstruction) 및 선호도 기반 베이지안 최적화(Bayesian optimization) 성능을 향상시켰으나, 연속성이 약할 때는 부정적 전이(negative transfer)를 보였습니다. 두 인간 대상 연구 모두에서 각 참가자 및 문맥에 대해 개별적으로 추정된 전체 데이터 기준 지형은 인접한 동작 조건 간에 더 유사한 경향을 보였습니다. 문맥당 5회의 노출 조건에서 CCPL은 독립적 학습 대비 이러한 기준과의 평균 재구성 상관계수를 발목 보조의 경우 0.644에서 0.720으로, 팔꿈치 보조의 경우 0.476에서 0.526으로 높였습니다. 5회 노출 예산은 해당 상관계수와 일치시키는 데 필요한 추정 독립적 학습 예산보다 발목의 경우 약 37%, 팔꿈치의 경우 약 17% 더 낮았습니다. CCPL은 또한 독립적 학습 대비 홀드아웃(held-out) 반응 예측을 개선한 반면, 풀링 학습(pooled learning) 대비 이점은 다양하게 나타났습니다. 이러한 결과는 제한된 피드백 하에서 선호도 관측치를 공유하기 위한 근거로서 문맥 연속성을 지지하지만, 인간 대상의 온라인 개인화에 대한 이점은 여전히 확립되어야 할 과제로 남아 있습니다.

arXiv:2609.27490v1cs.AI공통 태그 Bayesian Optimization, Gaussian Processes

WhatWorkedBench: AI 에이전트의 실험적 이해도 벤치마킹

WhatWorkedBench: Benchmarking Experimental Understanding in AI Agents

AI 연구 에이전트(agent)는 자신의 실험이 결과에 어떻게 영향을 미치는지에 대한 신뢰할 수 있는 지식이 필요합니다. 본 논문에서는 예산이 정해진 실험 후 구성 요소 변경에 대한 예측 정확도인 실험적 이해도를 측정하기 위한 WhatWorkedBench를 소개합니다. 에이전트는 코드를 검사하고, 측정값을 선택하며, 구성 요소 설정의 모든 구성에 대한 점수를 예측하는 표인 반응 표면(response surface)을 제출합니다. 완전 탐색 방식의 CPU 실행을 통해 다른 구성 요소를 고정한 상태에서 각 구성 요소를 변경할 때의 기준 효과를 제공합니다. 이러한 효과는 30개의 데이터 소스와 8개의 워크플로 유형에 걸친 36개 작업에서 1,248개의 구성 기록을 통해 변경 조합을 포착합니다. 핵심 평가는 8개 패밀리 전체에 걸친 4,206개의 수치 제어 기록과 원래 6개 패밀리에 걸친 108개의 에이전트 에피소드를 결합합니다. 8개의 새로운 측정값에서 쌍 효과 릿지(pair-effect ridge)는 22개 소스 중 15개에서 최적값을 선택하고, 3개 소스에서는 모든 효과 오류를 점수 범위의 10% 이내로 제한합니다. 동일한 에이전트 관측값에 가우시안 프로세스(GP)를 적합하면 실제 효과 크기 대비 정확도인 효과 복원율(effect recovery)이 기존 Flash 코호트에서는 0.632에서 0.698로, 추가 코호트에서는 0.621에서 0.720으로 향상됩니다. 완료된 6개의 비트 검출 및 그래프 제출물에서 동일 관측 GP는 패밀리-매크로 복원율을 0.303에서 0.455로 높입니다. 6개의 이진 옵션을 갖는 6개 워크플로에서 20개의 새로운 측정 시, 동일한 동작을 나타내는 구성인 코드 동등성을 인코딩하면 GP 복원율이 0.248에서 0.462로 향상됩니다. WhatWorkedBench는 실험 에이전트, 적응형 실험 설계, 수치 추론(inference), 프로그램 구조 활용에 관한 연구를 지원합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.