다중 스케일 그레이박스 베이지안 최적화에서 분리 가능성 활용
Exploiting Separability in Multi-Scale Grey-Box Bayesian Optimization
한국어 초록
본 논문에서는 결정 변수가 고비용 블랙박스 함수의 인자로 사용되는 블랙박스 변수와, 해당 블랙박스 함수의 출력에도 의존하는 명시적 닫힌 형태 방정식 집합으로 제어되는 화이트박스 변수로 자연스럽게 분할되는 그레이박스 최적화 문제를 고려합니다. 저자들은 이중 레벨(bilevel) 재구성을 통해 이러한 분리 가능성을 활용합니다. 즉, 외부 베이지안 최적화(BO)는 블랙박스 변수만의 함수로서 스칼라 목적 함수를 최적화하는 한편, 내부 문제에서는 전역 최적화를 통해 화이트박스 하위 문제를 해결합니다. 따라서 BO에 사용되는 가우시안 프로세스(GP) 대리 모델은 대신 에 대해 정의되며, 내부 옵티마이저가 실행 가능한 점으로 수렴할 때마다 페널티 함수, 기회 제약(chance constraints), 또는 모멘트 근사 없이 화이트박스 제약 조건이 정확하게 만족됩니다. 13개의 벤치마크 문제 집합에서, 이중 레벨 BO는 더 적은 반복 횟수와 더 짧은 실시간(wall clock time)으로 더 낮은 후회(regret)를 달성합니다. 이러한 이점은 초기화 세트 크기, 탐험 파라미터, 내부 솔버 선택에 대해 강건하게 유지됩니다.
원문 초록
We consider grey-box optimization problems where the decision variables naturally partition into black-box variables (as arguments to an expensive black-box function) and white-box variables, governed by a set of explicit, closed-form equations that also depend on the output of the black-box function. We exploit this separability through a bilevel reformulation: an outer Bayesian optimization (BO) to optimize the scalar objective as a function of black-box variables alone, while an inner problem solves the white-box subproblem via global optimization. The Gaussian process surrogate used in BO is therefore defined rather than and white-box constraints are satisfied exactly whenever the inner optimizer converges to a feasible point---without penalty functions, chance constraints, or moment approximations. On a suite of 13 benchmark problems, bilevel BO achieves lower regret, with fewer iterations and wall clock time. This advantage is robust to initialization set size, exploration parameters, and inner-solver choice.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2608.03045v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.