BASIL: 과학적 반복과 학습을 위한 베이지안 애플리케이션
BASIL: Bayesian Application for Scientific Iteration and Learning
한국어 초록
본 논문은 공정 최적화를 위한 사용자 친화적인 데스크톱 애플리케이션인 BASIL을 소개한다. BASIL은 베이지안 접근법을 채택하며, 단일 및 다목적 최적화 문제를 모두 해결하는 데 사용할 수 있는 특수 획득 함수(acquisition function)를 통합한다. 그래픽 인터페이스를 통해 사용자가 실험 매개변수, 최적화 목표, 기존 데이터를 입력할 수 있으며, 이를 바탕으로 대리 모델(surrogate model)을 구축한다. 구축된 대리 모델은 획득 함수와 결합되어 원하는 목표를 향해 공정을 안내하고 최적화한다. 모델 구축을 용이하게 하기 위해 BASIL은 다양한 미리 정의된 대리 모델 템플릿을 제공한다. BASIL은 알려진 사용자 정의 입력 변수, 최적화 목표, 정의된 출력을 갖춘 임의의 실험 또는 공정을 최적화하는 데 사용할 수 있다.
원문 초록
We introduce BASIL, a user-friendly desktop application for process optimization. BASIL employs a Bayesian approach, incorporating special acquisition functions that can be used to solve both single and multi-objective optimization problems. It provides a graphical interface that enables users to input their experimental parameters, optimization objectives, and legacy data. This is then used to build surrogate models, which are coupled with acquisition functions to guide and optimize a process towards a desired objective. To facilitate model building, BASIL provides a variety of predefined surrogate model templates. BASIL can be used to optimize any arbitrary experiment or process with known, user-defined input variables, optimization objectives, and defined output.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.21092v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
스코어 매칭을 통한 베이지안 실험 설계
Bayesian Experimental Design via Score Matching
베이지안 실험 설계(BED)에 대한 정책 기반 접근법은 이전에 수집된 데이터를 바탕으로 지능적인 설계 결정을 적응적으로 내리는 심층 정책 네트워크의 학습을 가능하게 한다. 그러나 이러한 정책의 학습은 기대 정보 이득(EIG)의 이중 난해성(double intractability)이라는 근본적인 문제로 인해 제약을 받는 경우가 많다. 이로 인해 정책 자체의 최적화에 투자할 수 있는 노력을 제한하는, 비용이 크거나 복잡한 근사 방법이 요구된다. 이를 해결하기 위해, 우리는 EIG의 이중 난해성을 정책 학습으로부터 분리할 수 있음을 보인다. 구체적으로, 사용되는 정책에 독립적인 스코어 매칭 문제를 먼저 풀고, 학습된 스코어 근사를 활용하여 단일 난해한(singly intractable) 방식으로 정책을 학습한다. 이를 통해 핵심적인 곱셈적 비용이 덧셈적 비용으로 전환되고, 정책 학습 자체의 계산 부담이 경감되어, 아키텍처 탐색, 하이퍼파라미터 튜닝, 또는 지역 최적해 회피 등 정책을 여러 번 학습해야 하는 경우에 훨씬 저렴하게 학습할 수 있다. 실험에서는 가능도 평가에서 곱셈적 비용을 유발하지 않고 여러 경쟁력 있는 정책을 학습하였으며, 하이퍼파라미터 또는 아키텍처 탐색 없이도 최적의 정책을 선택할 수 있어 성능을 향상시킬 수 있음을 보였다.
베이지안 최적화는 초기 포인트가 몇 개 필요한가?
How Many Initial Points Does Bayesian Optimization Need?
베이지안 최적화(BO)는 일반적으로 초기화(initialization) 단계로 시작하는데, 이 단계에서 $n_0$개의 비정보적 평가를 배치(batch)로 수행한다. $n_0$의 선택은 대부분 휴리스틱에 의존하며, 전역 최적값을 찾는 데 필요한 총 비용(무작위 초기 포인트 + BO 반복 횟수)이 $n_0$에 대해 U자형 곡선을 보임을 실험적으로 관찰하였다. 즉, $n_0$를 너무 낮거나 너무 높게 설정하면 자원이 낭비된다. 이 트레이드오프는 MLE, 베이지안 MCMC, 정확한 GP 하이퍼파라미터 전반에 걸쳐, 그리고 다양한 획득 함수(acquisition function)에서도 지속적으로 나타난다. 후자와 관련하여, Thompson Sampling은 예외적으로 총 비용과 단순 후회(simple regret) 모두 $n_0$에 거의 무관한 것으로 나타나지만, 실험에서 전반적인 값은 더 높았다. 이 U자형 패턴은 분산 기반 BO의 알려진 경계 문제에 기인한다고 본다: BO가 초반 예산을 하이퍼큐브의 모서리 탐색에 소모한 후에야 내부로 향하는 현상이다. 정확한 하이퍼파라미터가 알려진 3차원 BO 궤적을 사용하여 이 효과를 시연한다. 결론으로 다음과 같은 실용적 권고사항을 제시한다: 가능한 경우 다단계 미리보기(multi-step lookahead) BO를 사용하고, $n_0$를 조정할 수 없을 때는 Thompson Sampling을, 조정 가능할 때는 충분히 큰 $n_0$를 사용하라.
비가우시안 공간 장을 위한 확장 가능한 희소 자기회귀 변분 추론
Scalable Sparse Autoregressive Variational Inference for Non-Gaussian Spatial Fields
잠재 장 모델(Latent field model)은 공간 통계학에서 필수적이지만, 가우시안 프로세스(GP) 사전을 사용하더라도 가능도(likelihood)가 비가우시안(non-Gaussian)일 때마다 잠재 장의 사후 분포는 해석적으로 다루기 어렵습니다. 기존의 근사 기법들은 대규모 비가우시안 데이터셋에 적용하기에 너무 느리거나 지나치게 제약적입니다. 본 논문에서는 변분 족(variational family) 내에서 사전 분포의 희소 최근접 이웃 자기회귀 구조를 반영하고, 표현력을 위해 정규화 흐름(normalizing flow) 조건부 분포를 사용하며, 단일 공유 신경 조건화기(neural conditioner)를 통해 모든 변분 파라미터를 상각(amortize)하는 확장 가능한 변분 추론(variational inference) 프레임워크를 제안합니다. 축소된 조상 집합을 활용한 이중 확률적 최적화(doubly stochastic optimization)를 통해 반복(iteration)당 다항 로그 복잡도를 달성합니다.
제약 조건 하의 확률론적 수치해석: 선형 부등식 제약 조건 하의 선형 편미분방정식을 위한 가우시안 프로세스 솔버
Constrained Probabilistic Numerics: Gaussian Process Solvers for Linear PDEs under Linear Inequality Constraints
선형 편미분방정식(PDE)을 위한 가우시안 프로세스(Gaussian process) 솔버는 점 추정치 대신 사후확률을 반환하지만, PDE 잔차, 경계 데이터, 측정값과 같은 등식 정보에 대해서만 조건부화(conditioning)를 수행합니다. 그러나 관심을 두는 많은 해는 비음수성(nonnegativity), 단조성(monotonicity), 무차익(absence of arbitrage)을 포함한 부등식 제약을 따르며, 등식 조건부화만으로는 이를 강제할 수 없습니다. 본 연구에서는 가우시안 프로세스 사전확률을 선형 등식 관측값과 유한차원 부등식 사건에 결합하여 조건부화하는 것이, 해 공간 상의 보렐 측도(Borel measure) 관점에서 순차적으로 조건부화하는 것과 동등함을 증명합니다. 따라서 물리 정보가 반영된(physics-informed) 사후확률은 가상 지점에서의 부등식 업데이트를 위한 유효한 사전확률이 됩니다. 결합 법칙은 비가우시안(non-Gaussian)이지만 절단 정규분포(truncated-Gaussian) 모멘트를 통해 계산 가능하며, PDE 조건부화와 부등식 업데이트 모두 수정할 필요가 없습니다. 본 연구진은 포아송(Poisson) 벤치마크, 옵션 가격 표면, 대기질 필드에서 이 구성을 평가했습니다. 불완전한 경계 데이터 조건에서, 단조성 제약 조건은 2차원 포아송 재구성의 오차를 $63\%$ 낮췄습니다. 20개의 호가만 남기도록 축소한 실제 S&P 500 옵션 체인에서, 무차익 제약 조건은 홀드아웃 외삽 오차를 $22\%$ 줄였고 캘린더 차익 비율을 $10\%$에서 $1\%$로 낮췄습니다. 네 가지 실제 대기질 스냅샷에서는, 관측소 수가 가장 희소할 때 비음수성 제약이 가우시안 모멘트 기반 음수 꼬리 프록시(sub-zero-tail proxy)를 $74\%$ 감소시켰습니다. 평균 정확도 및 제약 진단 수치의 변화는 데이터 체제에 따라 다르게 나타났습니다. 등식 사후확률 하에서 노이즈가 포함된 가상 제약 사건의 확률은 업데이트 전 지정된 경계와의 일치도를 측정합니다. 이러한 구성은 허용 가능성(admissibility)을 사후 처리 단계에서 확률론적 PDE 솔버를 위한 조건부 정보로 전환합니다.
커널 밴딧(Kernel Bandits)에 대한 일반적인 $\widetildeΩ(\sqrt{Tγ_T})$ 하한
A General $\widetildeΩ(\sqrt{T γ_T})$ Lower Bound for Kernel Bandits
커널 밴딧(kernel bandit) 문제는 주어진 재생 커널 힐베르트 공간(Reproducing Kernel Hilbert Space, RKHS)에서 유계 노름(bounded norm)을 갖는 미지의 함수를 잡음이 있는 피드백(noisy feedback)을 통해 순차적으로 최적화하는 문제이다. 커널 밴딧의 후회(regret) 분석에서 중심이 되는 양은 최대 정보 획득량(maximum information gain) $γ_T$이다. 특히, 기존에 알려진 가장 좋은 상한(upper bound)은 로그 항(log factor)을 제외하면 $\sqrt{Tγ_T}$로 스케일링되며, 제곱 지수(squared exponential) 커널과 마테른(Matérn) 커널과 같은 특정 커널에 대해서는 이와 거의 일치하는 하한(lower bound)이 도출되어 왔다. 그러나 일반적인 커널에 대한 하한은 부족하여, 어느 정도의 일반성에서 상한이 근사 최적(near-optimal)인지가 불분명하다. 본 논문에서는 콤팩트 정의역(compact domain) 상의 비상수 연속 커널(non-constant continuous kernel)에 대해 일반적인 $Ω(\sqrt{Tγ_T/\log T})$ 미니맥스 후회 하한을 수립하여, 매우 일반적인 의미에서 (로그 항 범위 내에서의) 근사 최적성을 입증한다. 우리는 이 하한에 나타나는 로그 항이 일반적으로는 피할 수 없음을 보이지만, 특정 조건 하에서는 이를 제거할 수 있음을 보인다. 특히 우리의 결과는 $ν\in (0,2)$인 마테른-$ν$(Matérn-$ν$) 커널, $γ\in (0,2)$인 $γ$-지수(γ-exponential) 커널, 그리고 특정 조각별 다항식(piecewise-polynomial) 커널에 대해 미니맥스 최적 스케일링이 (상수 인자 범위 내에서) 정확히 $Θ(\sqrt{Tγ_T})$임을 함의한다.
사후 위험을 활용한 불확실성 분리를 위한 정답 프레임워크
A Ground-Truth Framework for Uncertainty Disentanglement with Posterior Risk
안전성이 중요한 응용 분야에서는 신뢰할 수 있는 불확실성 추정이 필수적이다. 이러한 추정치가 실제로 유용하려면 모델의 불확실성을 유발하는 근본적인 원인을 이해해야 하며, 이는 전체 불확실성을 인식론적 불확실성(epistemic uncertainty)과 우발적 불확실성(aleatoric uncertainty)으로 분리(disentanglement)하도록 유도한다. 기존의 불확실성 개념들은 포착하는 원인이 서로 다르며, 그에 따라 우발적 불확실성과 인식론적 불확실성에 대한 정의도 달라 보편적으로 받아들여지는 정의가 존재하지 않는다. 본 논문에서는 관측된 표본이 주어졌을 때 타당한 정답 함수들의 분포 하에서 예측기의 기대 손실로 정의되는 표본 조건부 점별 사후 위험(sample-conditional pointwise posterior risk)을 통해 불확실성을 정의한다. 이 정의는 확률론적 불확실성 개념과 위험 기반 불확실성 개념을 통합한다. 최신 불확실성 분리 방법들을 평가하기 위해, 주로 사후 위험으로 정의된 정답 불확실성 및 흔히 사용되는 대안적 불확실성 정의들과 추정치를 직접 비교하는 프레임워크를 개발한다. 실험 결과, Spectral-normalized Neural Gaussian Processes와 Variational Latent Gaussian Processes가 정답 불확실성을 가장 근접하게 복원하는 반면, 대부분의 방법은 사후 위험보다 사후 분산을 더 밀접하게 추적하여 예측기의 바이어스를 놓치는 것으로 나타났다. 방법론의 순위 비교를 넘어, 추정된 우발적 불확실성과 인식론적 불확실성이 얼마나 강하게 얽혀 있는지, 그리고 불확실성의 품질이 모델링 선택에 얼마나 민감한지 조사하여 불확실성 분리를 위한 실용적인 지침을 제시한다. 추가적인 방법 개발 및 검증을 지원하기 위해, 사후 분포가 알려져 있어 정답 불확실성 계산이 가능한 13개의 준합성(semi-synthetic) UCI/OpenML 데이터셋을 공개한다. 코드와 데이터는 논문 채택 시 공개될 예정이다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.