arXiv:2611.24377v1 cs.LG

LLM 지원 다중 충실도 베이지안 최적화: 전문가 지식과 수치 데이터의 융합

LLM-Assisted Multi-Fidelity Bayesian Optimization: Fusing Expert Knowledge with Numerical Data

Dongjun Han, Mingyu Lee, Ikjin Lee

제출 2026-11-19

한국어 초록

다중 충실도 베이지안 최적화(MFBO)는 저렴한 저충실도(LF) 모델과 소수의 정확한 고충실도(HF) 평가를 결합하고 평가할 설계를 순차적으로 선택함으로써 공학 설계 비용을 줄인다. 그러나 HF 데이터가 부족하면 LF와 HF 사이의 불일치를 수치 데이터만으로 학습하기 어렵고, LF 모델에서 누락된 물리가 이를 설계 의존적으로 만드는 경우 특히 그러하다. 그럼에도 도메인 전문가는 충분한 데이터가 없어도 LF 모델이 어떤 물리를 누락했는지, 그리고 어떤 조건에서 그 영향이 커지는지를 알고 있는 경우가 많다. 기존의 다중 충실도(MF) 모델은 이러한 정성적 지식을 직접 사용할 수 없지만, 대규모 언어 모델(LLM)은 이를 해석하여 그에 따라 설계를 비교할 수 있다. 제안하는 LLM 지원 MFBO는 기존 MF 모델에 지식 기저를 추가한다. 누락된 물리에 대한 전문가의 설명을 바탕으로 LLM이 두 설계 중 어느 쪽이 더 큰 부호 있는 잔차 보정을 필요로 하는지 판단하고, 쌍별 가우시안 프로세스가 이 판단을 기저로 변환한다. HF 데이터가 그 기여도와 부호를 보정하므로 지식을 맹목적으로 신뢰하지 않는다. 리튬 이온 배터리 설계 문제에서 제안 방법은 기존 MFBO의 후회 곡선 아래 면적을 61% 줄였다. 탐색이 가속되었는지는 LLM의 선택이 아니라 지식의 품질이 결정했으며, 이는 두 요인을 독립적으로 변화시킨 통제 연구로 확인되었다. 지식 수준의 절제 연구는 각 지식 진술의 기여도를 추가로 정량화했다. 이러한 결과는 LLM이 해석한 전문가 지식이 MFBO에서 수치 데이터를 보완하는 정보원이 될 수 있음을 보여 준다.

원문 초록

Multi-fidelity Bayesian optimization (MFBO) reduces engineering design cost by combining inexpensive low-fidelity (LF) models with a few accurate high-fidelity (HF) evaluations and sequentially selecting designs to evaluate. However, when HF data are scarce, the LF-HF discrepancy is difficult to learn from numerical data alone, especially when physics omitted in the LF model makes it design-dependent. Yet even without sufficient data, domain experts often know which physics the LF model omits and under which conditions its effect grows. Existing multi-fidelity (MF) models cannot use such qualitative knowledge directly, but large language models (LLMs) can interpret it and compare designs accordingly. The proposed LLM-Assisted MFBO adds a knowledge basis to the conventional MF model: from an expert description of the omitted physics, an LLM judges which of two designs requires the larger signed residual correction, and a pairwise Gaussian process converts these judgments into the basis. HF data calibrate its contribution and sign, so the knowledge is not trusted blindly. On a lithium-ion battery design problem, the proposed method reduced the regret area under the curve of conventional MFBO by 61%. Knowledge quality, rather than the choice of LLM, determined whether the search was accelerated, as shown by a controlled study that varied the two independently. A knowledge-level ablation further quantified the contribution of each knowledge statement. These results show that LLM-interpreted expert knowledge can complement numerical data as an information source in MFBO.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24377v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.