PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2507.06529v2cs.LG

베이지안 최적화에서의 직접적인 후회 최소화 최적화

Direct Regret Optimization in Bayesian Optimization

베이지안 최적화(Bayesian optimization, BO)는 비용이 많이 드는 블랙박스 함수를 최적화하기 위한 강력한 패러다임입니다. 전통적인 BO 방법은 일반적으로 기저 함수에 대해 수작업으로 설계된 별도의 획득 함수(acquisition function)와 대리 모델(surrogate model)에 의존하며, 흔히 근시안적인(myopic) 방식으로 작동합니다. 본 논문에서는 후보 모델과 획득 함수 집합으로부터 지식을 증류(distilling)하여 최적의 모델과 비근시안적 획득 방식을 공동으로 학습하고, 다단계 후회(multi-step regret) 최소화를 명시적인 목표로 하는 새로운 직접 후회 최적화(direct regret optimization) 접근법을 제안합니다. 제안하는 프레임워크는 서로 다른 하이퍼파라미터를 가진 가우시안 프로세스(Gaussian Processes, GP) 앙상블을 활용하여 시뮬레이션된 BO 궤적을 생성하며, 각 궤적은 기존 선택지 풀에서 추출된 획득 함수를 따르고 베이지안 조기 종료 기준에 의해 종료됩니다. 이러한 궤적들은 궁극적인 목적 함수를 개선하도록 다음 쿼리를 선택하는 엔드투엔드 의사결정 트랜스포머(Decision Transformer)를 학습시키며, 이는 조밀한 학습 희소성 학습(dense training sparse learning) 패러다임을 따릅니다. 즉, 트랜스포머는 풍부한 시뮬레이션 데이터로 학습되는 반면, 제한된 수의 실제 평가를 통해 온라인으로 GP를 개선합니다. 합성 데이터 및 실제 벤치마크에서 본 연구의 방법은 표준, 룩어헤드(lookahead), 신뢰 영역(trust-region), 분할 상환(amortized) BO 베이스라인 대비 최고 또는 최고에 가까운 최종 단순 후회(simple regret) 성능을 달성하며, 특히 고차원 환경에서 가장 큰 성능 향상을 보입니다. 절제 연구(ablation study)에 따르면 이러한 성능 향상은 관심 영역 필터링과 학습된 정책의 결합에 기인하며, 동일 예산 조건에서 명시적인 2단계 룩어헤드 획득 방식과 비교했을 때 이러한 이점이 룩어헤드만으로는 얻어지지 않음을 보여줍니다.

arXiv:2609.19437v2cs.LG

LLM을 통한 풍부한 보조 정보를 활용한 베이즈 최적화

Bayesian Optimization with Rich Auxiliary Information via LLMs

베이즈 최적화(Bayesian Optimization, BO)는 비용이 많이 드는 블랙박스 함수를 최적화하는 데 널리 사용되지만, 일반적으로 각 고비용 실험을 입력값과 목적함수 값으로만 단순화하여 실험에서 생성되는 많은 정보를 버립니다. 이러한 보조 정보에는 하이퍼파라미터 최적화에서의 학습 곡선, 과학 실험에서의 전문가 노트 및 이미지, 또는 특정 최적화 문제에 대해 알려진 사실 등이 포함될 수 있습니다. 대규모 언어 모델(LLM)이 다양하고 비정형화된 정보를 처리할 수 있는 능력을 활용하여, 본 논문에서는 두 가지 방법을 소개합니다. 즉, 보조 정보를 사용하여 최적값의 위치에 대한 신념을 발전시키는 AuxBO-Evolve와, 보조 정보를 활용해 획득 함수(acquisition function)를 국소적으로 안내하는 AuxBO-Vicinity입니다. 합성 작업, 하이퍼파라미터 최적화 벤치마크, 과학자가 작성한 비정형 로그가 포함된 핵융합 작업 전반에서 제안 방법들은 최적화 성능을 일관되게 향상시키며 표준 BO 및 기존 LLM 기반 접근법들을 능가합니다. 나아가 본 연구는 LLM이 점별(pointwise) 목적함수 값을 모델링하기보다는 유력한 최대화 지점의 위치를 모델링할 때 더욱 효과적인 확률론적 가이드를 제공한다는 점을 밝혀냈습니다. 전반적으로 본 연구 결과는 표준 $(\mathbf{x}, y)$ 상호작용을 넘어선 풍부한 정보를 활용하는 것이 BO 성능을 대폭 향상시킬 수 있음을 입증합니다.