PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25325v1cs.NE

대규모 언어 모델을 활용한 온라인 자동 알고리즘 설계

Online Automated Algorithm Design with Large Language Models

대규모 언어 모델(LLM)은 추론과 코드 합성을 통해 자동 알고리즘 설계(AAD)를 가능하게 한다. 그러나 기존의 LLM 기반 AAD 방법 대부분은 알고리즘 설계와 대상 최적화를 분리하여, 최적화 상태가 변화하는 동안에도 고정된 설계를 그대로 배포한다. 기존의 적응형 옵티마이저는 이러한 변화에 대응할 수 있지만, 그 조정은 사전에 정의된 파라미터, 연산자 또는 전략의 범위에 국한된다. 이러한 한계를 해결하기 위해, 본 논문은 알고리즘 자체를 상태 의존적 결정 변수로 취급하는 새로운 최적화 패러다임인 온라인 LLM 기반 AAD를 제안한다. 각 단계에서 LLM 에이전트는 현재의 최적화 상태로부터 새로운 동작 로직을 갖춘 알고리즘을 합성한다. 생성된 알고리즘을 실행하면 탐색이 진행되고 이후 설계를 위한 피드백이 제공되므로, 별도의 오프라인 알고리즘 사전학습 단계 없이도 알고리즘 설계와 대상 최적화가 결합된다. 이 패러다임을 구현하기 위해 본 논문은 상충하는 설계 관점을 조율하여 실행 가능한 알고리즘을 합성하고, 실행 피드백을 활용해 이후 설계를 위해 런타임 증거를 해석하는 방식을 개선하는 멀티 에이전트 프레임워크인 OnDesign을 제안한다. 우리는 두 가지 주류 블랙박스 최적화 패러다임에 걸친 세 가지 시나리오, 즉 베이지안 최적화, 진화적 연속 최적화, 진화적 혼합 변수 최적화에서 OnDesign을 평가한다. 여섯 개의 벤치마크 스위트와 하나의 공학 문제에 대해 다양한 문제 차원에서 수행한 광범위한 실험을 통해, 기존 옵티마이저와 오프라인 LLM 기반 AAD 방법보다 우수한 전반적 성능을 보임을 입증한다.

arXiv:2606.29953v1cs.NE

의미 인식 이중 수준 공진화: 자동화된 다중 컴포넌트 알고리즘 설계를 향하여

Semantics-Aware Bilevel Co-Evolution: Towards Automated Multicomponent Algorithm Design

LLM 보조 진화적 탐색(LES)은 자동화된 알고리즘 설계를 위한 유망한 패러다임으로 부상하고 있다. 그러나 기존 방법들은 일반적으로 여러 컴포넌트로 구성된 실세계 복잡한 알고리즘의 자동 설계에 직면할 때 두 가지 내재적 한계를 지닌다. 첫 번째 한계는 알고리즘 전체를 수정하는 데 집중하여 고품질 컴포넌트를 재사용하기 어렵거나, 제한된 사전 정의된 다중 컴포넌트 구성 집합 내에서의 컴포넌트 개선에만 집중한다는 점이다. 두 번째 한계는 알고리즘 의미론에 대한 명시적 모델링과 활용이 불충분하다는 점이다. 이러한 한계들은 탐색 효율성을 심각하게 저하시키고 복잡한 설계 공간의 효과적인 탐험을 방해한다. 따라서 본 논문은 구조적 알고리즘 정형화와 의미 기반 진화를 도입한, 자동화된 다중 컴포넌트 알고리즘 설계에 특화된 LES 방법인 STABLE(Semantics-Aware Bilevel Co-Evolution)을 제안한다. STABLE에서 복잡한 알고리즘은 도메인 지식에 기반한 계층적이고 모듈식 아키텍처로 구성되어 탐색 공간을 알고리즘의 내재적 구성 특성에 맞게 정렬한다. 이러한 구조화된 알고리즘 정형화를 바탕으로 STABLE은 상위 수준의 다중 컴포넌트 구성과 하위 수준의 기능적 컴포넌트를 동시에 최적화하여, 설계 공간 탐험을 위한 적절한 세분성을 유지하면서 조율된 교차 수준 갱신을 가능하게 한다. 각 수준에서 STABLE은 알고리즘 컴포넌트 간의 구조적 상관관계, 기능적 호환성, 내재적 합리성을 LLM이 포착하도록 지원하는 다면적 의미 모델을 구축한다. 이 의미 모델은 진화적 탐색의 핵심 지침으로 기능하여 원칙적인 알고리즘 생성과 알고리즘 평가를 가능하게 한다. 광범위한 실험을 통해 STABLE이 인간이 설계한 기준선과 고급 LES 방법에서 도출된 기준선 모두를 능가함을 입증한다.