PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.09095v4cs.LG

연속 블랙박스 최적화의 알고리즘 선택을 위한 기하학적 프로빙

Geometric Probing for Algorithm Selection in Continuous Black-Box Optimization

연속 블랙박스 최적화(continuous black-box optimization)를 위한 자동화된 알고리즘 선택은 제한된 프로빙(probing) 예산 내에서 문제로부터 어떤 정보를 획득하고 그 정보를 어떻게 표현하는지에 따라 결정됩니다. 본 연구에서는 위치, 방향 및 스케일에 걸쳐 다중 스케일 2차원 제한(restriction)을 샘플링하고, 유효성 인식 합성곱(validity-aware convolutional) 처리 및 순열 불변(permutation-invariant) 집계를 통해 정규화된 목적 함수 값 맵을 인코딩하는 기하학적 프로빙 프레임워크를 제안합니다. 동일한 예산 조건, 문제 내 및 문제 수준 전이, 융합, 표현 및 예산 분석 하에서 제안 기법을 고전적 ELA 및 Deep-ELA와 비교합니다. 나아가 통제된 절제 연구(ablation study)를 통해 프로브 획득과 프로브 처리를 분리하여 분석합니다. 실험 결과에 따르면 제안된 시각적 표현은 ELA 계열 특징(feature)과 상호 보완적인 솔버 성능 정보를 드러내며, 문제 수준 전이 상황에서 상대적 기대 실행 시간 측면의 상대적 우위를 유지하는 반면, 더 넓은 탐색 범위나 더 풍부한 특징, 혹은 예측 용이성만으로는 더 나은 알고리즘 선택을 보장하지 못함을 보여줍니다.

arXiv:2604.19753v3cs.AI

텍스트 임베딩을 통해 도메인 지식 없이 수행하는 알고리즘 선택

Algorithm Selection with Zero Domain Knowledge via Text Embeddings

수작업으로 설계된 인스턴스 특징 대신 사전학습(pre-training)된 텍스트 임베딩(embedding)을 활용하는 특징 없는 알고리즘 선택 접근법인 ZeroFolio를 제안합니다. 이 방법은 원시 인스턴스 파일을 일반 텍스트로 읽어 사전학습된 임베딩 모델로 임베딩한 후, 가중치 적용 k-최근접 이웃(weighted k-nearest neighbors)을 통해 알고리즘을 선택합니다. 우리의 접근법은 사전학습된 임베딩이 어떠한 도메인 지식이나 태스크별 학습(training) 없이도 문제 인스턴스를 구별할 수 있다는 관찰에 기반합니다. ZeroFolio는 텍스트 기반 인스턴스 형식을 가진 모든 문제 도메인에 적용할 수 있습니다. 7개 도메인(SAT, MaxSAT, QBF, ASP, CSP, MIP 및 그래프 문제)에 걸친 11개 ASlib 시나리오에서 접근법을 평가합니다. ZeroFolio는 11개 시나리오 중 9개에서 수작업 특징으로 학습된 랜덤 포레스트(random forest)보다 우수한 성능을 보이며, 종종 큰 폭의 성능 향상을 기록하고, 그중 8개 시나리오에서는 모든 직렬화 시드(serialization seed)에 대해 뛰어난 성능을 보입니다. 시나리오별로 튜닝된 랜덤 포레스트를 상대로도 11개 시나리오 중 8개에서 승리합니다. 2015 ICON 챌린지에서 공개된 AutoFolio 결과가 있는 3개 시나리오에서, ZeroFolio는 시나리오별 튜닝 없이도 AutoFolio와 근소한 마진 내의 성능을 달성합니다. SAT12-ALL에 대한 절제 연구(ablation study)는 역거리 가중치(inverse-distance weighting)와 라인 셔플링이 성능을 향상시킴을 보여줍니다. 나아가 직렬화 시드에 대한 접근법의 민감도를 분석합니다. 랜덤 포레스트가 더 강력한 SAT12-ALL 시나리오의 경우, 소프트 보팅(soft voting)을 통해 두 방식을 결합함으로써 추가적인 성능 향상을 얻을 수 있습니다.