PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.19753v3cs.AI

텍스트 임베딩을 통해 도메인 지식 없이 수행하는 알고리즘 선택

Algorithm Selection with Zero Domain Knowledge via Text Embeddings

수작업으로 설계된 인스턴스 특징 대신 사전학습(pre-training)된 텍스트 임베딩(embedding)을 활용하는 특징 없는 알고리즘 선택 접근법인 ZeroFolio를 제안합니다. 이 방법은 원시 인스턴스 파일을 일반 텍스트로 읽어 사전학습된 임베딩 모델로 임베딩한 후, 가중치 적용 k-최근접 이웃(weighted k-nearest neighbors)을 통해 알고리즘을 선택합니다. 우리의 접근법은 사전학습된 임베딩이 어떠한 도메인 지식이나 태스크별 학습(training) 없이도 문제 인스턴스를 구별할 수 있다는 관찰에 기반합니다. ZeroFolio는 텍스트 기반 인스턴스 형식을 가진 모든 문제 도메인에 적용할 수 있습니다. 7개 도메인(SAT, MaxSAT, QBF, ASP, CSP, MIP 및 그래프 문제)에 걸친 11개 ASlib 시나리오에서 접근법을 평가합니다. ZeroFolio는 11개 시나리오 중 9개에서 수작업 특징으로 학습된 랜덤 포레스트(random forest)보다 우수한 성능을 보이며, 종종 큰 폭의 성능 향상을 기록하고, 그중 8개 시나리오에서는 모든 직렬화 시드(serialization seed)에 대해 뛰어난 성능을 보입니다. 시나리오별로 튜닝된 랜덤 포레스트를 상대로도 11개 시나리오 중 8개에서 승리합니다. 2015 ICON 챌린지에서 공개된 AutoFolio 결과가 있는 3개 시나리오에서, ZeroFolio는 시나리오별 튜닝 없이도 AutoFolio와 근소한 마진 내의 성능을 달성합니다. SAT12-ALL에 대한 절제 연구(ablation study)는 역거리 가중치(inverse-distance weighting)와 라인 셔플링이 성능을 향상시킴을 보여줍니다. 나아가 직렬화 시드에 대한 접근법의 민감도를 분석합니다. 랜덤 포레스트가 더 강력한 SAT12-ALL 시나리오의 경우, 소프트 보팅(soft voting)을 통해 두 방식을 결합함으로써 추가적인 성능 향상을 얻을 수 있습니다.