PyTorchKR Papers

최신 논문

총 10편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.39360v2cs.AI

혼합 정수 선형 및 비선형 프로그래밍에서의 자동 연구

Autoresearch in Mixed-Integer Linear and Nonlinear Programming

자동 연구(autoresearch)의 최근 발전에도 불구하고, 전형적으로 NP-난해(NP-hard) 혼합 정수 선형 또는 비선형 프로그램(MILP 또는 MINLP)으로 공식화되는 실제 운영 연구(operations research) 문제에 이를 적용하는 것은 여전히 어렵습니다. 효과적인 연구를 위해서는 상충하는 아이디어들과 장기적(long-horizon) 실험 궤적을 체계적으로 관리해야 하기 때문입니다. 본 논문에서는 아이디어 풀링(pooling)과 알고리즘 트리 탐색을 통해 혼합 정수 프로그래밍에서 장기적 자동 연구를 체계화하는 재사용 가능한 에이전트(agent) 스킬인 AutoMIP을 소개합니다. AutoMIP은 상호보완적인 후보 아이디어들의 지속적인 풀을 유지하는 동시에 실행 가능한 실험들을 알고리즘 트리로 구성하여, 에이전트가 탐색되지 않은 가설을 보존하고 유망한 알고리즘을 개선하며 과거 상태를 기반으로 대안적 방법론 방향으로 전환할 수 있도록 지원합니다. MILP 및 MINLP 벤치마크(benchmark) 코호트에서 AutoMIP은 평가된 자동 연구 프레임워크 중 가장 높은 최종 성공률을 달성했습니다. MIPLib에서 AutoMIP은 60개 인스턴스 중 31개에서 새로운 최적해를 발견하여 기존 자동 연구 프레임워크를 능가했습니다. MINLPLib에서는 60개 인스턴스 중 52개에서 새로운 최적해를 달성했습니다. 절제 연구(ablation study)는 아이디어 풀링과 알고리즘 트리 탐색의 상호보완적 기여를 추가로 입증하며, 장기적 자동 연구를 위해 다양한 연구 아이디어와 구조화된 실험 궤적을 함께 유지하는 것의 중요성을 강조합니다.

arXiv:2409.14557v5stat.ML공식 코드 · Papers with Code

샘플 효율적인 강화학습을 위한 외생적 구조 활용

Exploiting Exogenous Structure for Sample-Efficient Reinforcement Learning

우리는 상태 공간이 외생적(exogenous) 및 내생적(endogenous) 구성요소로 분할되는, Exo-MDP로 알려진 구조화된 마르코프 결정 과정(MDP) 클래스를 연구한다. 외생적 상태는 에이전트(agent)의 행동과 무관하게 확률적으로 변화하는 반면, 내생적 상태는 두 상태 구성요소와 행동 모두에 기반하여 결정론적으로 변화한다. Exo-MDP는 재고 관리, 자원 관리, 차량 호출(ride-sharing)을 포함한 많은 운영 과학(operations research) 설정을 포착한다. 우리의 첫 번째 기여는 구조적 측면으로, 이산 MDP, Exo-MDP, 이산 선형 혼합 MDP 사이의 표현적 동치 관계를 확립한다. 두 번째 기여는 통계적 측면이다. 유효 차원 $r$이 내생적 상태 및 행동 공간에 비해 작을 때 Exo-MDP 학습의 미니맥스 후회(minimax regret)를 규명한다. 외생적 상태가 관측되지 않을 때, Exo-MDP의 유효 차원이 $r$인 경우 수평선(horizon) $H$의 $K$개 에피소드에 걸쳐 $Θ(Hr \sqrt{K})$ 차수의 일치하는 상한 및 하한 후회 경계를 증명한다. 외생적 상태가 관측되는 경우 미니맥스 후회는 $Θ(H\sqrt{ r K})$로 개선되어, 외생적 상태 관측으로 인한 $Θ(\sqrt{r})$의 통계적 격차를 밝혀낸다. 이러한 결과는 Exo-MDP가 샘플 복잡도(sample complexity)를 행동 공간 및 내생적 상태 공간으로부터 분리함을 보여준다. 우리는 재고 관리 및 자원 할당에 대한 실험을 통해 이러한 통찰을 검증한다.

arXiv:2607.03651v3cs.LG

텍스트 비즈니스 입력을 활용한 LLM 기반 교통 허브 용량 계획

LLM-Guided Transportation Hub Capacity Planning with Textual Business Inputs

자연어 비즈니스 맥락을 정량적 최적화 모델에 통합하기 어렵다는 문제를 해결하기 위해, 대규모 언어 모델(LLM) 에이전트가 사고의 연쇄(Chain-of-Thought) 추론으로 구조화된 의사결정 테이블을 구성하고 최적화 모델의 경로 피드백과 반복적으로 상호작용하는 프레임워크를 제안한다. 미국 남동부의 실제 13개 허브 화물 네트워크에서 기존 최적화 모델의 11.0% 최적성 갭을 2.8%로 크게 줄이며 LLM이 정성적 비즈니스 인사이트를 운영 연구(Operations Research) 워크플로우에 효과적으로 통합할 수 있음을 실증하였다.

arXiv:2610.00912v1cs.AI

OR을 수행하는 AI를 위한 OR: OSCAR 프레임워크 내에서 에스컬레이터를 따라 LLM 라우팅하기

OR for AI That Does OR: Routing LLMs up the Escalator inside the OSCAR Framework

대규모 언어 모델(LLM)은 비즈니스 설명을 최적화 모델(optimization model)로 변환할 수 있지만, 실행 가능한 코드가 제약 조건이나 목적 함수를 잘못 나타낼 수 있습니다. 이 경우 솔버(solver)는 잘못된 문제에 대한 최적해를 반환할 수 있습니다. 해당 해가 의도한 운영 규칙을 만족하더라도 더 나은 계획이 존재할 수 있습니다. 최적화 모델링을 반복적으로 사용하는 조직의 경우, LLM 기반 프레임워크는 저비용으로 정확한 수식화를 생성해야 하며 이상적으로는 로컬에서 실행되어야 합니다. 본 연구에서는 개선 사항을 검증하고 가격 및 성능이 서로 다른 LLM 간에 시도를 어떻게 할당할지 연구합니다. 우리는 라벨링된 결정 예시를 바탕으로 검증된 오프라인 시뮬레이터(Simulator)를 사용하여 후보들을 비교하고 단순 실행 가능성을 넘어 탐색을 지속하는 OSCAR(Optimization modeling by Simulator, Coder, And Reviewer)를 개발합니다. 우리는 다음으로 검증된 개선안을 찾는 과정을 관측되지 않은 난이도 하에서의 순차적 의사결정(어떤 LLM을 호출하고 언제 중단할지)으로 모델링합니다. 사전 확률이 알려진 단순화된 환경에서 비용 순서에 따른 에스컬레이션(cost-ordered escalation)이 최적이 되는 조건을 제시합니다. 일반적인 메뉴에 대해서는 사전 확률에 구애받지 않는(prior-free) 경쟁적 보장을 도출합니다. 5개의 벤치마크 문제에서 OSCAR는 단일 GPU에 로컬 배포 가능한 두 개의 소형 오픈 가중치(open-weight) LLM을 사용하여 보고된 설정 기준 95%에서 100%의 정확도를 달성합니다. 이 모델들의 단일 시도 정확도는 평균 29% 및 48%입니다. 문제당 5회 실행에서 Codex와 Claude Code는 OSCAR에 비해 각각 평균 3.1배, 5.8배의 토큰 비용을 발생시킵니다. OSCAR는 예산 및 기밀성 요구사항에 따라 로컬 또는 클라우드에서 오픈 가중치 모델을 지원합니다. 기업은 자연어 운영 규칙을 명확히 하기 위해 실행 가능한 결정과 실행 불가능한 결정에 대한 라벨링된 결정 예시를 유지 관리해야 합니다. OSCAR는 LLM의 해석이 이들과 충돌할 때 이러한 라벨을 따릅니다. LLM 성능과 가격이 변화함에 따라, OSCAR의 단순한 운영 규칙과 조정 가능한 설정은 기업이 모델 선택을 적응시키고 이러한 발전을 활용할 수 있도록 돕습니다.

arXiv:2609.22987v1cs.AI

OptiSkill: LLM 기반 최적화 모델링을 위한 계층적·진화형 SkillBank

OptiSkill: A Hierarchical and Evolving SkillBank for LLM-Based Optimization Modeling

자동화된 운영연구(OR) 모델링은 LLM이 자연어 의사결정 문제를 올바른 수학적 프로그램으로 변환할 것을 요구한다. 기존 방법은 개별 공식화(formulation)를 개선할 수 있지만, 종종 문제를 고립하여 해결하여 재사용 가능한 경험을 거의 남기지 못하고 유사한 공식화 오류를 반복한다. 선행 메모리 기반 접근법은 예시, 사고, 또는 인사이트를 참조로 저장하는 반면, OR 모델링은 문제 서사에 걸쳐 전이되는 재사용 가능한 공식화 skill이 필요하며 구체적인 모델링 결정을 안내한다. 우리는 LLM 기반 OR 모델링을 위해 계층적이고 진화하는 SkillBank를 구축하는 skill-증강 프레임워크인 OptiSkill을 제안한다. SkillBank는 solver로 검증된 경험을 재사용 가능한 skill로 저장하며, 문제 수준 공식화 골격을 위한 Global Strategies와 지역적 오류 방지 규칙을 위한 Step Experiences를 둔다. 이는 안정적인 배치 수준 테스트 시간(test-time) 진화를 통해 더 정제되며, 후보 skill은 검증 후에만 통합된다. 8개 OR 모델링 벤치마크에서의 실험은 OptiSkill이 다양한 LLM 백본에서 공식화 정확도를 개선하고, 강력한 에이전트(agentic) baseline을 능가하며, SkillBank의 커버리지와 신뢰성을 확장함으로써 추가 이득을 얻음을 보여준다. 코드와 데이터는 https://github.com/rachhhhing/OptiSkill 에서 이용 가능하다.

arXiv:2506.02255v2cs.LG

SafeOR-Gym: 실용적 운영연구 문제를 위한 안전 강화학습 알고리즘 벤치마크 스위트

SafeOR-Gym: A Benchmark Suite for Safe Reinforcement Learning Algorithms on Practical Operations Research Problems

대부분의 기존 안전 강화학습(RL) 벤치마크는 로봇공학 및 제어 태스크에 초점을 맞추고 있어, 구조화된 제약, 혼합 정수(mixed-integer) 결정, 산업적 복잡성을 수반하는 고위험(high-stakes) 도메인과의 관련성이 제한적이다. 이러한 공백은 에너지 시스템, 제조, 공급망과 같은 중요 영역에서 안전 강화학습의 발전과 배포를 저해한다. 이 한계를 해결하기 위해, 우리는 복잡한 제약 하에서 안전 강화학습을 위해 맞춤 설계된 9개의 운영연구(OR) 환경으로 구성된 벤치마크 스위트 SafeOR-Gym을 제안한다. 각 환경은 비용 기반 제약 위반, 계획 지평(planning horizons), 하이브리드 이산-연속 행동 공간을 특징으로 하는 현실적인 계획, 스케줄링 또는 제어 문제를 포착한다. 이 스위트는 OmniSafe가 제공하는 제약 마르코프 결정 과정(CMDP) 인터페이스와 원활하게 통합된다. 우리는 이러한 환경들에서 여러 최신(state-of-the-art) 안전 강화학습 알고리즘을 평가하였으며, 성능의 폭넓은 범위를 드러낸다: 일부 태스크는 다룰 만한(tractable) 반면, 다른 태스크는 현재 접근법의 근본적인 한계를 드러낸다. SafeORGym은 실세계 의사결정 문제를 위한 안전 강화학습의 향후 연구를 촉진하는 것을 목표로 하는 도전적이고 실용적인 테스트베드(testbed)를 제공한다.

arXiv:2607.13373v1math.OC

컬럼 생성 안정화를 위한 학습 기반 쌍별 심층 이중 최적 부등식

Learned Pairwise Deep Dual-Optimal Inequalities for Stabilizing Column Generation

컬럼 생성(CG)은 차량 경로 문제에 대한 분기-가격-절단(branch-price-and-cut) 방법을 포함하여 많은 대규모 최적화 알고리즘의 핵심이지만, 불안정한 이중(dual) 해는 수렴을 상당히 느리게 할 수 있다. 기존의 심층 이중 최적 부등식은 이중 공간을 제한함으로써 이러한 불안정성을 줄일 수 있다. 그러나 그 구성은 일반적으로 용량 제한, 시간 창, 기타 자원 제약이 있는 경로 문제에 대해 확립하기 어려운 문제 특화 교환 논증에 의존한다. 본 연구에서는 이중 변수 간 쌍별 순서 관계를 예측하고 그 원 문제(primal) 대응 항을 마스터 문제에 직접 통합하는 학습 프레임워크인 학습 기반 쌍별 심층 이중 최적 부등식(L-PDDOIs)을 제안한다. 학습 라벨을 구성하기 위해, 이 프레임워크는 최적 이중 해를 샘플링하고 샘플의 충분히 큰 공통 부분집합에서 동시에 성립하는 쌍별 순서 관계를 선택한다. 분류기는 각 후보 관계에 점수를 부여한다. 예측된 관계 간의 충돌과 중복이 성능을 저해할 수 있으므로, 그래프 기반 후처리가 배포 전에 후보 집합을 필터링하고 압축한다. 또한 선택적으로 학습된 부등식을 완화하고 기준선 CG 경계가 복원되었을 때 이를 증명하는 복구 절차를 도입한다. 용량 제한 차량 경로 문제와 시간 창 차량 경로 문제의 주요 테스트 세트에서 L-PDDOIs를 직접 배포하면 기하평균 루트 CG 시간이 각각 89.7% 및 93.9% 감소하는 반면, 평균 경계 손실은 각각 1.3% 및 0.5%에 불과하다. 복구 절차는 CG 경계의 손실 없이 보장하면서 각각 54.8% 및 83.1%의 해당 시간 감소를 유지한다.

arXiv:2607.05346v1cs.AI

OptiAgent: 멀티 에이전트 반복 정제를 통한 엔드-투-엔드 최적화 모델링

OptiAgent: End-to-End Optimization Modeling via Multi-Agent Iterative Refinement

우리는 OptiAgent를 제안한다. OptiAgent는 운영 연구(Operations Research) 문제의 자연어 설명을 입력받아 솔버 준비가 완료된 수학적 정식화와 실행 가능한 코드를 출력하는 멀티 에이전트 프레임워크이다. 본 아키텍처는 수학적 모델링 단계를 우선시하며, 전담 에이전트들이 결정 변수 및 제약 조건과 같은 구조를 추출하여 반복적 자기 수정을 가능하게 한다. 우리는 네 가지 특화된 피드백 메커니즘을 갖춘 새로운 멀티 루프 검증 아키텍처를 도입하며, 각 메커니즘은 오해석, 구조적 결함, 수학적 불일치, 검증 실패, 코드 오류 등 서로 다른 실패 유형을 대상으로 한다. 정확도와 함께, 모듈식 설계는 각 에이전트가 자신의 추론과 피드백을 노출하여 전체 모델링 과정을 감사 가능하게 함으로써 투명성을 향상시키고 최적화 문제 해결 과정을 개선한다. 본 프레임워크는 LP, MILP, 비선형 프로그래밍 태스크에 걸친 4개 벤치마크 중 3개에서 최첨단 성능을 달성하며, 나머지 데이터셋에서도 높은 경쟁력을 유지한다.

arXiv:2606.27611v1cs.LG

COOPA: 운영연구 문제를 위한 모듈형 LLM 에이전트 아키텍처

COOPA: A Modular LLM Agent Architecture for Operations Research Problems

운영연구(Operations Research, OR)는 고위험 의사결정을 위한 엄밀한 프레임워크를 제공하지만, 효과적인 OR 모델링을 위해서는 상당한 도메인 지식, 수학적 추상화, 솔버 전문성이 필요하다. 최근 LLM 기반 시스템은 이 파이프라인의 일부를 자동화하지만, 복잡한 문제에서의 낮은 정확도, 불투명한 출력, 제한적인 솔버 지원으로 인해 여전히 한계가 있다. 우리는 해석 가능하고 확장 가능한 OR 의사결정 지원을 위한 모듈형 LLM-에이전트 아키텍처인 COOPA(COoperative OPerations Agent)를 제안한다. 이는 세 가지 구성 요소를 결합한다: 반복적 신뢰도 기반 모델링으로, 여러 후보 공식화(formulation)를 생성하고, 모델링 차원 전반에 걸쳐 자체 평가하며, max-min 신뢰도 기준을 사용하여 하나를 선택한다; 요소 수준 출처 및 신뢰도 설명으로, 변수, 매개변수, 제약, 목적 함수를 인용된 원문 텍스트와 연결하고 인간 검증을 위한 감사 추적(audit trail)을 제공한다; 그리고 서로 다른 OR 문제 클래스에 대해 특화된 옵티마이저 에이전트로의 다중 솔버 라우팅. 동일한 조건에서 세 가지 OR 벤치마크, 여덟 개의 LLM 백본, 네 가지 기준선을 대상으로, COOPA는 여덟 백본 중 여섯에서 최고의 매크로 평균 정확도를 달성하며, 가장 강력한 기준선 대비 최대 6.7 퍼센트포인트 향상을 보인다. 시스템 내 절제(ablation) 실험은 반복적 신뢰도 기반 모델링의 기여를 분리하고, 추가 분석과 사례 연구는 원문 추적 가능성과 다중 솔버 디스패치의 가치를 보여준다.

arXiv:2606.19787v1cs.AI

ORAgentBench: LLM 에이전트는 도전적인 운영 연구 과업을 종단 간으로 해결할 수 있는가?

ORAgentBench: Can LLM Agents Solve Challenging Operations Research Tasks End to End?

대규모 언어 모델은 실행 가능한 환경에서 다단계 과업을 수행하는 자율 에이전트로 점점 더 배포되고 있으나, 현실적인 운영 연구(OR) 작업을 수행할 수 있는 능력은 여전히 불분명합니다. 기존 OR 평가는 종종 모델링과 해결을 분리하고, 사전 형식화되거나 텍스트 전용 인스턴스에 의존하며, 운영 인공물(artifacts)에서 검증된 의사결정에 이르는 전체 워크플로우를 거의 테스트하지 않습니다. 이 작업에서 우리는 도전적인 종단 간 운영 연구 과업에 대해 자율 에이전트를 평가하기 위한 실행 기반 벤치마크인 ORAgentBench를 소개합니다. 이 벤치마크는 다양한 운영 시나리오에 걸친 107개의 인간 검수된 과업을 포함하며, 각 과업은 자연어 요약, 다중 파일 데이터, 구성 인공물, 필수 제출 스키마와 함께 격리된 환경에 패키징되어 있습니다. 에이전트는 솔루션 코드를 작성하고 실행해야 하며, 제출물은 스키마 유효성, 강한 제약 조건 실현 가능성, 정규화된 목표 품질에 대해 숨겨진 검증기를 통해 평가됩니다. 14가지 최첨단 에이전트-모델 구성을 사용한 실험 결과, 현재 에이전트는 신뢰할 수 있는 OR 실무와는 여전히 거리가 멀다는 것을 보여줍니다. 최상의 에이전트도 전체 과업의 35.51%와 난이도 높은 과업의 20.59%만 통과했으며, 많은 실현 가능한 제출물은 여전히 필요한 품질 임계값에 미치지 못했습니다. 실패 분석 결과, 오류는 누락된 운영 규칙, 취약한 정식화, 부족한 실현 가능한 해 구성, 미흡한 해 개선 등 전략적 약점에서 주로 발생함을 보여줍니다. OR 특화 절차적 기술은 난이도 높은 과업의 실현 가능성을 높이지만, 해 품질이나 통과율을 신뢰할 수 있게 개선하지는 못합니다. 이러한 결과는 OR 에이전트의 발전을 위해 그럴듯한 최적화 코드를 넘어 신뢰할 수 있고 고품질의 운영 의사결정으로 나아가야 함을 시사합니다.