Learning to Optimize Contextually Constrained Problems for Real-Time Decision-Generation
원문 초록
The topic of learning to solve optimization problems has received interest from both the operations research and machine learning communities. In this work, we combine techniques from both fields to address the problem of learning to generate decisions to instances of continuous optimization problems where the feasible set varies with contextual features. We propose a novel framework for training a generative model to estimate optimal decisions by combining interior point methods and adversarial learning, which we further embed within an data generation algorithm. Decisions generated by our model satisfy in-sample and out-of-sample optimality guarantees. Finally, we investigate case studies in portfolio optimization and personalized treatment design, demonstrating that our approach yields advantages over predict-then-optimize and supervised deep learning techniques, respectively.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
의사결정 중심 분포 강건 최적화를 위한 예측적 모호성 집합 학습
Learning Predictive Ambiguity Sets for Decision-Focused Distributionally Robust Optimization
예측 후 최적화(Predict-then-optimize) 시스템은 일반적으로 불확실성을 점 예측(point forecast)으로 압축한 뒤, 해당 예측이 신뢰 가능한 것처럼 가정하고 다운스트림 최적화 문제를 풀어낸다. 분포 강건 최적화(DRO, Distributionally Robust Optimization)는 잘못된 명세(misspecification)에 대한 보호를 제공하지만, 모호성 집합(ambiguity set)은 흔히 과거 샘플을 중심으로 하며 고정된 반지름을 사용한다. 본 논문에서는 학습된 예측적 모호성 집합(LPAS, learned predictive ambiguity sets)을 제안한다: 심층 컨텍스트 모델이 유한한 명목 시나리오 분포, 상태 의존적 와서스테인(Wasserstein) 반지름, 그리고 선택적으로 비등방성 기저 거리(anisotropic ground metric)를 출력한다. 이 출력들은 DRO 의사결정 층에 공급되는 컨텍스트 모호성 집합을 정의한다. 반지름은 조건부 분위수 보정, 크기 정규화, 그리고 다운스트림 의사결정 손실의 조합으로 학습되어, 강건성이 전역 고정값이 아닌 적응적으로 조정된다. 의사결정 층에서 사용되는 유한 쌍대 형식(finite dual form)을 유도하고, 단계적 학습 알고리즘을 제시하며, 2018년부터 2026년까지의 S&P 500 구성 종목 20개를 대상으로 한 분포 강건 포트폴리오 최적화에서 방법론을 평가한다. 제안된 방법은 동일 가중치, 예측 후 최적화, 과거 와서스테인 DRO 기준선을 크게 상회하며, 26.28%의 연환산 수익률, 샤프 비율 1.30, 최종 자산 1.61을 달성하고, 더 작은 평균 반지름을 사용하면서도 심층 고정 반지름 DRO 기준선보다 낮은 테일 손실을 기록한다. 결과는 학습된 모호성 반지름이 불필요한 보수성을 줄이고 레짐 적응성(regime adaptivity)을 개선하면서 강력한 고정 반지름 DRO의 성능 대부분을 회복할 수 있음을 보여준다.
SAVER: 저선량 컴퓨터 단층촬영을 위한 확률적 적응형 분산 기반 탐험 및 재구성
SAVER: Stochastic Adaptive Variance-Driven Exploration and Reconstruction for Low-Dose Computed Tomography
컴퓨터 단층촬영(CT)은 임상 진단에 필수적이지만, 이미지 품질을 저하시키지 않으면서 방사선량을 최소화하는 것은 여전히 중요한 과제이다. 기존의 저선량 프로토콜은 개별 환자 장기의 내재적 구조적 복잡성과 무관하게, 고정된 균일 각도 샘플링에 의존하는 경우가 많다. 본 논문은 획득된 데이터의 통계적 분산에 기반하여 투영 각도를 실시간으로 선택하는 적응형 데이터 획득 프레임워크인 「확률적 적응형 분산 기반 탐험 및 재구성」(SAVER)을 제안한다. 모의 담금질(simulated annealing)을 적용한 소프트맥스 기반 확률적 스케줄링 방식을 활용하여, SAVER는 필요한 탐험을 유지하면서 높은 구조적 정보를 가진 방향을 우선시한다. 8가지 다양한 팬텀을 대상으로 한 수치 실험에서 SAVER는 특히 구조적 이방성이 높은 객체에 대해 기존의 무작위 샘플링보다 일관되게 높은 재구성 충실도를 달성함을 보였다. 또한 제안된 방법은 상당한 측정 노이즈 하에서도 강건한 성능을 나타낸다. 방사선량을 가장 정보량이 높은 투영에 동적으로 재할당함으로써, SAVER는 단위 방사선량당 진단 품질을 극대화하기 위한 수학적으로 근거 있는 접근 방식을 제공하며, 샘플 의존적이고 데이터 기반의 CT 획득으로의 전환을 이끈다.
Generating Input Distributions for Explaining Portfolio Optimization Pipelines
지능의 그림자 가격: LLM 추론에서의 품질 저하와 재시도 피드백
The Shadow Price of Intelligence: Quality Degradation and Retry Feedback in LLM Inference
대규모 언어 모델 제공자는 연산 자원이 제약되어 있으며, 혼잡에 대한 일반적인 대응은 서비스를 저하시키는 것이다. 즉, 질의를 더 작은 모델로 라우팅하거나, 추론 예산을 줄이거나, 컨텍스트 윈도를 단축한다. 만족스럽지 못한 답을 받은 사용자는 재시도하여 시스템이 바쁜 동안 부하를 늘리거나, 이탈하여 잠재적으로 고객 이탈로 이어진다. 우리는 추론 서비스를 서비스 품질이 제공자의 의사결정인 제어 문제로 모델링한다. 재시도를 서비스율에 포함한 2국면 유체 근사는 닫힌 형태의 궤적과 교차 시간을 제공하므로, 품질 등급에 대한 동적 계획법에 시뮬레이션이 필요하지 않다. 우리는 더 약한 등급이 작업당 에너지는 덜 쓰지만 작업당 용량은 더 쓰는 영역을 규명하고, 유체 모델에서 그러한 등급으로의 반응적 스로틀링이 큐가 해소되지 못하게 할 수 있음을 보인다. 이질적인 고객이 있는 경우 이 문제는 재시도로 부풀려진 용량 계수를 갖는 수송 문제가 되며, 최적 라우팅은 $c\mu$ 유형의 지수를 따르고, 용량 제약의 쌍대는 클래스와 시간별로 질의 하나를 더 처리하는 한계 비용을 제공한다. 우리는 공개 벤치마크 데이터로 보정한 다섯 가지 사례에서 이 방법을 예시한다.
강볼록 집합 상의 무작위화 선형 오라클 최적화에 대한 하한
Lower Bounds for Randomized Linear-Oracle Optimization over Strongly Convex Sets
최근 결과들[arXiv:2602.04378, arXiv:2602.22608]은 강볼록 집합 위의 최적화에 대한 하한을 각각 특정 Frank-Wolfe 갱신과 제한 없는 결정론적 1차 선형 최소화 오라클(LMO) 방법에 대해 확립하였다. 어느 쪽도 제한 없는 무작위화 방법에 대한 하한은 확립하지 못한다. 우리는 최종 출력이 모든 인스턴스와 시드에서 실현 가능해야 한다는 조건 하에, 강볼록 집합 위의 무작위화 1차 LMO 방법에 대해 오라클 호출 $T$회 후 $\Omega(L\operatorname{diam}(S)^2/T^2)$ 분포적 하한을 증명함으로써 이 간극을 메운다. 우리의 구성은 [arXiv:2602.22608]의 족을 재사용하지만, 증명은 적응적 질의 이후 숨겨진 순열의 조건부 분포를 규명하고 최적화기 분산을 제어하는 조합적 통계량의 기대 감소량에 대한 상계를 제시한다. 또한 동일한 오차 임계값이 적어도 $3/4$의 확률로 성립하며 정지 시간 꼬리 한계를 도출함을 보인다. 우리의 구성은 [arXiv:2602.22608]과 동일한 곡률-지름 결합을 사용한다. 상계 [arXiv:1406.1305]와의 비교는 이 결합을 반드시 고려해야 한다. 별도로, 규정된 느린 정확 직선 탐색 Frank-Wolfe 궤적이 충분히 작은 초기화 오차를 국소적으로 증폭할 수 있음을 보이며, 이는 반복당 대략 1비트의 추가 초기화 정확도에 해당한다. 또한 특정한 최종 느린 포락선을 만족하는 초기화는 평면 측도가 0임을 보인다.
MMAO: 연속 및 이산 최적화를 위한 내인성 자원 할당 기반 대사적 다중 에이전트 옵티마이저
MMAO: A Metabolic Multi-Agent Optimizer with Endogenous Resource Allocation for Continuous and Discrete Optimization
전통적인 메타휴리스틱은 흔히 고정된 개체군 크기, 수동으로 선택한 탐색 스케일, 외부에 부착된 파라미터 제어 모듈에 의존한다. 본 논문은 개별-공공 대사 자원 순환으로부터 적응이 내생적으로 도출되는 교차 도메인 최적화 프레임워크인 대사 다중 에이전트 최적화기(MMAO)를 제시한다. 각 에이전트는 내부 에너지, 연속적인 역할 상태, 이동 또는 구조 기억, 국소 탐색 이력을 지니며, 개체군은 공동 자원 풀을 공유한다. 적합도 향상은 강건한 진행 스케일과 최근 성공 통계를 통해 정규화된 대사 이득으로 변환되고, 동일한 폐루프가 감지 강도, 탐색 진폭, 역할 변동, 분기, 가지치기, 재생성, 엘리트 재투자를 조절한다. 연속 환경에서 MMAO는 에너지로 조절되는 대칭 영차 탐침과 역할 보간 이동을 사용한다. 이산 환경에서는 동일한 제어 법칙이 구조적 감지, 국소 경로 개선, 유도된 섭동, 에너지 가중 간선 재사용을 통해 구현된다. 본 논문은 구현에 충실한 정식화와 CEC2017 부분집합(10D/30D, 20개 시드) 및 5개의 TSPLIB 인스턴스(이산 실행 총 100회)에 대한 재현 가능한 실험 연구를 결합한다. 현재의 증거는 MMAO를 보편적으로 우월한 최적화기로서가 아니라, 주로 파라미터 부담이 적고 자기 보정하는 최적화 프레임워크로서 뒷받침하며, 그 주된 검증된 독창성은 이질적인 탐색 행동 전반에 걸친 대사적으로 내생적인 자원 할당에 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.