제약 조건이 있는 머신러닝(Constrained Machine Learning, CML)은 공정성을 고려한 학습(fairness-aware training), 물리 정보 신경망(PINN), 그리고 통계적 모델로의 기호적 도메인 지식 통합을 가능하게 합니다. 본 연구에서는 CML 문제를 위한 확률적 페널티-배리어 방법(Stochastic Penalty-Barrier Method, SPBM)을 소개합니다. SPBM은 쌍대 변수의 지수 평균, 안정화된 페널티 스케줄, 그리고 비매끄러움(non-smoothness)을 다루기 위한 모로 포락선(Moreau envelope)을 결합하여 고전적인 페널티 및 배리어 방법을 확장합니다. 또한 미니배치 처리가 배리어 함수에 도입하는 바이어스를 분석하고, 변환된 문제의 실행 가능 집합이 원래의 실행 가능 집합 내에 포함됨을 보입니다. 다양한 공정성 및 물리 정보 신경망 실험을 통해 SPBM을 CML 베이스라인들과 비교한 결과, SPBM이 최신 SOTA(state-of-the-art) 방법들과 경쟁력 있는 성능을 보임을 확인했습니다. 아울러 공정성 기반의 계산 벤치마크에서, CML 방법들의 에포크당 실행 시간은 제약 조건의 수와 대체로 무관하며, 제약 조건 수가 90개에서 9900개에 이르는 범위에서도 정규화된 Adam의 에포크당 실행 시간 대비 1.3배 이내임을 관찰했습니다.
연합 학습(Federated Learning, FL)은 분산 최적화(distributed optimization) 문제를 해결하기 위한 통신 효율적인 프레임워크입니다. 표준 FL 방식은 로컬 업데이트를 모든 에이전트(agent)가 공유하는 단일 글로벌 모델(model)로 집계하여 사실상 합의를 강제합니다. 그러나 이종(heterogeneous) 로컬 제약 조건 하에서는 공통의 실행 가능한(feasible) 모델이 지나치게 제한적이거나 아예 존재하지 않을 수 있습니다. 기존의 제약 조건 기반 FL 방식은 대부분 이러한 공유 모델 구조를 유지하므로, 에이전트별로 상이한 실행 가능 집합이 주어지는 환경에서의 개인화를 직접적으로 다루지 못합니다. 본 연구에서는 협력적 목적 함수를 통해 모델들을 결합하면서 각 에이전트에 서로 다른 실행 가능한 모델을 할당하는 제약 조건 기반 개인화 연합 학습 문제를 다룹니다. 이를 위해 국소 페널티 기반 교차 추정 연합 평균화(Locally Penalized Cross-Estimate Federated Averaging, PCE-FedAvg)를 제안합니다. 이 방식에서 각 에이전트는 자체 모델과 다른 에이전트들의 모델에 대한 추정치를 포함하는 다중 블록 벡터를 유지하며, 실행 가능성 페널티는 자신의 블록에만 국소적으로 적용합니다. 서버는 해당하는 블록들을 개별적으로 집계하므로, 에이전트가 로컬 제약 집합을 명시적으로 공개할 필요 없이 개인화를 보존할 수 있습니다. 임의의 $ε>0$에 대해, 본 논문은 유한 시간(finite-time) 상한 및 하한 부최적성(suboptimality) 경계와 에이전트별 제곱 비실행가능성(squared infeasibility) 경계를 확립하여, 각각 $\mathcal{O}(ε^{-2})$ 및 $\mathcal{O}(ε^{-1})$의 통신 복잡도를 도출합니다. MNIST 및 CIFAR-10에 대한 실험은 이러한 이론적 결과를 뒷받침합니다.
EU 내 유럽 전력 거래는 선도(forward), 하루 전(day-ahead), 당일(intraday) 및 밸런싱(balancing) 거래 시계 전반에 걸쳐 법적 설계, 거래소 미시구조, 전력망 물리 법칙이 함께 실행되는 제약적 다층(multi-layer) 시스템으로 작동합니다. 본 논문은 시장 결합 메커니즘, 구역 간 송전 제약, 그리고 REMIT, MiFID II, MiFIR, EMIR에 따른 규정 준수 의무에 부합하는 AI 지원 거래를 위한 기능적 아키텍처를 개발합니다. 본 연구의 기여는 의사결정 상태 벡터, 잔여 익스포저 회계, 제약 최적화(optimization) 목적함수, 실행 가능 행동 권한 게이트, 감사 가능한 기록을 갖춘 안전 차단(fail-closed) AI 제어 로직으로 구성된 정형 시스템 명세입니다. 분석에서는 주요 지정 전력 시장 운영자(NEMO) 거래 장소와 관련 거래소 운영자를 운영 거래 장소 토폴로지로 매핑하고, 인터페이스 수준의 타이밍, 권한의 이질성, 밸런싱 층 결합 등 실제 환경에서 국경 간 조정이 실패하는 지점을 식별합니다. 도출된 프레임워크는 AI를 제약 없는 예측 층이 아닌, 명시적인 거버넌스를 갖춘 규제 시장 운영 내에서 제한된 의사결정 컴포넌트로 배포할 수 있는 방안을 제시합니다.
실세계 산업 설계의 고비용 제약 최적화 문제에서는 사전에 결정하기 어려운 제약 임계값이 자주 등장한다. 엔지니어는 서로 다른 실행 가능성-성능 트레이드오프를 탐색하기 위해 제약 임계값을 조정해야 할 수 있으며, 이는 다양한 임계값 설정 하에서의 해를 요구한다. 그러나 기존 제약 베이지안 최적화(BO) 방법은 각 임계값 구성을 독립적으로 취급하여 반복적인 최적화를 초래하고, 연속적으로 변하는 임계값들 간의 공유 관계를 활용하지 못한다. 이 문제를 해결하기 위해, 우리는 임계값을 최적해에 매핑하는 파라미터형 제약 모델을 학습하는 학습 기반 프레임워크인 constraint-bound agnostic Bayesian optimization(CBA-BO)를 제안한다. 학습이 완료되면 CBA-BO는 추가 최적화 없이 임의의 미관측 임계값 구성에 대한 해를 직접 예측하며, 1단계 베이지안 최적화 정제를 통해 해의 품질을 더욱 향상시킨다. 벤치마크 및 공학 문제에 대한 실험은 CBA-BO가 전이 가능한 임계값-해 매핑을 학습하여 임의의 임계값 쿼리에 대한 효율적인 예측과 최적화를 가능하게 함을 보여준다. 또한 사용자가 지정한 제약 선호를 만족하면서 목적 함수 성능을 개선하기 위한 의도 기반(intent-guided) 제약 경계 추천 메커니즘을 추가로 개발하였다.
쿼asar-볼록 함수는 선형 동역학 시스템, 일반화 선형 모델, 리만 최적화 등에 응용되는 넓은 비볼록 함수 클래스를 형성한다. 현재의 거의 최적인 알고리즘은 일반적인 볼록 제약 조건을 다룰 때 한 자유도가 상실되기 때문에 아핀 공간에서만 동작한다. 제약 조건이 있는 $γ$-쿼asar 볼록 매끄러운 함수에 대해 거의 최적인 $\widetilde{O}(1/(γ\sqrt{\varepsilon}))$ 1차 쿼리를 수행하는 가속 알고리즘을 얻는 문제는 Martínez-Rubio (2022)와 Lezane, Langer, Koolen (2024)에서 각각 독립적으로 미해결 문제로 제기되었다. 본 연구에서는 위와 같은 속도를 달성하는 1차 방법으로 구현한 부정확 가속 근접점(proximal point) 알고리즘을 설계하여 이 문제를 해결하며, 그 결과 Martínez-Rubio (2022)의 가속 측지적 리만 최적화 해법의 복잡도를 개선한다. 또한 제약된 쿼asar-볼록 설정에서 투영 경사하강법(projected gradient descent)과 Frank-Wolfe 알고리즘을 분석한다. 우리가 아는 한, 본 연구는 일반적인 볼록 제약 조건이 있는 쿼asar-볼록 매끄러운 함수에 대한 1차 방법의 최초 분석을 제공한다.
The problem of constrained online convex optimization is considered, where at each round, once a learner commits to an action $x_t \in \mathcal{X} \subset \mathbb{R}^d$, a convex loss function $f_t$ and a convex constraint function $g_t$ that drives the constraint $g_t(x)\le 0$ are revealed. The objective is to simultaneously minimize the static regret and cumulative constraint violation (CCV) compared to the benchmark that knows the loss functions and constraint functions $f_t$ and $g_t$ for all $t$ ahead of time, and chooses a static optimal action that is feasible with respect to all $g_t(x)\le 0$. Currently, the best known algorithm is OGD+Projection algorithm of [Vaze and Sinha, 2025] that has simultaneous regret of $O(\sqrt{T})$ and CCV of $O(T^{1/3})$ for $d=2$ [Balasundaram et al., 2026], and simultaneous regret of $O(\sqrt{T})$ and CCV of $O(\sqrt{T})$ for any $d$ [Sarkar and Sinha, 2026]. In this paper, we show that the CCV of the OGD+Projection algorithm is $Ω(T^{\frac{d-1}{2d}})$. This is the first such lower bound result.
대규모 차량 호출 서비스에서 홀드 제어(hold control)는 승객과 드라이버 경험을 개선하는 핵심 메커니즘이다. 특정 드라이버-주문 쌍의 배차를 선택적으로 지연함으로써 시스템은 더 나은 기회를 기다리고, 취소를 줄이며, 드라이버의 불필요한 노력 낭비를 완화한다. 그러나 기존 산업용 홀드 전략은 흔히 여러 예측 모델에 대한 휴리스틱 임계값 처리에 의존하는데, 이는 비정상(non-stationary) 트래픽 상황에서 불안정할 수 있으며 다중 목표 경험 신호에 대한 최적화가 어렵다. 우리는 경험 인식 쌍 평가와 홀드 시간 실행을 분리하는 배포 가능한 2단계 프레임워크 EXHOLD를 제안한다. 1단계에서는 매칭 퍼널(funnel) 전반의 만족도 신호를 집계하는 통합 목적 함수를 최적화하여 각 드라이버-주문 쌍을 이산적이고 해석 가능한 경험 등급으로 분류하는 의사결정 모델을 학습한다. 2단계에서는 경험적 분위수(empirical quantiles)에 대한 제약 최적화를 통해 단조(monotone) 홀드 시간 스케줄을 도출한다. 이를 통해 유망한 매칭의 불필요한 홀딩을 제한하는 서비스 가드레일을 명시적으로 적용하는 동시에 전반적인 경험 개선을 극대화한다. 우리는 브라질 DiDi 프로덕션 시스템에서 무작위 A/B 실험을 통해 EXHOLD를 평가한다. 결과는 마켓플레이스 효율성과 경험 측면에서 일관된 향상을 보여준다: EXHOLD는 운행 완료율과 드라이버 수입을 높이고, 승객 취소를 유의미하게 줄이며, 퍼널 효율성을 개선한다. 절제 실험(ablation)과 행동 분석을 통해 두 단계 모두 필수적이며 해당 정책이 시공간적 이질성(spatiotemporal heterogeneity) 하에서 보정된 의사결정을 내림을 확인한다. EXHOLD는 현재 브라질 프로덕션 트래픽에 배포되어 서비스 중이다.
강화학습(RL)은 확률론, 최적화, 작용소 이론의 도구들에 점점 더 깊이 기반을 두고 있다. 이 서베이는 현대 강화학습 알고리즘의 설계와 분석을 뒷받침하는 수학적 구조를 체계적으로 정리한다. 마르코프 결정 과정(MDP)과 벨만 작용소(Bellman operator)에서 출발하여, 수렴 보장과 수렴 속도를 이끌어 내는 수축 사상(contraction mapping), 단조성(monotonicity), 고정점 이론을 가치 반복(value iteration), 정책 반복(policy iteration), 시간차(temporal-difference) 방식에 걸쳐 강조한다. 이어서 최적화 관점을 전개하는데, 확률적 근사(stochastic approximation)와 마팅게일(martingale) 방법, 볼록 쌍대성(convex duality), 그리고 미러/근위(mirror/proximal) 방법과 정규화의 연결 관계를 다룬다. 함수 근사(function approximation)는 선형 및 비선형 설정 모두를 다루며, 안정화(stabilization), 오차 분해(error decomposition), 그리고 종속 데이터 및 혼합 과정에 대한 집중 부등식(concentration inequality)을 통한 샘플 복잡도(sample complexity)를 포함한다. 나아가 오프-정책 평가/학습, 제약 강화학습과 제약 MDP(CMDP)를 다룬다. 전반에 걸쳐 공통된 작용소 및 변분적 관점 하에 알고리즘 템플릿을 통합하고, 유한 샘플 경계와 점근적 결과를 함께 조명한다. 이 논문은 강화학습에 관심 있는 확률론, 최적화, 통계학 연구자들에게 통합된 수학적 진입점을 제공하고자 한다.
트랜스포머를 최적화 하강 알고리즘처럼 동작하게 만들기 위해 각 레이어 출력에 레이어별 하강 제약을 부과하고 표준 ERM 대신 프라이멀-듀얼 학습 방식을 도입하는 제약 최적화 프레임워크를 제안한다. 비디오 잡음 제거와 텍스트 분류 태스크에서 이 방법으로 학습된 제약 트랜스포머가 분포 내 성능을 유지하면서 입력 섭동에 대한 강건성과 분포 외(OOD) 일반화 성능을 향상시킴을 실험적으로 입증한다.
고차원 제약 최적화 문제에서 신뢰 영역 방법의 조기 수축 한계를 극복하기 위해, 제약 패널티 서로게이트의 미분 가능한 경관을 활용해 지역 하강과 불확실성 기반 탐색을 교대 수행하는 LCBO 프레임워크를 제안한다. KKT 잔차의 수렴 속도가 차원 $d$에 다항식적으로 의존함을 이론적으로 증명하였으며, 최대 100차원 벤치마크에서 최신 기준 방법들을 일관되게 능가하는 성능을 보였다.
While neural network control policies are powerful, their deployment on safety critical systems depends on ensuring that they obey strict constraints. Existing work often treats safety as a metric to optimize for, which competes with other performance objectives, if training converges at all. Instead, we introduce ShardNet, a neural network architecture that strictly enforces unions of polyhedral constraints by construction, using a differentiable projection layer parameterized by a classification network. The key insight is to embed safety into the neural network's structure, allowing performance to be optimized independently because formal safety guarantees are always given. In contrast with existing neural architectures that can only enforce simple convex constraints, ShardNet enables the first safe-by-construction synthesis of forward-invariant neural network controllers on closed-loop systems where safety constraints are expressed as nonconvex unions of polyhedras or learned value function level sets. To support this, we also introduce a technique to verify and train such value functions correctly as rectified linear unit (ReLU) networks, which has not previously been possible. On double integrator benchmarks drawn from the literature, ShardNet policies maintain 100% safety on verified sets and achieves significantly lower objective loss compared to existing formal methods. Furthermore, our value function training technique also produces safe sets more than 3 times larger than existing verification approaches.
Many problems in trustworthy ML can be expressed as constraints on prediction rates across subpopulations, including group fairness constraints (demographic parity, equalized odds, etc.). In this work, we study such constrained minimization problems under differential privacy (DP). Standard DP optimization techniques like DP-SGD rely on objectives that decompose over individual examples, enabling per-example gradient clipping and noise addition. Rate constraints, however, depend on aggregate statistics across groups, creating inter-sample dependencies that violate this decomposability. To address this, we develop RaCO-DP, a DP variant of Stochastic Gradient Descent-Ascent (SGDA) that solves the Lagrangian formulation of rate constraint problems. Through careful design, the extra privacy cost incurred by incorporating these constraints in our approach is limited to that of privately estimating a histogram over each mini-batch at every step. We prove the convergence of our algorithm through a novel analysis of SGDA that leverages the linear structure of the dual parameter. Empirical results show that our method Pareto-dominates existing private learning approaches under group fairness constraints and also achieves strong privacy-utility-fairness performance on neural networks.
RDEx 프레임워크 기반의 미분 진화(differential evolution)에 후기 단계 경량 좌표 패턴 국소 탐색(local search)을 추가한 DE-2LS를 제안하며, 이는 전역 탐색 및 실행 가능성 탐색을 유지하면서 최종 단계의 활용(exploitation) 능력을 강화한다. 실험 결과, DE-2LS는 RDEx 대비 U-score 5.58% 향상을 달성하고, RDEx, CL-SRDE, UDE-III와의 4개 알고리즘 비교에서 가장 높은 전체 U-score 80968과 최고 순위를 기록하였다.
본 논문은 엔트로피 정규화 최적화 문제의 평균 제약 조건에 대한 최적 분포에서 샘플을 생성하기 위해 주-이중 추론(PDI)을 사용하는 제약 디퓨전 모델을 개발합니다. 우리는 라그랑주 쌍대 영역에서 제약 샘플링을 정식화하며, 여기서 최적 분포는 최적 쌍대 변수에 의해 인덱싱된 기브스 분포의 형태를 취합니다. 샘플링 전에 이 쌍대 승수를 추정하고 생성 과정 내내 이를 동결하는 대신, PDI는 최적 주 분포와 이를 매개변수화하는 쌍대 변수를 공동으로 추론합니다. 각 역 디퓨전 단계는 현재 승수와 관련된 스코어 필드를 사용하여 노이즈를 제거한 다음, 노이즈가 제거된 샘플의 추정된 제약 위반량을 사용하여 쌍대 상승법을 통해 승수를 업데이트합니다. 이 조건부 스코어 필드를 활성화하기 위해, 우리는 추론 중에 마주치는 쌍대 변수에 의해 유도되는 기브스 분포의 집족에 대해 단일 쌍대 조건부 스코어 네트워크를 학습합니다. 우리는 추론 궤적을 따라 생성된 쌍대 변수의 시간 평균이 쌍대 최적해의 근방으로 수렴함을 증명하고, 스케줄 의존적 안정성 인자를 통해 최종 분포에 대한 잔여 쌍대 불일치의 영향을 제한합니다. 우리는 가우시안 혼합, 무선 자원 할당, 포트폴리오 관리에서의 제약 샘플링에 대해 PDI를 평가합니다.