PyTorchKR Papers

최신 논문

총 51편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.11821v2cs.DM

지지 비지배점에 의한 다목적 네트워크 문제의 비지배 집합 표현

Representing the Non-dominated Set of Multi-objective Network Problems by Supported Non-dominated Points

다목적 조합 최적화에서 비지지 비지배점(unsupported non-dominated point)은 통상 지지점(supported point)보다 수가 많으며, 계산하기도 훨씬 어려운 경우가 많다. 최근 연구에 따르면 극단 지지 비지배점(extreme supported non-dominated point)은 특정 이진 문제의 비지배 집합에 대해 고품질 표현을 제공한다. 본 논문에서는 이 관찰이 용량 제한 네트워크 최적화 문제로 일반화되지 않음을 보인다. 즉, 호(arc) 용량이 증가할수록 표현 품질이 저하되는 반면, 지지 비지배점은 여러 품질 지표에서 지속적으로 고품질 표현을 제공한다. 그러나 지지점 집합도 실용적인 응용에서는 지나치게 클 수 있으며, 일반적으로 소수의 고정된 대안만이 요구된다. 비지배 집합에서 고정 크기 표현을 선택하려면 계산 비용이 높은 전체 집합 생성이 필요하므로, 표현이 제공하려는 계산 상의 이점이 감소한다. 따라서 본 논문은 부분집합 선택 문제에서 (극단) 지지점을 대안적 후보 집합으로 제안한다. 수치 실험 결과, 후보 집합을 지지 비지배점으로 제한하더라도 완전한 비지배 집합에서 선택한 것과 거의 동일한 품질의 고정 크기 표현을 얻을 수 있음을 보인다. 종합하면, 지지 비지배점은 고품질 표현이자 부분집합 선택을 위한 합리적인 후보 집합으로 모두 활용될 수 있다.

arXiv:2610.13773v1math.OC

기하학적 구조를 고려한 다중 목적 최적화: 엔트로피 기반 가중치 업데이트를 적용한 노름 제약 오라클

Geometry-Aware Multi-Objective Optimization: Norm-Constrained Oracles with Entropic Weight Updates

다중 경사하강법(Multiple-gradient descent)은 일반적으로 유클리드 기하학에서 공식화되는 반면, 행렬 인식 옵티마이저는 다른 노름(norm)에 의해 유도된 방향을 사용합니다. 본 논문에서는 노름 제약이 있는 선형 최소화 오라클과 태스크 가중치의 엔트로피 업데이트를 결합한 단일 루프 다중 목적 최적화 기법을 분석합니다. 유한 차원 노름 쌍에 대해 결정론적 환경에서 $O(T^{-1/2})$의 에르고딕 정지성(ergodic stationarity) 수렴 속도를 확립하며, 비정규화된 경우 평활성(smoothness) 및 하한 유계성으로부터 필요한 궤적 그래디언트 경계를 유도합니다. 확률적 그래디언트와 유계 그래디언트 가정 하에서는 단일 지속 혼합 그래디언트 모멘텀 버퍼를 통해 선행 항이 태스크 수에 명시적으로 의존하지 않는 $O(T^{-1/4})$ 수렴 속도를 산출합니다. 또한 임의의 유계 그래디언트 시퀀스에 대해 내부 가중치 목적식의 정적 리그릿(static regret)을 확립하고, 엔트로피 정규화와 가중치 하한(weight floor)을 적용하여 궤적 그래디언트 경계를 조건으로 에르고딕 정지성을 유지하면서 웜업(burn-in) 이후 반복별 내부 갭 제어를 달성합니다. 최적의 혼합 그래디언트는 스펙트럼 및 부호 기하학에서 유일하지 않을 수 있으므로, 선택에 독립적인 내부 갭의 필요성을 부여합니다. 본 분석은 동시 연구인 MOON에서 연구된 스펙트럼 구성을 일반적인 노름으로 확장합니다. 실험을 통해 기존 멀티태스크 옵티마이저와 제안 방법을 비교하고 오라클, 가중치 부여 및 모멘텀 선택을 검토합니다.

arXiv:2610.13508v1cs.LG

FedPCD: 우선순위 제약 기반 연합 집계

FedPCD: Priority-Constrained Federated Aggregation

연합학습(FL)은 분산된 클라이언트 데이터로부터 공유 글로벌 모델을 최적화하는 것을 목표로 합니다. 이러한 방식은 평균 성능에는 효과적이지만, 특히 통계적으로 이질적인(heterogeneous) 데이터 분포 하에서는 클라이언트 간에 불공정한 성능을 초래할 수 있습니다. 기존의 공정성 인식 및 다중 목적 연합학습 방법들은 클라이언트 재가중치 부여(re-weighting), 그래디언트(gradient) 보정, 또는 공통 하강(common-descent) 정식화를 통해 이를 다루지만, 종종 글로벌 최적화 방향을 변경하거나 클라이언트의 목적을 대칭적으로 취급합니다. 본 논문에서는 글로벌 최적화 목적과 클라이언트 보호를 분리하는 우선순위 제약 연합 최적화 프레임워크인 FedPCD를 제안합니다. FedPCD는 기존의 연합 집계를 기본(primary) 목적으로 보존하면서, 클라이언트 성능 제약을 충족하는 데 필요한 최소한의 보정만을 허용합니다. 이질적인 연합학습 벤치마크 전반에서 FedPCD는 최신(SOTA) 베이스라인들을 일관되게 능가하여 모든 구성에서 가장 높은 글로벌 정확도를 달성하고 거의 모든 구성에서 하위 10% 클라이언트 정확도를 선도했습니다. 나아가 FedPCD는 글로벌 정확도와 클라이언트 성능 변동성 사이에서 경쟁력 있는 트레이드오프를 유지합니다. 이러한 트레이드오프를 넘어, FedPCD는 훨씬 적은 통신 라운드로 동등하거나 우수한 성능에 도달하며 더 빠른 실증적 수렴을 입증합니다.

arXiv:2606.03904v2cs.LG

MAdam: 메트릭 인식 다중 목적 Adam

MAdam: Metric-Aware Multi-Objective Adam

다중 목적 최적화(MOO)는 수많은 머신러닝 문제의 기반을 이루지만, 손실 균형(loss-balancing), 그래디언트 균형(gradient-balancing), 파레토(Pareto) 기반 계열 전반의 MOO 솔버들은 절충된 방향 벡터를 거의 예외 없이 Adam~\citep{kingma2015adam}에 전달합니다. 본 논문에서는 이러한 결합으로 인해 솔버의 의도와 옵티마이저의 실행 사이에 두 가지 구조적 괴리가 발생함을 보입니다. 첫 번째는 가중치 불일치(weighting mismatch)입니다. Adam의 2차 모멘트 분모는 시간에 따라 변하는 선호도(preference) 벡터와 그래디언트 통계량을 뒤엉키게 만들어, 선호도를 과거 이력의 평균으로 한계화하고 서로 다른 파레토 절충안들을 거의 균일한 혼합 상태로 수렴시켜 버립니다. 두 번째는 기하학적 불일치(geometric mismatch)입니다. Adam의 적응형 메트릭은 MOO 솔버가 가정하는 유클리드 기하학을 왜곡하여, 정렬된 목적들을 표면상 충돌하는 것처럼 변형시킵니다. 이 두 문제를 동시에 해결하기 위해, 솔버와 옵티마이저를 전혀 변경하지 않고 그대로 사용할 수 있는 드롭인 래퍼(drop-in wrapper)인 MAdam(Metric-Aware Multi-Objective Adam)을 제안합니다. MAdam은 스칼라화된 목적 함수의 선호도 조건부 곡률(curvature)로 절충된 방향을 사전조건화(preconditioning)합니다. 이처럼 백색화(whitening)된 입력에서 Adam의 2차 모멘트는 단위행렬로 단순화되므로, 실제 반영되는 업데이트는 선호도 조건부 메트릭에 의해 제어됩니다. 멀티태스크 학습, 파레토 전선 복원, 물리 정보 신경망(PINN), 의료 영상 전반에 걸쳐 MAdam은 모든 솔버 계열에 대해 전반적으로 Adam 대비 성능을 향상시킵니다. 코드는 https://github.com/lfb-1/MAdam 에서 제공됩니다.

arXiv:2605.05660v3cs.LG

쌍대 추적에서 클리핑까지: 이론적으로 입증 가능한 더 빠른 분포 강건 다중 목표 최적화

From Dual Tracking to Clipping: Provably Faster Distributionally Robust Multi-Objective Optimization

다중 목표 최적화(MOO)는 여러 기준 하에서 학습이 요구되는 응용 분야에서 점점 더 많은 주목을 받고 있습니다. 그러나 기존의 대부분의 MOO 정식화는 데이터의 분포 변화(distributional shift)를 명시적으로 고려하지 않습니다. 본 논문에서는 각 목표의 최악의 경우 분포 하에서 여러 목표를 최소화하는 분포 강건 다중 목표 최적화(DR-MOO)를 도입합니다. 우리는 DR-MOO를 위한 파레토(Pareto) 형태의 해 개념을 제안하고, 이론적 보장이 동반된 다중 경사하강법(MGDA) 알고리즘을 개발합니다. 라그랑주 쌍대 재정식화(Lagrangian dual reformulation)를 활용하여, 먼저 내부 루프를 통해 쌍대 변수를 추정하고 $ε$-파레토-정상점($ε$-Pareto-stationary point)에 도달하기 위해 총 표본 복잡도(sample complexity) $\mathcal{O}(ε^{-8})$을 달성하는 이중 루프 MGDA를 설계합니다. 수렴 속도를 더욱 개선하기 위해, 대규모 배치(large-batch) 샘플링과 그래디언트 클리핑(gradient clipping)을 결합하여 일반화된 매끄러움(generalized smoothness)을 수용하고 확률적 선호도 업데이트의 바이어스를 제어함으로써 이중 샘플링의 필요성을 제거합니다. 이를 통해 표본 복잡도가 $\mathcal{O}(ε^{-4})$로 대폭 개선된 단일 루프 이중 클립 MGDA를 도출합니다. 우리의 이론은 쌍대 목표의 균일하게 유계된 그래디언트를 요구하지 않으면서 비볼록(nonconvex) 문제에 적용됩니다. 실험을 통해 본 제안 방법들이 최신 MGDA 베이스라인들과 견줄 만한 경쟁력을 갖추고 있음을 입증합니다.

arXiv:2312.17295v2cs.CR

대규모 언어 모델 워터마크 최적화

Optimizing watermarks for large language models

대규모 언어 모델(LLM)의 부상과 잠재적 오용에 대한 우려로, 생성형 LLM용 워터마크가 최근 많은 관심을 받고 있다. 이러한 워터마크의 중요한 측면은 식별 가능성과 생성 텍스트 품질에 대한 영향 사이의 트레이드오프이다. 본 논문은 이 트레이드오프에 대해 다목적 최적화 문제로서 체계적인 접근을 제시한다. 견고하고 효율적인 워터마크의 넓은 클래스에 대해, 관련 파레토 최적 해를 식별하고 현재 기본 워터마크보다 우수함을 보인다.

arXiv:2609.27430v1cs.NE

목표 수가 변하는 동적 다목적 최적화를 위한 비유계 아카이브 기반 전이 전략

An Unbounded Archive-based Transfer Strategy for Dynamic Multi-Objective Optimization with a Changing Number of Objectives

목표 수가 가변적인 동적 다목적 최적화는 목표 차원의 변화가 파레토 전선을 크게 바꿀 수 있고 알고리즘의 적응성을 저하시킬 수 있어 어렵다. 본 논문은 각 환경 단계에서 자손 해의 비유계 아카이브를 유지하고, 목표 변화가 발생할 때 실행 가능한 비支配 해를 전이 가능한 정예(elite)로 추출하는 비유계 아카이브 기반 전이 전략(UATS)을 제안한다. UATS를 SPEA2SDE에 내장해 UATS-SPEA2SDE를 구성함으로써, 알고리즘이 shift-based density estimation(SDE)의 수렴과 다양성 이점을 유지하면서 과거 진화 정보를 재사용할 수 있게 한다. 세 가지 목표 변화 설정 하에서 네 개의 벤치마크 문제에 대해 실험을 수행하였으며, UATS-SPEA2SDE를 재시작 기반 SPEA2SDE 기준선 및 네 가지 대표 동적 다목적 최적화 알고리즘과 비교하였다. 결과는 아카이브 안내 전이가 환경 변화 이후 회복을 개선하고 목표 수 변화에 대한 적응성을 향상시킴을 보여준다.

arXiv:2609.26929v1cs.AI

어떤 목표에 다이얼이 필요한가? 조향 가능한 다원적 정렬에서 목표 충돌 예측 및 트레이드오프 커버

Which Objectives Need a Dial? Predicting Objective Conflict and Covering Trade-offs in Steerable Pluralistic Alignment

사람들은 다양하고 때로는 상충하는 가치를 지니므로, 단 하나의 정렬된 모델로는 모두를 만족시킬 수 없다. 따라서 다원적 정렬은 경쟁하는 목표를 서로 다르게 균형 잡을 수 있는 조향 가능한 모델을 요구한다. 다목적 직접 선호 최적화(Multi-Objective Direct Preference Optimization, MODPO)는 목표 가중치를 사용해 연속적인 트레이드오프 스펙트럼을 아우르는 방식으로 이를 수행한다. 우리는 두 가지 질문을 연구한다: 하나의 모델이 두 목표를 동시에 개선할 수 있는 경우는 언제인지, 그리고 각 트레이드오프마다 별도의 모델을 학습하지 않고도 많은 트레이드오프를 어떻게 포괄할 수 있는지. HelpSteer와 UltraFeedback의 일곱 목표 쌍에 걸쳐, 두 가지 사전학습 측정값은 사람이 주석 단 데이터에서 목표가 정렬되는지 충돌하는지를 예측하지만, AI 주석 데이터에서는 그렇지 않으며, 후자에서는 응답 길이와 반복이 보상 모델 점수를 교란한다. 더 넓은 트레이드오프 커버리지를 위해, 가장 가까운 학습된 모델을 선택하는 방법과 모델 파라미터 병합 모두 도움이 되지만, 어느 것도 일관되게 직접 학습에 필적하지는 못한다. 이러한 결과는 다양한 선호를 수용하는 조향 가능한 모델을 구축하기 위한 실용적 지침을 제공한다.

arXiv:2606.19230v2cs.LG

제약 조건 인식 바이오 프로세스 개발을 위한 인간 개입형(Human-in-the-Loop) 베이지안 최적화 프레임워크

A Human-in-the-Loop Bayesian Optimization Framework for Constraint-Aware Bioprocess Development

이 연구는 Pareto Front Guided Sampling (PFGS)의 확장을 제시합니다. 이는 인간 개입형(Human-in-the-Loop, HitL) 베이지안 최적화(Bayesian Optimization, BO) 프레임워크로, 가우시안 프로세스(Gaussian Process, GP) 대리 모델에서 도출된 양을 다목적 최적화 문제의 목적식으로 재구성하고, 단일 자동화된 추천을 반환하는 대신 결과 파레토 프론트(Pareto front)를 도메인 전문가에게 제시하여 대화형 후보 선택을 가능하게 합니다. 이 프레임워크는 두 가지 방향으로 확장됩니다. 제약 최적화(constrained optimization)는 GP 사후 분포에서 해석적으로 계산된 출력 사양 한계를 충족하는 사후 확률을 명시적인 파레토 목적식으로 통합하여 해결됩니다. 강건 최적화(robust optimization)는 사용자 정의 입력 섭동의 변동성에 대한 기대 하위 신뢰도 성능을 추정하는 몬테카를로 샘플링(Monte Carlo sampling) 전략을 통해 해결하며, 이는 가능한 구현 편차 하에서의 성능 저하를 포착합니다. 결과적인 다차원 파레토 표현은 대화형 대시보드에서 쌍별 2차원 투영을 통해 예측 성능, 모델 불확실성, 확률적 제약 충족, 입력 강건성 간의 상충 관계를 동시에 시각화하여, 대리 모델이 개선되고 개발 목표가 진화함에 따라 선택 기준을 반복적으로 정교화할 수 있게 합니다. 이 프레임워크는 8차원 피드-배치(fed-batch) 중국 햄스터 난소(Chinese Hamster Ovary, CHO) 세포 배양 시뮬레이터를 통해 시연되며, 고성능이고 실현 가능성을 준수하며 섭동에 회복력 있는 운영 조건을 체계적으로 식별하는 것을 입증합니다. 또한 전문가 정의 요구 사항이 원칙적인 중단 기준을 제공하고 실험 자원의 정보에 입각한 할당을 지원하는 방법을 설명합니다.

arXiv:2607.23800v1cs.NE

다목적 최적화를 위한 진화 알고리즘에서 동적 개체군 크기로 인한 증명 가능한 속도 향상

Provable Speedups From Dynamic Population Sizes in Evolutionary Algorithms for Multiobjective Optimization

이 논문은 진화 다목적 최적화에서 동적 개체군 크기의 역할을 조사한다. 이러한 접근법은 실무에서 널리 사용되지만, 그 이점은 여전히 잘 이해되지 않았으며, 언제 그리고 왜 도움이 되는지를 설명하는 엄밀한 실행 시간 분석은 여전히 부족하다. 이를 해결하기 위해, 우리는 이변수(bi-objective) 문제 클래스 CLIMB를 도입하고 이 문제에 대해 GSEMO와 널리 사용되는 NSGA-II의 실행 시간을 분석한다. 우리의 결과는 NSGA-II에 동적 개체군 크기를 허용하면 중간 정도의 개선을 이끌 수 있으며, $Ω(\sqrt{n}/\log n)$ 차수의 속도 향상을 제공함을 보여준다. 특히, 우리는 GSEMO와 본 논문에서 제안하는 동적 개체군 크기를 갖는 NSGA-II의 변형인 NSGA-II-DYN이 CLIMB의 파레토 전선(Pareto front)을 기대 $O(n \log n)$ 적합도 평가(fitness evaluations) 내에서 찾을 수 있음을 증명하는 반면, 고정된 개체군 크기를 갖는 NSGA-II는 기대적으로 $Ω(n^{1.5})$ 적합도 평가를 필요로 한다. 우리가 아는 한, 이는 GSEMO가 NSGA-II 대비 상수를 초과하는(super-constant) 속도 향상을 보여주는 다목적 최적화 분야의 최초의 엄밀한 실행 시간 분석이다. 우리의 분석은 시간에 따른 개체군 다양성의 진화와 같은 단일 목적 최적화의 개념을 기반으로 하며, 하한(lower bound)을 증명하기 위해 잘 알려진 family-three 방법을 사용한다.

arXiv:2607.13377v1cs.NE

목적 함수 간 상호작용이 대규모 목적 최적화 알고리즘 성능에 미치는 영향

The impact of objective interactions on the performance of massive objective optimization algorithms

지난 20년간 다목적 최적화(many-objective optimization)는 주목받아 온 분야이며, 이러한 문제를 다루기 위해 여러 진화(evolutionary) 최적화 알고리즘이 제안되었지만, 여전히 두 가지 근본적인 질문은 충분히 탐구되지 않은 상태이다: (i) 목적 함수의 수가 전형적인 다목적 최적화 영역인 약 15개를 넘어 대규모(massive) 수준으로 증가하면 어떤 일이 발생하는가? (ii) 목적 함수 간 상호작용의 성격과 같은 문제 특성이 알고리즘 성능에 어떤 영향을 미치는가? 이 질문에 답하기 위해, 우리는 문제 특성을 제어할 수 있고 극도로 높은 목적 함수 수로 확장할 수 있는 진단 벤치마크 스위트를 사용한다. 이 프레임워크를 이용하여 NSGA-II, NSGA-III, MOEA/D, lexicase selection을 포함한 여러 최신(state-of-the-art) 진화 알고리즘을 다양한 차원과 진단 문제 landscape에서 평가한다. 실험 결과, 문제 특성이 알고리즘 성능에 유의미한 영향을 미친다는 것을 보여준다. 특히 목적 함수 간 상호작용의 성격이 중요해 보인다. 이러한 결과는 특정 문제에 알고리즘을 선택하기 전에 이러한 특성을 이해하는 것의 중요성을 강조한다. 또한 유전 프로그래밍(genetic programming)을 위해 원래 설계된 알고리즘인 lexicase selection이 미리 정의된 기준 방향(reference direction)에 대한 의존을 피하면서 최신 다목적 최적화 알고리즘과 비교해 양호한 성능을 보임을 보여준다.

arXiv:2607.13200v1cs.NE

컴퓨팅 연속체에서의 서비스 배치를 위한 하이브리드 다목적 진화 알고리즘: 유전적 추적 가능성을 활용한 비교 연구

Hybrid multi-objective evolutionary algorithms for service placement in the computing continuum: a comparative study with genetic traceability

본 논문은 협력적 하이브리드 아일랜드 모델 다목적 진화 알고리즘(MOEA)을 통해 컴퓨팅 연속체 환경에서의 다목적 서비스 배치 문제를 다룬다. 핵심 혁신은 새로운 일반 하이브리드 알고리즘 설계가 아니라, 두 개의 독립적인 실험 캠페인을 통해 이 특정 최적화(optimization) 영역에 대한 이종 하이브리드화의 체계적 적용과 분석에 있다. 첫 번째 캠페인은 네 가지 최신 MOEA(NSGA-II, NSGA-III, U-NSGA-III, SMS-EMOA)를 사용하고, 두 번째 캠페인은 NSGA-II, MOEA/TS, MOCPO에 기반한 보완적 하이브리드 구성을 사용하며, 두 설계 모두 공진화하며 주기적으로 해를 교환한다. 이러한 설계는 아일랜드 간 보완적인 탐색 동작을 가능하게 하며, 컴퓨팅 연속체의 분산 엣지-포그-클라우드(edge-fog-cloud) 아키텍처와 자연스럽게 부합하여 확장 가능한 병렬 실행을 용이하게 한다. 접근법을 평가하기 위해 두 가지 연구 가설을 정의한다: (i) 하이브리드 협력이 단독 알고리즘 대비 유의미한 성능 향상을 제공하는지, (ii) 모든 구성 알고리즘이 최종 결과에 동등하게 기여하는지. 표준 파레토 프론트(Pareto-front) 품질 지표(GD, IGD, HV, S, STE)와 유전 부하(genetic load)에 기반한 추적 가능성 지향 분석을 결합하여, 각 아일랜드가 진화된 해에 기여한 정도를 정량화한다. 30회의 독립 실행에서 하이브리드 방법은 대부분의 단독 베이스라인을 능가하며, 통계 검정이 유의미한 개선을 확인한다. 결과는 또한 아일랜드 간 기여도가 균일하지 않음을 보여, 효과적인 하이브리드 협력에 대한 해석 가능한 증거를 제공한다.

arXiv:2607.12240v1cs.NE

구조 최적화를 위한 수리 기반 제약 처리를 갖춘 새로운 이중 집단 제약 다중 목표 진화 최적화 알고리즘

A new dual-population constrained multi-objective evolutionary optimization algorithm with repair constraint handling for structural optimization

구조 최적화 문제는 종종 다수의 의사결정 변수와 고도로 비볼록한 실행 가능 영역을 포함하여, 진정한 파레토 전선으로의 수렴을 극히 어렵게 만든다. 수렴이 가능한 경우에도 일반적으로 수천 번의 함수 평가가 필요하여 상당한 계산 비용이 발생한다. 이는 실제 공학 응용을 위한 효율적이고 견고한 최적화 알고리즘의 필요성을 강조한다. 본 연구에서는 DPCME라 명명한 새로운 제약 다중 목표 진화 알고리즘을 제안한다. 이 알고리즘은 정보를 교환하는 두 개의 상호작용 집단을 사용하여 효과적인 전역 탐험을 가능하게 하고 지역 최적해로의 수렴 위험을 줄인다. 성능을 더욱 향상시키기 위해 최근의 수리 기반 제약 처리 기법이 통합되었으며, 대안적인 수리 접근법이 제안되고 체계적으로 평가되었다. 제안 알고리즘은 72-bar truss, 120-bar truss, 화학 탱커 구조라는 세 가지 공학 문제에 대해 검증되었으며, 각 문제는 수백 개의 비선형 파손 제약을 포함한다. 성능은 최신 PlatEMO 패키지의 최신(state-of-the-art) 제약 다중 목표 최적화 알고리즘과 비교하여 평가되었다. 총 43개 알고리즘이 초기에 검증되었으며, 이 중 12개의 최고 성능 방법이 상세 비교를 위해 선정되었다. 결과는 DPCME가 모든 테스트 사례에서 우수하거나 경쟁력 있는 수렴과 다양성을 달성하며, 수리 기반 제약 처리의 도입이 성능을 더욱 향상시킴을 보여준다.

arXiv:2607.11916v1cs.NE

QDEvo: 자동 휴리스틱 설계를 위한 다목표 품질-다양성 프레임워크

QDEvo: A Multi-Objective Quality-Diversity Framework for Automated Heuristic Design

대규모 언어 모델(LLM)과 진화 연산(evolutionary computation)의 통합은 조합 최적화(combinatorial optimization)에서 자동 휴리스틱 설계를 위한 강력한 패러다임으로 부상했다. 그러나 기존 접근법은 모드 붕괴(mode collapse)에 시달리며, 의미적 다양성이 부족한 동질적 개체군으로 수렴하고 전체 알고리즘 공간을 탐색하지 못한다. 우리는 품질-다양성(Quality-Diversity) 최적화와 LLM 기반 휴리스틱 탐색을 통합하는 다목표 프레임워크인 Quality-Diversity Evolution(QDEvo)을 제안한다. 사전학습된 코드 임베딩을 사용해 의미적으로 다양한 알고리즘의 무한 아카이브를 유지하고, 계층적 자기 성찰(hierarchical self-reflection)을 도입해 진화 과정을 안내한다. 표준 벤치마크와 실제 산업 응용에 걸친 광범위한 실험 결과, QDEvo는 Hypervolume 및 Inverted Generational Distance 지표 모두에서 최신 방법들을 크게 능가한다. 본 프레임워크는 고성능이면서 동시에 계산적으로 효율적이고 의미적으로 다양한 휴리스틱의 발견을 가능하게 하며, 복잡한 최적화 문제에 대해 실무자에게 풍부한 해 포트폴리오를 제공한다.

arXiv:2512.23945v2cs.NE

진화적 제약 다목적 최적화를 위한 양방향 제약 분리

Decoupling Constraints from Two Directions for Evolutionary Constrained Multi-objective Optimization

실제 제약 다목적 최적화 문제(CMOP)는 일반적으로 다수의 제약을 포함하며, 이들의 결합 관계를 이해하고 활용하는 것은 효율적인 최적화에 매우 중요합니다. 최근의 제약 분리(constraint-decoupling) 방법들은 개별 제약을 독립적으로 처리하지만, 단일 제약 파레토 프론트(SCPF)를 근사하기 위해 일반적으로 진화 방향으로만 탐색합니다. 본 연구에서 우리는 제약 파레토 프론트(CPF)의 일부 또는 전체가 어떤 SCPF와도 무관하며, 대신 비실행 가능 영역(infeasible regions)의 경계에 의해 형성될 수 있음을 보입니다. 우리는 이러한 부분을 독립 CPF(ICPF)라 지칭하고, 이와 관련된 정보적 비실행 가능 경계를 특성화하기 위해 역방향 CPF(RCPF)를 도입합니다. 이러한 관찰을 바탕으로, 우리는 양방향 제약 분리 공진화(coevolutionary) 알고리즘인 DCF2D를 제안합니다. DCF2D는 주 집단(main population)을 방해하는 제약을 동적으로 식별하고 제약별 보조 집단(auxiliary populations)을 활성화합니다. 이 보조 집단들은 해당 SCPF를 위해 진화 방향으로, 또는 해당 RCPF를 위해 역 진화 방향으로 적응적으로 탐험(exploration)합니다. 세 단계 프레임워크는 비제약 전역 탐험, 이벤트 기반 양방향 공진화, 그리고 최종 수렴(convergence) 정제를 통합합니다. 7개의 테스트 스위트에서 87개의 벤치마크 인스턴스와 28개의 실세계 공학 CMOP에 대한 실험을 통해, DCF2D가 9개의 알고리즘 중 최고의 전반적 성능을 달성함을 입증합니다. 코드는 https://github.com/RuiqingS/DCF2D에서 확인할 수 있습니다.

arXiv:2607.09641v1cs.LG

Semantic Pareto-DQN: 금융 이상 탐지를 위한 다목적 강화학습 프레임워크

Semantic Pareto-DQN: A Multi-Objective Reinforcement Learning Framework for Financial Anomaly Detection

금융 이상 탐지는 극심한 클래스 불균형 문제로 인해 전통적인 단일 목적 알고리즘이 '사기 붕괴(fraud collapse)' 현상을 보이며, 다수 클래스로 기본값을 설정하여 이상 차단과 고객 마찰 간의 균형을 맞추지 못한다. 왜곡적인 데이터 리샘플링 없이 이를 극복하기 위해, 우리는 다목적 강화학습 프레임워크인 Semantic Pareto-DQN을 제안한다. 우리의 접근법은 이질적인 거래 특징을 일관된 자연어 내러티브로 합성하고, 대규모 언어 모델(LLM)로 인코딩함으로써 견고하고 스케일 불변적인 상태 표현을 생성한다. 에이전트는 금융 효과, 운영 마찰, 의미론적 발견을 명시적으로 분리하는 벡터 보상을 최적화한다. 연속적인 파레토 프론티어(Pareto frontier)를 매핑함으로써, 시스템은 놓친 이상 탐지와 거짓 양성의 비대칭적 비용을 동적으로 탐색한다. E-Commerce 사기 및 UCI Credit 데이터셋에 대한 실증 평가에서 Semantic Pareto-DQN은 제로 재현율 함정(zero-recall trap)을 성공적으로 극복함을 보여준다. 이 모델은 스칼라화된 기준선 대비 소수 클래스 재현율에서 우수한 성능을 달성하며, 제한된 운영 마찰을 금융 이상 탐지로 교환하는 대안적 방법을 제공한다.

arXiv:2602.07764v2cs.LG

선호도 조건부 다목적 강화학습: 분해된, 다양성 기반 정책 최적화

Preference Conditioned Multi-Objective Reinforcement Learning: Decomposed, Diversity-Driven Policy Optimization

다목적 강화학습(MORL)은 상충하는 목표들을 균형 있게 처리할 수 있는 에이전트를 학습시키는 것을 목표로 한다. 단일 선호도 조건부 정책은 확장성이 뛰어난 해법을 제공하지만, 기존 접근법들은 실제 환경에서 취약하여 밀도 있는 파레토 프론트(Pareto front) 복원에 자주 실패한다. 우리는 이러한 실패가 두 가지 구조적 병리에서 비롯됨을 보인다: 조기 스칼라화(Early Scalarization, ES)로 인한 파괴적 어드밴티지 상쇄(destructive advantage cancellation), 그리고 선호도 공간 전반에 걸친 표현 모드 붕괴(representational mode collapse). 이 병목을 극복하기 위해, 우리는 다목적 최적화를 근본적으로 재구성하는 PPO 기반 프레임워크인 $D^3PO$를 제안한다. 분해된 파이프라인을 통해 목표별 학습 신호를 보존하고, 신뢰 영역 안정화 이후에만 선호도를 통합하는 후기 단계 가중치(Late-Stage Weighting)를 적용함으로써, $D^3PO$는 상충하는 목표 하에서의 크레딧 할당(credit assignment)을 개선한다. 동시에, 스케일링된 다양성 정규화기(diversity regularizer)가 선호도 거리에 비례한 행동적 발산을 장려한다. $D^3PO$는 표준 심층 MORL 기준선과 공유되는 효율적인 선형 스칼라화(linear scalarization) 체계 내에서 완전히 작동한다. 비용이 큰 비선형 효용 함수에 의존하는 대신 선형 스칼라화로 인한 정보 손실을 줄임으로써, 최적화 병목이 중요한 역할을 한다는 점을 시사한다. 고차원 및 다수 목표 환경을 포함한 가용한 표준 벤치마크 전반에 걸쳐, $D^3PO$는 단일 배포 가능 정책을 사용하여 기존 방법보다 더 넓고 높은 품질의 파레토 프론트를 일관되게 발견하며, 최첨단(state-of-the-art) 하이퍼볼륨(hypervolume) 및 기대 효용(expected utility)을 초과한다.

arXiv:2607.09566v1cs.CE

카디널리티 제약 조건 하에서 강화된 다목적 진화 알고리즘을 활용한 대규모 포트폴리오 최적화 문제

Large-Scale Portfolio Optimization Problem Under Cardinality Constraint With Enhanced Multi-Objective Evolutionary Algorithms

금융 시장에서 이용 가능한 대안의 수가 증가함에 따라 의사결정은 투자자들에게 점점 더 어려운 과제가 되고 있다. 지난 수십 년간 활발히 연구되어 온 분야 중 하나는 투자자가 어떤 자산에 얼마를 투자해야 하는지를 결정하는 포트폴리오 최적화(portfolio optimization)이다. 최적화 모델에 현실적인 조건을 도입하면 문제가 NP-난해 문제로 변환되어 정확한 방법으로는 해를 구하기 어렵기 때문에, 연구자들은 근사해를 구하기 위해 진화 알고리즘(evolutionary algorithms)에 주목해 왔다. 본 논문에서는 카디널리티 제약 조건 하에서의 포트폴리오 최적화 문제에서 빠른 수렴 속도와 광범위한 탐색 능력을 제공할 수 있는 다목적 진화 알고리즘(multi-objective evolutionary algorithms)의 강화 전략을 제안한다. 이러한 특성을 구현하기 위해, 포트폴리오 내 자산 수에 하한 및 상한을 설정하는 해당 문제를 해결하기 위한 고유한 해 표현 방식, 새로운 연산자, 그리고 새로운 복구 메커니즘(repair mechanisms)이 도입된다. 이를 위해 새로운 교배 전략(mating strategies)과 앞서 언급한 패키지가 잘 알려진 다목적 진화 알고리즘에 구현되어 문제를 해결한다. 맞춤화된 알고리즘은 이후 잘 알려진 시장 지수를 벤치마크로 사용하여 기존 알고리즘과 비교 평가된다. 결과는 제안된 전략이 시장 내 자산 수가 증가하더라도 성능 손실 없이 더 나은 근사해를 제공할 뿐만 아니라 더 빠르게 수렴함을 보여준다.

arXiv:2607.08791v1cs.NE

다목적 베이지안 최적화 알고리즘의 LLM 기반 진화적 생성

LLM-Driven Evolutionary Generation of Multi-Objective Bayesian Optimization Algorithms

효과적인 다목적 베이지안 최적화(MOBO) 알고리즘을 설계하려면 문제에 따라 최적 구성이 달라지는 수많은 상호의존적 설계 선택들을 균형 있게 다루어야 하며, 일반적으로 깊은 전문 지식을 요구한다. 본 연구는 LLaMEA 프레임워크를 MOBO로 확장하여, 대규모 언어 모델(LLM)을 진화 전략 내의 변이 및 교차 연산자로 활용함으로써 완전한 알고리즘 구현을 생성하고, SMAC 하이퍼파라미터 최적화를 진화 루프에 통합한다. 총 9회의 진화 실행에 걸쳐 약 900개의 알고리즘을 생성하였으며, 12개의 합성 문제(ZDT, DTLZ, WFG)와 3개의 실세계 공학 문제(RE)에서 벤치마크를 수행하였고, BoFire의 qParEGO 구현을 최신 베이지안 최적화 기준선으로 사용하였다. 합성 문제 세트에서 가장 우수한 생성 알고리즘은 최고 평균 정규화 하이퍼볼륨(0.971, qParEGO의 0.869 대비)을 달성하면서 벽시계 시간을 약 60배 단축하였다. 사후 분석을 포함한 Friedman 검정 결과 두 알고리즘은 동일한 최상위 그룹에 속하였으며, 문제별 검정에서 생성 알고리즘은 12개 문제 중 7개에서 qParEGO보다 유의하게 우수하였고 열등한 경우는 없었다. 즉, 최신 수준의 정확도를 한 자릿수 낮은 비용으로 달성하였다. 학습에 사용되지 않은 3개의 실세계 공학 문제에서도 생성 알고리즘은 최고 평균 정규화 하이퍼볼륨(0.985, qParEGO의 0.971 대비)을 달성하였으며—세 문제 중 두 문제에서 qParEGO보다 유의하게 우수—벽시계 비용은 약 3.4배 낮아, 합성 환경을 넘어 성능 향상이 전이됨을 확인하였다. 따라서 LLM 기반 진화적 탐색은 수동 설계로는 달성하기 어려운 파레토 효율적 트레이드오프를 실현하는 알고리즘 설계를 발견할 수 있다.

arXiv:2606.30530v5cs.CG

원근 매핑과 박스 분해를 이용한 적분 R2 지시자 계산

Computing the Integral R2 Indicator by Perspective Mapping and Box Decomposition

연속 적분 R2 지시자(integral R2 indicator)의 정확한 계산을 위해 원근 매핑(perspective mapping)을 통해 가중 체비쇼프 포락선의 적분을 고정 축-정렬 박스 합집합 위의 적분으로 변환하는 양방향 프레임워크를 제안하며, 이를 통해 기존 초부피(hypervolume) 박스 분해 알고리즘을 재활용하여 $N=2,3$에서 $O(n\log n)$, $N=4$에서 $O(n^2)$의 효율적 계산 복잡도를 달성한다. 또한 대수적 결정 트리 모델에서 $\Omega(n\log n)$ 하한과 $N$이 입력에 포함될 경우 #P-난해성(#P-hardness)을 증명함으로써 계산 복잡도의 이론적 한계도 규명한다.