PyTorchKR Papers

최신 논문

총 51편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.22353v1cs.CV

이해관계 얽힘(Interest Entanglement): 블라인드 초해상화 최적화의 숨겨진 장벽

Interest Entanglement: The Hidden Barrier to Blind Super-Resolution Optimization

이미지 초해상화(SR) 작업에서 충실도(fidelity)와 지각적 품질(perceptual quality)은 본질적으로 경쟁하고 상충하는 두 목표이다. 서로 다른 손실 함수는 이러한 목표에 각기 다른 정도로 초점을 맞춘다. 회귀 손실은 모델의 충실도를 높이지만 고주파 세부에 대한 충분한 고려가 부족하여 미세한 디테일 손실로 이어진다. 반면 지각 손실은 모델의 시각적 품질을 개선하지만 바람직하지 않은 아티팩트(artifact)를 유발할 수 있다. 이 두 최적화 목표의 균형은 다목적 최적화(Multi-Objective Optimization) 문제로 볼 수 있다. 기존 방법은 이러한 손실 간 가중치 매개변수를 신중하게 조정하는 데 그치며, 근본적인 이해관계 얽힘(Interest Entanglement) 문제를 간과한다. 이 문제를 해결하기 위해, 우리는 회귀 목표와 지각 목표 사이의 고유한 주파수 영역 충돌을 탐구하고 SR 작업에서 이해관계 얽힘의 원인을 분석한다. 분석 결과에 따라, 우리는 서로 다른 최적화 목표의 학습 과정을 분리(decouple)하여 모델이 두 목표에 대한 공통 최적화 방향을 탐색하고 이들 사이의 효과적인 균형을 달성할 수 있게 하는 공유 특징 표현 기반 초해상화 프레임워크(SFR)를 제안한다. 공유 특징을 더 잘 활용하기 위해, 차원 축소 및 확장 과정을 통해 중복 정보를 걸러내고 특징을 일관된 공간으로 효과적으로 변환하는 InfoSqueeze 모듈도 제안한다. 5개의 대표적인 데이터셋에 걸친 정량 및 정성 실험은 SFR의 우수성을 입증한다.

arXiv:2606.18785v1cs.LG

다목적 멀티-암드 밴딧을 위한 베이지안 언제든지 중단 가능한 파레토 집합 식별

Bayesian Anytime Pareto Set Identification for Multi-Objective Multi-Armed Bandits

다목적 멀티-암드 밴딧(MOMAB)에서 파레토 집합 식별(PSI)을 언제든지 중단 가능한 베이지안 방식으로 다루기 위해 Top-Two Pareto Front 톰슨 샘플링(TTPFTS)을 제안하고, 합성 벤치마크와 초대형 주문형 합성 분자 라이브러리 탐색에서 고정 예산 알고리즘 대비 효율을 보인다. 예측 파레토 집합의 신뢰도를 추정하는 불확실성 정량화 메트릭과 점근적 정확성에 대한 이론적 증명도 함께 제시한다.

arXiv:2605.26685v2cs.NE

진화 데이터 이론: 데이터 문제와 진화 게임 사이의 유사성에 관하여

Evolutionary Data Theory: On the Similarities between Data Problems and Evolutionary Games

진화 게임 이론(Evolutionary Game Theory)을 데이터 영역에 적용한 진화 데이터 이론(EDT)을 제안하고, 행렬 데이터를 유전자와 유기체로 매핑해 지배-균형(Dominant-Balanced) 및 이타적-이기적(Altruistic-Selfish) 진화 전략 아래 복제자 방정식 역학을 정식화한다. 모든 데이터 특징이 개체군에 유지되는 고유 정지점으로의 수렴을 증명하고, 다목적 최적화·분배 문제·머신러닝 응용 예를 제시한다.

arXiv:2605.04267v2cs.LG

QUIVER: 대리 모델 기반 진화적 다목적 최적화에서의 비용 인식 적응형 선호도 질의

QUIVER: Cost-Aware Adaptive Preference Querying in Surrogate-Assisted Evolutionary Multi-Objective Optimization

대화형 다목적 최적화에서 비용이 큰 목적 함수 평가와 저비용 쌍별 선호(PS)·고비용 무차별 조정(IA) 질의 사이 예산을 적응적으로 배분하는 QUIVER를 제안하며, 단위 총비용당 예상 의사결정 품질 개선을 최대화해 다음 행동을 선택한다. DTLZ·WFG 벤치마크에서 어려운 WFG 문제의 최종 유틸리티 리그릿이 기준선 대비 25% 낮아졌고, 문제 난이도에 따라 PS와 IA 질의 비율이 달라지며 단일 모달리티 기준선을 능가했다.

arXiv:2606.18598v1cs.AI

지질, 수요, 가격 불확실성 하의 리튬 생산 결정 최적화: 다목표 의사결정을 위한 POMDP 프레임워크

Optimizing Lithium Production Decisions under Geological, Demand, and Pricing Uncertainties: A POMDP Framework for Multi-Objective Decision Making

리튬 생산에서의 의사결정은 투자자의 관점이든 전략적 생산 관점이든 어려운 문제입니다. 어떤 광산을 개설하고 언제 개설할지를 결정하는 것은 지질학적 및 가격 불확실성뿐만 아니라, 직접 리튬 추출(direct lithium extraction)에서 경암 채광(hard rock mining)에 이르는 추출 방법 선택의 복잡성까지 포함합니다. 기존 연구는 이 문제의 모델과 채광 결정을 최적화하는 다양한 방법을 탐색했으나, 가격 및 수요의 불확실성이나 리튬 추출을 위한 다양한 채광 기술을 고려하지 못했습니다. 이러한 모델에 다양한 가격 모델과 추출 기술을 통합하면, 광산을 언제 어디서 개설할지뿐만 아니라 어떤 생산 방식을 추구할지를 결정하는 더 견고한 전략을 수립할 수 있습니다. 우리는 이 문제를 부분 관측 가능한 마르코프 결정 과정(POMDP)으로 프레임화하고, 신뢰 상태(belief state) 계획 방법을 사용하여 최적의 의사결정을 도출합니다. 본 연구에서 우리는 POMDP 솔버가 신뢰 상태 계획과 명시적인 불확실성 관리를 통해 변동하는 리튬 가격 체제(정적, 선형, 지수, 확률적)에 동적으로 적응함으로써 인간 직관에 기반한 휴리스틱(heuristics)보다 우수한 성능을 보임을 입증합니다. 탐험, 생산, 기술 선택을 최적으로 순서화함으로써, 해당 프레임워크는 모든 가격 및 광상 시나리오에서 프로젝트 수명 기간 동안 더 높은 수요 충족률과 더 균형 잡힌 경제적 환경적 결과를 달성합니다.

arXiv:2606.17731v1cs.NE

제한된 고유 가중치 값을 갖는 진화 알고리즘과 다목적 최소 신장 트리

Evolutionary Algorithms and Multi-Objective Minimum Spanning Trees with Limited Distinct Weight Values

진화 알고리즘은 다양한 다목적 조합 최적화 문제에 사용되어 왔습니다. 실제적인 성공에도 불구하고, 다목적 조합 문제에 대한 진화 알고리즘의 런타임에 관한 이론적 결과는 다소 제한적입니다. 조사된 하나의 고전적인 문제는 다목적 최소 신장 트리 문제이며, 이에 대해서는 파레토 프론트(Pareto front)의 모든 극단 코너 점을 계산하기 위한 런타임 경계가 확립되었습니다. 본 논문에서는 에지 가중치가 소수의 고유한 값을 가질 때 파레토 프론트의 구조에 대해 더 자세한 통찰을 제공합니다. 이러한 통찰을 바탕으로 우리는 다목적 진화 알고리즘에 대한 새로운 런타임 결과를 도출하고, 실험적 조사를 통해 이론적 결과를 보완합니다.

arXiv:2606.18105v2cs.NI

OmniPlan: 시의적절하고 근최적인 네트워크 계획 최적화를 위한 적응형 프레임워크

OmniPlan: An Adaptive Framework for Timely and Near-Optimal Network Planning Optimization

네트워크 계획 최적화는 교통 시스템, 통신 네트워크, 전력망 등 다양한 영역에서 기본적인 문제이다. 이는 복잡한 제약 조건 하에서 여러 상충하는 목표를 동시에 최적화해야 한다. 기존 네트워크 계획 최적화 프레임워크는 계획 결정을 계산하기 위해 혼합 정수 계획법(MIP) 솔버, 휴리스틱, 그리고 심층 강화학습(DRL) 모델에 의존한다. 그러나 이들은 다양하고 동적인 사용자 의도에 대한 효과적인 적응성이 부족하여, 실행 시간과 최적성 사이의 트레이드오프를 초래한다. 본 논문에서는 시의적절함과 근최적성을 모두 달성하는 적응형 프레임워크 OmniPlan을 제안한다. 기존 솔루션에서 부족했던 적응성을 달성하기 위해, OmniPlan은 이질적인 자연어 의도를 통일되고 정량화 가능한 사용자 선호 벡터로 변환하는 대규모 언어 모델(LLM) 기반 인터프리터를 사용한다. 그다음 MIP 솔버, 휴리스틱, DRL 모델을 전문화된 전문가로 통합하는 전문가 혼합(MoE) 아키텍처를 사용하며, OmniPlan은 다양한 의도에 맞게 시의적절하고 근최적인 전문가를 동적으로 선택함으로써 적응한다. 마지막으로 계획 결정을 사용자별 선호에 맞추도록 최적화 목표 가중치를 파인튜닝하는 DRL 기반 전문가 구성 모듈을 포함한다. 분산 머신러닝(ML)과 같은 대표적인 실제 워크로드를 사용하여 OmniPlan을 평가하였으며, 여기서 OmniPlan을 활용하여 의사결정 트리, SVM, 나이브 베이즈, XGBoost, 랜덤 포레스트 등 광범위한 ML 추론 작업을 하드웨어 장치 네트워크로 오프로딩한다. 실제 테스트베드에서의 실험 결과, OmniPlan은 실제 ML 추론 작업에 대해 근최적이면서 실행 시간이 짧은 오프로딩을 달성하며, 지연 시간을 최대 97.8%, 네트워크 장치 자원 소비를 최대 11.5%까지 줄인다.

arXiv:2404.01965v3cs.LG

지속 가능한 딥러닝을 위한 AutoML 활용: 딥 시프트 신경망에서의 다목표 하이퍼파라미터 최적화 접근법

Towards Leveraging AutoML for Sustainable Deep Learning: A Multi-Objective HPO Approach on Deep Shift Neural Networks

심층 학습(DL)은 대규모 데이터셋에서 복잡한 패턴을 추출하여 다양한 분야를 발전시켜 왔습니다. 그러나 DL 모델의 연산 요구량은 환경적 및 자원적 문제를 야기합니다. 딥 시프트 신경망(DSNNs)은 추론(inference) 시 연산 복잡도를 낮추기 위해 시프트 연산을 활용하여 이에 대한 해결책을 제공합니다. 표준 DNN에서의 통찰을 바탕으로, 우리는 AutoML 기법을 통해 DSNN의 잠재력을 최대한 활용하는 데 관심을 두고 있습니다. 우리는 자원 소비를 최소화하면서 DSNN 성능을 극대화하기 위한 하이퍼파라미터 최적화(HPO)의 영향을 연구합니다. 이는 정확도와 에너지 소비를 잠재적으로 상호 보완적인 목표로 하는 다목표(MO) 최적화를 포함하므로, 우리는 최신 수준의 다중 충실도(multi-fidelity, MF) HPO와 다목표 최적화를 결합하는 방법을 제안합니다. 실험 결과는 우리 접근법의 효과를 입증하였으며, 80% 이상의 정확도와 낮은 연산 비용을 갖는 모델을 도출했습니다. 전반적으로, 우리의 방법은 지속 가능한 AI 애플리케이션을 가능하게 하면서 효율적인 모델 개발을 가속화합니다.

arXiv:2606.12382v1cs.NE

SPEA2$^+$: 증명 가능한 런타임 보장을 갖는 SPEA2의 개선된 밀도 추정

SPEA2$^+$: Improved Density Estimation in SPEA2 with Provable Runtime Guarantees

Strength Pareto Evolutionary Algorithm 2 (SPEA2)는 다목적 최적화 문제 해결에 널리 사용되는 대표적인 진화 알고리즘입니다. 널리 사용됨에도 불구하고 SPEA2에 대한 이론적 분석은 최근에야 이루어졌습니다. 게다가 기존 분석들은 SPEA2가 비지배 해(non-dominated solutions)를 다루는 방식에만 초점을 맞추고 있어, 지배 해(dominated solutions)를 처리하는 알고리즘 구성 요소는 간과하고 있습니다. 본 연구에서는 이러한 구성 요소를 분석한 SPEA2의 첫 번째 런타임 분석을 수행합니다. 고정된 모집단 크기와 중복 제거라는 동일한 설정 하에서 NSGA-II, NSGA-III 및 SMS-EMOA와 같은 다른 주요 알고리즘들과 달리, SPEA2는 OneTrapZeroTrap 벤치마크의 파레토 프론트를 효율적으로 포괄할 수 없음을 증명했습니다. 연구 결과에 따르면 적합도 할당(fitness assignment) 과정에서 k-최근접 이웃 거리를 사용하는 것은 지배 개체들 간의 다양성을 유지하기에 불충분한 신호를 제공하는 것으로 나타났습니다. 이 문제를 해결하기 위해 모든 쌍별 거리(pairwise distances)를 고려하는 개선된 변형인 SPEA2$^+$를 제안합니다. 제안된 알고리즘은 OneTrapZeroTrap 벤치마크에서 다른 주요 알고리즘들과 동일한 성능 보장을 달성하는 동시에, 더 간단한 문제에서는 기존 SPEA2의 성능과 대등함을 보여줍니다. 실험 결과는 본 이론적 발견을 뒷받침합니다.

arXiv:2606.06984v1cs.LG

예측 그래디언트 촉매를 통한 다목적 베이지안 최적화 가속화

Accelerating Multi-Objective Bayesian Optimisation via Predictive-Gradient Catalysts

본 논문은 가우시안 프로세스 예측 그래디언트를 보조 신호로 활용하는 다목적 베이지안 최적화(MOBO)를 위한 일반적인 가속화 메커니즘을 제안합니다. 제안하는 접근법은 기존의 파레토 준수 획득 함수를 대체하는 대신, 대리 모델에서 유도된 그래디언트에서 파생된 국소 정상성 정보로 이를 보강하여, 제한된 평가 예산 하에서 전역 파레토 집합으로의 더 빠른 수렴을 가능하게 합니다. 두 가지 촉매 구현체를 조사합니다: 적응형 다중 그래디언트 하강법 기반 촉매(MGDA)와 예산이 빠듯할 때 집중적인 탐험을 가능하게 하는 미리 정의된 가중치 변형입니다. DTLZ 벤치마크 제품군(2개의 목적과 10개의 결정 변수 사용)에 대한 실험은 대리 모델이 정확할 때 예측 그래디언트 촉매 작용이 다른 획득 함수(EHVI, AugTch, tMPoI, SAF)와 비교하여 상당한 가속을 제공할 수 있음을 보여주며, 이는 특히 정상성 문제에서 두드러집니다.

arXiv:2505.10892v2cs.LG

다목적 선호도 최적화: 생성 모델의 인간 정렬 개선

Multi-Objective Preference Optimization: Improving Human Alignment of Generative Models

인간 피드백 강화학습(RLHF) 및 선호도 최적화 방법(예: DPO, IPO)을 통한 대규모 언어 모델(LLM) 사후 학습은 정렬(alignment)을 크게 개선했지만, 이러한 접근법들은 단일 목표를 가정합니다. 실제로 인간은 유용성(helpfulness)과 무해성(harmlessness)과 같이 여러, 종종 상충하는 목표를 표현하며, 이를 자연스럽게 하나의 스칼라로 통합할 방법이 없습니다. 우리는 정책(policy)이 여러 목표를 동시에 균형 있게 맞춰야 하는 다목적 선호도 정렬 문제를 연구합니다. 우리는 주 목표를 최대화하면서 조정 가능한 안전성(safety) 임계값을 통해 부차적 목표에 대한 하한을 강제하는 제약 KL-정규화(KL-regularized) 프레임워크인 다목적 선호도 최적화(MOPO, Multi-Objective Preference Optimization)를 제안합니다. MOPO는 점별(point-wise) 보상 없이 쌍별(pairwise) 선호도에 직접 작동하며, 간단한 폐형(closed-form) 반복 업데이트를 허용합니다. 실증적으로 MOPO는 합성 벤치마크(benchmark)에서 파레토(Pareto) 최적 정책을 복원하고, 선호도 데이터(preference data)로 파인튜닝(fine-tuning)했을 때 더 높은 보상을 달성하고 기준선(baseline)을 파레토 지배(Pareto-dominate)하는 수십억 매개변수(parameter) 규모의 모델을 생성하며, 안정적이고 견고한 최적화(optimization) 역학을 보입니다.