arXiv:2606.03904v2 cs.LG

MAdam: 메트릭 인식 다중 목적 Adam

MAdam: Metric-Aware Multi-Objective Adam

Fengbei Liu, Rachit Saluja, Sunwoo Kwak, Ruibo Wang, Ruining Deng, Heejong Kim, Johannes C. Paetzold, Mert R. Sabuncu

제출 2026-06-02

저자 비고

arXiv Comments

NeurIPS 2026

한국어 초록

다중 목적 최적화(MOO)는 수많은 머신러닝 문제의 기반을 이루지만, 손실 균형(loss-balancing), 그래디언트 균형(gradient-balancing), 파레토(Pareto) 기반 계열 전반의 MOO 솔버들은 절충된 방향 벡터를 거의 예외 없이 Adam~\citep{kingma2015adam}에 전달합니다. 본 논문에서는 이러한 결합으로 인해 솔버의 의도와 옵티마이저의 실행 사이에 두 가지 구조적 괴리가 발생함을 보입니다. 첫 번째는 가중치 불일치(weighting mismatch)입니다. Adam의 2차 모멘트 분모는 시간에 따라 변하는 선호도(preference) 벡터와 그래디언트 통계량을 뒤엉키게 만들어, 선호도를 과거 이력의 평균으로 한계화하고 서로 다른 파레토 절충안들을 거의 균일한 혼합 상태로 수렴시켜 버립니다. 두 번째는 기하학적 불일치(geometric mismatch)입니다. Adam의 적응형 메트릭은 MOO 솔버가 가정하는 유클리드 기하학을 왜곡하여, 정렬된 목적들을 표면상 충돌하는 것처럼 변형시킵니다. 이 두 문제를 동시에 해결하기 위해, 솔버와 옵티마이저를 전혀 변경하지 않고 그대로 사용할 수 있는 드롭인 래퍼(drop-in wrapper)인 MAdam(Metric-Aware Multi-Objective Adam)을 제안합니다. MAdam은 스칼라화된 목적 함수의 선호도 조건부 곡률(curvature)로 절충된 방향을 사전조건화(preconditioning)합니다. 이처럼 백색화(whitening)된 입력에서 Adam의 2차 모멘트는 단위행렬로 단순화되므로, 실제 반영되는 업데이트는 선호도 조건부 메트릭에 의해 제어됩니다. 멀티태스크 학습, 파레토 전선 복원, 물리 정보 신경망(PINN), 의료 영상 전반에 걸쳐 MAdam은 모든 솔버 계열에 대해 전반적으로 Adam 대비 성능을 향상시킵니다. 코드는 https://github.com/lfb-1/MAdam 에서 제공됩니다.

원문 초록

Multi-objective optimization (MOO) underlies many machine learning problems, yet MOO solvers across the loss-balancing, gradient-balancing, and Pareto-based families almost universally hand their reconciled directions to Adam~\citep{kingma2015adam}. We show this coupling introduces two systematic gaps between the solver's intent and the optimizer's execution. The first is a weighting mismatch: Adam's second-moment denominator entangles the time-varying preference vector with gradient statistics, marginalizing the preference into a history average and collapsing distinct Pareto trade-offs toward a near-uniform mixture. The second is a geometric mismatch: Adam's adaptive metric distorts the Euclidean geometry MOO solvers assume, turning aligned objectives into apparent conflicts. To resolve both jointly, we introduce MAdam (Metric-Aware Multi-Objective Adam), a drop-in wrapper that leaves both solver and optimizer unchanged. MAdam preconditions the reconciled direction by the preference-conditioned curvature of the scalarized objective; on this whitened input, Adam's second moment collapses to identity, so the realized update is governed by the preference-conditioned metric. Across multi-task learning, Pareto-front recovery, physics-informed neural networks, and medical imaging, MAdam improves over Adam in aggregate for every solver family. Our code is available at https://github.com/lfb-1/MAdam.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.03904v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13773v1math.OC공통 태그 Multi-Task Learning, Stochastic Optimization, multi-objective optimization

기하학적 구조를 고려한 다중 목적 최적화: 엔트로피 기반 가중치 업데이트를 적용한 노름 제약 오라클

Geometry-Aware Multi-Objective Optimization: Norm-Constrained Oracles with Entropic Weight Updates

다중 경사하강법(Multiple-gradient descent)은 일반적으로 유클리드 기하학에서 공식화되는 반면, 행렬 인식 옵티마이저는 다른 노름(norm)에 의해 유도된 방향을 사용합니다. 본 논문에서는 노름 제약이 있는 선형 최소화 오라클과 태스크 가중치의 엔트로피 업데이트를 결합한 단일 루프 다중 목적 최적화 기법을 분석합니다. 유한 차원 노름 쌍에 대해 결정론적 환경에서 $O(T^{-1/2})$의 에르고딕 정지성(ergodic stationarity) 수렴 속도를 확립하며, 비정규화된 경우 평활성(smoothness) 및 하한 유계성으로부터 필요한 궤적 그래디언트 경계를 유도합니다. 확률적 그래디언트와 유계 그래디언트 가정 하에서는 단일 지속 혼합 그래디언트 모멘텀 버퍼를 통해 선행 항이 태스크 수에 명시적으로 의존하지 않는 $O(T^{-1/4})$ 수렴 속도를 산출합니다. 또한 임의의 유계 그래디언트 시퀀스에 대해 내부 가중치 목적식의 정적 리그릿(static regret)을 확립하고, 엔트로피 정규화와 가중치 하한(weight floor)을 적용하여 궤적 그래디언트 경계를 조건으로 에르고딕 정지성을 유지하면서 웜업(burn-in) 이후 반복별 내부 갭 제어를 달성합니다. 최적의 혼합 그래디언트는 스펙트럼 및 부호 기하학에서 유일하지 않을 수 있으므로, 선택에 독립적인 내부 갭의 필요성을 부여합니다. 본 분석은 동시 연구인 MOON에서 연구된 스펙트럼 구성을 일반적인 노름으로 확장합니다. 실험을 통해 기존 멀티태스크 옵티마이저와 제안 방법을 비교하고 오라클, 가중치 부여 및 모멘텀 선택을 검토합니다.

arXiv:2610.15830v1cs.LG공통 태그 Multi-Task Learning, Stochastic Optimization

공유 표상이 어떻게 특화되는가: 형성, 유지 및 잠재적 취약성

How Shared Representations Become Specialized: Formation, Maintenance, and Latent Susceptibility

여러 예측이 동일한 내부 표상(representation)을 사용할 때, 특정 타깃에 대한 정보는 다른 타깃에 대한 정보보다 복원하기 더 쉬운 상태로 남아 있을 수 있습니다. 본 연구에서는 최소 인공 학습자(minimal artificial learners)에서 이러한 특화(specialization)가 어떻게 형성되고 지속되며 변화하는지 조사합니다. 학습 과정에서 재구성 오차(reconstruction error)에 동일한 가중치가 부여되더라도, 어떤 타깃이 관측되는지를 변경하면 선호되는 타깃이 정밀하게 선택되고 이미 특화된 학습자의 방향을 재지정할 수 있습니다. 현재의 지지(support)를 제거하면 형성된 바이어스(bias)를 줄일 수 있는 반면, 상태 추종 업데이트 피드백(state-following update feedback)은 이를 유지할 수 있습니다. 이어 관측 및 업데이트 조건은 서로 다르지만 지정된 재구성 측정값은 일치하도록 형성된 학습자들을 비교합니다. 두 학습자는 동일한 짧은 반대 개입(opposing intervention) 하에서 모두 변화하지만 반응은 서로 다릅니다. Adam을 리셋하면 10회 업데이트 시점의 차이가 대부분 제거되며, 2차 모멘트(second moment)를 교환하면 어느 경로가 더 취약한지가 역전됩니다. 새로운 개입을 통해 평균 2차 모멘트 스케일링을 균등화하면 차이가 줄어들기는 하지만 완전히 제거되지는 않음을 보여줍니다. 즉, 좌표별(coordinate-wise) 패턴 또한 중요합니다. 새로운 Adam 또는 보정된 SGD를 사용하면 더 작은 경로 차이가 나중에 나타나는 반면, 500회의 공통 반대 업데이트는 선택된 할당 종점을 가깝게 만듭니다. 추가적인 대조군 실험에서는 획득 조건이 동일하고 평균 손실 가중치가 같더라도, 결합된 가중치 변동성과 실현된 시퀀스가 다를 경우 반응 차이가 발생함을 보여줍니다. 획득에 의해 선택되는 형성은 대칭적인 3개 타깃 설정으로도 확장됩니다. 이러한 개입들은 특화의 형성, 현재의 지지, 그리고 시간에 의존하는 잠재적 취약성을 구별해 줍니다.

arXiv:2608.20638v2cs.LG공통 태그 Stochastic Optimization, adam optimizer

안정성의 한계(Edge of Stability)에 선 Adam: 적응형 피드백, 증명 가능한 진동, 그리고 그래디언트 반전

Adam at the Edge of Stability: Adaptive Feedback, Provable Oscillation, and Gradient Reversal

풀배치(full-batch) Adam에서 나타나는 안정성의 한계(Edge of Stability, EoS) 현상은 널리 관찰되어 왔지만, 그 기저에 있는 동역학적 메커니즘은 여전히 명확히 이해되지 않았습니다. 본 논문에서는 Adam의 2차 모멘트 적응을 동역학을 안정성 경계로 이끄는 음의 피드백 메커니즘으로 규명합니다. 우리는 이러한 메커니즘을 사전조건화된 그래디언트 방향을 따른 사전조건화된 곡률인 *활성 곡률(active curvature)*을 통해 규정하며, 점진적으로 확장되는 설정에서 엄밀한 특성화를 확립합니다: 모멘텀이 포함된 랭크-1 2차 함수, 활성 곡률이 선명도(sharpness)와 분리되는 대각 2차 함수, 그리고 일반적인 목적 함수. 중요한 점은, 이 메커니즘이 한계 부근에서 풀배치 Adam의 *그래디언트 반전(gradient reversal)*을 예측한다는 것입니다. 즉, 완전 연결 신경망, ResNet, ViT, LSTM, GPT-2 medium, 그리고 Adam 계열 옵티마이저 전반에서 관찰되는 것처럼 연속된 그래디언트가 반복적으로 거의 반대 방향을 가리키게 됩니다. 이러한 양상과 일치하게, 반복값(iterates)을 평균화하면 이러한 빠른 진동이 억제되고 더 매끄럽고 낮은 손실 곡선이 생성됩니다. 종합적으로, 이러한 결과들은 활성 곡률과 그래디언트 반전을 통해 Adam의 EoS 동역학적 동작을 완전히 이해하기 위한 중요한 첫걸음을 제공합니다.

arXiv:2609.27577v1cs.LG공통 태그 Multi-Task Learning, Stochastic Optimization

VCMM: 멀티모달 학습을 위한 분산 보정 모멘텀

VCMM: Variance-Calibrated Momentum for Multimodal Learning

멀티모달 공동 학습(multimodal joint training)은 지배적인 모달리티가 다른 모달리티의 최적화를 억제하는 모달리티 불균형 문제를 자주 겪습니다. 기존 방법들은 주로 그래디언트의 크기나 방향을 조절하거나, 최적화 목적 함수를 수정하거나, 학습 전략을 조정하여 모달리티 학습의 균형을 맞추며, 대부분의 개입은 현재의 업데이트에 초점을 맞춥니다. 그러나 널리 사용되는 모멘텀 기반 옵티마이저와 결합될 경우, 업데이트에는 이전 그래디언트로부터 누적된 정보도 포함되며, 이는 현재 단계의 조절만으로는 명시적으로 해결되지 않습니다. 이러한 문제를 해결하기 위해, 모달리티별 그래디언트 동역학에 맞춰 그래디언트 메모리를 적응시키는 분산 보정 모멘텀(Variance-Calibrated MomentuM, VCMM)을 제안합니다. 구체적으로, VCMM은 미니배치 노이즈와 시간적 드리프트(temporal drift)를 온라인으로 추정하고, 칼만(Kalman)에서 영감을 얻은 제어기를 통해 이들의 상대적 강도를 활용하여 모달리티별 모멘텀을 결정합니다. 나아가 모달리티 간 제어 신호를 중앙화하고 시간에 따라 변하는 1차 모멘트에 대한 정확한 바이어스 수정을 적용함으로써, 추가적인 네트워크 패스나 명시적인 학습률 스케일링 없이도 적응형 그래디언트 메모리를 구현합니다. 네 가지 멀티모달 벤치마크에 대한 실험은 적은 학습 오버헤드로 일관된 성능 향상을 입증합니다.

arXiv:2607.14516v1cs.LG공통 태그 Stochastic Optimization, adam optimizer

적응형 Runge-Kutta 스텝 제어가 사는 것은 학습 손실이지 일반화가 아니다: RK-Adam 옵티마이저에 대한 정직한 연산량 맞춤 연구

Adaptive Runge-Kutta Step Control Buys Training Loss, Not Generalization: An Honest Compute-Matched Study of RK-Adam Optimizers

옵티마이저를 그래디언트 흐름(gradient flow) 이산화로 해석하는 관점은 신경망에 고차 Runge-Kutta(RK) 적분기를 적용하도록 동기를 부여해 왔다. 우리는 대표적인 Adam 변형(Bogacki-Shampine 3(2) RK 쌍, FSAL 재사용, 국소 오차 스텝 제어)을 구축하고, 모든 방법에 동일한 그래디언트 평가 예산을 부여하는 엄격한 연산량 맞춤 프로토콜 하에서 이를 평가한다—이 문헌에서는 거의 강제하지 않는 회계 방식이다. 이 프로토콜 하에서 RK 변형은 미니배치 및 전체 배치(RK의 최선의 경우) 학습 모두에서 평범한 Adam보다 학습 손실에서 뒤진다. 이를 계측하면 "적응성"은 실제로는 환상임을 보여준다: 정규화된 오차는 허용 오차(tolerance)보다 훨씬 낮게 유지되고, 스텝 크기는 첫 스텝부터 성장 상한에 고정되며(전체 스텝의 98–100%), 어떤 rtol × hmax × h0 설정도 이를 작동시키지 못한다; 100배에 걸친 허용 오차는 비트 수준에서 동일한 궤적을 낸다. 이 방법은 정확히는 평균 그래디언트를 사용한 고정 스텝 Adam이며 3–4배의 비용이 든다. 이를 수정하면(실제 거부(reject) 분기; 적용된 맵에 대한 오차) 전체 배치 결과가 뒤집혀—튜닝된 Adam보다 약 40배 낮은 학습 손실—고, 고정 스텝 제어는 적응성(창발적(emergent) 워밍업 및 성장 스케줄)을 그 메커니즘으로 분리한다. 그러나 이러한 이득은 초기 스텝 크기에 취약하며 테스트 정확도에는 이르지 못한다. 사전 등록(pre-registered) 후속 연구는 명백한 설명들을 배제한다: 더 깊은 최소화는 과적합을 일으키지 않으며, 명시적 온도(temperature) 조절만 오히려 해롭다—궤적 효과만 남는데, 컨트롤러가 동일 깊이에서 1차 하강법(first-order descent)보다 1.3–3.4포인트 낮게 일반화하는 최소점을 선택한다. n=10 연구는 하나의 2차 효과를 확인한다: 그래디언트 평균화는 진정한 암묵적 정규화(regularizer)이며, 10/10 시드에서 학습률(lr) 맞춤 Adam 및 AdamW를 이긴다—그러나 RMSprop과 NAdam은 스텝당 비용의 3분의 1로 맞먹거나 더 낫다. 고차 적응형 적분은 더 깊은 결정론적 최소화와 작은 정규화 효과를 얻지만, 더 저렴하고 잘 튜닝된 1차 기준선(baseline)이 이미 제공하지 않는 것은 없다.

arXiv:2607.09641v1cs.LG공통 태그 Multi-Task Learning, multi-objective optimization

Semantic Pareto-DQN: 금융 이상 탐지를 위한 다목적 강화학습 프레임워크

Semantic Pareto-DQN: A Multi-Objective Reinforcement Learning Framework for Financial Anomaly Detection

금융 이상 탐지는 극심한 클래스 불균형 문제로 인해 전통적인 단일 목적 알고리즘이 '사기 붕괴(fraud collapse)' 현상을 보이며, 다수 클래스로 기본값을 설정하여 이상 차단과 고객 마찰 간의 균형을 맞추지 못한다. 왜곡적인 데이터 리샘플링 없이 이를 극복하기 위해, 우리는 다목적 강화학습 프레임워크인 Semantic Pareto-DQN을 제안한다. 우리의 접근법은 이질적인 거래 특징을 일관된 자연어 내러티브로 합성하고, 대규모 언어 모델(LLM)로 인코딩함으로써 견고하고 스케일 불변적인 상태 표현을 생성한다. 에이전트는 금융 효과, 운영 마찰, 의미론적 발견을 명시적으로 분리하는 벡터 보상을 최적화한다. 연속적인 파레토 프론티어(Pareto frontier)를 매핑함으로써, 시스템은 놓친 이상 탐지와 거짓 양성의 비대칭적 비용을 동적으로 탐색한다. E-Commerce 사기 및 UCI Credit 데이터셋에 대한 실증 평가에서 Semantic Pareto-DQN은 제로 재현율 함정(zero-recall trap)을 성공적으로 극복함을 보여준다. 이 모델은 스칼라화된 기준선 대비 소수 클래스 재현율에서 우수한 성능을 달성하며, 제한된 운영 마찰을 금융 이상 탐지로 교환하는 대안적 방법을 제공한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.