Mean-Field Model for Two-Layer Neural Networks Trained with Consensus-Based Optimization
원문 초록
We study Consensus-Based Optimization (CBO) for two-layer neural network training. We compare the performance of CBO against Adam on two test cases and demonstrate how a hybrid approach, combining CBO with Adam, provides faster convergence than CBO. Additionally, in the context of multi-task learning, we recast CBO into a formulation that offers less memory overhead. The CBO method allows for a mean-field model formulation, which we couple with the mean-field model of the neural network. To this end, we first reformulate CBO within the optimal transport framework. As the number of particles tends to infinity, we lift the corresponding dynamics to the Wasserstein-over-Wasserstein space and show that the variance decreases monotonically. We confirm numerically that both mean-field models converge.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2511.21466v3제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공유 표상이 어떻게 특화되는가: 형성, 유지 및 잠재적 취약성
How Shared Representations Become Specialized: Formation, Maintenance, and Latent Susceptibility
여러 예측이 동일한 내부 표상(representation)을 사용할 때, 특정 타깃에 대한 정보는 다른 타깃에 대한 정보보다 복원하기 더 쉬운 상태로 남아 있을 수 있습니다. 본 연구에서는 최소 인공 학습자(minimal artificial learners)에서 이러한 특화(specialization)가 어떻게 형성되고 지속되며 변화하는지 조사합니다. 학습 과정에서 재구성 오차(reconstruction error)에 동일한 가중치가 부여되더라도, 어떤 타깃이 관측되는지를 변경하면 선호되는 타깃이 정밀하게 선택되고 이미 특화된 학습자의 방향을 재지정할 수 있습니다. 현재의 지지(support)를 제거하면 형성된 바이어스(bias)를 줄일 수 있는 반면, 상태 추종 업데이트 피드백(state-following update feedback)은 이를 유지할 수 있습니다. 이어 관측 및 업데이트 조건은 서로 다르지만 지정된 재구성 측정값은 일치하도록 형성된 학습자들을 비교합니다. 두 학습자는 동일한 짧은 반대 개입(opposing intervention) 하에서 모두 변화하지만 반응은 서로 다릅니다. Adam을 리셋하면 10회 업데이트 시점의 차이가 대부분 제거되며, 2차 모멘트(second moment)를 교환하면 어느 경로가 더 취약한지가 역전됩니다. 새로운 개입을 통해 평균 2차 모멘트 스케일링을 균등화하면 차이가 줄어들기는 하지만 완전히 제거되지는 않음을 보여줍니다. 즉, 좌표별(coordinate-wise) 패턴 또한 중요합니다. 새로운 Adam 또는 보정된 SGD를 사용하면 더 작은 경로 차이가 나중에 나타나는 반면, 500회의 공통 반대 업데이트는 선택된 할당 종점을 가깝게 만듭니다. 추가적인 대조군 실험에서는 획득 조건이 동일하고 평균 손실 가중치가 같더라도, 결합된 가중치 변동성과 실현된 시퀀스가 다를 경우 반응 차이가 발생함을 보여줍니다. 획득에 의해 선택되는 형성은 대칭적인 3개 타깃 설정으로도 확장됩니다. 이러한 개입들은 특화의 형성, 현재의 지지, 그리고 시간에 의존하는 잠재적 취약성을 구별해 줍니다.
기하학적 구조를 고려한 다중 목적 최적화: 엔트로피 기반 가중치 업데이트를 적용한 노름 제약 오라클
Geometry-Aware Multi-Objective Optimization: Norm-Constrained Oracles with Entropic Weight Updates
다중 경사하강법(Multiple-gradient descent)은 일반적으로 유클리드 기하학에서 공식화되는 반면, 행렬 인식 옵티마이저는 다른 노름(norm)에 의해 유도된 방향을 사용합니다. 본 논문에서는 노름 제약이 있는 선형 최소화 오라클과 태스크 가중치의 엔트로피 업데이트를 결합한 단일 루프 다중 목적 최적화 기법을 분석합니다. 유한 차원 노름 쌍에 대해 결정론적 환경에서 $O(T^{-1/2})$의 에르고딕 정지성(ergodic stationarity) 수렴 속도를 확립하며, 비정규화된 경우 평활성(smoothness) 및 하한 유계성으로부터 필요한 궤적 그래디언트 경계를 유도합니다. 확률적 그래디언트와 유계 그래디언트 가정 하에서는 단일 지속 혼합 그래디언트 모멘텀 버퍼를 통해 선행 항이 태스크 수에 명시적으로 의존하지 않는 $O(T^{-1/4})$ 수렴 속도를 산출합니다. 또한 임의의 유계 그래디언트 시퀀스에 대해 내부 가중치 목적식의 정적 리그릿(static regret)을 확립하고, 엔트로피 정규화와 가중치 하한(weight floor)을 적용하여 궤적 그래디언트 경계를 조건으로 에르고딕 정지성을 유지하면서 웜업(burn-in) 이후 반복별 내부 갭 제어를 달성합니다. 최적의 혼합 그래디언트는 스펙트럼 및 부호 기하학에서 유일하지 않을 수 있으므로, 선택에 독립적인 내부 갭의 필요성을 부여합니다. 본 분석은 동시 연구인 MOON에서 연구된 스펙트럼 구성을 일반적인 노름으로 확장합니다. 실험을 통해 기존 멀티태스크 옵티마이저와 제안 방법을 비교하고 오라클, 가중치 부여 및 모멘텀 선택을 검토합니다.
분포 로버스트 최적화를 위해 진단적 이동을 통해 모호성 집합을 보정하는 기법
Calibrating Ambiguity Set via Diagnostic Transport for Distributionally Robust Optimization
분포 로버스트 최적화(DRO)는 모호성 집합(ambiguity set)에 대해 최적화를 수행함으로써 분포 불확실성으로부터 의사결정을 보호하지만, 집합의 기하학적 구조가 잘 맞지 않으면 반경을 크게 설정해야 하므로 지나치게 보수적인 의사결정을 초래할 수 있습니다. 본 연구에서는 홀드아웃(held-out) 보정 데이터를 활용하여 관측된 예측 오차에 맞춰 모호성 집합의 기하학적 구조를 적응시키는 진단적 이동 DRO(DT-DRO)를 소개합니다. DT-DRO는 조건부 확률 적분 변환(PIT) 누적 분포 함수를 사용해 체계적인 확률 오할당을 진단하고, 이 정보를 결과 수준의 이동으로 변환하여 모호성 집합의 중심과 기본 비용(ground cost)을 함께 조정합니다. 이를 통해 도출된 정식화는 계산적으로 다루기 쉬운 쌍대 재정식화(dual reformulation)를 지원합니다. 이론적으로는 추정 및 근사 오차가 사라질수록 더욱 긴밀해지는 유효 모호성 반경과 의사결정 위험 보장을 유도하며, DT-DRO가 모델 오지정(misspecification)으로 인해 발생하는 지속적인 강건성 바닥효과(nonvanishing robustness floor)를 제거할 수 있음을 보입니다. 합성 데이터 실험과 정전 사례 연구를 통해 특히 구조적 오지정 및 꼬리 오지정 상황에서 의사결정 품질이 향상됨을 입증합니다.
준이산 최적 수송(Semi-Discrete Optimal Transport)을 통한 립시츠 연속성을 넘어선 금융 꼬리 위험 분석
Financial Tail Risk Beyond Lipschitz Continuity via Semi-Discrete Optimal Transport
금융 수익률은 두꺼운 꼬리(heavy-tailed) 분포를 따르며, 정확한 꼬리 위험 추정은 포트폴리오 리스크 관리의 핵심이다. 최신 신경망 생성 모델은 단순한 기저 분포를 학습된 사상(map)에 통과시켜 표본을 생성하며, 학습 안정성을 위해 이 사상은 립시츠(Lipschitz) 구성 요소로 만들어진다. 바로 이것이 결정적인 제약이다. 가우시안의 립시츠 사상은 서브가우시안(sub-Gaussian)이므로, 꼬리가 더 두꺼운 목표 분포는 어떠한 유한한 립시츠 상수에서도 정확 일치(exact match)를 이룰 수 없다. Monge–Ampère 방정식은 Brenier 사상의 국소적 왜곡을 밀도비 $f/(g\circ T)$와 연결하므로, 목표 밀도의 골이 깊을수록 더 높은 이득(gain)을 가진 사상이 필요하고 추정량의 분산도 더 커진다. 이 논증은 유계 왜곡(bounded distortion)만을 요구하므로, 정규화 플로(normalizing flow), 플로 매칭(flow matching), GAN, 확산(diffusion) 샘플러를 모두 포괄한다. 준이산 최적 수송(Semi-Discrete Optimal Transport, SDOT)은 소스의 꼬리 부류가 아니라 사상의 정則성(regularity)을 완화한다. SDOT의 파워 다이어그램(power diagram)은 학습 관측치마다 소스 측도의 정확히 $1/N$을 담는 셀을 부여하며, 꼬리 관측치는 사상을 늘려서가 아니라 셀 경계를 넘어 도달한다. 주요 실험에서는 첨도(kurtosis) 94에서 1,679에 이르도록 보정된 Merton 점프-확산(jump-diffusion) 모형의 심각도를 변화시키며 평가한다. SDOT는 꼬리 비율을 $0.85$--$0.94$로 유지하고 시드 간 표준편차도 $0.025$ 미만인 반면, 학습 기반 생성 모델은 모두 꼬리를 압축하거나, 그렇지 않으면 함께 커지는 분산과 함께 꼬리를 부풀린다. 추가 실험에서는 이 결과를 실제 S&P~500 수익률과 21년간의 백테스트로 확장하며, 여기서 SDOT는 CVaR 최적화 하에서 위험 조정 성과가 가장 우수한 시장중립 전략을 제공한다(샤프 비율 $0.70$, 최대 낙폭 $-2.60\%$이며, 차순위 생성 모델은 샤프 비율 $0.40$).
VCMM: 멀티모달 학습을 위한 분산 보정 모멘텀
VCMM: Variance-Calibrated Momentum for Multimodal Learning
멀티모달 공동 학습(multimodal joint training)은 지배적인 모달리티가 다른 모달리티의 최적화를 억제하는 모달리티 불균형 문제를 자주 겪습니다. 기존 방법들은 주로 그래디언트의 크기나 방향을 조절하거나, 최적화 목적 함수를 수정하거나, 학습 전략을 조정하여 모달리티 학습의 균형을 맞추며, 대부분의 개입은 현재의 업데이트에 초점을 맞춥니다. 그러나 널리 사용되는 모멘텀 기반 옵티마이저와 결합될 경우, 업데이트에는 이전 그래디언트로부터 누적된 정보도 포함되며, 이는 현재 단계의 조절만으로는 명시적으로 해결되지 않습니다. 이러한 문제를 해결하기 위해, 모달리티별 그래디언트 동역학에 맞춰 그래디언트 메모리를 적응시키는 분산 보정 모멘텀(Variance-Calibrated MomentuM, VCMM)을 제안합니다. 구체적으로, VCMM은 미니배치 노이즈와 시간적 드리프트(temporal drift)를 온라인으로 추정하고, 칼만(Kalman)에서 영감을 얻은 제어기를 통해 이들의 상대적 강도를 활용하여 모달리티별 모멘텀을 결정합니다. 나아가 모달리티 간 제어 신호를 중앙화하고 시간에 따라 변하는 1차 모멘트에 대한 정확한 바이어스 수정을 적용함으로써, 추가적인 네트워크 패스나 명시적인 학습률 스케일링 없이도 적응형 그래디언트 메모리를 구현합니다. 네 가지 멀티모달 벤치마크에 대한 실험은 적은 학습 오버헤드로 일관된 성능 향상을 입증합니다.
지능의 그림자 가격: LLM 추론에서의 품질 저하와 재시도 피드백
The Shadow Price of Intelligence: Quality Degradation and Retry Feedback in LLM Inference
대규모 언어 모델 제공자는 연산 자원이 제약되어 있으며, 혼잡에 대한 일반적인 대응은 서비스를 저하시키는 것이다. 즉, 질의를 더 작은 모델로 라우팅하거나, 추론 예산을 줄이거나, 컨텍스트 윈도를 단축한다. 만족스럽지 못한 답을 받은 사용자는 재시도하여 시스템이 바쁜 동안 부하를 늘리거나, 이탈하여 잠재적으로 고객 이탈로 이어진다. 우리는 추론 서비스를 서비스 품질이 제공자의 의사결정인 제어 문제로 모델링한다. 재시도를 서비스율에 포함한 2국면 유체 근사는 닫힌 형태의 궤적과 교차 시간을 제공하므로, 품질 등급에 대한 동적 계획법에 시뮬레이션이 필요하지 않다. 우리는 더 약한 등급이 작업당 에너지는 덜 쓰지만 작업당 용량은 더 쓰는 영역을 규명하고, 유체 모델에서 그러한 등급으로의 반응적 스로틀링이 큐가 해소되지 못하게 할 수 있음을 보인다. 이질적인 고객이 있는 경우 이 문제는 재시도로 부풀려진 용량 계수를 갖는 수송 문제가 되며, 최적 라우팅은 $c\mu$ 유형의 지수를 따르고, 용량 제약의 쌍대는 클래스와 시간별로 질의 하나를 더 처리하는 한계 비용을 제공한다. 우리는 공개 벤치마크 데이터로 보정한 다섯 가지 사례에서 이 방법을 예시한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.