본 논문에서는 $m$개의 컴퓨팅 에이전트(agent) 네트워크가 피어 투 피어 통신을 통해 협업하며, 원시 변수(primal variable)와 쌍대 변수(dual variable) 모두에 비매끄러운(nonsmooth) 정규화 항이 존재하는 분산 확률적 비볼록-강오목(NCSC) 미니맥스 문제를 다룹니다. 결합 함수가 기댓값 또는 유한합(finite-sum) 형태이고, 원시 및 쌍대 변수에 각각 적용되는 이중 정규화 항이 볼록 함수인 경우를 고려합니다. 본 연구의 알고리즘 프레임워크는 라그랑주 승수(Lagrangian multiplier)를 도입하여 쌍대 변수에 대한 합의(consensus) 제약 조건을 제거합니다. 이를 분산 감소(VR) 기법과 결합한 제안 방법 VRLM은 반복(iteration)당 단 한 번의 이웃 통신만으로, 대규모 배치 또는 소규모 배치 VR 옵션 모두에서 일반적인 확률적 설정 하에 $\mathcal{O}(κ^3\varepsilon^{-3})$ 표본 복잡도(sample complexity)를 달성합니다. 여기서 $κ$는 문제의 조건수(condition number)이며 $\varepsilon$은 목표 해 정확도입니다. 대규모 배치 VR을 적용하면 추가로 $\mathcal{O}(κ^2\varepsilon^{-2})$의 통신 복잡도를 달성할 수 있습니다. 특수한 유한합 설정 하에서는 대규모 배치 VR을 사용하는 본 방법이 $\mathcal{O}(n + \sqrt{n} κ^2\varepsilon^{-2})$의 표본 복잡도와 $\mathcal{O}(κ^2\varepsilon^{-2})$의 통신 복잡도를 달성할 수 있으며, 여기서 $n$은 유한합의 성분 개수입니다. 모든 복잡도 결과는 본 연구에서 다루는 문제의 특수한 경우를 해결하는 소수의 기존 방법들이 달성한 최고 수준(best-known)의 결과와 일치합니다. 우리가 아는 한, 본 연구는 분산 확률적 설정에서 원시 및 쌍대 변수 모두에 일반적인 볼록 비매끄러운 정규화 항이 적용된 NCSC 미니맥스 문제에 대해 수렴 보장을 제공하는 최초의 연구입니다. 두 가지 머신러닝 문제에 대해 수치 실험을 수행하였으며, 코드는 https://github.com/RPI-OPT/VRLM 에서 다운로드할 수 있습니다.
프라이빗 분산 학습은 이질적인 데이터 환경에서 샘플링 노이즈, 프라이버시 노이즈, 그리고 분산 바이어스의 영향을 받는다. 본 논문은 Private Recursive Decentralized Optimization(PRDO)을 제안한다. PRDO는 동일 배치 그래디언트 차이를 이용한 재귀적 추정(recursive estimation)으로 샘플링 노이즈와 프라이버시 노이즈에 의한 추정 오차를 줄이고, Exact Diffusion 구성 요소로 데이터 이질성에서 비롯되는 분산 바이어스를 보정한다. 본 분석은 노드 간 데이터 이질성이 균일하게 유계라는 가정 없이 비볼록(nonconvex) 수렴 바운드를 도출한다. 또한 재귀적 그래디언트 차이가 프라이빗 Exact Diffusion보다 엄밀하게 더 낮은 쿼리 민감도(query sensitivity)를 갖게 되는 충분 조건을 제시하고, 이 조건을 엄밀하게 만족하는 예시를 함께 제시한다. 실험 결과, 평가한 베이스라인 대비 정확도가 향상됨을 확인하였다.
분산 제로차 학습에서 희소 통신은 호환 가능한 피어 상태 좌표(peer-state coordinates)를 요구한다. 우리는 이 원홉(one-hop) 조건을 특성화하고, 활성 링크당 $q$개 값을 사용하는 평균 보존 마스크 합의(average-preserving masked consensus)와 이중 쿼리 추정(two-query estimation)을 결합한 \textsf{ZO-COSMO}를 제안한다. 전역 지원(global supports)은 전 이웃 혼합(all-neighbor mixing)에 사용되며, 매칭 업데이트(matching updates)는 각 쌍 내에서만 합의를 요구한다. 매칭 클래스 내에서 날카로운 스칼라당 수축(contraction-per-scalar) 상계를 유도하고, 핵심 및 희소-모멘텀(sparse-momentum) 업데이트에 대한 수렴 보장을 제공한다. 고정된 매칭에서 정확한 모멘트 항등식(moment identities)은 공유 방향이 그래디언트 이질성(gradient-heterogeneity) 상쇄를 어떻게 보존하고 추정 오차와 불일치(disagreement)를 재분배하는지를 특성화한다. 메커니즘 실험은 불균등 곡률, 노이즈, 희소 모멘텀을 다룬다. 추가 실험은 $64$개의 합성 에이전트와 8개의 논리적 Qwen LoRA 워커를 포함한다. 동일한 페이로드 예산에서 Qwen2-7B QNLI는 explicit-index Rand-$k$ 대비 $3.65$ 정확도 포인트를 얻으며, 8-워커 완전 그래프와 링 그래프에서 edge-local 업데이트는 전 이웃 혼합 대비 각각 $3.42$ 및 $2.53$ 포인트를 얻는다. 매칭-first-step 소거(ablation)는 $3.92$ 포인트의 모멘텀 이득을 보여준다. 시드 인식(seed-aware) 및 동일-매칭(same-matching) 대조는 인코딩, 스케줄링, 쿼리 상관(query correlation)을 구분한다.
비매끄럽고(nonsmooth) 비볼록한(nonconvex) 분산 최적화 문제에서 에이전트 간 통신을 압축(communication compression)하는 일반 프레임워크 DESC를 제안하며, 비편향 압축과 수축 압축(contractive compression)을 통합한다. 연속시간 미분 포함(differential inclusion) 궤적과의 연결을 통해 Clarke 정칙성이 없는 비매끄러운 목적 함수에 대해서도 전역 수렴(global convergence)을 이론적으로 확립하고, 수치 실험으로 통신-정확도 트레이드오프를 실증한다.
통신 압축이 적용된 분산 온라인 볼록 최적화(D-OCO)에서 기존 OGD 기반 알고리즘 대신 처음으로 FTRL 기반 알고리즘 두 가지를 제안하며, FTRL의 이중 변수 업데이트 메커니즘이 Choco-Gossip과 자연스럽게 결합됨을 보인다. 완전 정보 설정에서는 기존 후회 한계(regret bound)를 달성하고, 밴딧(bandit) 설정에서는 볼록 및 강볼록 함수 모두에서 후회 한계와 통신 비용을 동시에 개선한다.
분산 확률적 최적화(decentralized stochastic optimization)는 네트워크 상에서의 대규모 학습을 위한 기본 패러다임으로, 에이전트가 이웃과만 통신하며 중앙 코디네이터가 필요하지 않습니다. 강하게 볼록한 문제의 경우, 통신 효율성은 주로 조건수(condition number) \(κ=L/μ\)와 네트워크 스펙트럼 갭(spectral gap) \(1-β\)에 의해 결정됩니다. 결정론적 분산 방법은 가속된 \(\sqrtκ\) 및 \(1/\sqrt{1-β}\) 의존성을 동시에 달성할 수 있지만, 기존의 확률적 방법 중에는 두 가지 개선을 동시에 달성하는 것이 없습니다. 본 논문에서는 Nesterov형 프리멀-듀얼(primal-dual) 외삽과 다중 라운드 빠른 고시프(gossip) 평균화를 결합한 분산 확률적 알고리즘인 \emph{Multi-Gossip Accelerated DSGD} (MG-ADSGD)를 제안합니다. 핵심 아이디어는 고시프 깊이를 미니배치(mini-batch) 크기와 결합하여, 추가적인 통신 라운드가 합의(consensus) 정확도를 높이고 그래디언트(gradient) 분산을 줄이도록 하는 것입니다. 우리는 MG-ADSGD가 다음의 통신 복잡도 \[ \widetilde{\mathcal O}\!\left( \frac{σ^2}{μnε}\log\frac{1}ε + \sqrt{\fracκ{1-β}}\log\frac{1}ε \right), \] 를 달성함을 보여줍니다. 여기서 \(ε\)는 목표 정확도, \(n\)은 노드 수, \(σ^2\)는 그래디언트 분산을 나타냅니다. 우리의 아는 한, 이 바운드는 $ε$과 무관한 로그 인자를 제외하고, 분산 확률적 강하게 볼록한 최적화에 대해 현재 가능한 최고의 통신 복잡도를 제공합니다.