본 논문에서는 제곱 손실(squared loss) 하에서 심층 선형 신경망(deep linear neural network)의 학습 문제가 일반화된 완전 양(completely positive)의 원뿔 위로 리프팅된 공간에서 정확한 볼록 재구성(exact convex reformulation)을 허용함을 보인다. 이 재구성은 원래의 비볼록 문제와 동일한 최적값을 가지며 리프팅된 변수에 대해 선형이고, 모든 비볼록성은 원뿔 제약조건 내에 인코딩된다. 리프팅된 주변 공간의 차원은 네트워크의 깊이 및 데이터 포인트 수와는 무관하게 입력 및 출력 차원에만 의존하며, 병목 너비는 스칼라 제약조건을 통해서만 관여한다. 이러한 구성은 다층 매개변수화를 이중선형 인수분해로 축소하고, 이를 계수 제약이 있는 준정부호 계획법(rank-constrained semidefinite program)으로 리프팅한 뒤, 상보성 조건(complementarity condition)을 통해 계수 제약을 표현하고, 완전 양의 리프팅을 적용함으로써 진행된다. 결과로 도출된 정식화는 선형 인수분해로 인해 유도된 비볼록성에 대한 원뿔형 표현을 제공하며, 선형 신경망 학습을 쌍양(copositive) 프로그래밍과 연결한다.
고차원 구면(spherical) 또는 가우시안 잠재 벡터로 생성된 희소 임계값(threshold) 랜덤 기하 그래프를 연구한다. 각 간선의 주변 확률(marginal probability)은 $p$이지만, 공유 잠재 변수로 인해 인접 행렬 항목들은 서로 의존한다. 연결성 스케일(connectivity scale) $np=Ω(\log n)$에서, 구면 인접 행렬은 높은 확률로 $\|A-\mathbb E A\|_{\mathrm{op}}=O\left(\sqrt{np\log n}+npτ\right)$를 만족하며, 여기서 $τ$는 cap 임계값이다. 반경 변동(radial fluctuations)을 제어한 뒤 가우시안 벡터에 대해서도 유사한 추정이 성립한다. 이는 더 약한 가정 하에서 Liu, Mohanty, Schramm, and Yang (2023)의 스펙트럴 상계(spectral bound)를 날카롭게 하고, 동질 Kuramoto 모델에 대한 Abdalla, Bandeira, and Invernizzi (2024)의 전역 동기화(global-synchronization) 보장을 강화한다. 선도 고유공간(leading eigenspace) 또한 잠재 기하(latent geometry)를 추정한다. $np\gg\log n$일 때, 구면 모델에서는 $\log(1/p)\ll d\ll np\log(1/p)/\log n$에서 벡터 및 상대 Gram 행렬 오차가 소멸하고, 가우시안 모델에서는 $\log^2(1/p)\log n\ll d\ll np\log(1/p)/\log n$에서 소멸하며, 이는 Li and Schramm (2023)의 복구 조건을 개선한다. 해당 문헌에서 도입된 가우시안 혼합 블록 모델(Gaussian mixture block model)에 대해, 다항 시간 반정부 프로그램(semidefinite program)은 우리가 아는 한 중등 분리(moderate-separation) 영역에서 연결성 스케일의 최초 정확 복구(exact-recovery) 보장을 제공한다. 훨씬 더 큰 분리에서는 고정 간선 밀도(fixed edge density)가 고립 정점(isolated vertices)을 만들어 정확 복구를 불가능하게 한다. 재사용 가능한 디커플링(decoupling) 및 행렬 집중(matrix concentration) 프레임워크는 trace-moment 방법을 피하며 잠재 벡터를 갖는 랜덤 그래프 모델에 널리 적용된다.
우리는 적대적 견고성(adversarial robustness)에서의 인증 문제에 대한 새로운 이차 모델을 제시하며, 이 모델은 가능한 모든 목표 클래스를 동시에 고려한다. 이 모델을 기반으로, 불완전 검증을 위한 새로운 반정정 프로그래밍(SDP, semidefinite programming) 완화를 제안한다. 우리 접근법의 핵심 장점은 단일 최적화(optimization)로 견고성을 인증함으로써 클래스별 개별 풀이가 필요 없다는 것이다. 이를 통해 상당한 계산 속도 향상이 이루어지며, 클래스 수가 많은 대규모 데이터셋으로의 확장이 가능해진다. 효율성을 더욱 개선하기 위해, 활성 뉴런의 효과적인 가지치기(pruning) 전략을 추가로 제안하여 문제 차원을 줄이고 수렴(convergence)을 가속화한다.
MAXCUT 기반 클러스터링 문제에서 반정치 프로그래밍(SDP) 완화를 분석하는 통합 프레임워크를 제시하며, SDP1, BalancedSDP, 스펙트럴 클러스터링 세 알고리즘에 대한 보편적 오분류 보장과 SNR $s^2$에 대한 지수적 오차 감소를 최초로 증명했다. 특히 균형 분할 시 BalancedSDP는 명시적 편향 제거 없이도 우수한 성능을 달성하며, 데이터 행렬의 전역 중심화(global centering)가 이론적 분석의 핵심 역할을 한다.