다중 인덱스 모델 하에서 경험적 위험 최소화의 복제 대칭 파괴와 알고리즘 임계값
Replica Symmetry Breaking and Algorithmic Thresholds in Empirical Risk Minimization under Multi-Index Model
한국어 초록
현대 머신러닝 모델은 고차원 비볼록 경험적 위험 함수를 최적화하여 학습된다. 이러한 비용 함수는 수많은 지역 최적점을 가질 수 있음에도 불구하고, 그래디언트 기반 최적화는 전역 최적점에 가까운 값으로 수렴하는 것처럼 보인다. 단순한 지도학습 설정 내에서, 우리는 다항 시간 알고리즘으로 접근 가능한 경험적 위험 지형의 영역을 정밀하게 규명한다. 우리는 $\boldsymbol{x}_i\in \mathbb{R}^d$인 표준 가우시안 특징 벡터와, $\boldsymbol{x}_i$의 미지의 $k$차원 부분공간으로의 투영에 의존하는 반응 변수 $y_i\in\mathbb{R}$로 구성된 i.i.d. 쌍 $\{(\boldsymbol{x}_i,y_i):\; 1 \le i\le n\}$이 주어진다. 우리는 데이터의 $m$차원 투영에 의존하는 모델(예: $m$개의 뉴런을 가진 신경망)을 학습하기 위해 경험적 위험 최소화를 사용한다. 우리는 점진적 근사 메시지 전달(IAMP) 알고리즘을 제안하고, $n/d\to\alpha\in (0, +\infty)$를 만족하는 고차원 점근 체계 $n,d\to\infty$에서 해당 알고리즘이 달성하는 학습 오차와 테스트 오차 및 학습 오차 간의 관계를 정밀하게 특성화한다. 관련 모델에 대한 선행 연구를 바탕으로, 우리 알고리즘이 달성하는 성능이 다항 시간 알고리즘 중 최적임을 기대한다.
원문 초록
Modern machine learning models are trained by optimizing high-dimensional non-convex empirical risk functions. Such cost functions can have a multitude of local optima and yet, gradient-based optimization appears to converge to near-global optima. Within a simple supervised learning setting, we develop a precise picture of which parts of the empirical risk landscape are accessible by polynomial-time algorithms. We are given i.i.d. pairs $\{(\boldsymbol{x}_i,y_i):\; 1 \le i\le n\}$ with $\boldsymbol{x}_i\in \mathbb{R}^d$ standard Gaussian feature vectors, and $y_i\in\mathbb{R}$ response variables that depend on $\boldsymbol{x}_i$ through their projections on an unknown $k$-dimensional subspace. We use empirical risk minimization to learn a model that depends on an $m$-dimensional projection of the data (e.g., an $m$-neurons neural network). We propose an incremental approximate message passing (IAMP) algorithm and precisely characterize the training error it achieves, as well as the relation between test and training error, in the high dimensional asymptotics $n,d\to\infty$, with $n/d\toα\in (0, +\infty)$. Based on earlier work in related models, we expect that the performance achieved by our algorithm is optimal among polynomial-time algorithms.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.28573v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
그래프 신경망에서의 하이퍼파라미터 전이
Hyperparameter Transfer in Graph Neural Networks
심층 학습(deep learning) 모델의 성능은 학습률, 초기화 스케일, 가중치 감쇠와 같은 하이퍼파라미터 설정에 크게 의존한다. 하이퍼파라미터 전이(hyperparameter transfer)는 모델 규모에 걸쳐 최적에 가까운 하이퍼파라미터 설정을 일관되게 유지하는 것을 목표로 하며, 이를 통해 대형 모델을 더 작고 최적화 비용이 저렴한 대리 모델을 프록시 튜닝하여 최적화할 수 있다. 전이 원칙은 언어 및 비전 태스크에서의 밀집 신경망(dense neural network) 맥락에서 잘 연구되어 있지만, 그래프 신경망(GNN)에 대해서는 상대적으로 탐구가 미흡한 상태이다. 우리는 SGD, Adam, AdamW로 학습된 GNN을 위한 전이 파라미터화를 개발하고 검증한다. 이론적 스케일링 분석과 제어된 실험을 통해, 제안된 파라미터화가 안정적인 특징 업데이트, 학습률 전이, 그리고 너비와 깊이가 증가함에 따른 성능 향상을 달성함을 보인다. SGD의 경우, 그래프에 의존하는 첫 번째 층 보정 인수를 식별하고, 이를 활용하면 희소 bag-of-words 입력을 가진 그래프에서 초기 학습을 가속화할 수 있음을 보인다. Adam의 경우, 서로 다른 메시지 패싱 정규화 방식이 초기 및 후기 학습 전이 동작에 미치는 영향을 탐구하며, 메시지 패싱 정규화의 중요성을 설명하고 이에 연관된 하이퍼파라미터의 사용을 권장한다. AdamW의 경우, 가중치 감쇠와 학습률의 공동 전이를 가능하게 하는 파라미터화를 적용한다. 이러한 결과들은 다양한 학습 태스크와 학습 시나리오에 걸쳐 GNN을 스케일링하기 위한 실용적인 방법론을 제공한다.
FMOPF: AC 최적 전력 흐름을 위한 제약 인식 상호작용 사전 기반 잠재 플로우 매칭
FMOPF: Latent Flow Matching with Constraint-Aware Interaction Priors for AC Optimal Power Flow
AC 최적 전력 흐름(OPF)은 비선형 전력 평형 제약 하에서 최소 비용 발전 배치를 결정하며, 전력 시장 운영에서 하루에 수천 번 풀린다. 부하 조건에서 OPF 해법으로의 직접 매핑을 학습하면 이 계산을 가속할 수 있지만, 재생에너지 침투가 심화되면서 단일 최적 배치만으로는 더 이상 충분하지 않다. 운영자는 위험 정량화, 민감도 분석, 다목적 트레이드오프 평가를 위해 실행 가능한 근최적 해법 분포의 특성화가 필요하다. 지도 학습 신경망은 빠른 점 예측을 제공하지만 이 조건부 분포를 포착할 수 없다. 확산 기반 생성 모델은 원칙적으로 다양한 해법을 샘플링할 수 있지만, 원시 상태 공간에서 동작하는 기존 방법은 해법 품질이 저하되고 중간 규모 시스템 이상으로 확장하지 못한다. 우리는 근본 원인을 단일 모델 내에서 두 가지 서로 다른 과제가 혼재된 것으로 확인했다. 고차원 OPF 해법 매니폴드를 압축하는 것이 한 과제이고, 부하에서 그 매니폴드로의 조건부 매핑을 학습하는 것이 또 다른 과제이다. 본 논문은 잠재 플로우 매칭(latent flow matching)을 통해 압축과 생성을 분리하고, Constraint-Aware Interaction Prior Network를 통해 부하-상태 결합을 명시적으로 모델링함으로써 이러한 혼재를 해소하는 프레임워크인 FMOPF를 제안한다. 4개 IEEE 테스트 시스템에서의 실험은 FMOPF가 가장 효과적인 Newton-Raphson 웜 스타트(warm start)를 제공하고, 생성 방법 중 최저 꼬리 위험(tail risk)을 달성하며, 완전한 실행 가능성을 유지하면서 수백 개 버스(bus) 규모 시스템까지 확장 가능한 최초의 방법임을 보여준다. Ablation 연구는 잠재 생성 파이프라인이 물리적 실행 가능성의 필요 조건이며, 상호작용 사전(prior)이 후단 꼬리 위험 제어기로 기능함을 확인한다.
데이터 과학의 수학
Mathematics of Data Science
이 책은 데이터 과학의 수학적 기초에 관한 것이다. 1. 서론 2. 고차원에서의 저주, 축복, 그리고 놀라움 3. 특이값 분해(SVD)와 주성분 분석(PCA) 4. 선형 회귀와 정규화 5. 그래프, 네트워크, 그리고 클러스터링 6. 비선형 차원 축소와 확산 맵(Diffusion Maps) 7. 랜덤 투영을 통한 선형 차원 축소 8. 데이터 과학을 위한 최적화 9. 분류 10. 심층 학습의 수학적 소개 11. 그래프 라플라시안의 대표본 극한 12. 커뮤니티 13. 측도 집중과 가우시안 분석 14. 행렬 집중 부등식 15. 압축 센싱과 희소성 16. 저계수 행렬 복원
The Shadow Price of Intelligence: Quality Degradation and Retry Feedback in LLM Inference
scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기
scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning
단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.
강볼록 집합 상의 무작위화 선형 오라클 최적화에 대한 하한
Lower Bounds for Randomized Linear-Oracle Optimization over Strongly Convex Sets
토론
이 논문과 연결된 포럼 글이 아직 없습니다.