Quantitative Gaussian-Process limits of Tensor Programs
텐서 프로그램(tensor program) 프레임워크를 통해 랜덤 신경망의 무한 너비 가우시안 프로세스(Gaussian process) 극한에 대한 정량적 수렴 이론을 제시하며, 유한 너비 네트워크 실행과 그 가우시안 프로세스 극한 사이의 오차가 너비의 역제곱근 차수임을 Wasserstein 거리 기준으로 명시적으로 규명한다. 이 프레임워크는 구조에 무관하게 적용되어 피드포워드 모델뿐 아니라 순환 신경망 및 트랜스포머(transformer) 계열 아키텍처의 가중치 공유 방식까지 포괄한다.