PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2410.11113v4stat.ML

의존 데이터 하 심층 신경망의 통계적 성질

Statistical Properties of Deep Neural Networks with Dependent Data

본 논문은 의존 데이터 하에서 심층 신경망(DNN) 추정량에 대한 이론을 발전시킨다. 다양한 DNN 기반 추정량에 적용 가능한 이론을 제공하기 위해, 먼저 무계(無界) 집합을 값으로 취하는, 잠재적으로 비정상(nonstationary)인 $\beta$-혼합($\beta$-mixing) 데이터 아래 일반적인 추정 문제 클래스에 대해 비모수적 sieve 추정량의 이론적 및 경험적 $\mathcal{L}^{2}$-오차에 대한 비점근(nonasymptotic) 확률 한을 확립한다. 이어 이 이론을 DNN 가중치에 대한 경계나 희소성 제약 없이 완전 연결(fully connected) 및 합성곱(convolutional) DNN 추정량에 적용한다. 두 DNN 클래스 모두에 대해, 추정 대상 함수가 H\"older 매끄름(H\"older smooth)이고 데이터가 비정상, 서브가우시안(subgaussian), $\beta$-혼합이며 지수 또는 다항 감쇠를 갖는 경우의 일반 결과를 도출한다. 이를 비모수 회귀, 로지스틱 회귀, 분위수 회귀 설정으로 특수화한다. 지수 $\beta$-혼합 하에서, 결과 추정량은 로그 인자를 제외하고 Stone (1982)의 비모수적 minimax rate에 도달한다.