arXiv:2611.23321v1 math.NA

딥러닝의 오차 분석

Error Analysis of Deep Learning

Yuling Jiao, Peiying Wu, Jerry Zhijian Yang, Pingwen Zhang

제출 2026-11-19

한국어 초록

이 리뷰는 오차 분해의 관점에서 딥러닝 이론을 검토하며, 근사 오차, 통계적 오차, 최적화 오차를 체계적으로 다룬다. 우리는 개별 오차 성분에 대한 경계로부터 세 가지를 모두 고려하는 프레임워크에 이르기까지 오차 분석의 발전을 추적한다. 비모수 회귀와 Deep Ritz 방법을 두 가지 병행 예시로 사용하여, 이러한 분석이 근본적으로 다른 손실 구조에 어떻게 적용되는지를 보인다. 이어서 과학적 기계학습, 생성 학습, 강화학습, 표현 학습, 대규모 언어 모델에서의 대표적인 분석을 검토하며, 학습 오차가 문제별 논증을 통해 해, 분포, 예측에 어떻게 영향을 미치는지를 보인다. 전반에 걸쳐 어떤 오차 성분이 통제되는지, 이들이 어떻게 결합되는지, 그리고 학습된 신경망에 대한 보장을 얻기 위해 어떤 가정이 필요한지를 명확히 한다.

원문 초록

This review examines deep learning theory through the lens of error decomposition, systematically addressing approximation, statistical, and optimization errors. We trace the development of error analyses from bounds on individual error components to frameworks that account for all three. Using nonparametric regression and the Deep Ritz Method as dual running examples, we demonstrate how these analyses apply across fundamentally different loss structures. We then review representative analyses in scientific machine learning, generative learning, reinforcement learning, representation learning, and large language models, showing how learning errors affect solutions, distributions, and predictions through problem-specific arguments. Throughout, we clarify which error components are controlled, how they are combined, and what assumptions are needed to obtain guarantees for trained networks.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.23321v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.