AG-BFGS: 가속 기하 학습의 기초
AG-BFGS: Foundations for Accelerated Geometry Learning
한국어 초록
본 논문은 헤세 역행렬 근사의 학습에 모멘텀을 도입한 BFGS용 가속 기하 학습 프레임워크를 제안한다. 결과로 얻어지는 가속 갱신이 명시적인 안정성 조건을 만족하며, 허용 가능한 매개변수 영역 내에서 양의 정부호성을 보존함을 증명한다. 수치 실험을 통해 수치적 안정성을 유지하면서도 대응하는 비가속 기법보다 일관되게 성능이 향상됨을 보인다. 이러한 결과는 가속 준뉴턴 학습에 대한 최초의 엄밀한 이론적 토대를 제공하며, 가속 2차 최적화 기법에 대한 경험적 관찰과 수학적 보장 사이의 간극을 메운다.
원문 초록
We introduce an accelerated geometry-learning framework for BFGS that incorporates momentum into the learning of Hessian inverse approximations. We prove that the resulting accelerated updates satisfy explicit stability conditions and preserve positive definiteness within admissible parameter regions. Numerical experiments demonstrate consistent improvements over the corresponding non-accelerated schemes while maintaining numerical stability. These results provide the first rigorous theoretical foundation for accelerated quasi-Newton learning and bridge the gap between empirical observations and mathematical guarantees for accelerated second-order methods.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24113v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.