PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.24782v1cs.CV

가상 신경망: 한 몸 속 수백 개의 영혼

Virtual neural networks: hundreds of souls in a body

학습 가능한 파라미터 수는 일정하게 유지하면서 확장성은 오로지 연산 자원만으로 달성하는 새로운 개념인 가상 신경망(virtual neural networks)을 제안한다. 이 개념은 임의의 표준 합성곱 신경망으로 구현할 수 있는 추상적 프레임워크이며, 소수의 물리적 모델에서 유도된 가중치를 공유하는 다수의 가상 모델을 생성함으로써 Siamese 신경망과 딥 앙상블 기법을 결합한다. 앙상블은 최대 수백 개의 학습된 모델을 동시에 구성한다. 모든 가상 신경망은 동일한 입력을 받으며, 상호 연결된 구조가 내부 왜곡을 유발해 전체 앙상블의 견고성을 높인다. 용량을 바꾸지 않고 가상 신경망 수가 늘어날수록 앙상블 정확도가 향상된다. 가상 신경망은 더 큰 용량의 모델, 일반적인 딥 앙상블, SWA 및 Masksembles 같은 최신 접근법보다 우수하다. 또한 앙상블에서 가장 성능이 좋은 개별 모델은 파라미터 수가 더 많은 모델을 포함해 개별적으로 학습된 다른 모델들을 능가한다. Code: gitlab.com/EnginCZ/virtual-models-public