구조화 기저함수 네트워크: 다양성을 제어할 수 있는 손실 중심 다중 가설 앙상블
Structured Basis Function Networks: Loss-Centric Multi-Hypothesis Ensembles with Controllable Diversity
한국어 초록
앙상블 학습과 다중 가설 예측은 예측 성능과 강건성을 향상시키는 두 가지 상호 보완적인 패러다임이다. 본 연구는 예측 공간의 손실 유도 Bregman 중심(centroid) 기하에 착안한 지도 집계 메커니즘을 통해 이 두 패러다임을 통합하는 손실 인지형 앙상블 프레임워크인 구조화 기저함수 네트워크(Structured Basis Function Network, s-BFN)를 제안한다. 이 접근법은 기저 예측들의 구조화된 데이터셋을 구성하고 관측된 레이블에 대해 직접 모수적 결합기를 학습시키며, 중심 기반 정식화는 정확한 중심 해법이 아니라 기하학적 기준으로 사용되고, 다양성 제어 모수가 예측기 간의 특화 정도를 조절한다. 제안한 프레임워크는 표 형식 데이터, 이미지 인식, 대규모 시간 구조 비디오 분류를 포함한 회귀 및 분류 과제 전반에서 평가된다. 실험 결과 s-BFN은 평가된 모든 영역에서 강한 성능을 보이며 본 연구에서 고려한 집계 기준선들과 경쟁력이 있다. 가장 큰 성능 향상은 집계 용량과 제어된 다양성이 함께 이로운 고차원 및 시간 구조 설정에서 관찰되었으며, 더 단순한 표 형식 영역에서는 더 일찍 포화가 나타났다. 이러한 결과는 다양성, 앙상블 크기, 정확도 사이의 엄밀한 단조 관계가 아니라 용량-복잡도-다양성 간의 상충 관계를 부각한다.
원문 초록
Ensemble learning and multi-hypothesis prediction are two complementary paradigms for improving predictive performance and robustness. This work introduces the Structured Basis Function Network (s-BFN), a loss-aware ensemble framework that unifies these paradigms through a supervised aggregation mechanism motivated by the loss-induced Bregman-centroid geometry of prediction space. The approach constructs a structured dataset of base predictions and trains a parametric combiner directly against the observed labels, with the centroidal formulation serving as a geometric reference rather than an exact centroid solver, while a diversity-control parameter regulates specialization among predictors. The proposed framework is evaluated across regression and classification tasks, including tabular data, image recognition, and large-scale temporally structured video classification. Empirical results show that s-BFN provides strong performance across the evaluated regimes and is competitive with the aggregation baselines considered in the study. The strongest gains are observed in higher-dimensional and temporally structured settings, where aggregation capacity and controlled diversity are jointly beneficial, while simpler tabular regimes exhibit earlier saturation. These results highlight a capacity-complexity-diversity trade-off rather than a strictly monotonic relationship between diversity, ensemble size, and accuracy.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2509.02792v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.