PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.06861v1cs.LG

Product-Unit Residual Networks를 이용한 비선형 특징 상호작용 모델링

Modeling Nonlinear Feature Interactions with Product-Unit Residual Networks

비선형 특징 상호작용(nonlinear feature interactions)을 이해하는 것은 과학 및 공학에서 매우 중요하지만, 표준 다층 퍼셉트론(MLP)은 종종 이러한 상호작용을 암묵적으로만 포착하여 강건성과 해석 가능성을 저해할 수 있는 얽힌 표현을 초래합니다. 우리는 최적화를 안정화하면서 특징 간 결합을 명시적으로 모델링하기 위해 곱셈형 product units와 잔차 연결(residual connections)을 통합하는 product-unit residual networks (PURe)를 조사합니다. 우리는 상호작용 기반 합성 벤치마크와 두 개의 실제 데이터셋에서 체계적인 평가를 수행하여 예측 정확도, 가우시안 특징 노이즈에 대한 강건성, 제한된 학습 데이터 하의 성능을 평가하고, 일치된 매개변수 예산 하에서 실수 및 복소수 변형을 비교합니다. 정확도를 넘어, SHAP 기반 상호작용 분석은 PURe가 MLP 기준 모델보다 더 집중되고 구조적으로 일관된 상호작용 패턴을 학습함을 보여줍니다. 전반적으로, PURe는 경쟁력 있거나 개선된 성능, 데이터 부족 환경에서의 더 나은 강건성 및 샘플 효율성, 그리고 향상된 상호작용 수준의 해석 가능성을 달성합니다.