arXiv:2609.21876v1 cs.LG

동일 가중치 곱셈적 조대화를 위한 기하평균 풀링

Geometric Mean Pooling for Equal-Weight Multiplicative Coarse-Graining

Ang-Kun Wu, Fangdi Wen, Jingtao Zhang

제출 2026-09-21

한국어 초록

평균 풀링과 max 풀링의 가산적·극값 바이어스에 대한 대안으로, 우리는 기하평균 풀링(GMP)을 제안한다. GMP는 특징 부호의 곱과 특징 크기의 기하평균을 결합하는 부호 풀링 연산자이다. 양자 다체 물리학에서의 국소-전역 구성에서 영감을 받아, GMP는 학습 가능한 풀링 파라미터를 도입하지 않으면서 공동 부호 정보와 특유의 곱셈적 스케일을 모두 보존한다. 우리는 비중첩 계층적 GMP가 해당 전역 곱셈 통계량을 보존함을 보이고, 합성 시퀀스 과제, 반복적 조대화, 이미지 분류, 분자 친유성 회귀에서 이를 평가한다. 합성 과제에서는 GMP가 평균 및 max 풀링보다 곱 기반 신호를 더 정확히 복원하며, 시험한 수준의 곱셈적 입력 노이즈 하에서도 예측 성능을 유지한다. 그러나 이미지 및 분자 데이터에서는 그 효과가 표현, 타깃 파라미터화, 국소 및 전역 풀링의 배치에 따라 달라진다. 이 결과는 GMP를 표준 풀링 연산자의 보편적 대체가 아니라, 동일 가중치 곱셈적 구성이 타당한 과제에 대한 상보적·체제 의존적 귀납 편향으로 자리매김한다.

원문 초록

As an alternative to the additive and extremal biases of average and max pooling, we introduce Geometric Mean Pooling (GMP), a signed pooling operator that combines the product of feature signs with the geometric mean of feature magnitudes. Motivated by local-to-global composition in quantum many-body physics, GMP retains both joint sign information and a characteristic multiplicative scale without introducing learnable pooling parameters. We show that non-overlapping hierarchical GMP preserves the corresponding global multiplicative statistic and evaluate it on synthetic sequence tasks, iterative coarse-graining, image classification, and molecular lipophilicity regression. On the synthetic tasks, GMP recovers product-based signals more accurately than average and max pooling and maintains predictive performance under the tested levels of multiplicative input noise. On image and molecular data, however, its effectiveness depends on the representation, target parameterization, and placement of local and global pooling. These results position GMP as a complementary, regime-dependent inductive bias for tasks in which equal-weight multiplicative composition is plausible, rather than as a universal replacement for standard pooling operators.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.21876v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.