이미지 분류 신경망에서 가중치가 높은 뉴런이 중요한 뉴런인가?
Are the High-weight Neurons the Important Ones in Image Classification Neural Networks?
한국어 초록
이미지 분류를 위한 신경망 모델이 발전함에 따라, 뉴런은 가지치기(pruning), 백도어 방어, 해석 가능성에서 중요한 역할을 수행하고 있다. 그러나 기존 연구는 가중치와 중요도 간의 관계를 명확히 밝히지 못하고 있다. 본 연구에서는 세 가지 실험으로 구성된 뉴런 중요도 평가 방법을 통해 이를 해결한다. 세 가지 실험은 가중치가 높은 뉴런과 정확도에 영향을 미치는 뉴런 간의 중복도 정량화, 높은 가중치 뉴런의 섭동(perturbation) 효과 분석, 높은 가중치 뉴런 절제(ablation) 후 재학습 정확도 테스트이다. CIFAR-10 및 Mini-ImageNet에 대한 실험을 통해 주요 패턴을 밝혀냈다. 중복도 분석 결과, 상위 10%의 높은 가중치 뉴런은 중요한 뉴런과 최대 약 25%만 겹치며, 이후 구간에서는 중복도가 더 낮아진다. 섭동 테스트에서는 무작위 섭동이 3~7%의 정확도 저하를 보이는 것에 비해, 상위 10% 높은 가중치 뉴런은 특정 연산 하에서 45~80%의 정확도 저하를 유발하지만, 이 중 3분의 1은 미미한 영향만을 보였다. 절제 후 재학습 결과에 따르면 상위 10%의 높은 가중치 뉴런을 제거하면 정확도가 기준선(baseline) 대비 10~20% 낮아져 회복되지 않는 반면, 상위 0.1%를 절제할 경우 거의 완전한 회복이 가능했다. 주목할 점은 일부 낮은 가중치 구간에서도 섭동 시 10~17%의 저하를 보여 중간 범위의 높은 가중치 뉴런과 유사한 수준을 나타냈다는 것이다. 이러한 결과는 모든 높은 가중치 뉴런이 중요한 것은 아니며, 뉴런의 중요도가 비선형적임을 확인해 준다. 또한 낮은 가중치 뉴런 역시 상당한 기여를 한다. 이는 가중치와 중요도의 동등성에 의문을 제기하며 뉴런 역할에 대한 정교한 통찰을 제공한다. 본 연구는 중요한 높은 가중치 뉴런을 우선시하는 암호화나 비핵심 뉴런을 제거하는 가지치기와 같은 응용을 지원하여 신경망 분석을 발전시킨다.
원문 초록
As neural network models for image classification advance, neurons play critical roles in pruning, backdoor defense, and interpretability. Yet existing work lacks clarity on the weight-importance relationship. We address this with a neuron importance assessment method using three experiments: quantifying overlap between high-weight and accuracy-impacting neurons, analyzing high-weight neuron perturbation effects, and testing post-retraining accuracy after high-weight neuron ablation. Experiments on CIFAR-10 and Mini-ImageNet reveal key patterns. Overlap analysis shows top 10\% high-weight neurons overlap with important ones by only about 25\% at maximum, dropping further in subsequent intervals. Perturbation tests find top 10\% high-weight neurons cause 45-80\% accuracy degradation under certain operations compared to 3-7\% for random perturbations, but a third of them show minimal impact. Ablation-retraining results show removing top 10\% high-weight neurons leaves accuracy 10-20\% below baseline with no recovery, while ablating top 0.1\% allows near-full recovery. Notably, some low-weight intervals show 10-17\% degradation when perturbed, comparable to mid-range high-weight neurons. These results confirm not all high-weight neurons are important: their importance is nonlinear. Low-weight neurons also contribute significantly. This challenges weight-importance equivalence, offering refined neuron role insights. It supports applications like encryption prioritizing critical high-weight neurons and pruning removing non-critical ones, advancing neural network analysis.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2607.25529v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.