arXiv:2611.01295v1 cs.CV

[재현] 부족한 데이터를 구하는 순수 노이즈

[Re] Pure Noise to the Rescue of Insufficient Data

Seungjae Ryan Lee, Seungmin Brian Lee

제출 2026-11-03

한국어 초록

본 연구는 Zada, Benou, Irani(2021)의 주요 주장을 검증한다. 이들은 훈련 데이터가 불균형한 이미지 분류 과제에서 (i) 순수 노이즈를 사용해 소수 클래스 이미지를 증강하면 소수 클래스 정확도가 향상되어 일반화가 촉진된다고 주장한다. 이 방법은 (ii) 자연 이미지로부터 학습한 아핀 파라미터를 사용해 노이즈 이미지를 정규화하는 새로운 배치 정규화 계층과 함께 사용되며, 이는 모델의 성능을 향상시킨다. 또한 (iii) 이러한 향상은 다양한 수준의 데이터 증강에 대해 강건하다. 마지막으로 저자들은 (iv) 순수 노이즈 이미지를 추가하면 균형 잡힌 훈련 데이터에서도 분류 성능이 향상될 수 있다고 제안한다. 우리는 논문의 설명에 따라 PyTorch로 훈련 파이프라인을 구현하였고, 순수 노이즈 이미지를 샘플링하고 노이즈 이미지와 자연 이미지를 별도로 배치 정규화하는 저자들의 코드 조각을 통합하였다. 우리는 (i) 순수 노이즈를 이용한 오버샘플링이 소수 클래스 정확도를 향상시켜 일반화를 개선하고, (ii) 제안된 배치 정규화(BN) 방법이 기준선보다 우수하며, (iii) 이러한 향상이 여러 데이터 증강에 걸쳐 강건하다는 주요 주장을 재현하였다. 또한 우리의 결과는 (iv) 순수 노이즈 이미지를 추가하면 균형 잡힌 훈련 데이터에서도 분류 성능이 향상될 수 있다는 주장을 뒷받침한다. 그러나 추가 실험은 OPeN에 의한 성능 향상이 더 큰 네트워크나 더 복잡한 데이터 증강으로 인한 향상과는 오히려 직교적일 수 있음을 시사한다.

원문 초록

We examine the main claims of Zada, Benou, and Irani (2021), which states that in an image classification task with imbalanced training data, (i) using pure noise to augment minority-class images encourages generalization by improving minority-class accuracy. This method is paired with (ii) a new batch normalization layer that normalizes noise images using affine parameters learned from natural images, which improves the model's performance. Moreover, (iii) this improvement is robust to varying levels of data augmentation. Finally, the authors propose that (iv) adding pure noise images can improve classification even on balanced training data. We implemented the training pipeline from the description of the paper using PyTorch and integrated authors' code snippets for sampling pure noise images and batch normalizing noise and natural images separately. We reproduced the main claims that (i) oversampling with pure noise improves generalization by improving the minority-class accuracy, (ii) the proposed batch normalization (BN) method outperforms baselines, (iii) and this improvement is robust across data augmentations. Our results also support that (iv) adding pure noise images can improve classification on balanced training data. However, additional experiments suggest that the performance improvement from OPeN may be more orthogonal to the improvement caused by a bigger network or more complex data augmentation.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.01295v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.