외부 데이터 없는 생성형 데이터 증강: 심층 신경망의 실증 및 이론 연구
Generative Data Augmentation Without External Data: An Empirical and Theoretical Study on Deep Networks
한국어 초록
생성형 데이터 증강은 생성 모델이 만든 표본을 분류기의 학습 세트에 추가한다. 널리 인용되는 여러 연구는 대규모 외부 데이터셋으로 사전 학습한 생성기를 사용하므로, 합성 데이터 자체의 가치와 사전 학습에서 전이된 지식의 효과가 섞인다. 본 연구는 외부 데이터 없이 각 생성기가 분류기 자체의 학습 세트만으로 학습하는 경우를 살핀다. 생성 표본을 그 학습 세트에 추가할 때 분류기의 테스트 정확도가 언제, 왜 오르거나 떨어지는지 조사한다. 의료 데이터셋 2개를 포함한 데이터셋 6개에서 백본 4종으로 분류기를 학습하고, 생성기 4종이 만든 표본을 추가했다. 합성 데이터로 학습한 분류기의 초과 위험에 상한을 제시한다. 초과 위험은 모집단 위험이 해당 가설 클래스에서 가능한 최소 위험보다 얼마나 큰지를 나타낸다. 이 상한에는 실제 분포와 생성 분포 사이의 총변동 거리가 불리하게 작용하고, 학습 세트의 크기가 커지는 효과는 유리하게 작용한다. 합성 데이터를 추가해 줄일 수 있는 모집단 위험은 실제 이미지만으로 학습한 분류기의 초과 위험을 넘지 않는다. 이 상한에 비추어 실험을 해석하면, 분류기가 감지하는 생성 데이터와 실제 데이터 사이의 차이가 작고 실제 데이터만 사용한 분류기에 개선 여지가 있을 때 합성 데이터가 가장 유용했다. 감지한 차이가 크면 도움이 거의 없거나 오히려 성능이 떨어졌다. 분류기로 추정한 총변동 거리의 하한이 더 큰 생성기는 데이터셋 6개 중 5개에서 개선 효과가 더 작은 경향을 보였다. CIFAR 데이터셋에서는 정확도가 가장 높은 백본의 개선 폭이 가장 작았다. 이 상한은 성능이 어느 방향으로 바뀌는지는 설명하지만, 가장 큰 개선 폭의 크기는 설명하지 못한다. 가장 큰 개선 사례의 대부분은 같은 수의 옵티마이저 단계에서 기존 데이터 증강으로도 달성할 수 있었다.
원문 초록
Generative data augmentation adds samples from generative models to a classifier's training set. Many influential studies use generators pre-trained on large external datasets, and so mix the value of synthetic data with knowledge transferred through pretraining. We study the case without external data, where each generator learns only from the classifier's own training set, and ask when and why adding generated samples to that training set raises or lowers the classifier's test accuracy. We train classifiers with four backbones on six datasets, two of them medical, adding samples from four generators. We bound the excess risk of a classifier trained with synthetic data, that is, how far its population risk can lie above the minimum risk within its hypothesis class. The bound charges synthetic data for the total variation distance between the real and generated distributions and credits synthetic data for a larger training set. The gain from adding synthetic data, the fall in population risk, is at most the excess risk of the real-only classifier, which trains on the real images alone. Read through the bound, the experiments suggest that synthetic data help most when our classifiers detect only a small discrepancy between the generated and real data and the real-only classifier has room to improve, and that synthetic data help little or hurt when the detected discrepancy is large. Generators with a larger lower bound on the total variation distance, a bound that we estimate from our own classifiers, tend to help less on five of the six datasets, and on the CIFAR datasets the most accurate backbone gains the least. The bound gives these directions but not the size of the largest gains, most of which traditional augmentation also reaches at the same number of optimizer steps.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
24 pages, 7 figures