arXiv:1906.11080

AGAN: Towards Automated Design of Generative Adversarial Networks

Hanchao Wang, Jun Huan

제출 2019-06-25

원문 초록

Recent progress in Generative Adversarial Networks (GANs) has shown promising signs of improving GAN training via architectural change. Despite some early success, at present the design of GAN architectures requires human expertise, laborious trial-and-error testings, and often draws inspiration from its image classification counterpart. In the current paper, we present the first neural architecture search algorithm, automated neural architecture search for deep generative models, or AGAN for abbreviation, that is specifically suited for GAN training. For unsupervised image generation tasks on CIFAR-10, our algorithm finds architecture that outperforms state-of-the-art models under same regularization techniques. For supervised tasks, the automatically searched architectures also achieve highly competitive performance, outperforming best human-invented architectures at resolution $32\times32$. Moreover, we empirically demonstrate that the modules learned by AGAN are transferable to other image generation tasks such as STL-10.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00207v1cs.AR공통 태그 Image Generation, Image Classification

ShatterQuant: 시스톨릭 트랜스포머 하드웨어 가속기에서 블록 단위 혼합 정밀도를 통한 균일 정밀도의 한계 극복

ShatterQuant: Breaking Uniform Precision with Block-Wise Mixed-Precision on a Systolic Transformer Hardware Accelerator

기존 가속기에서 텐서(tensor) 내 이종 정밀도 지원이 제한적이기 때문에, 신경망(neural network) 양자화(quantization)는 주로 텐서별 정밀도 할당에 국한되어 왔다. 본 논문에서는 가중치(weight) 프로젝션 블록에 독립적인 비트 폭을 할당함으로써 각 텐서 내에서 혼합 정밀도(mixed-precision) 양자화를 가능하게 하는 하드웨어-소프트웨어 통합 설계 프레임워크인 ShatterQuant를 제시한다. ShatterQuant는 정밀도 단위와 PE(Processing Element) 구성을 결합하여 각 정밀도가 유효 블록 높이를 결정하도록 한다. 우리는 (1) 블록 수준의 표준편차와 가중치 민감도를 기반으로 텐서 내 정밀도를 할당하는 하드웨어 인식 사후 학습(post-training) 기법, (2) 1/2/4/8비트 가중치 정밀도, 정밀도 의존적 PE 구성, 블록 재스케일링, 통합된 소프트맥스(softmax) 및 구분적 선형 비선형성을 지원하는 ShatterQuant 트랜스포머 가속기, 그리고 (3) 1 GHz로 동작하는 TSMC 16nm PDK 구현을 통해 모델-하드웨어 트레이드오프를 평가하여 1.5 TOPS, 760 GOPS/$mm^2$ 면적 효율, 2.8 TOPS/W 에너지 효율을 달성한 결과를 소개한다. DeiT 및 ImageNet-1K에서 ShatterQuant는 2비트 더 낮은 유효 비트 폭을 사용하면서도 최신 혼합 정밀도 기법 대비 $3.3\%$ 이내의 정확도를 달성하며, PixelDiT에 대해서는 동등한 수준의 생성 품질을 보여준다. ShatterQuant는 하드웨어-소프트웨어 통합 설계를 통해 미세한 텐서 내 혼합 정밀도가 어떻게 실현될 수 있는지를 입증한다.

arXiv:2609.13047v2cs.AI공통 태그 image-classification, Image Generation

확산 모델과 개념 형성

Diffusion Models and Concept Formation

인간은 중첩된 추상화 수준과 사람들이 최소한의 인지적 노력으로 사물을 인식하고 이름을 붙이는 \emph{기본 수준}(basic level)을 가진 개념 분류 체계로 지식을 구조화합니다. Cobweb은 범주 효용(category utility)을 극대화하여 확률적 개념 계층을 구축하는 점진적 학습자로서 이러한 능력에 대한 고전적인 인지적 설명을 제공합니다. 본 논문에서는 확산 모델(diffusion model)이 이미지 합성을 위해 설계되었음에도 불구하고 암묵적으로 동일한 계산을 수행한다고 주장합니다. 확산 모델의 노이즈 주변 확률 분포(noisy marginals)는 데이터 분포의 가우시안 평활화(Gaussian smoothing)이며, 이러한 주변 확률 분포의 모드(mode)들은 네 가지 측면에서 확률적 프로토타입의 Cobweb 트리와 일치하는 계층을 형성합니다. 두 모델 모두 계층적 밀도 모델이고, 가우시안 프로토타입을 갖는 계층적 베이지안(hierarchical-Bayesian) 모델이며, 범주화를 불확실성을 줄이는 점수 추적(score-following)으로 취급하고, 두 모델 모두에서 기본 수준이 창발적(emergent)으로 나타납니다. 우리는 확산 모델의 이러한 기본 수준을 중간 노이즈 수준에 위치시키며, 최근 분석에 따르면 역과정(reverse process)이 샘플의 클래스 정체성을 확정하는 지점임을 보여줍니다. 두 모델은 주로 분류 체계를 표현하고 학습(training)하는 방식에서 차이를 보입니다. Cobweb은 이산 트리를 점진적으로 학습하는 반면, 확산 모델은 데이터 분포에 적합화된 단일 학습 스코어 필드(score field) 내에 연속적이고 보간 가능한 계층을 인코딩합니다. 우리는 모드 탐색(mode-finding)을 통해 확산 계층을 복원하고 두 모델의 기본 수준을 비교함으로써 MNIST와 Fashion-MNIST에서 이러한 대응 관계를 검증합니다. 이는 확산 모델을 개념 형성의 인지 모델로 재구성하고 Cobweb에 연속적이고 확장 가능한(scalable) 구현체를 제공합니다.

arXiv:2608.15652v2cs.CV공통 태그 Image Generation, Image Classification

확장 가능한 블랙박스 이미지 모델 귀속

Scalable Black-Box Model Attribution for Images

생성 모델의 급속한 확산은 모델 귀속 문제를 제기한다. 이미지만 주어졌을 때, 어떤 모델이 이를 생성했는지 판별할 수 있는가? 우리는 엄격한 블랙박스(black-box) 설정에서 이 문제를 해결하기 위해 경량 CNN을 제안한다. CNN은 가변적인 이미지 크기를 처리하고 정확도를 높이기 위해 여러 이미지 패치에서 동작한다. 선행 연구보다 더 많은 모델을 더 높은 정확도로 귀속하며, 25-class DRAGON에서 98.9%, 27-class OpenFake에서 95.0%에 달한다. 후보 집합 크기와 거의 무관한 비용으로 수 밀리초 안에 실행되며, 실환경에서 마주치는 변환에도 견고하다. 클로즈드셋(closed-set) 귀속을 넘어, 학습된 표현은 재사용 가능한 fingerprint 백본으로 기능한다. 오픈셋(open-set) 거부와 퓨샷(few-shot) 등록을 지원하고, 계보(lineage) 감독 없이 모델 패밀리 구조를 복원하며, 보지 못한 생성기의 이미지를 출처별로 묶는다. 통제된 ablation과 인과적 perturbation 실험은 귀속 판단이 생성기별 fingerprint처럼 동작하는 공간적으로 국소적인 저수준 신호에 의해 이끌린다는 것을 보여준다.

arXiv:2609.23345v1cs.CV공통 태그 Image Generation, Image Classification

AniPrO: 다차원 의미론적 추론을 통한 해석 가능한 애니메이션 이미지 출처 탐지

AniPrO: Interpretable Anime Image Provenance Detection via Multi-Dimensional Semantic Reasoning

생성형 AI(generative AI)가 애니메이션 스타일 이미지 제작에 점점 더 많이 사용됨에 따라, 사람이 직접 그린 이미지, AI로 인페인팅(inpainting)된 이미지, 텍스트-이미지(text-to-image) 생성 이미지를 구별하는 것은 저작권 귀속, 시각적 출처 추적, 콘텐츠 거버넌스 측면에서 중요하다. 기존의 AI 생성 이미지 탐지기는 주로 실사 사진을 대상으로 하며, 평면적인 채색, 과장된 구조, 예술적인 선 처리와 같은 애니메이션 특유의 단서를 간과하는 경우가 많다. 이러한 공백을 해결하기 위해, 우리는 해석 가능한 애니메이션 이미지 출처 추적을 위한 다차원 설명 강화 프레임워크인 AniPrO를 제안한다. AniPrO는 AnimeDL-2M을 기반으로 구축되었으며, 35,000장의 이미지 후보 풀에서 선별한 15,000개의 균형 잡힌 샘플로 구성되어 있고, 구조화된 5차원 설명과 함께 Real, Inpainting, Text2Image 카테고리를 포괄한다. 또한 우리는 통계적 특징(feature) 판별과 멀티모달 융합 추론의 관점에서 출처 탐지를 평가하기 위해 AniPrO-SFD-Bench와 AniPrO-MFR-Bench를 도입한다. 실험 결과, 구조화된 의미론적 가이드가 전역적 시각적 타당성과 국소적 세부 일관성 사이의 격차와 같은 체계적인 AI 생성 편향을 드러내며, 까다로운 인페인팅 샘플의 탐지 성능을 향상시키는 것으로 나타났다. 데이터셋(dataset)과 코드는 https://github.com/YAN-LIU05/AniPrO 에서 공개될 예정이다.

arXiv:2609.24595v1cs.CV공통 태그 Image Generation, Image Classification

신경 세포자동기(NCA)의 응용: 최신 동향, 과제 및 기회

Applications of Neural Cellular Automata: State of the Art, Challenges and Opportunities

신경 세포자동기(NCA)는 극히 작은 모델 크기에서도 정확하고 견고한 추론을 가능하게 하는 새로운 유형의 신경망 아키텍처이다. 최근 NCA는 이미지 분석, 합성 이미지 생성, 시뮬레이션 등 다양한 작업에서 합성곱 및 어텐션 기반 아키텍처에 대한 흥미로운 저자원 대안으로 발전해 왔다. 급속한 발전과 연구 관심의 증가는 이 신흥 기술에 대한 포괄적인 검토를 필요로 한다. 본 리뷰는 NCA의 기초, 의료 영상에 대한 응용, 그리고 최신 동향에 대한 통찰을 개괄적으로 제공한다. 우리는 최초로 제안된 NCA 아키텍처에 대한 최근 수정 사항을 효율성과 정확도 측면에서 분석한다. 또한 의료 영상 분석, 세분화(segmentation), 분류, 정합(registration), 깊이 추정, 이미지 합성에 초점을 맞추어 실제 시나리오에서의 실용적 응용을 검토한다. 마지막으로 NCA의 여러 장점과 연구 공백을 식별하고, 제한된 환경이거나 견고성 또는 효율적인 데이터 처리에 특별한 요구가 있는 영역에서의 의료 응용을 위한 NCA의 미래 기회를 분석하며 결론을 내린다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.