arXiv:2304.00219

ConvBLS: An Effective and Efficient Incremental Convolutional Broad Learning System for Image Classification

Chunyu Lei, C. L. Philip Chen, Jifeng Guo, Tong Zhang

제출 2023-04-01

원문 초록

Deep learning generally suffers from enormous computational resources and time-consuming training processes. Broad Learning System (BLS) and its convolutional variants have been proposed to mitigate these issues and have achieved superb performance in image classification. However, the existing convolutional-based broad learning system (C-BLS) either lacks an efficient training method and incremental learning capability or suffers from poor performance. To this end, we propose a convolutional broad learning system (ConvBLS) based on the spherical K-means (SKM) algorithm and two-stage multi-scale (TSMS) feature fusion, which consists of the convolutional feature (CF) layer, convolutional enhancement (CE) layer, TSMS feature fusion layer, and output layer. First, unlike the current C-BLS, the simple yet efficient SKM algorithm is utilized to learn the weights of CF layers. Compared with random filters, the SKM algorithm makes the CF layer learn more comprehensive spatial features. Second, similar to the vanilla BLS, CE layers are established to expand the feature space. Third, the TSMS feature fusion layer is proposed to extract more effective multi-scale features through the integration of CF layers and CE layers. Thanks to the above design and the pseudo-inverse calculation of the output layer weights, our proposed ConvBLS method is unprecedentedly efficient and effective. Finally, the corresponding incremental learning algorithms are presented for rapid remodeling if the model deems to expand. Experiments and comparisons demonstrate the superiority of our method.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22994v1cs.CV공통 태그 Incremental Learning, Image Classification

학습 없는 생성형 리플레이 기반 클래스 증분 학습에서 합성-실제 도메인 단축 경로 극복

Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning

클래스 증분 학습(CIL)은 모델이 치명적 망각(catastrophic forgetting)을 피하면서 지속적으로 새로운 지식을 습득해야 한다. 예시(exemplar) 리플레이는 효과적이지만 프라이버시와 저장 공간 측면에서 우려를 제기한다. 따라서 생성형 리플레이가 실현 가능한 대안으로 부상했으며, 추가 학습 없이 고정된 사전학습(pre-trained) 텍스트-이미지(T2I) 모델을 사용해 이전 클래스 데이터를 합성한다. 그러나 증분 학습 중 합성된 이전 클래스 데이터와 실제 새 클래스 데이터를 직접 혼합하면 성능이 크게 저하된다는 것을 관찰했다. 이 문제는 모델이 의미적 클래스 단서 대신 도메인 판별(discriminative) 특징에 의존하는 "도메인 단축 경로(domain shortcut)"에서 비롯된다. 이를 해결하기 위해 DREAM($\underline{\mathbf{D}}$omain-$\underline{\mathbf{R}}$egularized $\underline{\mathbf{E}}$xemplar-free $\underline{\mathbf{A}}$lignment $\underline{\mathbf{M}}$odel)을 제안한다. DREAM은 학습 없는 생성기로 이전 클래스 데이터를 합성하고, 부분공간(subspace) 정정(rectification)과 직교 투영(orthogonal projection)을 통해 도메인 단축 경로를 제거하며, 실제 데이터에 고정된(real-anchored) 프로토타입 정규화(prototype regularization)로 의미적 정렬(alignment)을 강화한다. 4개 데이터셋에 대한 광범위한 실험에서 DREAM은 기존 예시 없는 CIL 방법을 능가하며 최첨단(state-of-the-art) 성능을 달성한다. 소스 코드는 https://github.com/Light-ZhangTao/DREAM 에서 제공된다.

arXiv:2607.22072v1cs.CV공통 태그 Incremental Learning, Image Classification

소수 샘플 클래스 점진적 학습을 위한 지역적 단축 완화

Alleviating Regional Shortcuts for Few-Shot Class-Incremental Learning

소수 샘플 클래스 점진적 학습(FSCIL)은 기본 클래스를 잊지 않으면서 소수의 샘플만으로 새로운 클래스를 점진적으로 학습하는 것을 목표로 한다. 그러나 현재 방법들은 새로운 클래스 샘플을 기본 클래스로 잘못 분류하는 경향을 보이며, 우리는 이것이 새로운 클래스 샘플에서 기본 클래스를 구별하는 영역에 과도하게 집중하기 때문임을 발견했다. 본 연구에서는 해석과 해결을 위한 근본 메커니즘을 탐구한다. 먼저 새로운 클래스 샘플에서 전이되고 재사용되는 공간적 패턴을 분석하기 위한 구성적(compositional) 관점을 제시한다. 이어서 광범위한 실험과 이론적 분석을 통해, 모델의 기본 클래스 학습에 단축(shortcut)이 존재하며, 이것이 자연스럽게 가장 구별력 있는 영역(primitive)에만 과도하게 집중하는 현상을 형성함을 경험적·이론적으로 확인한다. 우리는 이를 지역적 단축(regional shortcut)이라고 부른다. 마지막으로, 이 해석에 기반하여 이 문제를 해결하기 위해 두 primitive 집합(공통 집합과 구별적 집합)을 학습하는 구성적 학습(compositional learning) 기반 방법을 제안한다. 이 방법은 모델이 기본 클래스와 새로운 클래스 인식을 위해 공통 primitive 집합을 학습하고 활용하도록 제약함으로써 지역적 단축을 완화한다. 표준 FSCIL 벤치마크에 대한 광범위한 실험은 우리 접근법의 효과를 보여주며, 정확도와 해석 가능성 모두에서 기존 최첨단 방법 대비 일관된 성능 향상을 달성한다.

arXiv:2607.12881v1cs.CV공통 태그 image-classification, Image Classification

억제적 셀프-어텐션: 비전 트랜스포머에서 초점 선명화

Inhibited Self-Attention: Sharpening Focus in Vision Transformers

비전 트랜스포머(ViT)는 컴퓨터 비전(CV) 과제에서 뛰어난 성능을 보여 왔다. 그러나 셀프-어텐션 메커니즘은 종종 배경 영역 전반에 초점을 분산시키며, 객체 관련 단서보다는 가짜 상관관계에 의존하는 경향이 있다. 생물학적 시각 시스템에서 관찰되는 억제 메커니즘에서 영감을 받아, 억제 신호를 통합하여 특징 선택성을 높이고 가짜 반응을 억제하는 새로운 셀프-어텐션인 억제적 셀프-어텐션(ISA)을 제안한다. 소프트맥스 정규화로 인해 양의 어텐션 값에만 의존하는 기존 셀프-어텐션과 달리, 우리 접근법은 음의 어텐션 점수를 유지하고 활용하여 무관한 특징을 억제하고 관심 객체에 대한 초점을 선명하게 한다. ImageNet-1k와 COCO를 포함한 여러 데이터셋과 여러 견고성 벤치마크에 걸친 실험은 ISA가 객체 중심 선택성을 높이고, 지름길 의존을 줄이며, 분포 외 일반화를 개선함을 보여 준다. 관련성 맵 분석은 ISA를 적용한 ViT가 객체 관련 영역에 더 선명하고 국소화된 초점을 보이면서 무관한(배경) 특징으로부터의 방해를 줄여 더 신뢰할 수 있는 모델을 가능하게 함을 확인한다. 코드는 https://github.com/prdvanderwal/inhibited-self-attention 에서 공개한다.

arXiv:2607.10851v1cs.CV공통 태그 image-classification, Image Classification

집중 학습: 의료 이미지 분류를 위한 해부학 유도 어텐션 정규화

Learning To Focus: Anatomy-Guided Attention Regularization for Medical Image Classification

의료 이미지 분류 모델은 예측 시 진단적으로 관련된 영역을 식별하는 것이 이상적으로 기대되지만, 표준 분류 손실은 공간적 감독을 거의 제공하지 않는다. 과제 관련 해부학의 분할 마스크와 같은 해부학적 형태 정보를 통한 명시적 감독은 네트워크를 목표 예측에 관련된 영역으로 유도하는 것으로 나타났다. 그러나 이러한 마스크를 획득하는 데는 상당한 수동 어노테이션 노력과 계산 오버헤드가 수반된다. 다양한 영상 모달리티에서 해부학적 구조를 강력하게 위치 파악하는 분할 파운데이션 모델의 등장으로, 우리는 전용 분할 모델을 학습하는 부담 없이 해부학적 형태 사전 정보를 추출하기 위해 이 능력을 활용한다. 본 논문에서는 사전학습된 분할 파운데이션 모델을 활용하여 다양한 영상 모달리티에서 분류기의 어텐션을 진단적으로 의미 있는 해부학적 구조로 유도하는 해부학적 어텐션 정규화 프레임워크인 Locus를 제안한다. 파운데이션 모델에서 도출된 마스크와의 픽셀 단위 정렬을 강제하는 대신, 해부학적(전경) 영역과 배경 영역 사이의 어텐션을 적응적으로 균형 조정하는 정규화 항을 도입하여 배경 어텐션이 지배적일 때 분류기에 페널티를 부여한다. 우리는 피부경검사, X선, 조직병리학, 심장 MRI를 포괄하는 8개의 다양한 의료 영상 데이터셋에서 Locus를 검증하여, 향상된 해부학적 근거 어텐션과 함께 분류 성능의 일관된 향상을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.