Generation and frame characteristics of predefined evenly-distributed class centroids for pattern classification
원문 초록
Predefined evenly-distributed class centroids (PEDCC) can be widely used in models and algorithms of pattern classification, such as CNN classifiers, classification autoencoders, clustering, and semi-supervised learning, etc. Its basic idea is to predefine the class centers, which are evenly-distributed on the unit hypersphere in feature space, to maximize the inter-class distance. The previous method of generating PEDCC uses an iterative algorithm based on a charge model, that is, the initial values of various centers (charge positions) are randomly set from the normal distribution, and the charge positions are updated iteratively with the help of the repulsive force between charges of the same polarity. The class centers generated by the algorithm will produce some errors with the theoretically evenly-distributed points, and the generation time will be longer. This paper takes advantage of regular polyhedron in high-dimensional space and the evenly distribution of points on the n dimensional hypersphere to generate PEDCC mathematically. Then, we discussed the basic and extensive characteristics of the frames formed by PEDCC. Finally, experiments show that new algorithm is not only faster than the iterative method, but also more accurate in position. The mathematical analysis and experimental results of this paper can provide a theoretical tool for using PEDCC to solve the key problems in the field of pattern recognition, such as interpretable supervised/unsupervised learning, incremental learning, uncertainty analysis and so on.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
연속 학습을 위한 Soft-TransFormers
Soft-TransFormers for Continual Learning
잘 초기화된 복권 티켓 가설(Well-initialized Lottery Ticket Hypothesis, WLTH)에서 영감을 받아, 우리는 Soft-TransFormers(Soft-TF)를 제안한다. 이는 고정된 사전학습 트랜스포머를 선택된 셀프 어텐션(self-attention) 레이어의 query, key, value, output 투영(projection)에 대한 실수값 곱셈 마스크로 구성된 과제별 소프트 서브네트워크를 통해 적응시키는 연속 학습(continual learning) 프레임워크이다. 마스크는 1로 초기화되므로 최적화는 정확히 사전학습 해법에서 시작하며, 마스크 공간 경사하강법은 본질적으로 백본의 지배적 경로를 조절하는 방향으로 편향된다. 우리는 표준 볼록-리ipschitz 가정 하에서, 수렴 속도와 마스크만 사용하는 미세조정의 매개변수 편향(drift) 모두가 사전학습 가중치에서 과제 최적 구성까지의 거리에 의해 제어됨을 증명한다. 이러한 제한된 편향은 두 가지 성질을 만든다. 백본과 과제별 마스크가 덮어쓰이지 않으므로 망각은 구조적으로 제거된다. 또한 모든 과제 서브네트워크가 공유 사전학습 해법 근처에 머물기 때문에, 잘못된 마스크라도 거의 범용적인 함수에 가까운 함수를 평가하므로 과제 추론 오류는 대체로 무해하며, 클래스 증분(class-incremental) 정확도는 과제 추론 신뢰성과 분리된다. 플러그인으로 Soft-TF는 L2P, DualPrompt, HiDe-Prompt, NoRGa와 결합되며, 과제 키 매칭, 엔트로피-그래디언트 기준, 또는 학습된 과제 식별 분류기로 마스크를 선택한다. Split-CIFAR100, Split-ImageNet-R, CUB-200, 5-Datasets 등 클래스 증분 학습 벤치마크에서 Soft-TF는 유사한 학습 가능 매개변수 예산에서 프롬프트 기반, 어댑터 기반, LoRA 스타일 기준선들을 일관되게 능가하면서, 수정되지 않은 백본과 동일한 추론 비용을 유지한다.
Addressing Imbalanced Domain-Incremental Learning through Dual-Balance Collaborative Experts
CL-LoRA: Continual Low-Rank Adaptation for Rehearsal-Free Class-Incremental Learning
Hypergraph Tversky-Aware Domain Incremental Learning for Brain Tumor Segmentation with Missing Modalities
Privacy-Aware Lifelong Learning
PrePrompt: Predictive prompting for class incremental learning
토론
이 논문과 연결된 포럼 글이 아직 없습니다.