| DINOv2 (ViT-g/14, 448) |
- Number of Params
- 1100M
- Top 1 Accuracy
- 88.9%
|
DINOv2: Learning Robust Visual Features without Supervision 2023-04-14 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 |
| PercMAE (ViT-L, dVAE) |
- Number of Params
- 307M
- Top 1 Accuracy
- 88.6%
|
Improving Visual Representation Learning through Perceptual Understanding 2022-12-30 |
코드 1 |
| DINOv2 (ViT-g/14) |
- Number of Params
- 1100M
- Top 1 Accuracy
- 88.5%
|
DINOv2: Learning Robust Visual Features without Supervision 2023-04-14 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 |
| PeCo(ViT-H/14, 448) |
- Number of Params
- 632M
- Top 1 Accuracy
- 88.3%
|
PeCo: Perceptual Codebook for BERT Pre-training of Vision Transformers 2021-11-24 |
코드 1 |
| PercMAE (ViT-L) |
- Number of Params
- 307M
- Top 1 Accuracy
- 88.1%
|
Improving Visual Representation Learning through Perceptual Understanding 2022-12-30 |
코드 1 |
| dBOT (ViT-H/14) |
- Number of Params
- 632M
- Top 1 Accuracy
- 88.0%
|
Exploring Target Representations for Masked Autoencoders 2022-09-08 |
코드 1 |
| MAE (ViT-H/14, 448) |
- Number of Params
- 632M
- Top 1 Accuracy
- 87.8%
|
Masked Autoencoders Are Scalable Vision Learners 2021-11-11 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 |
| iBOT(ViT-L/16, 512) |
- Number of Params
- 307M
- Top 1 Accuracy
- 87.8%
|
iBOT: Image BERT Pre-Training with Online Tokenizer 2021-11-15 |
코드 1 · 코드 2 |
| MAE + AugSub finetune (ViT-H/14) |
- Number of Params
- 632M
- Top 1 Accuracy
- 87.2%
|
Masking meets Supervision: A Strong Learning Alliance 2023-06-20 |
코드 1 |
| SimMIM (SwinV2-H, 512) |
- Number of Params
- 658M
- Top 1 Accuracy
- 87.1%
|
SimMIM: A Simple Framework for Masked Image Modeling 2021-11-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| MAE (ViT-H/14) |
- Top 1 Accuracy
- 86.9%
|
Masked Autoencoders Are Scalable Vision Learners 2021-11-11 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 |
| iBOT(ViT-L/16) |
- Number of Params
- 307M
- Top 1 Accuracy
- 86.6%
|
iBOT: Image BERT Pre-Training with Online Tokenizer 2021-11-15 |
코드 1 · 코드 2 |
| TEC_MAE (ViT-L/16, 224) |
- Top 1 Accuracy
- 86.5%
|
Towards Sustainable Self-supervised Learning 2022-10-20 |
코드 1 |
| BEiT-L (ViT) |
- Number of Params
- 307M
- Top 1 Accuracy
- 86.3%
|
BEiT: BERT Pre-Training of Image Transformers 2021-06-15 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 |
| CAE (ViT-L/16) |
- Number of Params
- 307M
- Top 1 Accuracy
- 86.3%
|
Context Autoencoder for Self-Supervised Representation Learning 2022-02-07 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| MIRL (ViT-B-48) |
- Number of Params
- 341M
- Top 1 Accuracy
- 86.2%
|
Masked Image Residual Learning for Scaling Deeper Vision Transformers 2023-09-25 |
코드 1 |
| MAE + AugSub finetune (ViT-L/16) |
- Number of Params
- 304M
- Top 1 Accuracy
- 86.1%
|
Masking meets Supervision: A Strong Learning Alliance 2023-06-20 |
코드 1 |
| SparK (ConvNeXt-Large, 384) |
- Number of Params
- 198M
- Top 1 Accuracy
- 86.0%
|
Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling 2023-01-09 |
코드 1 · 코드 2 |
| BootMAE(ViT-L) |
- Number of Params
- 307M
- Top 1 Accuracy
- 85.9%
|
Bootstrapped Masked Autoencoders for Vision BERT Pretraining 2022-07-14 |
코드 1 |
| SEER (Regnet10B) |
- Number of Params
- 10000M
- Top 1 Accuracy
- 85.8%
|
Vision Models Are More Robust And Fair When Pretrained On Uncurated Images Without Supervision 2022-02-16 |
코드 1 |
| MaskFeat (ViT-L) |
- Number of Params
- 307M
- Top 1 Accuracy
- 85.7%
|
Masked Feature Prediction for Self-Supervised Visual Pre-Training 2021-12-16 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| OFA (Large) |
- Number of Params
- 473M
- Top 1 Accuracy
- 85.6%
|
OFA: Unifying Architectures, Tasks, and Modalities Through a Simple Sequence-to-Sequence Learning Framework 2022-02-07 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| SparK (ConvNeXt-Large) |
- Number of Params
- 198M
- Top 1 Accuracy
- 85.4%
|
Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling 2023-01-09 |
코드 1 · 코드 2 |
| SimMIM (Swin-L) |
- Number of Params
- 197M
- Top 1 Accuracy
- 85.4%
|
SimMIM: A Simple Framework for Masked Image Modeling 2021-11-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| Mugs (ViT-L/16) |
- Number of Params
- 307M
- Top 1 Accuracy
- 85.2%
|
Mugs: A Multi-Granular Self-Supervised Learning Framework 2022-03-27 |
코드 1 |
| iBOT (ViT-L/16) |
- Number of Params
- 307M
- Top 1 Accuracy
- 84.8%
|
iBOT: Image BERT Pre-Training with Online Tokenizer 2021-11-15 |
코드 1 · 코드 2 |
| MIRL (ViT-S-54) |
- Number of Params
- 96M
- Top 1 Accuracy
- 84.8%
|
Masked Image Residual Learning for Scaling Deeper Vision Transformers 2023-09-25 |
코드 1 |
| ConvNeXt-Base (SparK pre-training) |
- Number of Params
- 89M
- Top 1 Accuracy
- 84.8%
|
Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling 2023-01-09 |
코드 1 · 코드 2 |
| BEiT-B (ViT) |
- Number of Params
- 86M
- Top 1 Accuracy
- 84.6%
|
BEiT: BERT Pre-Training of Image Transformers 2021-06-15 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 |
| A2MIM+ (ViT-B) |
- Top 1 Accuracy
- 84.5%
|
Architecture-Agnostic Masked Image Modeling -- From ViT back to CNN 2022-05-27 |
코드 1 · 코드 2 · 코드 3 |