| PaLM-540B (Few-Shot) |
- Accuracy
- 89.7
|
PaLM: Scaling Language Modeling with Pathways 2022-04-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| PaLM 2-L (one-shot) |
- Accuracy
- 86.9
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| GPT-3 175B (Few-Shot) |
- Accuracy
- 86.4
- Perplexity
- 1.92
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| LLaMA-65B+CFG (Zero-Shot) |
- Accuracy
- 84.0
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| LLaMA-30B+CFG (zero-shot) |
- Accuracy
- 83.9
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| PaLM 2-M (one-shot) |
- Accuracy
- 83.7
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| Cohere Large |
- Accuracy
- 82.33
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| LLaMA-13B+CFG (zero-shot) |
- Accuracy
- 82.2
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| PaLM-540B (One-Shot) |
- Accuracy
- 81.8
|
PaLM: Scaling Language Modeling with Pathways 2022-04-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| GLaM 62B/64E (One-Shot) |
- Accuracy
- 80.9
|
GLaM: Efficient Scaling of Language Models with Mixture-of-Experts 2021-12-13 |
연결 없음 |
| PaLM 2-S (one-shot) |
- Accuracy
- 80.7
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| GLM-130B (bidirectional attention) |
- Accuracy
- 80.2
|
GLM-130B: An Open Bilingual Pre-trained Model 2022-10-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 |
| SparseGPT (175B, 2:4 Sparsity) |
- Accuracy
- 79.47
|
SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot 2023-01-02 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| SparseGPT (175B, 4:8 Sparsity) |
- Accuracy
- 78.77
|
SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot 2023-01-02 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| PaLM-540B (Zero-Shot) |
- Accuracy
- 77.9
|
PaLM: Scaling Language Modeling with Pathways 2022-04-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| Chinchilla (Zero-Shot) |
- Accuracy
- 77.7
|
Training Compute-Optimal Large Language Models 2022-03-29 |
코드 1 · 코드 2 |
| SparseGPT (175B, 50% Sparsity) |
- Accuracy
- 76.51
|
SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot 2023-01-02 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| GPT-3 175B (Zero-Shot) |
- Accuracy
- 76.2
- Perplexity
- 3.00
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| OPT-175B |
- Accuracy
- 75.59
|
SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot 2023-01-02 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| GPT-3 13B (Zero-Shot) |
- Accuracy
- 72.5
- Perplexity
- 3.56
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| GLM-XXLarge (bidirectional) |
- Accuracy
- 72.35
|
GLM: General Language Model Pretraining with Autoregressive Blank Infilling 2021-03-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |
| Pythia 12B (0-shot) |
- Accuracy
- 70.46
|
Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling 2023-04-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| GPT-3 6.7B (Zero-Shot) |
- Accuracy
- 70.3
- Perplexity
- 4.00
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| GPT-J-6B |
- Accuracy
- 69.7
- Perplexity
- 3.99
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| Mamba-2.8B |
- Accuracy
- 69.2
- Perplexity
- 4.23
|
Mamba: Linear-Time Sequence Modeling with Selective State Spaces 2023-12-01 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 |
| Pythia 6.9B (0-shot) |
- Accuracy
- 67.28
|
Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling 2023-04-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| GLM-XXLarge (unidirectional) |
- Accuracy
- 67.18
|
GLM: General Language Model Pretraining with Autoregressive Blank Infilling 2021-03-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |
| GPT-3 2.7B (Zero-Shot) |
- Accuracy
- 67.1
- Perplexity
- 4.60
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| GPT-2 1.5B (Zero Shot) |
- Accuracy
- 63.24
- Perplexity
- 8.63
|
Language Models are Unsupervised Multitask Learners 2019-02-14 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 |
| Universal Transformer (w/ dynamic halting) |
- Accuracy
- 56.25
|
Universal Transformers 2018-07-10 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |