| ExDeBERTa 567M |
- Accuracy
- 83.6
|
Task Compass: Scaling Multi-task Pre-training with Task Prefix 2022-10-12 |
코드 1 |
| PaLM-540B (0-shot) |
- Accuracy
- 83.4
|
PaLM: Scaling Language Modeling with Pathways 2022-04-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| LLaMA 2 34B (0-shot) |
- Accuracy
- 83.3
|
Llama 2: Open Foundation and Fine-Tuned Chat Models 2023-07-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 |
| Camelidae-8×34B (10-shot) |
- Accuracy
- 83.2
|
Parameter-Efficient Sparsity Crafting from Dense to Mixture-of-Experts for Instruction Tuning on General Tasks 2024-01-05 |
코드 1 · 코드 2 |
| LLaMA 33B (0-shot) |
- Accuracy
- 82.8
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Falcon-40B (0-shot) |
- Accuracy
- 82.7
|
The Falcon Series of Open Language Models 2023-11-28 |
연결 없음 |
| Megatron-Turing NLG 530B (Few-Shot) |
- Accuracy
- 82.4
|
Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, A Large-Scale Generative Language Model 2022-01-28 |
코드 1 · 코드 2 |
| Qwen2idae-16x14B (10-shot) |
- Accuracy
- 82.3
|
Parameter-Efficient Sparsity Crafting from Dense to Mixture-of-Experts for Instruction Tuning on General Tasks 2024-01-05 |
코드 1 · 코드 2 |
| LLaMA 13B + CFG (0-shot) |
- Accuracy
- 82.1
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| RoBERTa-Large 355M |
- Accuracy
- 81.7
|
RoBERTa: A Robustly Optimized BERT Pretraining Approach 2019-07-26 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| Mistral 7B (0-shot) |
- Accuracy
- 81.3
|
Mistral 7B 2023-10-10 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| Chinchilla 70B (0-shot) |
- Accuracy
- 80.8
|
Training Compute-Optimal Large Language Models 2022-03-29 |
코드 1 · 코드 2 |
| LLaMA 2 13B (0-shot) |
- Accuracy
- 80.7
|
Llama 2: Open Foundation and Fine-Tuned Chat Models 2023-07-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 |
| Megatron-Turing NLG 530B (1-shot) |
- Accuracy
- 80.2
|
Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, A Large-Scale Generative Language Model 2022-01-28 |
코드 1 · 코드 2 |
| GPT-3 175B (few-shot, k=32) |
- Accuracy
- 79.3
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| Gopher 280B (0-shot) |
- Accuracy
- 79.2
|
Scaling Language Models: Methods, Analysis & Insights from Training Gopher 2021-12-08 |
코드 1 · 코드 2 · 코드 3 |
| LLaMA 13B (0-shot) |
- Accuracy
- 79.2
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| GPT-3 (0-shot) |
- Accuracy
- 78.9
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| LLaMA 2 7B (0-shot) |
- Accuracy
- 77.2
|
Llama 2: Open Foundation and Fine-Tuned Chat Models 2023-07-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 |
| Falcon-7B (0-shot) |
- Accuracy
- 76.3
|
The Falcon Series of Open Language Models 2023-11-28 |
연결 없음 |
| LLaMA 7B (0-shot) |
- Accuracy
- 76.1
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| BlooombergGPT 50B (1-shot) |
- Accuracy
- 73.9
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| OPT 66B (1-shot) |
- Accuracy
- 73.5
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| BLOOM 176B (1-shot) |
- Accuracy
- 73.2
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| Sheared-LLaMA-2.7B (50B) |
- Accuracy
- 70.8
|
Sheared LLaMA: Accelerating Language Model Pre-training via Structured Pruning 2023-10-10 |
코드 1 · 코드 2 |
| GPT-NeoX 20B (1-shot) |
- Accuracy
- 68.4
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| Open-LLaMA-3B-v2 |
- Accuracy
- 67.6
|
Sheared LLaMA: Accelerating Language Model Pre-training via Structured Pruning 2023-10-10 |
코드 1 · 코드 2 |
| Mamba-2.8B |
- Accuracy
- 66.1
|
Mamba: Linear-Time Sequence Modeling with Selective State Spaces 2023-12-01 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 |
| Sheared-LLaMA-1.3B (50B) |
- Accuracy
- 60.7
|
Sheared LLaMA: Accelerating Language Model Pre-training via Structured Pruning 2023-10-10 |
코드 1 · 코드 2 |
| FLAN 137B (3-shot) |
- Accuracy
- 59.2
|
Finetuned Language Models Are Zero-Shot Learners 2021-09-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |