| ST-MoE-32B 269B (fine-tuned) |
- Accuracy
- 95.2
|
ST-MoE: Designing Stable and Transferable Sparse Expert Models 2022-02-17 |
코드 1 · 코드 2 · 코드 3 |
| LLaMA 3 8B+MoSLoRA (fine-tuned) |
- Accuracy
- 90.5
|
Mixture-of-Subspaces in Low-Rank Adaptation 2024-06-16 |
코드 1 |
| PaLM 2-L (1-shot) |
- Accuracy
- 89.7
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| PaLM 2-M (1-shot) |
- Accuracy
- 88.0
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| LLaMA-3 8B + MixLoRA |
- Accuracy
- 86.5
|
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts 2024-04-22 |
코드 1 · 코드 2 |
| Camelidae-8×34B |
- Accuracy
- 86.2
|
Parameter-Efficient Sparsity Crafting from Dense to Mixture-of-Experts for Instruction Tuning on General Tasks 2024-01-05 |
코드 1 · 코드 2 |
| PaLM 2-S (1-shot) |
- Accuracy
- 85.6
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| LLaMA 65B + CFG (0-shot) |
- Accuracy
- 84.2
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| GAL 120B (0-shot) |
- Accuracy
- 83.8
|
Galactica: A Large Language Model for Science 2022-11-16 |
코드 1 |
| LLaMA-2 13B + MixLoRA |
- Accuracy
- 83.5
|
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts 2024-04-22 |
코드 1 · 코드 2 |
| LLaMA 30B + CFG (0-shot) |
- Accuracy
- 83.2
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| Mixtral 8x7B (0-shot) |
- Accuracy
- 83.1
|
Mixtral of Experts 2024-01-08 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| FLAN 137B (few-shot, k=14) |
- Accuracy
- 80.7
|
Finetuned Language Models Are Zero-Shot Learners 2021-09-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |
| Mistral 7B (0-shot) |
- Accuracy
- 80.5
|
Mixtral of Experts 2024-01-08 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| LLaMA 33B (0-shot) |
- Accuracy
- 80.0
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Mistral 7B (0-shot) |
- Accuracy
- 80.0
|
Mistral 7B 2023-10-10 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| FLAN 137B (0-shot) |
- Accuracy
- 79.6
|
Finetuned Language Models Are Zero-Shot Learners 2021-09-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |
| LLaMA 13B + CFG (0-shot) |
- Accuracy
- 79.1
|
Stay on topic with Classifier-Free Guidance 2023-06-30 |
연결 없음 |
| LLaMA 65B (0-shot) |
- Accuracy
- 78.9
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| LLaMA-2 7B + MixLoRA |
- Accuracy
- 77.7
|
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts 2024-04-22 |
코드 1 · 코드 2 |
| phi-1.5-web 1.3B (0-shot) |
- Accuracy
- 76.1
|
Textbooks Are All You Need II: phi-1.5 technical report 2023-09-11 |
코드 1 |
| BLOOM 176B (1-shot) |
- Accuracy
- 75.93
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| ST-MoE-L 4.1B (fine-tuned) |
- Accuracy
- 75.4
|
ST-MoE: Designing Stable and Transferable Sparse Expert Models 2022-02-17 |
코드 1 · 코드 2 · 코드 3 |
| GLaM (64B/64E) (5-shot) |
- Accuracy
- 74.8
|
GLaM: Efficient Scaling of Language Models with Mixture-of-Experts 2021-12-13 |
연결 없음 |
| LLaMA 13B (0-shot) |
- Accuracy
- 74.8
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Bloomberg GPT 50B (1-shot) |
- Accuracy
- 73.99
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| LLaMA 7B (0-shot) |
- Accuracy
- 72.8
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Pythia 12B (5-shot) |
- Accuracy
- 71.5
|
Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling 2023-04-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| OPT 66B (1-shot) |
- Accuracy
- 71.25
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| GPT-3 175B (1 shot) |
- Accuracy
- 71.2
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |