| LLaMA-2 13B + MixLoRA |
- Accuracy
- 77.1
|
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts 2024-04-22 |
코드 1 · 코드 2 |
| LLaMA 7B (zero-shot) |
- Accuracy
- 76.5
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| T5-Small 60M (fine-tuned) |
- Accuracy
- 76.4
|
Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| GPT-3 175B (few-shot, k=32) |
- Accuracy
- 76.4
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| BiDAF-MultiNLI (fine-tuned) |
- Accuracy
- 75.57
|
BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions 2019-05-24 |
코드 1 |
| LLaMA-3 8B + MixLoRA |
- Accuracy
- 75
|
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts 2024-04-22 |
코드 1 · 코드 2 |
| Bloomberg GPT 50B (1-shot) |
- Accuracy
- 74.6
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |
| LLaMA3+MoSLoRA |
- Accuracy
- 74.6
|
Mixture-of-Subspaces in Low-Rank Adaptation 2024-06-16 |
코드 1 |
| GPT-1 117M (fine-tuned) |
- Accuracy
- 72.87
|
BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions 2019-05-24 |
코드 1 |
| LLaMA-2 7B + MixLoRA |
- Accuracy
- 72.7
|
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts 2024-04-22 |
코드 1 · 코드 2 |
| BiDAF + ELMo (fine-tuned) |
- Accuracy
- 71.41
|
BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions 2019-05-24 |
코드 1 |
| OPT-IML 175B |
- Accuracy
- 71.4
|
OPT-IML: Scaling Language Model Instruction Meta Learning through the Lens of Generalization 2022-12-22 |
코드 1 |
| AlexaTM 20B |
- Accuracy
- 69.4
|
AlexaTM 20B: Few-Shot Learning Using a Large-Scale Multilingual Seq2Seq Model 2022-08-02 |
코드 1 |
| Neo-6B (QA + WS) |
- Accuracy
- 67.2
|
Ask Me Anything: A simple strategy for prompting language models 2022-10-05 |
코드 1 · 코드 2 · 코드 3 |
| OPT-IML 30B |
- Accuracy
- 66.9
|
OPT-IML: Scaling Language Model Instruction Meta Learning through the Lens of Generalization 2022-12-22 |
코드 1 |
| Neo-6B (few-shot) |
- Accuracy
- 66.5
|
Ask Me Anything: A simple strategy for prompting language models 2022-10-05 |
코드 1 · 코드 2 · 코드 3 |
| N-Grammer 343M |
- Accuracy
- 65
|
N-Grammer: Augmenting Transformers with latent n-grams 2022-07-13 |
코드 1 · 코드 2 |
| Neo-6B (QA) |
- Accuracy
- 64.9
|
Ask Me Anything: A simple strategy for prompting language models 2022-10-05 |
코드 1 · 코드 2 · 코드 3 |
| OPT 30B (0-shot) |
- Accuracy
- 64
|
OPT-IML: Scaling Language Model Instruction Meta Learning through the Lens of Generalization 2022-12-22 |
코드 1 |
| UL2 20B (0-shot) |
- Accuracy
- 63.1
|
UL2: Unifying Language Learning Paradigms 2022-05-10 |
코드 1 · 코드 2 |
| Majority baseline |
- Accuracy
- 62.17
|
BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions 2019-05-24 |
코드 1 |
| Hybrid H3 1.3B (0-shot, logit scoring) |
- Accuracy
- 61.7
|
Hungry Hungry Hippos: Towards Language Modeling with State Space Models 2022-12-28 |
코드 1 · 코드 2 · 코드 3 |
| OPT-IML 1.3B (0-shot) |
- Accuracy
- 61.5
|
OPT-IML: Scaling Language Model Instruction Meta Learning through the Lens of Generalization 2022-12-22 |
코드 1 |
| Shakti-LLM (2.5B) |
- Accuracy
- 61.1
|
SHAKTI: A 2.5 Billion Parameter Small Language Model Optimized for Edge AI and Low-Resource Environments 2024-10-15 |
연결 없음 |
| Hybrid H3 2.7B (3-shot, logit scoring) |
- Accuracy
- 60.6
|
Hungry Hungry Hippos: Towards Language Modeling with State Space Models 2022-12-28 |
코드 1 · 코드 2 · 코드 3 |
| OPT 1.3B (zero-shot) |
- Accuracy
- 60.5
|
OPT-IML: Scaling Language Model Instruction Meta Learning through the Lens of Generalization 2022-12-22 |
코드 1 |
| GPT-3 75B (0-shot) |
- Accuracy
- 60.5
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| OPT 175B |
- Accuracy
- 60.1
|
OPT-IML: Scaling Language Model Instruction Meta Learning through the Lens of Generalization 2022-12-22 |
코드 1 |
| Hybrid H3 125M (0-shot, logit scoring) |
- Accuracy
- 59.6
|
Hungry Hungry Hippos: Towards Language Modeling with State Space Models 2022-12-28 |
코드 1 · 코드 2 · 코드 3 |
| OPT 66B (1-shot) |
- Accuracy
- 57.5
|
BloombergGPT: A Large Language Model for Finance 2023-03-30 |
코드 1 · 코드 2 |