| GPT-3.5 (few-shot, k=5) |
- Accuracy
- 57.1
|
GPT-4 Technical Report 2023-03-15 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 |
| Minerva 8B (maj5@100) |
- Accuracy
- 56.8
- Parameters (Billion)
- 8
|
Solving Quantitative Reasoning Problems with Language Models 2022-06-29 |
코드 1 |
| LLaMA 2 70B (on-shot) |
- Accuracy
- 56.8
- Parameters (Billion)
- 70
|
Llama 2: Open Foundation and Fine-Tuned Chat Models 2023-07-18 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 |
| PaLM 540B (8-shot) |
- Accuracy
- 56.5
- Parameters (Billion)
- 540
|
Solving Quantitative Reasoning Problems with Language Models 2022-06-29 |
코드 1 |
| PaLM 540B (CoT Prompting) |
- Accuracy
- 56.5
- Parameters (Billion)
- 540
|
Large Language Models Can Self-Improve 2022-10-20 |
연결 없음 |
| RFT 13B |
- Accuracy
- 55.3
- Parameters (Billion)
- 13
|
Scaling Relationship on Learning Mathematical Reasoning with Large Language Models 2023-08-03 |
코드 1 |
| Finetuned GPT-3 175B + verifier |
- Accuracy
- 55.0
- Parameters (Billion)
- 175
|
Large Language Models are Zero-Shot Reasoners 2022-05-24 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| WizardMath-7B-V1.0 |
- Accuracy
- 54.9
- Parameters (Billion)
- 7
|
WizardMath: Empowering Mathematical Reasoning for Large Language Models via Reinforced Evol-Instruct 2023-08-18 |
코드 1 |
| LLaMA 33B-maj1@k |
- Accuracy
- 53.1
- Parameters (Billion)
- 33
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Minerva 62B (8-shot) |
- Accuracy
- 52.4
- Parameters (Billion)
- 62
|
Solving Quantitative Reasoning Problems with Language Models 2022-06-29 |
코드 1 |
| Mistral 7B (maj@8) |
- Accuracy
- 52.2
- Parameters (Billion)
- 7
|
Mistral 7B 2023-10-10 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 |
| Llemma 34B |
- Accuracy
- 51.5
- Parameters (Billion)
- 34
|
Llemma: An Open Language Model For Mathematics 2023-10-16 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| Text-davinci-002-175B (zero-plus-few-Shot-cot (8 samples)) |
- Accuracy
- 51.5
- Parameters (Billion)
- 175
|
Large Language Models are Zero-Shot Reasoners 2022-05-24 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| RFT 7B |
- Accuracy
- 51.2
- Parameters (Billion)
- 7
|
Scaling Relationship on Learning Mathematical Reasoning with Large Language Models 2023-08-03 |
코드 1 |
| LLaMA 65B |
- Accuracy
- 50.9
- Parameters (Billion)
- 65
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Orca 2 7B |
- Accuracy
- 47.23
- Parameters (Billion)
- 7
|
Orca 2: Teaching Small Language Models How to Reason 2023-11-18 |
연결 없음 |
| Llama-2 13B (on 100 first questions, 4-shot, auto-optimized prompting) |
- Accuracy
- 43
- Parameters (Billion)
- 13
|
The Unreasonable Effectiveness of Eccentric Automatic Prompts 2024-02-09 |
연결 없음 |
| text-davinci-002 175B (2-shot, CoT) |
- Accuracy
- 41.3
- Parameters (Billion)
- 175
|
Large Language Models are Zero-Shot Reasoners 2022-05-24 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| Mistral 7B (on 100 first questions, 4-shot, auto-optimized prompting) |
- Accuracy
- 41
- Parameters (Billion)
- 7
|
The Unreasonable Effectiveness of Eccentric Automatic Prompts 2024-02-09 |
연결 없음 |
| text-davinci-002 175B (0-shot, CoT) |
- Accuracy
- 40.7
- Parameters (Billion)
- 175
|
Large Language Models are Zero-Shot Reasoners 2022-05-24 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| Branch-Train-MiX 4x7B (sampling top-2 experts) |
- Accuracy
- 37.1
|
Branch-Train-MiX: Mixing Expert LLMs into a Mixture-of-Experts LLM 2024-03-12 |
코드 1 |
| Llemma 7B |
- Accuracy
- 36.4
- Parameters (Billion)
- 7
|
Llemma: An Open Language Model For Mathematics 2023-10-16 |
코드 1 · 코드 2 · 코드 3 · 코드 4 |
| LLaMA 33B |
- Accuracy
- 35.6
- Parameters (Billion)
- 33
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Vicuna (SYRELM) |
- Accuracy
- 35.2
- Parameters (Billion)
- 13
|
Frugal LMs Trained to Invoke Symbolic Solvers Achieve Parameter-Efficient Arithmetic Reasoning 2023-12-09 |
코드 1 |
| PaLM 62B (8-shot) |
- Accuracy
- 33.0
- Parameters (Billion)
- 62
|
Solving Quantitative Reasoning Problems with Language Models 2022-06-29 |
코드 1 |
| PaLM 540B (Self Improvement, Standard-Prompting) |
- Accuracy
- 32.2
- Parameters (Billion)
- 540
|
Large Language Models Can Self-Improve 2022-10-20 |
연결 없음 |
| LLaMA 13B-maj1@k |
- Accuracy
- 29.3
- Parameters (Billion)
- 13
|
LLaMA: Open and Efficient Foundation Language Models 2023-02-27 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| Minerva 8B-maj1@k (8-shot) |
- Accuracy
- 28.4
- Parameters (Billion)
- 8
|
Solving Quantitative Reasoning Problems with Language Models 2022-06-29 |
코드 1 |
| GPT-2-Medium 355M + question-solution classifier (BS=5) |
- Accuracy
- 20.8
- Parameters (Billion)
- 0.355
|
Composing Ensembles of Pre-trained Models via Iterative Consensus 2022-10-20 |
연결 없음 |
| GPT-Neo-2.7B + Self-Sampling |
- Accuracy
- 19.5
- Parameters (Billion)
- 2.7
|
Learning Math Reasoning from Self-Sampled Correct and Partially-Correct Solutions 2022-05-28 |
코드 1 |