← Arithmetic Reasoning
Papers with Code · CC BY-SA 4.0

GSM8K

아카이브 평가 164건 · 마지막 적재/변경

평가 기록

과거 수집 기록이며 최신 순위가 아닙니다. 데이터셋 버전·split·실험 조건과 지표 방향이 검증되지 않은 결과는 직접 비교할 수 없습니다. 날짜는 논문 날짜이며 최신 평가일을 뜻하지 않습니다.

표가 화면보다 넓으면 좌우로 스크롤하여 논문과 구현 링크를 확인하세요.

원본 기록 순서 · 순위 미부여
모델원본 지표·값논문구현
GPT-3.5 (few-shot, k=5)
Accuracy
57.1
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
Minerva 8B (maj5@100)
Accuracy
56.8
Parameters (Billion)
8
Solving Quantitative Reasoning Problems with Language Models
2022-06-29
코드 1
LLaMA 2 70B (on-shot)
Accuracy
56.8
Parameters (Billion)
70
Llama 2: Open Foundation and Fine-Tuned Chat Models
2023-07-18
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19
PaLM 540B (8-shot)
Accuracy
56.5
Parameters (Billion)
540
Solving Quantitative Reasoning Problems with Language Models
2022-06-29
코드 1
PaLM 540B (CoT Prompting)
Accuracy
56.5
Parameters (Billion)
540
Large Language Models Can Self-Improve
2022-10-20
연결 없음
RFT 13B
Accuracy
55.3
Parameters (Billion)
13
Scaling Relationship on Learning Mathematical Reasoning with Large Language Models
2023-08-03
코드 1
Finetuned GPT-3 175B + verifier
Accuracy
55.0
Parameters (Billion)
175
Large Language Models are Zero-Shot Reasoners
2022-05-24
코드 1 · 코드 2 · 코드 3 · 코드 4
WizardMath-7B-V1.0
Accuracy
54.9
Parameters (Billion)
7
WizardMath: Empowering Mathematical Reasoning for Large Language Models via Reinforced Evol-Instruct
2023-08-18
코드 1
LLaMA 33B-maj1@k
Accuracy
53.1
Parameters (Billion)
33
LLaMA: Open and Efficient Foundation Language Models
2023-02-27
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
Minerva 62B (8-shot)
Accuracy
52.4
Parameters (Billion)
62
Solving Quantitative Reasoning Problems with Language Models
2022-06-29
코드 1
Mistral 7B (maj@8)
Accuracy
52.2
Parameters (Billion)
7
Mistral 7B
2023-10-10
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6
Llemma 34B
Accuracy
51.5
Parameters (Billion)
34
Llemma: An Open Language Model For Mathematics
2023-10-16
코드 1 · 코드 2 · 코드 3 · 코드 4
Text-davinci-002-175B (zero-plus-few-Shot-cot (8 samples))
Accuracy
51.5
Parameters (Billion)
175
Large Language Models are Zero-Shot Reasoners
2022-05-24
코드 1 · 코드 2 · 코드 3 · 코드 4
RFT 7B
Accuracy
51.2
Parameters (Billion)
7
Scaling Relationship on Learning Mathematical Reasoning with Large Language Models
2023-08-03
코드 1
LLaMA 65B
Accuracy
50.9
Parameters (Billion)
65
LLaMA: Open and Efficient Foundation Language Models
2023-02-27
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
Orca 2 7B
Accuracy
47.23
Parameters (Billion)
7
Orca 2: Teaching Small Language Models How to Reason
2023-11-18
연결 없음
Llama-2 13B (on 100 first questions, 4-shot, auto-optimized prompting)
Accuracy
43
Parameters (Billion)
13
The Unreasonable Effectiveness of Eccentric Automatic Prompts
2024-02-09
연결 없음
text-davinci-002 175B (2-shot, CoT)
Accuracy
41.3
Parameters (Billion)
175
Large Language Models are Zero-Shot Reasoners
2022-05-24
코드 1 · 코드 2 · 코드 3 · 코드 4
Mistral 7B (on 100 first questions, 4-shot, auto-optimized prompting)
Accuracy
41
Parameters (Billion)
7
The Unreasonable Effectiveness of Eccentric Automatic Prompts
2024-02-09
연결 없음
text-davinci-002 175B (0-shot, CoT)
Accuracy
40.7
Parameters (Billion)
175
Large Language Models are Zero-Shot Reasoners
2022-05-24
코드 1 · 코드 2 · 코드 3 · 코드 4
Branch-Train-MiX 4x7B (sampling top-2 experts)
Accuracy
37.1
Branch-Train-MiX: Mixing Expert LLMs into a Mixture-of-Experts LLM
2024-03-12
코드 1
Llemma 7B
Accuracy
36.4
Parameters (Billion)
7
Llemma: An Open Language Model For Mathematics
2023-10-16
코드 1 · 코드 2 · 코드 3 · 코드 4
LLaMA 33B
Accuracy
35.6
Parameters (Billion)
33
LLaMA: Open and Efficient Foundation Language Models
2023-02-27
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
Vicuna (SYRELM)
Accuracy
35.2
Parameters (Billion)
13
Frugal LMs Trained to Invoke Symbolic Solvers Achieve Parameter-Efficient Arithmetic Reasoning
2023-12-09
코드 1
PaLM 62B (8-shot)
Accuracy
33.0
Parameters (Billion)
62
Solving Quantitative Reasoning Problems with Language Models
2022-06-29
코드 1
PaLM 540B (Self Improvement, Standard-Prompting)
Accuracy
32.2
Parameters (Billion)
540
Large Language Models Can Self-Improve
2022-10-20
연결 없음
LLaMA 13B-maj1@k
Accuracy
29.3
Parameters (Billion)
13
LLaMA: Open and Efficient Foundation Language Models
2023-02-27
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
Minerva 8B-maj1@k (8-shot)
Accuracy
28.4
Parameters (Billion)
8
Solving Quantitative Reasoning Problems with Language Models
2022-06-29
코드 1
GPT-2-Medium 355M + question-solution classifier (BS=5)
Accuracy
20.8
Parameters (Billion)
0.355
Composing Ensembles of Pre-trained Models via Iterative Consensus
2022-10-20
연결 없음
GPT-Neo-2.7B + Self-Sampling
Accuracy
19.5
Parameters (Billion)
2.7
Learning Math Reasoning from Self-Sampled Correct and Partially-Correct Solutions
2022-05-28
코드 1