| Turing NLR v5 XXL 5.4B (fine-tuned) |
- F1
- 96.4
- EM
- 95.9
|
Toward Efficient Language Model Pretraining and Downstream Adaptation via Self-Evolution: A Case Study on SuperGLUE 2022-12-04 |
연결 없음 |
| ST-MoE-32B 269B (fine-tuned) |
- EM
- 95.1
|
ST-MoE: Designing Stable and Transferable Sparse Expert Models 2022-02-17 |
코드 1 · 코드 2 · 코드 3 |
| DeBERTa-1.5B |
- F1
- 94.5
- EM
- 94.1
|
DeBERTa: Decoding-enhanced BERT with Disentangled Attention 2020-06-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 |
| PaLM 540B (finetuned) |
- F1
- 94.6
- EM
- 94.0
|
PaLM: Scaling Language Modeling with Pathways 2022-04-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| Vega v2 6B (fine-tuned) |
- F1
- 94.4
- EM
- 93.9
|
Toward Efficient Language Model Pretraining and Downstream Adaptation via Self-Evolution: A Case Study on SuperGLUE 2022-12-04 |
연결 없음 |
| T5-XXL 11B (fine-tuned) |
- EM
- 93.4
|
Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| GESA 500M |
- F1
- 92.2
- EM
- 91.7
|
Integrating a Heterogeneous Graph with Entity-aware Self-attention using Relative Position Labels for Reading Comprehension Model 2023-07-19 |
연결 없음 |
| LUKE-Graph |
- F1
- 91.5
- EM
- 91.2
|
LUKE-Graph: A Transformer-based Approach with Gated Relational Graph Attention for Cloze-style Reading Comprehension 2023-03-12 |
연결 없음 |
| LUKE (single model) |
- F1
- 91.209
- EM
- 90.640
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| LUKE 483M |
- F1
- 91.2
- EM
- 90.6
|
LUKE: Deep Contextualized Entity Representations with Entity-aware Self-attention 2020-10-02 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 |
| KELM (finetuning RoBERTa-large based single model) |
- F1
- 89.6
- EM
- 89.1
|
KELM: Knowledge Enhanced Pre-Trained Language Representations with Message Passing on Hierarchical Relational Graphs 2021-09-09 |
코드 1 |
| ST-MoE-L 4.1B (fine-tuned) |
- EM
- 88.9
|
ST-MoE: Designing Stable and Transferable Sparse Expert Models 2022-02-17 |
코드 1 · 코드 2 · 코드 3 |
| FLAN 137B (prompt-tuned) |
- EM
- 85.1
|
Finetuned Language Models Are Zero-Shot Learners 2021-09-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |
| XLNet + MTL + Verifier (ensemble) |
- F1
- 83.737
- EM
- 83.090
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| GPT-3 Large 760M (0-shot) |
- EM
- 82.1
|
Language Models are Few-Shot Learners 2020-05-28 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67 |
| CSRLM (single model) |
- F1
- 82.584
- EM
- 81.780
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| XLNet + Verifier |
- F1
- 82.7
- EM
- 81.5
|
Pingan Smart Health and SJTU at COIN - Shared Task: utilizing Pre-trained Language Models and Common-sense Knowledge in Machine Reading Tasks 2019-11-01 |
연결 없음 |
| XLNet + MTL + Verifier (single model) |
- F1
- 82.664
- EM
- 81.460
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| Switch Transformer 9B |
- EM
- 79.9
|
Efficient Language Modeling with Sparse all-MLP 2022-03-14 |
연결 없음 |
| {SKG-NET} (single model) |
- F1
- 80.038
- EM
- 79.480
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| KELM (finetuning BERT-large based single model) |
- F1
- 76.7
- EM
- 76.2
|
KELM: Knowledge Enhanced Pre-Trained Language Representations with Message Passing on Hierarchical Relational Graphs 2021-09-09 |
코드 1 |
| sMLP – deterministic 9.4B (0-shot) |
- EM
- 73.4
|
Efficient Language Modeling with Sparse all-MLP 2022-03-14 |
연결 없음 |
| FLAN 137B (zero-shot) |
- EM
- 72.5
|
Finetuned Language Models Are Zero-Shot Learners 2021-09-03 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 |
| Gshard 9B |
- EM
- 72.4
|
Efficient Language Modeling with Sparse all-MLP 2022-03-14 |
연결 없음 |
| SKG-BERT (single model) |
- F1
- 72.778
- EM
- 72.240
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| KT-NET (single model) |
- F1
- 73.620
- EM
- 71.600
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| DCReader+BERT (single model) |
- F1
- 71.138
- EM
- 69.490
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| HASH Layers 10B (0-shot) |
- EM
- 67.2
|
Efficient Language Modeling with Sparse all-MLP 2022-03-14 |
연결 없음 |
| GraphBert (single) |
- F1
- 62.986
- EM
- 60.800
|
연결 없음 논문 날짜 미기재 |
연결 없음 |
| Base Layers 10B (0-shot) |
- EM
- 60.7
|
Efficient Language Modeling with Sparse all-MLP 2022-03-14 |
연결 없음 |