| COSINE + Transductive Learning |
- Accuracy
- 85.3
|
Fine-Tuning Pre-trained Language Model with Weak Supervision: A Contrastive-Regularized Self-Training Approach 2020-10-15 |
코드 1 |
| PaLM 540B (finetuned) |
- Accuracy
- 78.8
|
PaLM: Scaling Language Modeling with Pathways 2022-04-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 |
| ST-MoE-32B 269B (fine-tuned) |
- Accuracy
- 77.7
|
ST-MoE: Designing Stable and Transferable Sparse Expert Models 2022-02-17 |
코드 1 · 코드 2 · 코드 3 |
| DeBERTa-Ensemble |
- Accuracy
- 77.5
|
DeBERTa: Decoding-enhanced BERT with Disentangled Attention 2020-06-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 |
| Vega v2 6B (fine-tuned) |
- Accuracy
- 77.4
|
Toward Efficient Language Model Pretraining and Downstream Adaptation via Self-Evolution: A Case Study on SuperGLUE 2022-12-04 |
연결 없음 |
| UL2 20B (fine-tuned) |
- Accuracy
- 77.3
|
UL2: Unifying Language Learning Paradigms 2022-05-10 |
코드 1 · 코드 2 |
| Turing NLR v5 XXL 5.4B (fine-tuned) |
- Accuracy
- 77.1
|
Toward Efficient Language Model Pretraining and Downstream Adaptation via Self-Evolution: A Case Study on SuperGLUE 2022-12-04 |
연결 없음 |
| T5-XXL 11B |
- Accuracy
- 76.9
|
Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 |
| DeBERTa-1.5B |
- Accuracy
- 76.4
|
DeBERTa: Decoding-enhanced BERT with Disentangled Attention 2020-06-05 |
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 |
| ST-MoE-L 4.1B (fine-tuned) |
- Accuracy
- 74
|
ST-MoE: Designing Stable and Transferable Sparse Expert Models 2022-02-17 |
코드 1 · 코드 2 · 코드 3 |
| SenseBERT-large 340M |
- Accuracy
- 72.1
|
SenseBERT: Driving Some Sense into BERT 2019-08-15 |
연결 없음 |
| SenseBERT-base 110M |
- Accuracy
- 70.3
|
SenseBERT: Driving Some Sense into BERT 2019-08-15 |
연결 없음 |
| PaLM 2-L (one-shot) |
- Accuracy
- 66.8
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| BERT-large 340M |
- Accuracy
- 65.5
|
WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations 2018-08-28 |
연결 없음 |
| FLAN-T5-Large 783M |
- Accuracy
- 64.7
|
LaMini-LM: A Diverse Herd of Distilled Models from Large-Scale Instructions 2023-04-27 |
코드 1 |
| LaMini-F-T5 783M |
- Accuracy
- 63.8
|
LaMini-LM: A Diverse Herd of Distilled Models from Large-Scale Instructions 2023-04-27 |
코드 1 |
| Context2vec |
- Accuracy
- 59.3
|
WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations 2018-08-28 |
연결 없음 |
| DeConf |
- Accuracy
- 58.7
|
WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations 2018-08-28 |
연결 없음 |
| SW2V |
- Accuracy
- 58.1
|
WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations 2018-08-28 |
연결 없음 |
| ElMo |
- Accuracy
- 57.7
|
WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations 2018-08-28 |
연결 없음 |
| T0-3B (CoT fine-tuned) |
- Accuracy
- 56.7
|
The CoT Collection: Improving Zero-shot and Few-shot Learning of Language Models via Chain-of-Thought Fine-Tuning 2023-05-23 |
코드 1 · 코드 2 |
| N-Grammer 343M |
- Accuracy
- 56.1
|
N-Grammer: Augmenting Transformers with latent n-grams 2022-07-13 |
코드 1 · 코드 2 |
| AlexaTM 20B |
- Accuracy
- 53.3
|
AlexaTM 20B: Few-Shot Learning Using a Large-Scale Multilingual Seq2Seq Model 2022-08-02 |
코드 1 |
| Sentence LSTM |
- Accuracy
- 53.1
|
WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations 2018-08-28 |
연결 없음 |
| RoE-3B |
- Accuracy
- 52.97
|
Exploring the Benefits of Training Expert Language Models over Instruction Tuning 2023-02-07 |
코드 1 · 코드 2 |
| LaMini-GPT 1.5B |
- Accuracy
- 52.4
|
LaMini-LM: A Diverse Herd of Distilled Models from Large-Scale Instructions 2023-04-27 |
코드 1 |
| KiC-770M |
- Accuracy
- 52.40
|
Knowledge-in-Context: Towards Knowledgeable Semi-Parametric Language Models 2022-10-28 |
연결 없음 |
| PaLM 2-M (one-shot) |
- Accuracy
- 52.0
|
PaLM 2 Technical Report 2023-05-17 |
코드 1 |
| Hybrid H3 125M (0-shot, logit scoring) |
- Accuracy
- 51.4
|
Hungry Hungry Hippos: Towards Language Modeling with State Space Models 2022-12-28 |
코드 1 · 코드 2 · 코드 3 |
| Hybrid H3 125M (0-shot, rank classification) |
- Accuracy
- 51.4
|
Hungry Hungry Hippos: Towards Language Modeling with State Space Models 2022-12-28 |
코드 1 · 코드 2 · 코드 3 |