Papers with Code · CC BY-SA 4.0

STS Benchmark

아카이브 평가 66건 · 마지막 적재/변경 2026-10-30

평가 기록

과거 수집 기록이며 최신 순위가 아닙니다. 데이터셋 버전·split·실험 조건과 지표 방향이 검증되지 않은 결과는 직접 비교할 수 없습니다. 날짜는 논문 날짜이며 최신 평가일을 뜻하지 않습니다.

표가 화면보다 넓으면 좌우로 스크롤하여 논문과 구현 링크를 확인하세요.

원본 기록 순서 · 순위 미부여
모델	원본 지표·값	논문	구현
MT-DNN-SMART	Pearson Correlation 0.929 Spearman Correlation 0.925	SMART: Robust and Efficient Fine-Tuning for Pre-trained Natural Language Models through Principled Regularized Optimization 2019-11-08	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6
StructBERTRoBERTa ensemble	Pearson Correlation 0.928 Spearman Correlation 0.924	StructBERT: Incorporating Language Structures into Pre-training for Deep Language Understanding 2019-08-13	연결 없음
Mnet-Sim	Pearson Correlation 0.927 Spearman Correlation 0.931	MNet-Sim: A Multi-layered Semantic Similarity Network to Evaluate Sentence Similarity 2021-11-09	연결 없음
T5-11B	Pearson Correlation 0.925 Spearman Correlation 0.921	Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
ALBERT	Pearson Correlation 0.925	ALBERT: A Lite BERT for Self-supervised Learning of Language Representations 2019-09-26	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48
XLNet (single model)	Pearson Correlation 0.925	XLNet: Generalized Autoregressive Pretraining for Language Understanding 2019-06-19	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27
RoBERTa	Pearson Correlation 0.922	RoBERTa: A Robustly Optimized BERT Pretraining Approach 2019-07-26	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67
ELECTRA	Pearson Correlation 0.921	연결 없음 논문 날짜 미기재	연결 없음
RoBERTa-large 355M (MLP quantized vector-wise, fine-tuned)	Pearson Correlation 0.919	LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale 2022-08-15	코드 1 · 코드 2 · 코드 3 · 코드 4
PSQ (Chen et al., 2020)	Pearson Correlation 0.919	A Statistical Framework for Low-bitwidth Training of Deep Neural Networks 2020-10-27	코드 1 · 코드 2
RoBERTa-large 355M + Entailment as Few-shot Learner	Pearson Correlation 0.918	Entailment as Few-Shot Learner 2021-04-29	코드 1 · 코드 2 · 코드 3
ERNIE 2.0 Large	Pearson Correlation 0.912	ERNIE 2.0: A Continual Pre-training Framework for Language Understanding 2019-07-29	코드 1 · 코드 2 · 코드 3
Q-BERT (Shen et al., 2020)	Pearson Correlation 0.911	Q-BERT: Hessian Based Ultra Low Precision Quantization of BERT 2019-09-12	연결 없음
Q8BERT (Zafrir et al., 2019)	Pearson Correlation 0.911	Q8BERT: Quantized 8Bit BERT 2019-10-14	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5
ELECTRA (no tricks)	Pearson Correlation 0.910	연결 없음 논문 날짜 미기재	연결 없음
DistilBERT 66M	Pearson Correlation 0.907	DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter 2019-10-02	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37
T5-3B	Pearson Correlation 0.906 Spearman Correlation 0.898	Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
MLM+ del-word	Pearson Correlation 0.905	CLEAR: Contrastive Learning for Sentence Representation 2020-12-31	연결 없음
RealFormer	Pearson Correlation 0.9011 Spearman Correlation 0.8988	RealFormer: Transformer Likes Residual Attention 2020-12-21	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5
T5-Large	Pearson Correlation 0.899	Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
SpanBERT	Pearson Correlation 0.899	SpanBERT: Improving Pre-training by Representing and Predicting Spans 2019-07-24	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6
T5-Base	Pearson Correlation 0.894	Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
ERNIE 2.0 Base	Pearson Correlation 0.876	ERNIE 2.0: A Continual Pre-training Framework for Language Understanding 2019-07-29	코드 1 · 코드 2 · 코드 3
Charformer-Tall	Pearson Correlation 0.873	Charformer: Fast Character Transformers via Gradient-based Subword Tokenization 2021-06-23	코드 1 · 코드 2
T5-Small	Pearson Correlation 0.856 Spearman Correlation 0.85	Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2019-10-23	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57
ERNIE	Pearson Correlation 0.832	ERNIE: Enhanced Language Representation with Informative Entities 2019-05-17	코드 1 · 코드 2
24hBERT	Pearson Correlation 0.820	How to Train BERT with an Academic Budget 2021-04-15	코드 1 · 코드 2 · 코드 3 · 코드 4
TinyBERT-4 14.5M	Pearson Correlation 0.799	TinyBERT: Distilling BERT for Natural Language Understanding 2019-09-23	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10
USE_T	Pearson Correlation 0.782	Universal Sentence Encoder 2018-03-29	코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24
AnglE-LLaMA-13B	Spearman Correlation 0.8969	AnglE-optimized Text Embeddings 2023-09-22	코드 1 · 코드 2