← Only Connect Walls Dataset Task 1 (Grouping)
Papers with Code · CC BY-SA 4.0

OCW

아카이브 평가 22건 · 마지막 적재/변경

평가 기록

과거 수집 기록이며 최신 순위가 아닙니다. 데이터셋 버전·split·실험 조건과 지표 방향이 검증되지 않은 결과는 직접 비교할 수 없습니다. 날짜는 논문 날짜이며 최신 평가일을 뜻하지 않습니다.

표가 화면보다 넓으면 좌우로 스크롤하여 논문과 구현 링크를 확인하세요.

원본 기록 순서 · 순위 미부여
모델원본 지표·값논문구현
GPT-4 (5-shot)
Wasserstein Distance (WD)
72.9
# Correct Groups
269
Fowlkes Mallows Score (FMS)
43.4
Adjusted Rand Index (ARI)
29.1
Adjusted Mutual Information (AMI)
32.8
# Solved Walls
7
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-4 (1-shot)
Wasserstein Distance (WD)
73.4
# Correct Groups
262
Fowlkes Mallows Score (FMS)
43.7
Adjusted Rand Index (ARI)
29.7
Adjusted Mutual Information (AMI)
33.5
# Solved Walls
4
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-4 (100-shot)
Wasserstein Distance (WD)
73.6
# Correct Groups
249
Fowlkes Mallows Score (FMS)
42.8
Adjusted Rand Index (ARI)
28.5
Adjusted Mutual Information (AMI)
32.3
# Solved Walls
3
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-4 (3-shot)
Wasserstein Distance (WD)
73.7
# Correct Groups
272
Fowlkes Mallows Score (FMS)
43.9
Adjusted Rand Index (ARI)
29.9
Adjusted Mutual Information (AMI)
33.6
# Solved Walls
5
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-4 (0-shot)
Wasserstein Distance (WD)
75.8
# Correct Groups
239
Fowlkes Mallows Score (FMS)
41.5
Adjusted Rand Index (ARI)
27.2
Adjusted Mutual Information (AMI)
30.7
# Solved Walls
6
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-3.5-turbo (5-shot)
Wasserstein Distance (WD)
80.6
# Correct Groups
149
Fowlkes Mallows Score (FMS)
37.3
Adjusted Rand Index (ARI)
22.0
Adjusted Mutual Information (AMI)
25.4
# Solved Walls
2
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-3.5-turbo (3-shot)
Wasserstein Distance (WD)
80.9
# Correct Groups
140
Fowlkes Mallows Score (FMS)
36.8
Adjusted Rand Index (ARI)
21.3
Adjusted Mutual Information (AMI)
24.7
# Solved Walls
0
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-3.5-turbo (10-shot)
Wasserstein Distance (WD)
81.2
# Correct Groups
137
Fowlkes Mallows Score (FMS)
36.1
Adjusted Rand Index (ARI)
20.4
Adjusted Mutual Information (AMI)
24.0
# Solved Walls
2
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-3.5-turbo (1-shot)
Wasserstein Distance (WD)
82.3
# Correct Groups
123
Fowlkes Mallows Score (FMS)
34.4
Adjusted Rand Index (ARI)
18.2
Adjusted Mutual Information (AMI)
21.2
# Solved Walls
0
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
GPT-3.5-turbo (0-shot)
Wasserstein Distance (WD)
82.5
# Correct Groups
114
Fowlkes Mallows Score (FMS)
34.0
Adjusted Rand Index (ARI)
18.4
Adjusted Mutual Information (AMI)
21.6
# Solved Walls
0
GPT-4 Technical Report
2023-03-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11
E5 (BASE)
Wasserstein Distance (WD)
83.8 ± .6
# Correct Groups
89 ± 6
Fowlkes Mallows Score (FMS)
33.1 ± .3
Adjusted Rand Index (ARI)
16.3 ± .4
Adjusted Mutual Information (AMI)
19.5 ± .4
# Solved Walls
1 ± 0
Text Embeddings by Weakly-Supervised Contrastive Pre-training
2022-12-07
코드 1
FastText (Crawl)
Wasserstein Distance (WD)
84.2 ± .5
# Correct Groups
80 ± 4
Fowlkes Mallows Score (FMS)
32.1 ± .3
Adjusted Rand Index (ARI)
15.2 ± .3
Adjusted Mutual Information (AMI)
18.4 ± .4
# Solved Walls
0 ± 0
Learning Word Vectors for 157 Languages
2018-02-19
코드 1 · 코드 2
E5 (LARGE)
Wasserstein Distance (WD)
84.4 ± .7
# Correct Groups
76 ± 5
Fowlkes Mallows Score (FMS)
32.3 ± .4
Adjusted Rand Index (ARI)
15.4 ± .5
Adjusted Mutual Information (AMI)
18.5 ± .6
# Solved Walls
0 ± 0
Text Embeddings by Weakly-Supervised Contrastive Pre-training
2022-12-07
코드 1
GloVe
Wasserstein Distance (WD)
84.9 ± .4
# Correct Groups
68 ± 4
Fowlkes Mallows Score (FMS)
31.5 ± .3
Adjusted Rand Index (ARI)
14.4 ± .3
Adjusted Mutual Information (AMI)
17.6 ± .4
# Solved Walls
0 ± 0
GloVe: Global Vectors for Word Representation
2014-10-01
코드 1 · 코드 2 · 코드 3 · 코드 4
FastText (News)
Wasserstein Distance (WD)
85.5 ± .5
# Correct Groups
62 ± 3
Fowlkes Mallows Score (FMS)
30.4 ± .2
Adjusted Rand Index (ARI)
13.0 ± .2
Adjusted Mutual Information (AMI)
15.8 ± .3
# Solved Walls
0 ± 0
Learning Word Vectors for 157 Languages
2018-02-19
코드 1 · 코드 2
all-mpnet (BASE)
Wasserstein Distance (WD)
86.3 ± .4
# Correct Groups
50 ± 4
Fowlkes Mallows Score (FMS)
29.4 ± .3
Adjusted Rand Index (ARI)
11.7 ± .4
Adjusted Mutual Information (AMI)
14.3 ± .5
# Solved Walls
0 ± 0
MPNet: Masked and Permuted Pre-training for Language Understanding
2020-04-20
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7
BERT (LARGE)
Wasserstein Distance (WD)
88.3 ± .5
# Correct Groups
33 ± 2
Fowlkes Mallows Score (FMS)
26.5 ± .2
Adjusted Rand Index (ARI)
8.2 ± .3
Adjusted Mutual Information (AMI)
10.3 ± .3
# Solved Walls
0 ± 0
Pre-Training of Deep Bidirectional Protein Sequence Representations with Structural Information
2019-11-25
코드 1
BERT (BASE)
Wasserstein Distance (WD)
89.5 ± .4
# Correct Groups
22 ± 2
Fowlkes Mallows Score (FMS)
25.1 ± .2
Adjusted Rand Index (ARI)
6.4 ± .3
Adjusted Mutual Information (AMI)
8.1 ± .4
# Solved Walls
0 ± 0
Pre-Training of Deep Bidirectional Protein Sequence Representations with Structural Information
2019-11-25
코드 1
Human Performance
# Correct Groups
1405
# Solved Walls
285
Large Language Models are Fixated by Red Herrings: Exploring Creative Problem Solving and Einstellung Effect using the Only Connect Wall Dataset
2023-06-19
코드 1
ELMo (LARGE)
# Correct Groups
55 ± 4
Fowlkes Mallows Score (FMS)
29.5 ± .3
Adjusted Rand Index (ARI)
11.8 ± .4
Adjusted Mutual Information (AMI)
14.5 ± .4
# Solved Walls
0 ± 0
Wasserstein Distance (WD)
86.3 ± .6
Deep contextualized word representations
2018-02-15
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46
DistilBERT (BASE)
# Correct Groups
49 ± 4
Fowlkes Mallows Score (FMS)
29.1 ± .2
Adjusted Rand Index (ARI)
11.3 ± .3
Adjusted Mutual Information (AMI)
14.0 ± .3
# Solved Walls
0 ± 0
Wasserstein Distance (WD)
86.7 ± .6
DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter
2019-10-02
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37
RoBERTa (LARGE)
# Correct Groups
29 ± 3
Fowlkes Mallows Score (FMS)
26.7 ± .2
Adjusted Rand Index (ARI)
8.4 ± .3
Adjusted Mutual Information (AMI)
9.4 ± .4
# Solved Walls
0 ± 0
Wasserstein Distance (WD)
88.4 ± .4
RoBERTa: A Robustly Optimized BERT Pretraining Approach
2019-07-26
코드 1 · 코드 2 · 코드 3 · 코드 4 · 코드 5 · 코드 6 · 코드 7 · 코드 8 · 코드 9 · 코드 10 · 코드 11 · 코드 12 · 코드 13 · 코드 14 · 코드 15 · 코드 16 · 코드 17 · 코드 18 · 코드 19 · 코드 20 · 코드 21 · 코드 22 · 코드 23 · 코드 24 · 코드 25 · 코드 26 · 코드 27 · 코드 28 · 코드 29 · 코드 30 · 코드 31 · 코드 32 · 코드 33 · 코드 34 · 코드 35 · 코드 36 · 코드 37 · 코드 38 · 코드 39 · 코드 40 · 코드 41 · 코드 42 · 코드 43 · 코드 44 · 코드 45 · 코드 46 · 코드 47 · 코드 48 · 코드 49 · 코드 50 · 코드 51 · 코드 52 · 코드 53 · 코드 54 · 코드 55 · 코드 56 · 코드 57 · 코드 58 · 코드 59 · 코드 60 · 코드 61 · 코드 62 · 코드 63 · 코드 64 · 코드 65 · 코드 66 · 코드 67