← Language Modelling
Papers with Code · CC BY-SA 4.0

C4

아카이브 평가 9건 · 마지막 적재/변경

평가 기록

과거 수집 기록이며 최신 순위가 아닙니다. 데이터셋 버전·split·실험 조건과 지표 방향이 검증되지 않은 결과는 직접 비교할 수 없습니다. 날짜는 논문 날짜이며 최신 평가일을 뜻하지 않습니다.

표가 화면보다 넓으면 좌우로 스크롤하여 논문과 구현 링크를 확인하세요.

원본 기록 순서 · 순위 미부여
모델원본 지표·값논문구현
Primer
Steps
1M
TPUv3 Hours
17.3K
Perplexity
12.35
Primer: Searching for Efficient Transformers for Language Modeling
2021-09-17
코드 1 · 코드 2 · 코드 3 · 코드 4
Zeropoint LLM.int8 13B (vector-wise + decomp)
Perplexity
12.45
LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale
2022-08-15
코드 1 · 코드 2 · 코드 3 · 코드 4
T5++
Steps
1M
TPUv3 Hours
16.5K
Perplexity
12.69
Primer: Searching for Efficient Transformers for Language Modeling
2021-09-17
코드 1 · 코드 2 · 코드 3 · 코드 4
Original T5
Steps
1M
TPUv3 Hours
15.7K
Perplexity
13.25
Primer: Searching for Efficient Transformers for Language Modeling
2021-09-17
코드 1 · 코드 2 · 코드 3 · 코드 4
LLM.float32 6.7B
Perplexity
13.3
LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale
2022-08-15
코드 1 · 코드 2 · 코드 3 · 코드 4
LLM.float32 2.7B
Perplexity
14.43
LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale
2022-08-15
코드 1 · 코드 2 · 코드 3 · 코드 4
N-Grammer 343M
Perplexity
14.79
N-Grammer: Augmenting Transformers with latent n-grams
2022-07-13
코드 1 · 코드 2
N-Grammer 288M
Perplexity
15.01
N-Grammer: Augmenting Transformers with latent n-grams
2022-07-13
코드 1 · 코드 2
LLM.float32 1.3B
Perplexity
15.91
LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale
2022-08-15
코드 1 · 코드 2 · 코드 3 · 코드 4