Model Name
stringlengths 4
58
| arc:challenge|25
float64 0.16
0.66
| hellaswag|10
float64 0.25
0.68
⌀ | MMLU_average
float64 0.23
0.7
⌀ | MMLU_abstract_algebra
float64 0.12
0.41
⌀ | MMLU_anatomy
float64 0.14
0.66
⌀ | MMLU_astronomy
float64 0.14
0.81
⌀ | MMLU_business_ethics
float64 0.13
0.75
⌀ | MMLU_clinical_knowledge
float64 0.2
0.76
⌀ | MMLU_college_biology
float64 0.16
0.85
⌀ | MMLU_college_chemistry
float64 0.14
0.54
⌀ | MMLU_college_computer_science
float64 0.14
0.6
⌀ | MMLU_college_mathematics
float64 0.17
0.46
⌀ | MMLU_college_medicine
float64 0.16
0.65
⌀ | MMLU_college_physics
float64 0.12
0.44
⌀ | MMLU_computer_security
float64 0.15
0.8
⌀ | MMLU_conceptual_physics
float64 0.18
0.66
⌀ | MMLU_econometrics
float64 0.17
0.46
⌀ | MMLU_electrical_engineering
float64 0.17
0.66
⌀ | MMLU_elementary_mathematics
float64 0.2
0.44
⌀ | MMLU_formal_logic
float64 0.14
0.5
⌀ | MMLU_global_facts
float64 0.14
0.46
⌀ | MMLU_high_school_biology
float64 0.18
0.83
⌀ | MMLU_high_school_chemistry
float64 0.12
0.51
⌀ | MMLU_high_school_computer_science
float64 0.14
0.79
⌀ | MMLU_high_school_european_history
float64 0.18
0.84
⌀ | MMLU_high_school_geography
float64 0.15
0.88
⌀ | MMLU_high_school_government_and_politics
float64 0.17
0.94
⌀ | MMLU_high_school_macroeconomics
float64 0.18
0.74
⌀ | MMLU_high_school_mathematics
float64 0.2
0.36
⌀ | MMLU_high_school_microeconomics
float64 0.17
0.81
⌀ | MMLU_high_school_physics
float64 0.15
0.43
⌀ | MMLU_high_school_psychology
float64 0.19
0.89
⌀ | MMLU_high_school_statistics
float64 0.13
0.63
⌀ | MMLU_high_school_us_history
float64 0.2
0.9
⌀ | MMLU_high_school_world_history
float64 0.19
0.88
⌀ | MMLU_human_aging
float64 0.1
0.8
⌀ | MMLU_human_sexuality
float64 0.16
0.88
⌀ | MMLU_international_law
float64 0.12
0.88
⌀ | MMLU_jurisprudence
float64 0.17
0.83
⌀ | MMLU_logical_fallacies
float64 0.18
0.8
⌀ | MMLU_machine_learning
float64 0.14
0.54
⌀ | MMLU_management
float64 0.15
0.83
⌀ | MMLU_marketing
float64 0.17
0.91
⌀ | MMLU_medical_genetics
float64 0.13
0.74
⌀ | MMLU_miscellaneous
float64 0.2
0.86
⌀ | MMLU_moral_disputes
float64 0.17
0.78
⌀ | MMLU_moral_scenarios
float64 0.19
0.61
⌀ | MMLU_nutrition
float64 0.19
0.78
⌀ | MMLU_philosophy
float64 0.17
0.79
⌀ | MMLU_prehistory
float64 0.19
0.84
⌀ | MMLU_professional_accounting
float64 0.18
0.57
⌀ | MMLU_professional_law
float64 0.22
0.55
⌀ | MMLU_professional_medicine
float64 0.14
0.75
⌀ | MMLU_professional_psychology
float64 0.2
0.76
⌀ | MMLU_public_relations
float64 0.15
0.75
⌀ | MMLU_security_studies
float64 0.15
0.79
⌀ | MMLU_sociology
float64 0.19
0.9
⌀ | MMLU_us_foreign_policy
float64 0.17
0.92
⌀ | MMLU_virology
float64 0.13
0.55
⌀ | MMLU_world_religions
float64 0.16
0.85
⌀ |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
gpt2-alpaca | 0.209898 | 0.292472 | 0.262568 | 0.2 | 0.325926 | 0.197368 | 0.22 | 0.207547 | 0.236111 | 0.2 | 0.33 | 0.2 | 0.248555 | 0.254902 | 0.23 | 0.280851 | 0.263158 | 0.255172 | 0.246032 | 0.150794 | 0.25 | 0.26129 | 0.261084 | 0.34 | 0.224242 | 0.353535 | 0.378238 | 0.34359 | 0.259259 | 0.210084 | 0.225166 | 0.344954 | 0.462963 | 0.269608 | 0.265823 | 0.156951 | 0.198473 | 0.371901 | 0.175926 | 0.282209 | 0.223214 | 0.223301 | 0.24359 | 0.26 | 0.259259 | 0.239884 | 0.242458 | 0.251634 | 0.286174 | 0.225309 | 0.269504 | 0.257497 | 0.422794 | 0.26634 | 0.245455 | 0.4 | 0.218905 | 0.27 | 0.192771 | 0.28655 |
h2ogpt-oasst1-512-20b | 0.430887 | 0.537244 | 0.262499 | 0.27 | 0.348148 | 0.322368 | 0.37 | 0.256604 | 0.270833 | 0.2 | 0.26 | 0.23 | 0.213873 | 0.215686 | 0.37 | 0.246809 | 0.22807 | 0.268966 | 0.280423 | 0.293651 | 0.28 | 0.209677 | 0.182266 | 0.27 | 0.248485 | 0.232323 | 0.264249 | 0.205128 | 0.27037 | 0.214286 | 0.225166 | 0.216514 | 0.157407 | 0.279412 | 0.278481 | 0.313901 | 0.236641 | 0.297521 | 0.324074 | 0.306748 | 0.205357 | 0.23301 | 0.260684 | 0.32 | 0.279693 | 0.300578 | 0.246927 | 0.281046 | 0.311897 | 0.268519 | 0.258865 | 0.243807 | 0.202206 | 0.26634 | 0.227273 | 0.220408 | 0.263682 | 0.31 | 0.259036 | 0.345029 |
gpt-YA-1-1_160M | 0.19198 | 0.262995 | 0.26245 | 0.2 | 0.237037 | 0.296053 | 0.21 | 0.196226 | 0.243056 | 0.32 | 0.32 | 0.3 | 0.236994 | 0.362745 | 0.22 | 0.306383 | 0.166667 | 0.262069 | 0.283069 | 0.325397 | 0.19 | 0.316129 | 0.275862 | 0.2 | 0.284848 | 0.313131 | 0.362694 | 0.338462 | 0.262963 | 0.340336 | 0.311258 | 0.273394 | 0.467593 | 0.259804 | 0.206751 | 0.170404 | 0.244275 | 0.132231 | 0.212963 | 0.233129 | 0.285714 | 0.262136 | 0.196581 | 0.26 | 0.260536 | 0.216763 | 0.272626 | 0.267974 | 0.241158 | 0.212963 | 0.244681 | 0.241199 | 0.367647 | 0.220588 | 0.227273 | 0.367347 | 0.298507 | 0.26 | 0.192771 | 0.181287 |
OPT-350M-Erebus | 0.198805 | 0.307807 | 0.26235 | 0.22 | 0.22963 | 0.177632 | 0.21 | 0.218868 | 0.25 | 0.3 | 0.31 | 0.29 | 0.254335 | 0.372549 | 0.18 | 0.259574 | 0.245614 | 0.255172 | 0.256614 | 0.31746 | 0.18 | 0.316129 | 0.300493 | 0.19 | 0.254545 | 0.363636 | 0.367876 | 0.366667 | 0.262963 | 0.348739 | 0.331126 | 0.249541 | 0.472222 | 0.230392 | 0.189873 | 0.112108 | 0.305344 | 0.38843 | 0.212963 | 0.233129 | 0.214286 | 0.184466 | 0.196581 | 0.28 | 0.242656 | 0.216763 | 0.272626 | 0.264706 | 0.237942 | 0.234568 | 0.265957 | 0.234029 | 0.448529 | 0.230392 | 0.272727 | 0.297959 | 0.21393 | 0.26 | 0.186747 | 0.175439 |
RedPajama-INCITE-Chat-3B-v1 | 0.385666 | 0.500697 | 0.262313 | 0.28 | 0.22963 | 0.296053 | 0.24 | 0.30566 | 0.277778 | 0.21 | 0.26 | 0.25 | 0.242775 | 0.22549 | 0.36 | 0.238298 | 0.22807 | 0.289655 | 0.267196 | 0.230159 | 0.3 | 0.258065 | 0.236453 | 0.26 | 0.236364 | 0.383838 | 0.259067 | 0.238462 | 0.266667 | 0.210084 | 0.291391 | 0.322936 | 0.259259 | 0.289216 | 0.270042 | 0.134529 | 0.229008 | 0.38843 | 0.231481 | 0.251534 | 0.196429 | 0.281553 | 0.247863 | 0.22 | 0.247765 | 0.280347 | 0.267039 | 0.267974 | 0.263666 | 0.290123 | 0.265957 | 0.267927 | 0.25 | 0.238562 | 0.354545 | 0.293878 | 0.258706 | 0.22 | 0.222892 | 0.269006 |
stablelm-base-alpha-7b | 0.290102 | 0.398028 | 0.262052 | 0.25 | 0.274074 | 0.184211 | 0.2 | 0.222642 | 0.243056 | 0.3 | 0.34 | 0.26 | 0.225434 | 0.215686 | 0.31 | 0.225532 | 0.22807 | 0.310345 | 0.272487 | 0.261905 | 0.2 | 0.219355 | 0.256158 | 0.29 | 0.236364 | 0.272727 | 0.170984 | 0.225641 | 0.292593 | 0.205882 | 0.344371 | 0.333945 | 0.37963 | 0.279412 | 0.248945 | 0.170404 | 0.244275 | 0.31405 | 0.277778 | 0.263804 | 0.258929 | 0.349515 | 0.25641 | 0.28 | 0.224777 | 0.283237 | 0.24581 | 0.264706 | 0.26045 | 0.287037 | 0.216312 | 0.241851 | 0.290441 | 0.26634 | 0.254545 | 0.346939 | 0.238806 | 0.27 | 0.246988 | 0.304094 |
Javelin-GPTJ | 0.390785 | 0.524398 | 0.261975 | 0.26 | 0.288889 | 0.25 | 0.27 | 0.275472 | 0.243056 | 0.23 | 0.18 | 0.33 | 0.242775 | 0.205882 | 0.3 | 0.323404 | 0.27193 | 0.234483 | 0.261905 | 0.214286 | 0.31 | 0.248387 | 0.26601 | 0.14 | 0.290909 | 0.227273 | 0.222798 | 0.251282 | 0.262963 | 0.239496 | 0.251656 | 0.234862 | 0.12963 | 0.254902 | 0.291139 | 0.358744 | 0.221374 | 0.31405 | 0.296296 | 0.226994 | 0.339286 | 0.194175 | 0.282051 | 0.26 | 0.306513 | 0.271676 | 0.242458 | 0.264706 | 0.282958 | 0.274691 | 0.280142 | 0.28618 | 0.198529 | 0.253268 | 0.327273 | 0.277551 | 0.293532 | 0.3 | 0.325301 | 0.251462 |
oasst-sft-1-pythia-12b | 0.412969 | 0.5238 | 0.261936 | 0.29 | 0.333333 | 0.309211 | 0.21 | 0.29434 | 0.284722 | 0.17 | 0.29 | 0.24 | 0.242775 | 0.27451 | 0.28 | 0.221277 | 0.254386 | 0.289655 | 0.267196 | 0.214286 | 0.34 | 0.245161 | 0.280788 | 0.33 | 0.290909 | 0.30303 | 0.290155 | 0.289744 | 0.251852 | 0.226891 | 0.284768 | 0.227523 | 0.263889 | 0.308824 | 0.223629 | 0.188341 | 0.221374 | 0.380165 | 0.240741 | 0.294479 | 0.178571 | 0.213592 | 0.25641 | 0.2 | 0.254151 | 0.286127 | 0.244693 | 0.267974 | 0.292605 | 0.277778 | 0.262411 | 0.265971 | 0.235294 | 0.279412 | 0.209091 | 0.265306 | 0.248756 | 0.21 | 0.271084 | 0.263158 |
gpt-neox-20b-full-precision | 0.461604 | 0.558156 | 0.26162 | 0.31 | 0.340741 | 0.315789 | 0.22 | 0.237736 | 0.263889 | 0.23 | 0.28 | 0.18 | 0.213873 | 0.196078 | 0.3 | 0.208511 | 0.280702 | 0.275862 | 0.26455 | 0.198413 | 0.36 | 0.283871 | 0.206897 | 0.32 | 0.230303 | 0.277778 | 0.248705 | 0.235897 | 0.292593 | 0.239496 | 0.278146 | 0.216514 | 0.157407 | 0.328431 | 0.244726 | 0.242152 | 0.244275 | 0.479339 | 0.231481 | 0.325153 | 0.25 | 0.23301 | 0.25641 | 0.21 | 0.300128 | 0.283237 | 0.246927 | 0.277778 | 0.299035 | 0.290123 | 0.258865 | 0.271838 | 0.158088 | 0.259804 | 0.227273 | 0.285714 | 0.248756 | 0.22 | 0.301205 | 0.274854 |
oasst-gpt-neox-20b-3000-steps | 0.430887 | 0.535252 | 0.261612 | 0.33 | 0.333333 | 0.302632 | 0.24 | 0.233962 | 0.305556 | 0.22 | 0.25 | 0.23 | 0.260116 | 0.235294 | 0.4 | 0.259574 | 0.22807 | 0.234483 | 0.28836 | 0.238095 | 0.29 | 0.196774 | 0.162562 | 0.24 | 0.230303 | 0.207071 | 0.217617 | 0.261538 | 0.277778 | 0.214286 | 0.311258 | 0.216514 | 0.152778 | 0.333333 | 0.278481 | 0.327354 | 0.282443 | 0.413223 | 0.259259 | 0.226994 | 0.223214 | 0.300971 | 0.277778 | 0.21 | 0.291188 | 0.280347 | 0.246927 | 0.287582 | 0.302251 | 0.283951 | 0.255319 | 0.271186 | 0.161765 | 0.25817 | 0.190909 | 0.297959 | 0.253731 | 0.2 | 0.331325 | 0.298246 |
PM_modelV2 | 0.211604 | 0.262597 | 0.261425 | 0.21 | 0.362963 | 0.342105 | 0.21 | 0.241509 | 0.236111 | 0.41 | 0.33 | 0.23 | 0.32948 | 0.352941 | 0.17 | 0.2 | 0.236842 | 0.206897 | 0.283069 | 0.18254 | 0.2 | 0.316129 | 0.246305 | 0.21 | 0.266667 | 0.358586 | 0.264249 | 0.266667 | 0.259259 | 0.327731 | 0.331126 | 0.291743 | 0.472222 | 0.235294 | 0.21519 | 0.130045 | 0.29771 | 0.123967 | 0.212963 | 0.245399 | 0.178571 | 0.320388 | 0.192308 | 0.24 | 0.237548 | 0.219653 | 0.24581 | 0.267974 | 0.221865 | 0.246914 | 0.258865 | 0.249674 | 0.415441 | 0.21732 | 0.227273 | 0.371429 | 0.288557 | 0.31 | 0.198795 | 0.187135 |
RedPajama-INCITE-Chat-3B-ShareGPT-11K | 0.366041 | 0.481876 | 0.261321 | 0.28 | 0.274074 | 0.190789 | 0.25 | 0.324528 | 0.229167 | 0.21 | 0.28 | 0.3 | 0.271676 | 0.205882 | 0.2 | 0.33617 | 0.280702 | 0.241379 | 0.259259 | 0.198413 | 0.32 | 0.248387 | 0.226601 | 0.22 | 0.272727 | 0.338384 | 0.227979 | 0.233333 | 0.27037 | 0.273109 | 0.264901 | 0.337615 | 0.189815 | 0.245098 | 0.2827 | 0.255605 | 0.244275 | 0.347107 | 0.240741 | 0.233129 | 0.25 | 0.31068 | 0.205128 | 0.24 | 0.249042 | 0.251445 | 0.242458 | 0.264706 | 0.276527 | 0.262346 | 0.283688 | 0.240548 | 0.220588 | 0.253268 | 0.345455 | 0.334694 | 0.233831 | 0.21 | 0.301205 | 0.315789 |
results_2023-07-24T10:16:22.897961.json | 0.235495 | 0.361681 | 0.260844 | 0.25 | 0.318519 | 0.171053 | 0.25 | 0.271698 | 0.263889 | 0.18 | 0.33 | 0.27 | 0.260116 | 0.147059 | 0.33 | 0.323404 | 0.315789 | 0.22069 | 0.240741 | 0.150794 | 0.33 | 0.251613 | 0.29064 | 0.33 | 0.224242 | 0.267677 | 0.227979 | 0.266667 | 0.266667 | 0.218487 | 0.264901 | 0.244037 | 0.361111 | 0.279412 | 0.265823 | 0.295964 | 0.198473 | 0.247934 | 0.296296 | 0.300613 | 0.276786 | 0.38835 | 0.217949 | 0.21 | 0.256705 | 0.254335 | 0.241341 | 0.251634 | 0.289389 | 0.265432 | 0.269504 | 0.245111 | 0.198529 | 0.251634 | 0.209091 | 0.191837 | 0.258706 | 0.3 | 0.277108 | 0.292398 |
camel-5b-hf | 0.313993 | 0.435073 | 0.260654 | 0.25 | 0.288889 | 0.210526 | 0.27 | 0.245283 | 0.229167 | 0.17 | 0.2 | 0.26 | 0.225434 | 0.196078 | 0.33 | 0.319149 | 0.236842 | 0.227586 | 0.243386 | 0.166667 | 0.32 | 0.251613 | 0.29064 | 0.33 | 0.272727 | 0.242424 | 0.233161 | 0.246154 | 0.255556 | 0.252101 | 0.251656 | 0.234862 | 0.180556 | 0.284314 | 0.333333 | 0.363229 | 0.236641 | 0.31405 | 0.277778 | 0.325153 | 0.285714 | 0.242718 | 0.294872 | 0.19 | 0.288633 | 0.257225 | 0.246927 | 0.251634 | 0.311897 | 0.277778 | 0.241135 | 0.278357 | 0.209559 | 0.276144 | 0.327273 | 0.187755 | 0.298507 | 0.22 | 0.331325 | 0.274854 |
pythia-70m-deduped-step44k-92bt | 0.187713 | 0.272057 | 0.26027 | 0.22 | 0.237037 | 0.177632 | 0.23 | 0.233962 | 0.222222 | 0.29 | 0.32 | 0.24 | 0.208092 | 0.235294 | 0.17 | 0.285106 | 0.254386 | 0.282759 | 0.256614 | 0.150794 | 0.17 | 0.316129 | 0.275862 | 0.29 | 0.248485 | 0.358586 | 0.352332 | 0.266667 | 0.240741 | 0.214286 | 0.298013 | 0.299083 | 0.472222 | 0.269608 | 0.270042 | 0.300448 | 0.251908 | 0.280992 | 0.222222 | 0.269939 | 0.205357 | 0.330097 | 0.196581 | 0.3 | 0.246488 | 0.254335 | 0.246927 | 0.264706 | 0.234727 | 0.219136 | 0.216312 | 0.245763 | 0.444853 | 0.245098 | 0.227273 | 0.355102 | 0.263682 | 0.29 | 0.168675 | 0.19883 |
pythia-70m-deduped-step44k-92bt | 0.187713 | 0.272057 | 0.26027 | 0.22 | 0.237037 | 0.177632 | 0.23 | 0.233962 | 0.222222 | 0.29 | 0.32 | 0.24 | 0.208092 | 0.235294 | 0.17 | 0.285106 | 0.254386 | 0.282759 | 0.256614 | 0.150794 | 0.17 | 0.316129 | 0.275862 | 0.29 | 0.248485 | 0.358586 | 0.352332 | 0.266667 | 0.240741 | 0.214286 | 0.298013 | 0.299083 | 0.472222 | 0.269608 | 0.270042 | 0.300448 | 0.251908 | 0.280992 | 0.222222 | 0.269939 | 0.205357 | 0.330097 | 0.196581 | 0.3 | 0.246488 | 0.254335 | 0.246927 | 0.264706 | 0.234727 | 0.219136 | 0.216312 | 0.245763 | 0.444853 | 0.245098 | 0.227273 | 0.355102 | 0.263682 | 0.29 | 0.168675 | 0.19883 |
pythia-70m-deduped-step44k-92bt | 0.187713 | 0.272057 | 0.26027 | 0.22 | 0.237037 | 0.177632 | 0.23 | 0.233962 | 0.222222 | 0.29 | 0.32 | 0.24 | 0.208092 | 0.235294 | 0.17 | 0.285106 | 0.254386 | 0.282759 | 0.256614 | 0.150794 | 0.17 | 0.316129 | 0.275862 | 0.29 | 0.248485 | 0.358586 | 0.352332 | 0.266667 | 0.240741 | 0.214286 | 0.298013 | 0.299083 | 0.472222 | 0.269608 | 0.270042 | 0.300448 | 0.251908 | 0.280992 | 0.222222 | 0.269939 | 0.205357 | 0.330097 | 0.196581 | 0.3 | 0.246488 | 0.254335 | 0.246927 | 0.264706 | 0.234727 | 0.219136 | 0.216312 | 0.245763 | 0.444853 | 0.245098 | 0.227273 | 0.355102 | 0.263682 | 0.29 | 0.168675 | 0.19883 |
opt-350m | 0.205631 | 0.321251 | 0.260231 | 0.22 | 0.274074 | 0.177632 | 0.21 | 0.267925 | 0.229167 | 0.35 | 0.3 | 0.27 | 0.254335 | 0.22549 | 0.18 | 0.27234 | 0.236842 | 0.296552 | 0.256614 | 0.238095 | 0.19 | 0.3 | 0.29064 | 0.19 | 0.266667 | 0.358586 | 0.34715 | 0.274359 | 0.277778 | 0.273109 | 0.331126 | 0.326606 | 0.472222 | 0.259804 | 0.206751 | 0.134529 | 0.259542 | 0.371901 | 0.222222 | 0.245399 | 0.178571 | 0.223301 | 0.213675 | 0.29 | 0.205619 | 0.263006 | 0.246927 | 0.261438 | 0.196141 | 0.271605 | 0.248227 | 0.241199 | 0.448529 | 0.24183 | 0.190909 | 0.395918 | 0.218905 | 0.26 | 0.192771 | 0.187135 |
opt-125m | 0.203925 | 0.291874 | 0.260156 | 0.27 | 0.244444 | 0.269737 | 0.21 | 0.215094 | 0.222222 | 0.28 | 0.33 | 0.26 | 0.202312 | 0.372549 | 0.18 | 0.319149 | 0.22807 | 0.248276 | 0.256614 | 0.142857 | 0.18 | 0.316129 | 0.295567 | 0.19 | 0.212121 | 0.272727 | 0.367876 | 0.34359 | 0.262963 | 0.352941 | 0.311258 | 0.227523 | 0.472222 | 0.259804 | 0.257384 | 0.201794 | 0.236641 | 0.380165 | 0.212963 | 0.220859 | 0.151786 | 0.184466 | 0.196581 | 0.34 | 0.254151 | 0.231214 | 0.242458 | 0.271242 | 0.237942 | 0.29321 | 0.265957 | 0.252934 | 0.448529 | 0.222222 | 0.227273 | 0.24898 | 0.233831 | 0.32 | 0.204819 | 0.175439 |
h2ogpt-oasst1-512-12b | 0.40273 | 0.522605 | 0.260139 | 0.26 | 0.340741 | 0.315789 | 0.2 | 0.267925 | 0.305556 | 0.17 | 0.25 | 0.26 | 0.231214 | 0.205882 | 0.27 | 0.242553 | 0.280702 | 0.241379 | 0.269841 | 0.166667 | 0.29 | 0.245161 | 0.300493 | 0.32 | 0.236364 | 0.207071 | 0.222798 | 0.25641 | 0.285185 | 0.260504 | 0.264901 | 0.220183 | 0.217593 | 0.245098 | 0.261603 | 0.381166 | 0.236641 | 0.404959 | 0.259259 | 0.220859 | 0.258929 | 0.242718 | 0.25641 | 0.21 | 0.311622 | 0.291908 | 0.242458 | 0.29085 | 0.299035 | 0.287037 | 0.255319 | 0.246415 | 0.198529 | 0.285948 | 0.218182 | 0.183673 | 0.263682 | 0.23 | 0.313253 | 0.327485 |
pythia-13b-deduped-green_devil | 0.387372 | 0.515734 | 0.260079 | 0.23 | 0.311111 | 0.276316 | 0.28 | 0.298113 | 0.263889 | 0.18 | 0.27 | 0.33 | 0.254335 | 0.22549 | 0.27 | 0.310638 | 0.289474 | 0.241379 | 0.28836 | 0.309524 | 0.28 | 0.212903 | 0.182266 | 0.23 | 0.206061 | 0.222222 | 0.222798 | 0.228205 | 0.255556 | 0.268908 | 0.278146 | 0.223853 | 0.231481 | 0.289216 | 0.253165 | 0.336323 | 0.267176 | 0.305785 | 0.259259 | 0.214724 | 0.285714 | 0.194175 | 0.269231 | 0.29 | 0.272031 | 0.265896 | 0.250279 | 0.228758 | 0.302251 | 0.268519 | 0.276596 | 0.27249 | 0.1875 | 0.267974 | 0.254545 | 0.191837 | 0.243781 | 0.26 | 0.301205 | 0.345029 |
pythia-410m-deduped | 0.226109 | 0.344354 | 0.259888 | 0.18 | 0.274074 | 0.151316 | 0.27 | 0.249057 | 0.326389 | 0.31 | 0.22 | 0.27 | 0.202312 | 0.235294 | 0.27 | 0.229787 | 0.210526 | 0.248276 | 0.261905 | 0.309524 | 0.24 | 0.251613 | 0.251232 | 0.24 | 0.224242 | 0.232323 | 0.227979 | 0.312821 | 0.266667 | 0.201681 | 0.251656 | 0.216514 | 0.472222 | 0.235294 | 0.278481 | 0.336323 | 0.244275 | 0.322314 | 0.296296 | 0.226994 | 0.339286 | 0.281553 | 0.226496 | 0.31 | 0.261814 | 0.251445 | 0.241341 | 0.228758 | 0.186495 | 0.203704 | 0.244681 | 0.239896 | 0.323529 | 0.245098 | 0.290909 | 0.35102 | 0.278607 | 0.21 | 0.26506 | 0.28655 |
GPT-NeoX-20B-Skein | 0.421502 | 0.541625 | 0.259863 | 0.29 | 0.214815 | 0.223684 | 0.35 | 0.222642 | 0.256944 | 0.26 | 0.36 | 0.27 | 0.236994 | 0.22549 | 0.36 | 0.344681 | 0.22807 | 0.255172 | 0.291005 | 0.261905 | 0.26 | 0.193548 | 0.162562 | 0.28 | 0.2 | 0.217172 | 0.207254 | 0.225641 | 0.255556 | 0.268908 | 0.245033 | 0.222018 | 0.162037 | 0.289216 | 0.253165 | 0.331839 | 0.267176 | 0.322314 | 0.259259 | 0.269939 | 0.1875 | 0.281553 | 0.307692 | 0.31 | 0.275862 | 0.286127 | 0.246927 | 0.251634 | 0.279743 | 0.265432 | 0.244681 | 0.242503 | 0.172794 | 0.26634 | 0.290909 | 0.212245 | 0.293532 | 0.23 | 0.295181 | 0.327485 |
open_llama_3b_600bt_preview | 0.34215 | 0.460167 | 0.259736 | 0.24 | 0.303704 | 0.276316 | 0.31 | 0.267925 | 0.256944 | 0.16 | 0.24 | 0.24 | 0.254335 | 0.294118 | 0.31 | 0.306383 | 0.315789 | 0.289655 | 0.240741 | 0.15873 | 0.26 | 0.258065 | 0.270936 | 0.36 | 0.266667 | 0.207071 | 0.227979 | 0.241026 | 0.255556 | 0.260504 | 0.284768 | 0.244037 | 0.282407 | 0.25 | 0.244726 | 0.174888 | 0.21374 | 0.239669 | 0.333333 | 0.239264 | 0.258929 | 0.252427 | 0.277778 | 0.28 | 0.245211 | 0.271676 | 0.246927 | 0.251634 | 0.26045 | 0.268519 | 0.251773 | 0.250978 | 0.286765 | 0.27451 | 0.263636 | 0.216327 | 0.233831 | 0.26 | 0.240964 | 0.333333 |
gpt-neo-125m | 0.191126 | 0.28341 | 0.259704 | 0.22 | 0.266667 | 0.177632 | 0.23 | 0.256604 | 0.277778 | 0.24 | 0.34 | 0.27 | 0.190751 | 0.22549 | 0.19 | 0.285106 | 0.254386 | 0.234483 | 0.240741 | 0.246032 | 0.18 | 0.248387 | 0.280788 | 0.21 | 0.248485 | 0.358586 | 0.357513 | 0.253846 | 0.251852 | 0.231092 | 0.311258 | 0.278899 | 0.458333 | 0.29902 | 0.219409 | 0.278027 | 0.259542 | 0.22314 | 0.222222 | 0.245399 | 0.267857 | 0.242718 | 0.269231 | 0.3 | 0.240102 | 0.245665 | 0.226816 | 0.264706 | 0.18328 | 0.216049 | 0.248227 | 0.247066 | 0.448529 | 0.269608 | 0.254545 | 0.4 | 0.243781 | 0.27 | 0.198795 | 0.204678 |
h2ogpt-gm-oasst1-en-1024-20b | 0.435154 | 0.536746 | 0.259638 | 0.32 | 0.288889 | 0.263158 | 0.29 | 0.233962 | 0.256944 | 0.22 | 0.26 | 0.2 | 0.236994 | 0.27451 | 0.33 | 0.293617 | 0.289474 | 0.172414 | 0.251323 | 0.293651 | 0.25 | 0.245161 | 0.236453 | 0.29 | 0.2 | 0.212121 | 0.243523 | 0.24359 | 0.248148 | 0.252101 | 0.271523 | 0.20367 | 0.162037 | 0.308824 | 0.2827 | 0.286996 | 0.236641 | 0.256198 | 0.277778 | 0.233129 | 0.169643 | 0.31068 | 0.260684 | 0.29 | 0.284802 | 0.283237 | 0.268156 | 0.29085 | 0.273312 | 0.305556 | 0.262411 | 0.267275 | 0.202206 | 0.267974 | 0.209091 | 0.293878 | 0.233831 | 0.3 | 0.271084 | 0.339181 |
CrimsonPajama | 0.366041 | 0.489345 | 0.2595 | 0.29 | 0.333333 | 0.263158 | 0.23 | 0.237736 | 0.256944 | 0.27 | 0.26 | 0.24 | 0.248555 | 0.205882 | 0.3 | 0.246809 | 0.263158 | 0.324138 | 0.267196 | 0.18254 | 0.29 | 0.274194 | 0.246305 | 0.28 | 0.236364 | 0.29798 | 0.248705 | 0.228205 | 0.266667 | 0.214286 | 0.271523 | 0.258716 | 0.226852 | 0.269608 | 0.265823 | 0.183857 | 0.198473 | 0.380165 | 0.240741 | 0.300613 | 0.294643 | 0.262136 | 0.269231 | 0.19 | 0.265645 | 0.254335 | 0.242458 | 0.25817 | 0.273312 | 0.280864 | 0.269504 | 0.271838 | 0.158088 | 0.256536 | 0.318182 | 0.293878 | 0.248756 | 0.24 | 0.253012 | 0.292398 |
GPT-J-6B-Adventure | 0.354096 | 0.464748 | 0.25942 | 0.26 | 0.2 | 0.263158 | 0.26 | 0.260377 | 0.256944 | 0.21 | 0.25 | 0.28 | 0.213873 | 0.215686 | 0.29 | 0.302128 | 0.324561 | 0.227586 | 0.227513 | 0.269841 | 0.23 | 0.2 | 0.246305 | 0.21 | 0.206061 | 0.272727 | 0.176166 | 0.24359 | 0.22963 | 0.285714 | 0.284768 | 0.244037 | 0.25 | 0.259804 | 0.244726 | 0.313901 | 0.29771 | 0.272727 | 0.314815 | 0.245399 | 0.303571 | 0.223301 | 0.290598 | 0.29 | 0.231162 | 0.274566 | 0.260335 | 0.261438 | 0.247588 | 0.259259 | 0.322695 | 0.259452 | 0.264706 | 0.267974 | 0.236364 | 0.232653 | 0.348259 | 0.28 | 0.289157 | 0.304094 |
codegen-6B-nl | 0.389932 | 0.505278 | 0.259345 | 0.21 | 0.22963 | 0.184211 | 0.31 | 0.275472 | 0.298611 | 0.15 | 0.29 | 0.23 | 0.260116 | 0.215686 | 0.37 | 0.259574 | 0.254386 | 0.241379 | 0.251323 | 0.285714 | 0.25 | 0.293548 | 0.162562 | 0.24 | 0.218182 | 0.186869 | 0.227979 | 0.235897 | 0.207407 | 0.222689 | 0.264901 | 0.231193 | 0.162037 | 0.264706 | 0.2827 | 0.327354 | 0.251908 | 0.396694 | 0.287037 | 0.208589 | 0.3125 | 0.31068 | 0.307692 | 0.34 | 0.269476 | 0.263006 | 0.280447 | 0.232026 | 0.221865 | 0.243827 | 0.280142 | 0.265319 | 0.191176 | 0.284314 | 0.318182 | 0.24898 | 0.278607 | 0.32 | 0.301205 | 0.274854 |
Cerebras-GPT-6.7B | 0.308874 | 0.44513 | 0.259284 | 0.28 | 0.237037 | 0.243421 | 0.13 | 0.222642 | 0.215278 | 0.31 | 0.4 | 0.3 | 0.242775 | 0.245098 | 0.22 | 0.302128 | 0.245614 | 0.255172 | 0.243386 | 0.238095 | 0.19 | 0.219355 | 0.206897 | 0.37 | 0.284848 | 0.186869 | 0.217617 | 0.248718 | 0.262963 | 0.247899 | 0.271523 | 0.304587 | 0.342593 | 0.240196 | 0.223629 | 0.295964 | 0.259542 | 0.264463 | 0.222222 | 0.288344 | 0.232143 | 0.271845 | 0.239316 | 0.26 | 0.260536 | 0.283237 | 0.272626 | 0.235294 | 0.26045 | 0.240741 | 0.248227 | 0.269883 | 0.411765 | 0.248366 | 0.245455 | 0.2 | 0.253731 | 0.28 | 0.26506 | 0.321637 |
Cerebras-GPT-13B | 0.337884 | 0.449811 | 0.259234 | 0.23 | 0.259259 | 0.217105 | 0.19 | 0.25283 | 0.291667 | 0.22 | 0.28 | 0.34 | 0.231214 | 0.196078 | 0.27 | 0.255319 | 0.236842 | 0.248276 | 0.243386 | 0.301587 | 0.2 | 0.248387 | 0.226601 | 0.23 | 0.260606 | 0.237374 | 0.196891 | 0.317949 | 0.244444 | 0.277311 | 0.231788 | 0.282569 | 0.453704 | 0.254902 | 0.278481 | 0.251121 | 0.229008 | 0.264463 | 0.25 | 0.245399 | 0.276786 | 0.242718 | 0.252137 | 0.28 | 0.283525 | 0.263006 | 0.272626 | 0.25817 | 0.270096 | 0.243827 | 0.248227 | 0.25163 | 0.191176 | 0.24183 | 0.290909 | 0.355102 | 0.258706 | 0.24 | 0.307229 | 0.304094 |
dolly-v2-12b | 0.381399 | 0.546306 | 0.259168 | 0.23 | 0.333333 | 0.263158 | 0.23 | 0.222642 | 0.263889 | 0.18 | 0.2 | 0.28 | 0.236994 | 0.235294 | 0.3 | 0.238298 | 0.254386 | 0.282759 | 0.269841 | 0.198413 | 0.39 | 0.26129 | 0.251232 | 0.36 | 0.206061 | 0.207071 | 0.233161 | 0.230769 | 0.266667 | 0.226891 | 0.231788 | 0.266055 | 0.208333 | 0.269608 | 0.324895 | 0.295964 | 0.221374 | 0.380165 | 0.222222 | 0.239264 | 0.348214 | 0.242718 | 0.273504 | 0.22 | 0.292465 | 0.263006 | 0.241341 | 0.245098 | 0.305466 | 0.25 | 0.269504 | 0.269231 | 0.183824 | 0.264706 | 0.281818 | 0.17551 | 0.293532 | 0.26 | 0.26506 | 0.315789 |
OPT-350M-Nerys-v2 | 0.198805 | 0.315475 | 0.259077 | 0.22 | 0.237037 | 0.177632 | 0.21 | 0.218868 | 0.263889 | 0.32 | 0.26 | 0.27 | 0.242775 | 0.294118 | 0.18 | 0.302128 | 0.236842 | 0.255172 | 0.256614 | 0.333333 | 0.18 | 0.316129 | 0.280788 | 0.19 | 0.284848 | 0.313131 | 0.305699 | 0.248718 | 0.274074 | 0.294118 | 0.337748 | 0.299083 | 0.472222 | 0.205882 | 0.236287 | 0.282511 | 0.236641 | 0.371901 | 0.212963 | 0.251534 | 0.169643 | 0.174757 | 0.196581 | 0.23 | 0.268199 | 0.277457 | 0.241341 | 0.251634 | 0.228296 | 0.280864 | 0.269504 | 0.232073 | 0.444853 | 0.245098 | 0.263636 | 0.24898 | 0.243781 | 0.26 | 0.186747 | 0.181287 |
dlite-v1-774m | 0.253413 | 0.365365 | 0.259068 | 0.18 | 0.222222 | 0.217105 | 0.24 | 0.320755 | 0.256944 | 0.18 | 0.31 | 0.3 | 0.242775 | 0.215686 | 0.17 | 0.208511 | 0.22807 | 0.317241 | 0.267196 | 0.15873 | 0.3 | 0.254839 | 0.300493 | 0.3 | 0.284848 | 0.363636 | 0.321244 | 0.351282 | 0.274074 | 0.218487 | 0.271523 | 0.317431 | 0.324074 | 0.254902 | 0.265823 | 0.107623 | 0.29771 | 0.380165 | 0.166667 | 0.319018 | 0.205357 | 0.368932 | 0.213675 | 0.17 | 0.197957 | 0.263006 | 0.246927 | 0.248366 | 0.244373 | 0.256173 | 0.265957 | 0.232725 | 0.246324 | 0.228758 | 0.190909 | 0.367347 | 0.293532 | 0.26 | 0.26506 | 0.292398 |
pythia-70m | 0.180887 | 0.265883 | 0.259007 | 0.23 | 0.274074 | 0.236842 | 0.25 | 0.241509 | 0.222222 | 0.4 | 0.26 | 0.27 | 0.294798 | 0.284314 | 0.25 | 0.268085 | 0.201754 | 0.268966 | 0.256614 | 0.166667 | 0.14 | 0.267742 | 0.280788 | 0.29 | 0.266667 | 0.313131 | 0.34715 | 0.330769 | 0.285185 | 0.268908 | 0.291391 | 0.258716 | 0.467593 | 0.235294 | 0.257384 | 0.273543 | 0.274809 | 0.239669 | 0.231481 | 0.269939 | 0.214286 | 0.184466 | 0.196581 | 0.29 | 0.217114 | 0.245665 | 0.232402 | 0.248366 | 0.21865 | 0.240741 | 0.216312 | 0.234681 | 0.341912 | 0.21732 | 0.263636 | 0.273469 | 0.278607 | 0.22 | 0.240964 | 0.222222 |
WizardCoder-Guanaco-15B-V1.1 | 0.288396 | 0.372037 | 0.258818 | 0.33 | 0.244444 | 0.177632 | 0.3 | 0.233962 | 0.25 | 0.21 | 0.3 | 0.26 | 0.208092 | 0.196078 | 0.39 | 0.302128 | 0.245614 | 0.344828 | 0.227513 | 0.293651 | 0.23 | 0.216129 | 0.172414 | 0.32 | 0.212121 | 0.20202 | 0.207254 | 0.215385 | 0.251852 | 0.243697 | 0.245033 | 0.20367 | 0.175926 | 0.245098 | 0.2827 | 0.336323 | 0.259542 | 0.289256 | 0.240741 | 0.220859 | 0.330357 | 0.223301 | 0.34188 | 0.36 | 0.298851 | 0.263006 | 0.251397 | 0.248366 | 0.247588 | 0.240741 | 0.27305 | 0.25163 | 0.202206 | 0.272876 | 0.3 | 0.187755 | 0.268657 | 0.29 | 0.301205 | 0.315789 |
h2ogpt-gm-oasst1-en-1024-12b | 0.40529 | 0.515933 | 0.258712 | 0.28 | 0.355556 | 0.269737 | 0.36 | 0.256604 | 0.277778 | 0.22 | 0.22 | 0.28 | 0.231214 | 0.196078 | 0.29 | 0.331915 | 0.280702 | 0.186207 | 0.280423 | 0.18254 | 0.26 | 0.264516 | 0.295567 | 0.26 | 0.230303 | 0.222222 | 0.202073 | 0.210256 | 0.274074 | 0.268908 | 0.218543 | 0.218349 | 0.162037 | 0.22549 | 0.219409 | 0.363229 | 0.21374 | 0.363636 | 0.277778 | 0.220859 | 0.330357 | 0.252427 | 0.24359 | 0.25 | 0.295019 | 0.263006 | 0.242458 | 0.261438 | 0.276527 | 0.268519 | 0.234043 | 0.241199 | 0.216912 | 0.267974 | 0.327273 | 0.2 | 0.248756 | 0.24 | 0.313253 | 0.304094 |
Cerebras-GPT-111M-instruction | 0.194539 | 0.260705 | 0.25866 | 0.16 | 0.22963 | 0.322368 | 0.22 | 0.283019 | 0.256944 | 0.25 | 0.26 | 0.27 | 0.277457 | 0.362745 | 0.18 | 0.195745 | 0.210526 | 0.234483 | 0.26455 | 0.325397 | 0.29 | 0.332258 | 0.29064 | 0.22 | 0.187879 | 0.343434 | 0.331606 | 0.379487 | 0.266667 | 0.336134 | 0.317881 | 0.343119 | 0.356481 | 0.22549 | 0.270042 | 0.26009 | 0.19084 | 0.305785 | 0.203704 | 0.245399 | 0.232143 | 0.349515 | 0.196581 | 0.25 | 0.213282 | 0.213873 | 0.241341 | 0.326797 | 0.221865 | 0.225309 | 0.262411 | 0.246415 | 0.183824 | 0.21732 | 0.236364 | 0.187755 | 0.263682 | 0.26 | 0.204819 | 0.210526 |
gpt2_test | 0.199659 | 0.292272 | 0.258585 | 0.21 | 0.244444 | 0.164474 | 0.17 | 0.230189 | 0.222222 | 0.2 | 0.3 | 0.29 | 0.236994 | 0.254902 | 0.17 | 0.268085 | 0.280702 | 0.241379 | 0.253968 | 0.142857 | 0.15 | 0.3 | 0.275862 | 0.26 | 0.218182 | 0.353535 | 0.367876 | 0.274359 | 0.255556 | 0.289916 | 0.271523 | 0.346789 | 0.472222 | 0.254902 | 0.248945 | 0.29148 | 0.267176 | 0.330579 | 0.212963 | 0.257669 | 0.241071 | 0.339806 | 0.179487 | 0.27 | 0.218391 | 0.239884 | 0.242458 | 0.218954 | 0.250804 | 0.225309 | 0.269504 | 0.247718 | 0.441176 | 0.264706 | 0.218182 | 0.4 | 0.228856 | 0.26 | 0.192771 | 0.210526 |
pythia-2.7b | 0.325085 | 0.44991 | 0.258579 | 0.26 | 0.281481 | 0.223684 | 0.2 | 0.260377 | 0.284722 | 0.2 | 0.28 | 0.29 | 0.277457 | 0.176471 | 0.29 | 0.310638 | 0.289474 | 0.213793 | 0.26455 | 0.166667 | 0.31 | 0.248387 | 0.261084 | 0.27 | 0.254545 | 0.207071 | 0.217617 | 0.220513 | 0.244444 | 0.243697 | 0.245033 | 0.234862 | 0.231481 | 0.25 | 0.274262 | 0.358744 | 0.229008 | 0.363636 | 0.259259 | 0.263804 | 0.294643 | 0.223301 | 0.273504 | 0.28 | 0.274585 | 0.254335 | 0.246927 | 0.254902 | 0.334405 | 0.271605 | 0.276596 | 0.25163 | 0.202206 | 0.269608 | 0.354545 | 0.187755 | 0.243781 | 0.2 | 0.307229 | 0.280702 |
DialoGPT-medium | 0.194539 | 0.260108 | 0.25839 | 0.31 | 0.333333 | 0.335526 | 0.22 | 0.215094 | 0.277778 | 0.18 | 0.26 | 0.25 | 0.317919 | 0.245098 | 0.3 | 0.234043 | 0.245614 | 0.296552 | 0.267196 | 0.150794 | 0.34 | 0.264516 | 0.300493 | 0.33 | 0.30303 | 0.257576 | 0.233161 | 0.220513 | 0.262963 | 0.252101 | 0.264901 | 0.225688 | 0.212963 | 0.245098 | 0.223629 | 0.201794 | 0.229008 | 0.371901 | 0.203704 | 0.300613 | 0.241071 | 0.194175 | 0.25641 | 0.24 | 0.270754 | 0.213873 | 0.265922 | 0.29085 | 0.26045 | 0.29321 | 0.269504 | 0.265971 | 0.345588 | 0.276144 | 0.209091 | 0.232653 | 0.248756 | 0.25 | 0.204819 | 0.216374 |
DialoGPT-small | 0.211604 | 0.255128 | 0.258127 | 0.23 | 0.244444 | 0.210526 | 0.2 | 0.298113 | 0.25 | 0.2 | 0.27 | 0.23 | 0.364162 | 0.215686 | 0.25 | 0.293617 | 0.201754 | 0.241379 | 0.240741 | 0.31746 | 0.19 | 0.309677 | 0.246305 | 0.26 | 0.248485 | 0.353535 | 0.367876 | 0.364103 | 0.233333 | 0.348739 | 0.231788 | 0.26422 | 0.435185 | 0.254902 | 0.21519 | 0.340807 | 0.274809 | 0.140496 | 0.222222 | 0.196319 | 0.267857 | 0.174757 | 0.213675 | 0.13 | 0.278416 | 0.213873 | 0.23352 | 0.27451 | 0.173633 | 0.216049 | 0.244681 | 0.253585 | 0.448529 | 0.276144 | 0.245455 | 0.326531 | 0.268657 | 0.26 | 0.246988 | 0.210526 |
gpt2-alpaca-gpt4 | 0.202218 | 0.290779 | 0.25759 | 0.17 | 0.274074 | 0.177632 | 0.2 | 0.237736 | 0.236111 | 0.2 | 0.29 | 0.19 | 0.248555 | 0.235294 | 0.19 | 0.27234 | 0.236842 | 0.262069 | 0.251323 | 0.150794 | 0.15 | 0.267742 | 0.285714 | 0.31 | 0.2 | 0.353535 | 0.362694 | 0.282051 | 0.262963 | 0.294118 | 0.211921 | 0.284404 | 0.458333 | 0.254902 | 0.253165 | 0.349776 | 0.259542 | 0.355372 | 0.185185 | 0.325153 | 0.276786 | 0.174757 | 0.196581 | 0.3 | 0.295019 | 0.222543 | 0.242458 | 0.254902 | 0.215434 | 0.225309 | 0.27305 | 0.257497 | 0.448529 | 0.253268 | 0.2 | 0.387755 | 0.223881 | 0.29 | 0.210843 | 0.204678 |
codegen-6B-multi | 0.238055 | 0.335093 | 0.257123 | 0.32 | 0.281481 | 0.203947 | 0.26 | 0.271698 | 0.291667 | 0.2 | 0.26 | 0.23 | 0.254335 | 0.196078 | 0.29 | 0.344681 | 0.263158 | 0.303448 | 0.246032 | 0.222222 | 0.23 | 0.232258 | 0.251232 | 0.33 | 0.266667 | 0.217172 | 0.207254 | 0.220513 | 0.244444 | 0.252101 | 0.284768 | 0.255046 | 0.263889 | 0.264706 | 0.2827 | 0.403587 | 0.198473 | 0.347107 | 0.231481 | 0.288344 | 0.285714 | 0.174757 | 0.222222 | 0.24 | 0.284802 | 0.291908 | 0.243575 | 0.248366 | 0.311897 | 0.240741 | 0.223404 | 0.265971 | 0.1875 | 0.253268 | 0.290909 | 0.179592 | 0.238806 | 0.18 | 0.307229 | 0.274854 |
pythia-owt2-70m-50k | 0.175768 | 0.270066 | 0.257045 | 0.22 | 0.266667 | 0.177632 | 0.21 | 0.226415 | 0.229167 | 0.28 | 0.23 | 0.21 | 0.236994 | 0.264706 | 0.23 | 0.246809 | 0.254386 | 0.289655 | 0.256614 | 0.18254 | 0.18 | 0.316129 | 0.285714 | 0.25 | 0.248485 | 0.308081 | 0.253886 | 0.228205 | 0.262963 | 0.348739 | 0.331126 | 0.218349 | 0.472222 | 0.235294 | 0.261603 | 0.197309 | 0.274809 | 0.297521 | 0.194444 | 0.233129 | 0.321429 | 0.174757 | 0.200855 | 0.3 | 0.270754 | 0.228324 | 0.237989 | 0.25817 | 0.270096 | 0.262346 | 0.216312 | 0.247718 | 0.448529 | 0.267974 | 0.236364 | 0.244898 | 0.233831 | 0.34 | 0.271084 | 0.210526 |
pygmalion-350m | 0.208191 | 0.329018 | 0.25684 | 0.22 | 0.251852 | 0.171053 | 0.31 | 0.203774 | 0.236111 | 0.28 | 0.23 | 0.24 | 0.202312 | 0.196078 | 0.28 | 0.344681 | 0.210526 | 0.213793 | 0.253968 | 0.174603 | 0.19 | 0.251613 | 0.26601 | 0.2 | 0.339394 | 0.343434 | 0.316062 | 0.310256 | 0.237037 | 0.243697 | 0.231788 | 0.27156 | 0.472222 | 0.27451 | 0.248945 | 0.233184 | 0.244275 | 0.330579 | 0.222222 | 0.257669 | 0.214286 | 0.165049 | 0.247863 | 0.28 | 0.226054 | 0.300578 | 0.237989 | 0.251634 | 0.234727 | 0.231481 | 0.251773 | 0.23794 | 0.444853 | 0.230392 | 0.245455 | 0.371429 | 0.278607 | 0.27 | 0.246988 | 0.169591 |
gpt-2-xl-EvolInstruct | 0.248294 | 0.337682 | 0.256719 | 0.26 | 0.318519 | 0.177632 | 0.21 | 0.283019 | 0.284722 | 0.21 | 0.25 | 0.27 | 0.242775 | 0.186275 | 0.26 | 0.310638 | 0.245614 | 0.248276 | 0.248677 | 0.206349 | 0.33 | 0.245161 | 0.280788 | 0.36 | 0.254545 | 0.30303 | 0.212435 | 0.253846 | 0.292593 | 0.226891 | 0.218543 | 0.255046 | 0.439815 | 0.220588 | 0.227848 | 0.210762 | 0.21374 | 0.247934 | 0.259259 | 0.319018 | 0.303571 | 0.252427 | 0.269231 | 0.16 | 0.289911 | 0.265896 | 0.242458 | 0.251634 | 0.244373 | 0.259259 | 0.27305 | 0.239244 | 0.224265 | 0.254902 | 0.345455 | 0.17551 | 0.243781 | 0.19 | 0.277108 | 0.28655 |
pythia-12b-deduped | 0.37884 | 0.518323 | 0.256306 | 0.29 | 0.22963 | 0.263158 | 0.2 | 0.260377 | 0.263889 | 0.19 | 0.22 | 0.28 | 0.225434 | 0.186275 | 0.31 | 0.268085 | 0.263158 | 0.227586 | 0.26455 | 0.190476 | 0.2 | 0.23871 | 0.26601 | 0.28 | 0.236364 | 0.222222 | 0.207254 | 0.258974 | 0.274074 | 0.281513 | 0.225166 | 0.20367 | 0.166667 | 0.245098 | 0.274262 | 0.367713 | 0.259542 | 0.46281 | 0.296296 | 0.233129 | 0.25 | 0.223301 | 0.264957 | 0.21 | 0.292465 | 0.309249 | 0.243575 | 0.297386 | 0.270096 | 0.259259 | 0.248227 | 0.261408 | 0.198529 | 0.292484 | 0.254545 | 0.253061 | 0.268657 | 0.21 | 0.319277 | 0.350877 |
dlite-v1-1_5b | 0.284983 | 0.394941 | 0.256172 | 0.25 | 0.251852 | 0.203947 | 0.23 | 0.283019 | 0.298611 | 0.22 | 0.31 | 0.28 | 0.352601 | 0.176471 | 0.26 | 0.251064 | 0.210526 | 0.241379 | 0.253968 | 0.357143 | 0.15 | 0.254839 | 0.187192 | 0.24 | 0.284848 | 0.363636 | 0.222798 | 0.341026 | 0.244444 | 0.235294 | 0.225166 | 0.33211 | 0.351852 | 0.245098 | 0.253165 | 0.170404 | 0.267176 | 0.239669 | 0.25 | 0.251534 | 0.25 | 0.271845 | 0.269231 | 0.24 | 0.272031 | 0.245665 | 0.242458 | 0.22549 | 0.189711 | 0.256173 | 0.237589 | 0.241199 | 0.253676 | 0.245098 | 0.336364 | 0.187755 | 0.253731 | 0.19 | 0.331325 | 0.321637 |
Sparse0.5_OPT-1.3 | 0.240614 | 0.383689 | 0.255963 | 0.22 | 0.214815 | 0.157895 | 0.2 | 0.211321 | 0.208333 | 0.19 | 0.33 | 0.24 | 0.260116 | 0.235294 | 0.3 | 0.212766 | 0.236842 | 0.241379 | 0.256614 | 0.333333 | 0.2 | 0.232258 | 0.231527 | 0.23 | 0.266667 | 0.247475 | 0.300518 | 0.348718 | 0.214815 | 0.344538 | 0.245033 | 0.249541 | 0.430556 | 0.196078 | 0.257384 | 0.309417 | 0.259542 | 0.214876 | 0.259259 | 0.239264 | 0.276786 | 0.368932 | 0.264957 | 0.28 | 0.228608 | 0.251445 | 0.235754 | 0.29085 | 0.205788 | 0.25 | 0.262411 | 0.238592 | 0.448529 | 0.254902 | 0.236364 | 0.171429 | 0.228856 | 0.27 | 0.283133 | 0.216374 |
pythia-1.4b-deduped | 0.295222 | 0.417845 | 0.255555 | 0.27 | 0.192593 | 0.157895 | 0.34 | 0.249057 | 0.298611 | 0.24 | 0.35 | 0.3 | 0.208092 | 0.215686 | 0.27 | 0.276596 | 0.219298 | 0.324138 | 0.259259 | 0.238095 | 0.34 | 0.241935 | 0.236453 | 0.33 | 0.242424 | 0.166667 | 0.207254 | 0.238462 | 0.251852 | 0.205882 | 0.271523 | 0.205505 | 0.416667 | 0.245098 | 0.248945 | 0.318386 | 0.229008 | 0.256198 | 0.259259 | 0.245399 | 0.258929 | 0.174757 | 0.269231 | 0.26 | 0.234994 | 0.268786 | 0.237989 | 0.261438 | 0.241158 | 0.240741 | 0.287234 | 0.249674 | 0.220588 | 0.254902 | 0.218182 | 0.208163 | 0.238806 | 0.3 | 0.259036 | 0.315789 |
koala-7B-HF | 0.430887 | 0.547202 | 0.255292 | 0.22 | 0.259259 | 0.217105 | 0.3 | 0.271698 | 0.277778 | 0.21 | 0.26 | 0.25 | 0.242775 | 0.205882 | 0.33 | 0.26383 | 0.298246 | 0.227586 | 0.224868 | 0.269841 | 0.18 | 0.203226 | 0.182266 | 0.26 | 0.224242 | 0.262626 | 0.227979 | 0.220513 | 0.237037 | 0.214286 | 0.211921 | 0.222018 | 0.185185 | 0.269608 | 0.278481 | 0.318386 | 0.267176 | 0.371901 | 0.287037 | 0.245399 | 0.232143 | 0.194175 | 0.337607 | 0.31 | 0.291188 | 0.265896 | 0.251397 | 0.232026 | 0.221865 | 0.228395 | 0.234043 | 0.260104 | 0.213235 | 0.277778 | 0.263636 | 0.253061 | 0.318408 | 0.34 | 0.295181 | 0.333333 |
Cerebras-GPT-111M | 0.158703 | 0.26419 | 0.255122 | 0.19 | 0.281481 | 0.177632 | 0.2 | 0.222642 | 0.256944 | 0.22 | 0.25 | 0.25 | 0.248555 | 0.264706 | 0.23 | 0.204255 | 0.27193 | 0.213793 | 0.256614 | 0.166667 | 0.14 | 0.3 | 0.275862 | 0.3 | 0.230303 | 0.262626 | 0.284974 | 0.282051 | 0.285185 | 0.235294 | 0.245033 | 0.278899 | 0.472222 | 0.264706 | 0.240506 | 0.251121 | 0.267176 | 0.347107 | 0.240741 | 0.300613 | 0.357143 | 0.174757 | 0.205128 | 0.25 | 0.289911 | 0.260116 | 0.242458 | 0.248366 | 0.244373 | 0.222222 | 0.241135 | 0.24837 | 0.441176 | 0.251634 | 0.236364 | 0.293878 | 0.233831 | 0.23 | 0.180723 | 0.280702 |
lamini-cerebras-111m | 0.187713 | 0.267676 | 0.255062 | 0.22 | 0.311111 | 0.151316 | 0.28 | 0.264151 | 0.222222 | 0.23 | 0.27 | 0.34 | 0.231214 | 0.245098 | 0.32 | 0.302128 | 0.27193 | 0.234483 | 0.261905 | 0.150794 | 0.21 | 0.267742 | 0.300493 | 0.25 | 0.254545 | 0.217172 | 0.238342 | 0.202564 | 0.281481 | 0.222689 | 0.211921 | 0.234862 | 0.472222 | 0.235294 | 0.261603 | 0.381166 | 0.229008 | 0.256198 | 0.240741 | 0.276074 | 0.294643 | 0.174757 | 0.264957 | 0.27 | 0.291188 | 0.236994 | 0.242458 | 0.22549 | 0.270096 | 0.256173 | 0.262411 | 0.23794 | 0.172794 | 0.245098 | 0.318182 | 0.171429 | 0.238806 | 0.22 | 0.337349 | 0.25731 |
open_llama_7b_700bt_preview | 0.354096 | 0.496913 | 0.254459 | 0.26 | 0.185185 | 0.217105 | 0.31 | 0.301887 | 0.277778 | 0.15 | 0.31 | 0.22 | 0.225434 | 0.245098 | 0.32 | 0.297872 | 0.298246 | 0.248276 | 0.232804 | 0.246032 | 0.28 | 0.232258 | 0.187192 | 0.19 | 0.230303 | 0.272727 | 0.202073 | 0.228205 | 0.240741 | 0.210084 | 0.218543 | 0.214679 | 0.226852 | 0.279412 | 0.261603 | 0.331839 | 0.267176 | 0.231405 | 0.287037 | 0.196319 | 0.3125 | 0.252427 | 0.239316 | 0.31 | 0.309068 | 0.254335 | 0.241341 | 0.254902 | 0.263666 | 0.219136 | 0.280142 | 0.235984 | 0.257353 | 0.25 | 0.390909 | 0.191837 | 0.228856 | 0.26 | 0.343373 | 0.274854 |
chopt-2_7b | 0.346416 | 0.476997 | 0.254425 | 0.27 | 0.288889 | 0.184211 | 0.28 | 0.290566 | 0.243056 | 0.22 | 0.3 | 0.17 | 0.225434 | 0.205882 | 0.23 | 0.246809 | 0.236842 | 0.213793 | 0.251323 | 0.31746 | 0.32 | 0.241935 | 0.275862 | 0.3 | 0.236364 | 0.146465 | 0.202073 | 0.258974 | 0.240741 | 0.222689 | 0.238411 | 0.266055 | 0.231481 | 0.220588 | 0.248945 | 0.331839 | 0.251908 | 0.231405 | 0.25 | 0.257669 | 0.375 | 0.300971 | 0.24359 | 0.26 | 0.307791 | 0.245665 | 0.214525 | 0.245098 | 0.276527 | 0.246914 | 0.251773 | 0.234029 | 0.25 | 0.259804 | 0.309091 | 0.212245 | 0.248756 | 0.29 | 0.331325 | 0.251462 |
WizardVicuna-3B-0719 | 0.383959 | 0.50478 | 0.254425 | 0.28 | 0.237037 | 0.184211 | 0.29 | 0.283019 | 0.284722 | 0.19 | 0.22 | 0.22 | 0.300578 | 0.245098 | 0.29 | 0.32766 | 0.192982 | 0.275862 | 0.224868 | 0.246032 | 0.26 | 0.232258 | 0.251232 | 0.24 | 0.236364 | 0.156566 | 0.248705 | 0.233333 | 0.255556 | 0.256303 | 0.264901 | 0.212844 | 0.24537 | 0.215686 | 0.270042 | 0.327354 | 0.206107 | 0.231405 | 0.287037 | 0.214724 | 0.285714 | 0.252427 | 0.282051 | 0.26 | 0.283525 | 0.300578 | 0.248045 | 0.235294 | 0.234727 | 0.246914 | 0.251773 | 0.241851 | 0.356618 | 0.25 | 0.290909 | 0.191837 | 0.293532 | 0.26 | 0.271084 | 0.327485 |
opt-2.7b | 0.309727 | 0.460068 | 0.25432 | 0.2 | 0.251852 | 0.171053 | 0.21 | 0.222642 | 0.208333 | 0.19 | 0.29 | 0.23 | 0.248555 | 0.215686 | 0.26 | 0.225532 | 0.245614 | 0.282759 | 0.224868 | 0.190476 | 0.31 | 0.216129 | 0.251232 | 0.33 | 0.236364 | 0.217172 | 0.336788 | 0.348718 | 0.281481 | 0.214286 | 0.317881 | 0.326606 | 0.407407 | 0.25 | 0.236287 | 0.201794 | 0.198473 | 0.247934 | 0.287037 | 0.226994 | 0.285714 | 0.368932 | 0.239316 | 0.35 | 0.246488 | 0.242775 | 0.235754 | 0.19281 | 0.315113 | 0.240741 | 0.297872 | 0.252282 | 0.319853 | 0.25817 | 0.218182 | 0.208163 | 0.253731 | 0.25 | 0.23494 | 0.175439 |
stablelm-base-alpha-3b | 0.245734 | 0.349632 | 0.254305 | 0.19 | 0.17037 | 0.217105 | 0.22 | 0.211321 | 0.291667 | 0.28 | 0.34 | 0.26 | 0.179191 | 0.264706 | 0.23 | 0.285106 | 0.22807 | 0.275862 | 0.222222 | 0.253968 | 0.2 | 0.26129 | 0.226601 | 0.28 | 0.230303 | 0.257576 | 0.341969 | 0.305128 | 0.22963 | 0.210084 | 0.245033 | 0.26789 | 0.175926 | 0.230392 | 0.270042 | 0.309417 | 0.229008 | 0.363636 | 0.194444 | 0.245399 | 0.330357 | 0.368932 | 0.222222 | 0.26 | 0.237548 | 0.208092 | 0.240223 | 0.22549 | 0.176849 | 0.203704 | 0.287234 | 0.268579 | 0.389706 | 0.253268 | 0.254545 | 0.293878 | 0.243781 | 0.28 | 0.271084 | 0.28655 |
xglm-4.5B | 0.297782 | 0.433479 | 0.2543 | 0.2 | 0.303704 | 0.210526 | 0.23 | 0.222642 | 0.263889 | 0.24 | 0.28 | 0.29 | 0.271676 | 0.196078 | 0.28 | 0.242553 | 0.280702 | 0.2 | 0.251323 | 0.174603 | 0.34 | 0.258065 | 0.261084 | 0.31 | 0.206061 | 0.272727 | 0.264249 | 0.25641 | 0.251852 | 0.222689 | 0.264901 | 0.247706 | 0.287037 | 0.205882 | 0.21519 | 0.224215 | 0.267176 | 0.338843 | 0.231481 | 0.288344 | 0.241071 | 0.291262 | 0.222222 | 0.24 | 0.204342 | 0.271676 | 0.241341 | 0.261438 | 0.302251 | 0.265432 | 0.276596 | 0.273142 | 0.327206 | 0.25 | 0.236364 | 0.236735 | 0.313433 | 0.28 | 0.186747 | 0.222222 |
Adventien-GPTJ | 0.388225 | 0.525692 | 0.253958 | 0.25 | 0.237037 | 0.243421 | 0.26 | 0.264151 | 0.270833 | 0.24 | 0.18 | 0.28 | 0.196532 | 0.205882 | 0.28 | 0.314894 | 0.298246 | 0.22069 | 0.238095 | 0.214286 | 0.29 | 0.229032 | 0.261084 | 0.19 | 0.236364 | 0.212121 | 0.217617 | 0.238462 | 0.251852 | 0.231092 | 0.225166 | 0.240367 | 0.148148 | 0.284314 | 0.299578 | 0.38565 | 0.259542 | 0.289256 | 0.314815 | 0.239264 | 0.285714 | 0.194175 | 0.290598 | 0.25 | 0.270754 | 0.265896 | 0.242458 | 0.248366 | 0.276527 | 0.271605 | 0.27305 | 0.263364 | 0.209559 | 0.256536 | 0.309091 | 0.24898 | 0.258706 | 0.24 | 0.319277 | 0.263158 |
opt-1.3b-rlhf | 0.264505 | 0.410277 | 0.253941 | 0.24 | 0.281481 | 0.151316 | 0.21 | 0.260377 | 0.25 | 0.15 | 0.3 | 0.27 | 0.300578 | 0.343137 | 0.2 | 0.178723 | 0.263158 | 0.268966 | 0.230159 | 0.214286 | 0.25 | 0.248387 | 0.295567 | 0.3 | 0.242424 | 0.257576 | 0.321244 | 0.328205 | 0.27037 | 0.243697 | 0.291391 | 0.258716 | 0.361111 | 0.284314 | 0.21097 | 0.188341 | 0.183206 | 0.322314 | 0.25 | 0.276074 | 0.169643 | 0.252427 | 0.24359 | 0.29 | 0.249042 | 0.254335 | 0.232402 | 0.245098 | 0.22508 | 0.259259 | 0.258865 | 0.238592 | 0.430147 | 0.251634 | 0.245455 | 0.285714 | 0.208955 | 0.17 | 0.216867 | 0.251462 |
Skegma-GPTJ | 0.395051 | 0.507568 | 0.253729 | 0.26 | 0.274074 | 0.236842 | 0.28 | 0.275472 | 0.229167 | 0.22 | 0.15 | 0.24 | 0.213873 | 0.196078 | 0.28 | 0.323404 | 0.27193 | 0.213793 | 0.256614 | 0.206349 | 0.31 | 0.254839 | 0.275862 | 0.23 | 0.260606 | 0.227273 | 0.212435 | 0.233333 | 0.248148 | 0.239496 | 0.218543 | 0.236697 | 0.148148 | 0.27451 | 0.244726 | 0.363229 | 0.221374 | 0.280992 | 0.296296 | 0.245399 | 0.294643 | 0.223301 | 0.273504 | 0.27 | 0.310345 | 0.231214 | 0.242458 | 0.271242 | 0.29582 | 0.277778 | 0.276596 | 0.252934 | 0.202206 | 0.261438 | 0.318182 | 0.236735 | 0.253731 | 0.25 | 0.325301 | 0.245614 |
dlite-v2-774m | 0.279863 | 0.375423 | 0.253693 | 0.26 | 0.333333 | 0.296053 | 0.23 | 0.264151 | 0.256944 | 0.18 | 0.26 | 0.25 | 0.242775 | 0.215686 | 0.29 | 0.285106 | 0.245614 | 0.275862 | 0.272487 | 0.150794 | 0.34 | 0.241935 | 0.310345 | 0.33 | 0.284848 | 0.222222 | 0.227979 | 0.210256 | 0.262963 | 0.214286 | 0.271523 | 0.220183 | 0.222222 | 0.259804 | 0.261603 | 0.201794 | 0.236641 | 0.280992 | 0.231481 | 0.300613 | 0.285714 | 0.23301 | 0.25641 | 0.21 | 0.270754 | 0.294798 | 0.246927 | 0.251634 | 0.305466 | 0.271605 | 0.269504 | 0.262712 | 0.169118 | 0.277778 | 0.209091 | 0.212245 | 0.243781 | 0.24 | 0.222892 | 0.28655 |
OPT-13B-Nerys-v2 | 0.366041 | 0.522804 | 0.25357 | 0.22 | 0.288889 | 0.197368 | 0.15 | 0.2 | 0.236111 | 0.24 | 0.21 | 0.26 | 0.208092 | 0.22549 | 0.2 | 0.255319 | 0.280702 | 0.331034 | 0.261905 | 0.277778 | 0.33 | 0.258065 | 0.241379 | 0.27 | 0.242424 | 0.257576 | 0.19171 | 0.264103 | 0.251852 | 0.226891 | 0.245033 | 0.229358 | 0.300926 | 0.254902 | 0.240506 | 0.26009 | 0.244275 | 0.256198 | 0.231481 | 0.269939 | 0.267857 | 0.271845 | 0.260684 | 0.31 | 0.300128 | 0.263006 | 0.242458 | 0.248366 | 0.266881 | 0.259259 | 0.258865 | 0.250978 | 0.224265 | 0.267974 | 0.327273 | 0.232653 | 0.228856 | 0.27 | 0.271084 | 0.321637 |
Quokka_590m | 0.18686 | 0.287891 | 0.253568 | 0.21 | 0.251852 | 0.197368 | 0.22 | 0.233962 | 0.270833 | 0.22 | 0.34 | 0.22 | 0.231214 | 0.215686 | 0.26 | 0.285106 | 0.254386 | 0.289655 | 0.214286 | 0.18254 | 0.28 | 0.2 | 0.241379 | 0.32 | 0.321212 | 0.287879 | 0.300518 | 0.228205 | 0.274074 | 0.172269 | 0.192053 | 0.288073 | 0.458333 | 0.240196 | 0.219409 | 0.331839 | 0.236641 | 0.280992 | 0.240741 | 0.288344 | 0.25 | 0.213592 | 0.290598 | 0.28 | 0.260536 | 0.225434 | 0.242458 | 0.20915 | 0.237942 | 0.237654 | 0.237589 | 0.22425 | 0.378676 | 0.259804 | 0.218182 | 0.167347 | 0.218905 | 0.3 | 0.174699 | 0.327485 |
chopt-1_3b | 0.290956 | 0.429894 | 0.253505 | 0.23 | 0.311111 | 0.210526 | 0.25 | 0.249057 | 0.263889 | 0.19 | 0.36 | 0.21 | 0.231214 | 0.205882 | 0.25 | 0.2 | 0.289474 | 0.262069 | 0.269841 | 0.238095 | 0.31 | 0.245161 | 0.231527 | 0.29 | 0.290909 | 0.222222 | 0.227979 | 0.258974 | 0.214815 | 0.189076 | 0.271523 | 0.321101 | 0.277778 | 0.220588 | 0.240506 | 0.237668 | 0.274809 | 0.31405 | 0.203704 | 0.220859 | 0.196429 | 0.378641 | 0.247863 | 0.27 | 0.252874 | 0.271676 | 0.268156 | 0.232026 | 0.234727 | 0.259259 | 0.269504 | 0.27575 | 0.183824 | 0.267974 | 0.309091 | 0.179592 | 0.248756 | 0.35 | 0.246988 | 0.222222 |
mamba-gpt-3b | 0.374573 | 0.481976 | 0.253465 | 0.27 | 0.222222 | 0.184211 | 0.3 | 0.267925 | 0.236111 | 0.21 | 0.23 | 0.24 | 0.236994 | 0.215686 | 0.25 | 0.319149 | 0.219298 | 0.255172 | 0.224868 | 0.238095 | 0.28 | 0.219355 | 0.256158 | 0.2 | 0.254545 | 0.222222 | 0.238342 | 0.235897 | 0.259259 | 0.218487 | 0.245033 | 0.245872 | 0.25463 | 0.25 | 0.244726 | 0.345291 | 0.198473 | 0.239669 | 0.268519 | 0.214724 | 0.232143 | 0.252427 | 0.290598 | 0.26 | 0.279693 | 0.283237 | 0.244693 | 0.254902 | 0.26045 | 0.253086 | 0.276596 | 0.239244 | 0.382353 | 0.25 | 0.318182 | 0.179592 | 0.258706 | 0.25 | 0.337349 | 0.333333 |
OPT-13B-Erebus | 0.368601 | 0.51673 | 0.253231 | 0.25 | 0.244444 | 0.184211 | 0.17 | 0.25283 | 0.25 | 0.24 | 0.28 | 0.28 | 0.179191 | 0.205882 | 0.26 | 0.280851 | 0.22807 | 0.296552 | 0.28836 | 0.261905 | 0.32 | 0.248387 | 0.241379 | 0.31 | 0.260606 | 0.20202 | 0.222798 | 0.238462 | 0.244444 | 0.226891 | 0.251656 | 0.234862 | 0.185185 | 0.259804 | 0.278481 | 0.264574 | 0.259542 | 0.239669 | 0.259259 | 0.276074 | 0.25 | 0.262136 | 0.260684 | 0.33 | 0.289911 | 0.257225 | 0.242458 | 0.248366 | 0.266881 | 0.262346 | 0.269504 | 0.246415 | 0.213235 | 0.254902 | 0.318182 | 0.163265 | 0.243781 | 0.25 | 0.295181 | 0.333333 |
gpt-neox-122m-minipile-digits | 0.181741 | 0.263792 | 0.253117 | 0.19 | 0.333333 | 0.177632 | 0.2 | 0.218868 | 0.229167 | 0.2 | 0.31 | 0.26 | 0.219653 | 0.235294 | 0.24 | 0.246809 | 0.22807 | 0.255172 | 0.256614 | 0.150794 | 0.3 | 0.267742 | 0.295567 | 0.36 | 0.218182 | 0.247475 | 0.217617 | 0.212821 | 0.27037 | 0.231092 | 0.245033 | 0.220183 | 0.458333 | 0.25 | 0.265823 | 0.206278 | 0.267176 | 0.280992 | 0.259259 | 0.300613 | 0.303571 | 0.174757 | 0.196581 | 0.3 | 0.270754 | 0.245665 | 0.246927 | 0.264706 | 0.18328 | 0.259259 | 0.265957 | 0.245763 | 0.323529 | 0.253268 | 0.245455 | 0.220408 | 0.223881 | 0.36 | 0.313253 | 0.204678 |
alpaca-7b | 0.239761 | 0.253336 | 0.253084 | 0.27 | 0.259259 | 0.177632 | 0.26 | 0.267925 | 0.208333 | 0.25 | 0.22 | 0.2 | 0.184971 | 0.22549 | 0.27 | 0.323404 | 0.263158 | 0.206897 | 0.256614 | 0.269841 | 0.32 | 0.23871 | 0.300493 | 0.29 | 0.278788 | 0.207071 | 0.207254 | 0.228205 | 0.274074 | 0.235294 | 0.211921 | 0.236697 | 0.226852 | 0.259804 | 0.253165 | 0.363229 | 0.236641 | 0.305785 | 0.296296 | 0.220859 | 0.267857 | 0.213592 | 0.282051 | 0.27 | 0.292465 | 0.251445 | 0.261453 | 0.238562 | 0.26045 | 0.290123 | 0.251773 | 0.271186 | 0.180147 | 0.263072 | 0.309091 | 0.24898 | 0.218905 | 0.22 | 0.325301 | 0.204678 |
fairseq-dense-355M | 0.223549 | 0.373531 | 0.253049 | 0.23 | 0.318519 | 0.177632 | 0.24 | 0.241509 | 0.208333 | 0.23 | 0.32 | 0.25 | 0.16185 | 0.27451 | 0.27 | 0.221277 | 0.236842 | 0.213793 | 0.256614 | 0.150794 | 0.17 | 0.241935 | 0.300493 | 0.33 | 0.224242 | 0.176768 | 0.227979 | 0.235897 | 0.266667 | 0.226891 | 0.211921 | 0.297248 | 0.421296 | 0.269608 | 0.303797 | 0.363229 | 0.290076 | 0.264463 | 0.259259 | 0.294479 | 0.241071 | 0.174757 | 0.252137 | 0.3 | 0.245211 | 0.248555 | 0.244693 | 0.248366 | 0.270096 | 0.200617 | 0.234043 | 0.238592 | 0.452206 | 0.25 | 0.2 | 0.163265 | 0.253731 | 0.29 | 0.216867 | 0.321637 |
dlite-v2-124m | 0.202218 | 0.291675 | 0.252897 | 0.2 | 0.214815 | 0.157895 | 0.15 | 0.226415 | 0.222222 | 0.21 | 0.34 | 0.26 | 0.265896 | 0.215686 | 0.17 | 0.259574 | 0.27193 | 0.241379 | 0.253968 | 0.222222 | 0.21 | 0.296774 | 0.29064 | 0.17 | 0.175758 | 0.338384 | 0.295337 | 0.348718 | 0.240741 | 0.348739 | 0.284768 | 0.315596 | 0.449074 | 0.308824 | 0.244726 | 0.242152 | 0.251908 | 0.231405 | 0.185185 | 0.239264 | 0.294643 | 0.223301 | 0.247863 | 0.25 | 0.243934 | 0.193642 | 0.24581 | 0.245098 | 0.202572 | 0.228395 | 0.276596 | 0.250326 | 0.441176 | 0.26634 | 0.2 | 0.253061 | 0.238806 | 0.33 | 0.228916 | 0.204678 |
111m | 0.175768 | 0.267477 | 0.252755 | 0.2 | 0.266667 | 0.164474 | 0.24 | 0.245283 | 0.256944 | 0.21 | 0.18 | 0.26 | 0.248555 | 0.323529 | 0.25 | 0.268085 | 0.245614 | 0.241379 | 0.280423 | 0.15873 | 0.14 | 0.306452 | 0.29064 | 0.28 | 0.242424 | 0.267677 | 0.233161 | 0.25641 | 0.277778 | 0.231092 | 0.278146 | 0.315596 | 0.472222 | 0.245098 | 0.253165 | 0.224215 | 0.274809 | 0.355372 | 0.240741 | 0.300613 | 0.214286 | 0.165049 | 0.205128 | 0.26 | 0.273308 | 0.242775 | 0.242458 | 0.251634 | 0.270096 | 0.225309 | 0.269504 | 0.240548 | 0.367647 | 0.272876 | 0.190909 | 0.297959 | 0.238806 | 0.18 | 0.192771 | 0.280702 |
pythia-70m-deduped | 0.183447 | 0.267975 | 0.252605 | 0.24 | 0.355556 | 0.184211 | 0.23 | 0.233962 | 0.229167 | 0.24 | 0.28 | 0.22 | 0.202312 | 0.22549 | 0.27 | 0.289362 | 0.254386 | 0.206897 | 0.253968 | 0.206349 | 0.17 | 0.325806 | 0.280788 | 0.22 | 0.242424 | 0.222222 | 0.352332 | 0.284615 | 0.251852 | 0.231092 | 0.205298 | 0.240367 | 0.458333 | 0.259804 | 0.2827 | 0.255605 | 0.290076 | 0.198347 | 0.203704 | 0.251534 | 0.178571 | 0.184466 | 0.200855 | 0.34 | 0.237548 | 0.265896 | 0.267039 | 0.264706 | 0.196141 | 0.234568 | 0.258865 | 0.239244 | 0.415441 | 0.248366 | 0.218182 | 0.228571 | 0.248756 | 0.32 | 0.192771 | 0.309942 |
MusePy-1-2 | 0.203925 | 0.256722 | 0.252228 | 0.33 | 0.325926 | 0.171053 | 0.19 | 0.218868 | 0.229167 | 0.19 | 0.31 | 0.23 | 0.219653 | 0.215686 | 0.33 | 0.229787 | 0.245614 | 0.262069 | 0.253968 | 0.166667 | 0.28 | 0.267742 | 0.295567 | 0.26 | 0.242424 | 0.292929 | 0.227979 | 0.233333 | 0.277778 | 0.256303 | 0.278146 | 0.231193 | 0.430556 | 0.245098 | 0.265823 | 0.224215 | 0.244275 | 0.338843 | 0.231481 | 0.269939 | 0.232143 | 0.184466 | 0.192308 | 0.31 | 0.279693 | 0.234104 | 0.226816 | 0.254902 | 0.282958 | 0.256173 | 0.27305 | 0.229465 | 0.261029 | 0.235294 | 0.190909 | 0.236735 | 0.233831 | 0.33 | 0.198795 | 0.222222 |
open-calm-7b | 0.177474 | 0.286397 | 0.252209 | 0.26 | 0.274074 | 0.223684 | 0.2 | 0.271698 | 0.236111 | 0.2 | 0.18 | 0.24 | 0.300578 | 0.186275 | 0.27 | 0.289362 | 0.192982 | 0.241379 | 0.256614 | 0.206349 | 0.32 | 0.309677 | 0.285714 | 0.25 | 0.266667 | 0.338384 | 0.352332 | 0.274359 | 0.259259 | 0.260504 | 0.18543 | 0.282569 | 0.217593 | 0.254902 | 0.274262 | 0.255605 | 0.236641 | 0.280992 | 0.25 | 0.251534 | 0.169643 | 0.291262 | 0.213675 | 0.23 | 0.261814 | 0.248555 | 0.246927 | 0.254902 | 0.29582 | 0.228395 | 0.241135 | 0.238592 | 0.242647 | 0.25 | 0.254545 | 0.285714 | 0.308458 | 0.18 | 0.240964 | 0.25731 |
dolly-v2-7b | 0.409556 | 0.527385 | 0.251839 | 0.26 | 0.259259 | 0.184211 | 0.26 | 0.25283 | 0.229167 | 0.2 | 0.24 | 0.24 | 0.213873 | 0.22549 | 0.25 | 0.323404 | 0.245614 | 0.275862 | 0.251323 | 0.198413 | 0.31 | 0.245161 | 0.285714 | 0.22 | 0.242424 | 0.207071 | 0.222798 | 0.233333 | 0.251852 | 0.226891 | 0.225166 | 0.229358 | 0.185185 | 0.27451 | 0.299578 | 0.38565 | 0.229008 | 0.272727 | 0.296296 | 0.239264 | 0.3125 | 0.262136 | 0.25641 | 0.26 | 0.295019 | 0.245665 | 0.241341 | 0.232026 | 0.273312 | 0.265432 | 0.27305 | 0.235984 | 0.191176 | 0.264706 | 0.336364 | 0.171429 | 0.248756 | 0.21 | 0.313253 | 0.274854 |
xglm-564M | 0.197952 | 0.305517 | 0.251797 | 0.2 | 0.311111 | 0.177632 | 0.27 | 0.203774 | 0.222222 | 0.2 | 0.15 | 0.23 | 0.213873 | 0.22549 | 0.23 | 0.314894 | 0.27193 | 0.262069 | 0.261905 | 0.142857 | 0.18 | 0.270968 | 0.295567 | 0.34 | 0.266667 | 0.19697 | 0.26943 | 0.212821 | 0.248148 | 0.239496 | 0.198675 | 0.187156 | 0.453704 | 0.289216 | 0.240506 | 0.327354 | 0.259542 | 0.330579 | 0.259259 | 0.276074 | 0.330357 | 0.184466 | 0.290598 | 0.3 | 0.237548 | 0.248555 | 0.242458 | 0.218954 | 0.186495 | 0.216049 | 0.276596 | 0.245763 | 0.444853 | 0.25 | 0.218182 | 0.240816 | 0.243781 | 0.23 | 0.283133 | 0.233918 |
Cerebras-GPT-2.7B | 0.269625 | 0.385481 | 0.251669 | 0.23 | 0.266667 | 0.190789 | 0.22 | 0.215094 | 0.270833 | 0.2 | 0.37 | 0.25 | 0.231214 | 0.176471 | 0.26 | 0.255319 | 0.263158 | 0.241379 | 0.201058 | 0.222222 | 0.18 | 0.245161 | 0.270936 | 0.39 | 0.230303 | 0.222222 | 0.217617 | 0.238462 | 0.27037 | 0.231092 | 0.278146 | 0.233028 | 0.287037 | 0.269608 | 0.257384 | 0.242152 | 0.236641 | 0.239669 | 0.185185 | 0.319018 | 0.339286 | 0.213592 | 0.25641 | 0.22 | 0.266922 | 0.265896 | 0.271508 | 0.271242 | 0.266881 | 0.231481 | 0.265957 | 0.264016 | 0.253676 | 0.263072 | 0.172727 | 0.318367 | 0.253731 | 0.29 | 0.283133 | 0.269006 |
gpt-neo-125m-neurallinguisticpioneers | 0.195392 | 0.285202 | 0.251379 | 0.22 | 0.303704 | 0.177632 | 0.23 | 0.226415 | 0.215278 | 0.23 | 0.28 | 0.3 | 0.202312 | 0.215686 | 0.21 | 0.293617 | 0.245614 | 0.248276 | 0.232804 | 0.166667 | 0.18 | 0.254839 | 0.270936 | 0.3 | 0.260606 | 0.328283 | 0.300518 | 0.258974 | 0.251852 | 0.210084 | 0.205298 | 0.220183 | 0.421296 | 0.269608 | 0.206751 | 0.237668 | 0.259542 | 0.280992 | 0.231481 | 0.306748 | 0.223214 | 0.15534 | 0.252137 | 0.3 | 0.255428 | 0.242775 | 0.244693 | 0.264706 | 0.186495 | 0.240741 | 0.230496 | 0.242503 | 0.411765 | 0.267974 | 0.245455 | 0.387755 | 0.223881 | 0.23 | 0.259036 | 0.210526 |
Cerebras-GPT-2.7B-Alpaca-SP | 0.273891 | 0.38578 | 0.251248 | 0.23 | 0.274074 | 0.236842 | 0.23 | 0.222642 | 0.263889 | 0.18 | 0.35 | 0.27 | 0.231214 | 0.235294 | 0.23 | 0.259574 | 0.201754 | 0.227586 | 0.203704 | 0.18254 | 0.18 | 0.235484 | 0.261084 | 0.29 | 0.230303 | 0.212121 | 0.259067 | 0.205128 | 0.27037 | 0.235294 | 0.258278 | 0.266055 | 0.319444 | 0.279412 | 0.265823 | 0.2287 | 0.229008 | 0.289256 | 0.203704 | 0.288344 | 0.330357 | 0.252427 | 0.273504 | 0.24 | 0.260536 | 0.263006 | 0.252514 | 0.277778 | 0.286174 | 0.234568 | 0.269504 | 0.240548 | 0.286765 | 0.25 | 0.190909 | 0.302041 | 0.253731 | 0.28 | 0.295181 | 0.245614 |
dlite-v1-124m | 0.216724 | 0.292571 | 0.250801 | 0.25 | 0.266667 | 0.184211 | 0.23 | 0.203774 | 0.284722 | 0.21 | 0.35 | 0.23 | 0.254335 | 0.22549 | 0.22 | 0.221277 | 0.210526 | 0.213793 | 0.232804 | 0.18254 | 0.18 | 0.222581 | 0.285714 | 0.32 | 0.218182 | 0.29798 | 0.310881 | 0.289744 | 0.248148 | 0.222689 | 0.251656 | 0.310092 | 0.342593 | 0.240196 | 0.2827 | 0.156951 | 0.244275 | 0.305785 | 0.203704 | 0.282209 | 0.258929 | 0.213592 | 0.277778 | 0.2 | 0.263091 | 0.239884 | 0.242458 | 0.25817 | 0.286174 | 0.256173 | 0.251773 | 0.239244 | 0.378676 | 0.256536 | 0.263636 | 0.232653 | 0.243781 | 0.25 | 0.192771 | 0.304094 |
metharme-1.3b | 0.316553 | 0.429795 | 0.250683 | 0.26 | 0.192593 | 0.164474 | 0.31 | 0.275472 | 0.326389 | 0.22 | 0.31 | 0.26 | 0.190751 | 0.235294 | 0.28 | 0.26383 | 0.210526 | 0.275862 | 0.267196 | 0.206349 | 0.39 | 0.235484 | 0.20197 | 0.21 | 0.181818 | 0.151515 | 0.212435 | 0.238462 | 0.244444 | 0.210084 | 0.271523 | 0.192661 | 0.439815 | 0.264706 | 0.274262 | 0.313901 | 0.21374 | 0.264463 | 0.25 | 0.251534 | 0.303571 | 0.203883 | 0.252137 | 0.29 | 0.250319 | 0.271676 | 0.237989 | 0.251634 | 0.241158 | 0.231481 | 0.276596 | 0.245763 | 0.198529 | 0.256536 | 0.190909 | 0.22449 | 0.233831 | 0.28 | 0.271084 | 0.315789 |
CodeGPT-small-py | 0.197952 | 0.263095 | 0.250491 | 0.23 | 0.325926 | 0.236842 | 0.27 | 0.218868 | 0.222222 | 0.27 | 0.25 | 0.26 | 0.254335 | 0.235294 | 0.22 | 0.212766 | 0.236842 | 0.275862 | 0.240741 | 0.190476 | 0.16 | 0.306452 | 0.231527 | 0.21 | 0.230303 | 0.257576 | 0.248705 | 0.217949 | 0.274074 | 0.256303 | 0.344371 | 0.247706 | 0.449074 | 0.22549 | 0.244726 | 0.26009 | 0.244275 | 0.198347 | 0.25 | 0.233129 | 0.241071 | 0.223301 | 0.200855 | 0.33 | 0.279693 | 0.190751 | 0.267039 | 0.284314 | 0.237942 | 0.231481 | 0.223404 | 0.245763 | 0.330882 | 0.251634 | 0.281818 | 0.281633 | 0.228856 | 0.31 | 0.186747 | 0.210526 |
dolly-v2-3b | 0.355802 | 0.489146 | 0.250463 | 0.29 | 0.259259 | 0.197368 | 0.2 | 0.267925 | 0.256944 | 0.21 | 0.18 | 0.22 | 0.208092 | 0.196078 | 0.29 | 0.297872 | 0.280702 | 0.303448 | 0.26455 | 0.18254 | 0.3 | 0.277419 | 0.246305 | 0.22 | 0.236364 | 0.217172 | 0.212435 | 0.225641 | 0.251852 | 0.222689 | 0.251656 | 0.255046 | 0.240741 | 0.259804 | 0.2827 | 0.32287 | 0.221374 | 0.264463 | 0.277778 | 0.263804 | 0.294643 | 0.31068 | 0.264957 | 0.22 | 0.264368 | 0.274566 | 0.234637 | 0.24183 | 0.273312 | 0.265432 | 0.251773 | 0.255541 | 0.180147 | 0.259804 | 0.309091 | 0.171429 | 0.233831 | 0.21 | 0.307229 | 0.298246 |
DiscordPy | 0.196246 | 0.2619 | 0.250372 | 0.22 | 0.259259 | 0.171053 | 0.2 | 0.222642 | 0.243056 | 0.22 | 0.28 | 0.25 | 0.208092 | 0.235294 | 0.19 | 0.242553 | 0.245614 | 0.241379 | 0.216931 | 0.269841 | 0.18 | 0.316129 | 0.295567 | 0.19 | 0.315152 | 0.262626 | 0.238342 | 0.210256 | 0.262963 | 0.352941 | 0.331126 | 0.207339 | 0.472222 | 0.264706 | 0.265823 | 0.264574 | 0.259542 | 0.247934 | 0.25 | 0.245399 | 0.223214 | 0.174757 | 0.196581 | 0.3 | 0.254151 | 0.245665 | 0.250279 | 0.205882 | 0.199357 | 0.216049 | 0.22695 | 0.245763 | 0.441176 | 0.254902 | 0.227273 | 0.232653 | 0.243781 | 0.27 | 0.192771 | 0.321637 |
RedPajama-INCITE-Instruct-3B-v1 | 0.383106 | 0.483171 | 0.250322 | 0.25 | 0.22963 | 0.203947 | 0.31 | 0.241509 | 0.229167 | 0.28 | 0.27 | 0.28 | 0.196532 | 0.186275 | 0.21 | 0.32766 | 0.254386 | 0.193103 | 0.243386 | 0.230159 | 0.34 | 0.222581 | 0.211823 | 0.25 | 0.236364 | 0.191919 | 0.233161 | 0.179487 | 0.259259 | 0.222689 | 0.264901 | 0.218349 | 0.185185 | 0.196078 | 0.274262 | 0.300448 | 0.259542 | 0.297521 | 0.287037 | 0.251534 | 0.285714 | 0.242718 | 0.286325 | 0.25 | 0.242656 | 0.277457 | 0.241341 | 0.251634 | 0.270096 | 0.234568 | 0.262411 | 0.271838 | 0.220588 | 0.253268 | 0.354545 | 0.187755 | 0.233831 | 0.26 | 0.331325 | 0.292398 |
pythia-owt2-70m-100k | 0.174915 | 0.269169 | 0.250225 | 0.21 | 0.274074 | 0.197368 | 0.24 | 0.211321 | 0.215278 | 0.24 | 0.24 | 0.21 | 0.208092 | 0.235294 | 0.26 | 0.255319 | 0.245614 | 0.248276 | 0.251323 | 0.206349 | 0.16 | 0.316129 | 0.295567 | 0.21 | 0.248485 | 0.247475 | 0.217617 | 0.241026 | 0.248148 | 0.298319 | 0.350993 | 0.216514 | 0.472222 | 0.235294 | 0.244726 | 0.215247 | 0.244275 | 0.239669 | 0.203704 | 0.239264 | 0.366071 | 0.174757 | 0.196581 | 0.31 | 0.252874 | 0.239884 | 0.237989 | 0.25817 | 0.241158 | 0.268519 | 0.258865 | 0.24837 | 0.455882 | 0.27451 | 0.190909 | 0.240816 | 0.218905 | 0.26 | 0.26506 | 0.210526 |
h2ogpt-gm-oasst1-en-2048-open-llama-7b-preview-300bt-v2 | 0.337031 | 0.467935 | 0.250147 | 0.26 | 0.214815 | 0.184211 | 0.33 | 0.245283 | 0.236111 | 0.21 | 0.23 | 0.25 | 0.202312 | 0.22549 | 0.26 | 0.32766 | 0.263158 | 0.186207 | 0.261905 | 0.222222 | 0.33 | 0.219355 | 0.26601 | 0.24 | 0.175758 | 0.212121 | 0.196891 | 0.212821 | 0.225926 | 0.218487 | 0.231788 | 0.216514 | 0.166667 | 0.279412 | 0.248945 | 0.363229 | 0.244275 | 0.330579 | 0.287037 | 0.202454 | 0.321429 | 0.23301 | 0.286325 | 0.26 | 0.251596 | 0.251445 | 0.246927 | 0.245098 | 0.276527 | 0.287037 | 0.237589 | 0.24837 | 0.216912 | 0.267974 | 0.318182 | 0.183673 | 0.253731 | 0.26 | 0.313253 | 0.321637 |
stablelm-7b-sft-v7-epoch-3 | 0.321672 | 0.429496 | 0.250061 | 0.22 | 0.22963 | 0.269737 | 0.23 | 0.245283 | 0.173611 | 0.24 | 0.26 | 0.27 | 0.196532 | 0.205882 | 0.32 | 0.276596 | 0.22807 | 0.317241 | 0.280423 | 0.269841 | 0.27 | 0.241935 | 0.241379 | 0.15 | 0.272727 | 0.232323 | 0.217617 | 0.258974 | 0.237037 | 0.239496 | 0.264901 | 0.218349 | 0.291667 | 0.245098 | 0.2827 | 0.255605 | 0.236641 | 0.247934 | 0.314815 | 0.245399 | 0.232143 | 0.291262 | 0.226496 | 0.39 | 0.263091 | 0.254335 | 0.242458 | 0.281046 | 0.250804 | 0.259259 | 0.212766 | 0.245111 | 0.220588 | 0.243464 | 0.281818 | 0.183673 | 0.19403 | 0.25 | 0.253012 | 0.280702 |
stablelm-7b-sft-v7-epoch-3 | 0.321672 | 0.429496 | 0.250061 | 0.22 | 0.22963 | 0.269737 | 0.23 | 0.245283 | 0.173611 | 0.24 | 0.26 | 0.27 | 0.196532 | 0.205882 | 0.32 | 0.276596 | 0.22807 | 0.317241 | 0.280423 | 0.269841 | 0.27 | 0.241935 | 0.241379 | 0.15 | 0.272727 | 0.232323 | 0.217617 | 0.258974 | 0.237037 | 0.239496 | 0.264901 | 0.218349 | 0.291667 | 0.245098 | 0.2827 | 0.255605 | 0.236641 | 0.247934 | 0.314815 | 0.245399 | 0.232143 | 0.291262 | 0.226496 | 0.39 | 0.263091 | 0.254335 | 0.242458 | 0.281046 | 0.250804 | 0.259259 | 0.212766 | 0.245111 | 0.220588 | 0.243464 | 0.281818 | 0.183673 | 0.19403 | 0.25 | 0.253012 | 0.280702 |
gpt-neox-20b | 0.426621 | 0.541625 | 0.250026 | 0.22 | 0.237037 | 0.230263 | 0.33 | 0.222642 | 0.25 | 0.22 | 0.32 | 0.22 | 0.219653 | 0.22549 | 0.22 | 0.361702 | 0.263158 | 0.206897 | 0.259259 | 0.230159 | 0.3 | 0.206452 | 0.147783 | 0.27 | 0.212121 | 0.186869 | 0.227979 | 0.2 | 0.22963 | 0.218487 | 0.245033 | 0.214679 | 0.175926 | 0.294118 | 0.265823 | 0.349776 | 0.251908 | 0.272727 | 0.277778 | 0.239264 | 0.25 | 0.242718 | 0.286325 | 0.31 | 0.265645 | 0.263006 | 0.244693 | 0.27451 | 0.276527 | 0.259259 | 0.258865 | 0.238592 | 0.191176 | 0.259804 | 0.254545 | 0.204082 | 0.288557 | 0.22 | 0.307229 | 0.333333 |
LaMini-GPT-124M | 0.198805 | 0.290082 | 0.249945 | 0.25 | 0.333333 | 0.203947 | 0.17 | 0.226415 | 0.222222 | 0.19 | 0.25 | 0.26 | 0.184971 | 0.235294 | 0.17 | 0.268085 | 0.236842 | 0.172414 | 0.259259 | 0.15873 | 0.24 | 0.325806 | 0.29064 | 0.25 | 0.254545 | 0.333333 | 0.316062 | 0.264103 | 0.259259 | 0.210084 | 0.258278 | 0.277064 | 0.421296 | 0.230392 | 0.244726 | 0.372197 | 0.229008 | 0.256198 | 0.222222 | 0.282209 | 0.214286 | 0.213592 | 0.192308 | 0.27 | 0.264368 | 0.231214 | 0.242458 | 0.264706 | 0.286174 | 0.268519 | 0.255319 | 0.249022 | 0.433824 | 0.256536 | 0.218182 | 0.167347 | 0.238806 | 0.26 | 0.180723 | 0.210526 |
TinyStories-3M | 0.19198 | 0.257518 | 0.2499 | 0.25 | 0.355556 | 0.210526 | 0.23 | 0.264151 | 0.256944 | 0.16 | 0.26 | 0.25 | 0.231214 | 0.27451 | 0.26 | 0.314894 | 0.254386 | 0.324138 | 0.259259 | 0.214286 | 0.31 | 0.264516 | 0.256158 | 0.33 | 0.218182 | 0.212121 | 0.196891 | 0.220513 | 0.240741 | 0.226891 | 0.211921 | 0.218349 | 0.152778 | 0.27451 | 0.240506 | 0.318386 | 0.251908 | 0.239669 | 0.212963 | 0.239264 | 0.321429 | 0.281553 | 0.277778 | 0.27 | 0.278416 | 0.225434 | 0.232402 | 0.212418 | 0.257235 | 0.246914 | 0.297872 | 0.236636 | 0.202206 | 0.253268 | 0.336364 | 0.187755 | 0.218905 | 0.22 | 0.271084 | 0.210526 |
gpt_bigcode-santacoder | 0.177474 | 0.282912 | 0.249652 | 0.27 | 0.22963 | 0.210526 | 0.26 | 0.264151 | 0.229167 | 0.34 | 0.24 | 0.28 | 0.208092 | 0.186275 | 0.25 | 0.319149 | 0.236842 | 0.234483 | 0.267196 | 0.246032 | 0.18 | 0.241935 | 0.261084 | 0.23 | 0.260606 | 0.176768 | 0.227979 | 0.264103 | 0.222222 | 0.214286 | 0.264901 | 0.207339 | 0.282407 | 0.264706 | 0.257384 | 0.318386 | 0.29771 | 0.239669 | 0.194444 | 0.208589 | 0.285714 | 0.291262 | 0.239316 | 0.27 | 0.242656 | 0.216763 | 0.242458 | 0.20915 | 0.231511 | 0.228395 | 0.216312 | 0.237288 | 0.3125 | 0.27451 | 0.318182 | 0.2 | 0.238806 | 0.29 | 0.295181 | 0.304094 |
pythia-160m | 0.190273 | 0.287493 | 0.249506 | 0.22 | 0.251852 | 0.177632 | 0.31 | 0.203774 | 0.243056 | 0.2 | 0.3 | 0.26 | 0.236994 | 0.215686 | 0.18 | 0.268085 | 0.245614 | 0.248276 | 0.251323 | 0.198413 | 0.18 | 0.312903 | 0.270936 | 0.2 | 0.248485 | 0.232323 | 0.243523 | 0.246154 | 0.251852 | 0.273109 | 0.271523 | 0.223853 | 0.476852 | 0.259804 | 0.295359 | 0.309417 | 0.236641 | 0.22314 | 0.277778 | 0.208589 | 0.1875 | 0.194175 | 0.183761 | 0.32 | 0.252874 | 0.263006 | 0.277095 | 0.235294 | 0.189711 | 0.259259 | 0.280142 | 0.237288 | 0.448529 | 0.251634 | 0.254545 | 0.244898 | 0.243781 | 0.26 | 0.180723 | 0.204678 |
dlite-v2-1_5b | 0.298635 | 0.42153 | 0.249306 | 0.24 | 0.237037 | 0.177632 | 0.28 | 0.275472 | 0.284722 | 0.24 | 0.2 | 0.3 | 0.346821 | 0.205882 | 0.3 | 0.310638 | 0.184211 | 0.2 | 0.227513 | 0.333333 | 0.3 | 0.229032 | 0.211823 | 0.2 | 0.242424 | 0.207071 | 0.212435 | 0.261538 | 0.244444 | 0.197479 | 0.205298 | 0.288073 | 0.263889 | 0.245098 | 0.253165 | 0.2287 | 0.206107 | 0.206612 | 0.277778 | 0.245399 | 0.267857 | 0.31068 | 0.299145 | 0.24 | 0.265645 | 0.234104 | 0.242458 | 0.20915 | 0.189711 | 0.246914 | 0.244681 | 0.242503 | 0.242647 | 0.248366 | 0.363636 | 0.171429 | 0.238806 | 0.2 | 0.361446 | 0.321637 |
h2ogpt-oig-oasst1-512-6_9b | 0.372867 | 0.483967 | 0.249021 | 0.21 | 0.355556 | 0.217105 | 0.2 | 0.271698 | 0.236111 | 0.17 | 0.3 | 0.22 | 0.16763 | 0.196078 | 0.21 | 0.306383 | 0.245614 | 0.282759 | 0.240741 | 0.214286 | 0.19 | 0.258065 | 0.197044 | 0.28 | 0.230303 | 0.217172 | 0.233161 | 0.207692 | 0.251852 | 0.247899 | 0.291391 | 0.216514 | 0.356481 | 0.318627 | 0.232068 | 0.282511 | 0.175573 | 0.330579 | 0.277778 | 0.269939 | 0.276786 | 0.271845 | 0.222222 | 0.22 | 0.273308 | 0.268786 | 0.263687 | 0.261438 | 0.247588 | 0.234568 | 0.248227 | 0.239896 | 0.227941 | 0.25 | 0.354545 | 0.236735 | 0.238806 | 0.21 | 0.240964 | 0.298246 |
OPT-13B-Nerybus-Mix | 0.366041 | 0.522705 | 0.249007 | 0.25 | 0.244444 | 0.184211 | 0.17 | 0.237736 | 0.229167 | 0.22 | 0.23 | 0.27 | 0.190751 | 0.186275 | 0.25 | 0.259574 | 0.210526 | 0.317241 | 0.283069 | 0.253968 | 0.33 | 0.254839 | 0.261084 | 0.27 | 0.260606 | 0.232323 | 0.207254 | 0.241026 | 0.222222 | 0.218487 | 0.225166 | 0.233028 | 0.208333 | 0.259804 | 0.265823 | 0.255605 | 0.236641 | 0.231405 | 0.25 | 0.282209 | 0.25 | 0.252427 | 0.269231 | 0.32 | 0.291188 | 0.271676 | 0.242458 | 0.251634 | 0.270096 | 0.268519 | 0.255319 | 0.249022 | 0.213235 | 0.248366 | 0.3 | 0.17551 | 0.253731 | 0.25 | 0.283133 | 0.345029 |