diff --git a/AIR-Bench_24.05/BM25/NoReranker/results_20241201072642-852601419fd9397dc0a7173ccfc3ce68.json b/AIR-Bench_24.05/BM25/NoReranker/results_20241201072642-852601419fd9397dc0a7173ccfc3ce68.json new file mode 100644 index 0000000000000000000000000000000000000000..4cae794bf5d9ab41732d5842847296ab722631dd --- /dev/null +++ b/AIR-Bench_24.05/BM25/NoReranker/results_20241201072642-852601419fd9397dc0a7173ccfc3ce68.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13343 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19778 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12735 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44902 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37693 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.15169 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31017 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37554 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35307 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49115 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28932 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40705 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41147 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42953 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26402 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3676 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33163 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.214 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37552 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49549 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30169 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39117 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23961 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30638 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.56512 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37277 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45535 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59706 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53043 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55863 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.44075 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56634 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59829 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58929 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58647 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30758 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46237 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49211 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40849 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35932 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51511 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44591 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50221 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44978 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46142 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47254 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50209 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47209 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45875 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12036 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17708 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11163 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40285 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36643 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13994 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26879 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32106 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31843 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43282 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25482 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35376 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37354 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38021 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26084 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31228 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28777 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.31104 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18059 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3045 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46106 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27715 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41187 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21546 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31326 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5923 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.56285 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3549 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41664 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.54777 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53303 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54396 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.46027 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40226 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52833 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57436 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.52109 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52002 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29216 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39354 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44297 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39065 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.32322 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37491 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47493 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40185 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46798 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40075 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42046 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44556 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45001 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44132 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40723 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12201 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18003 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11164 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39707 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37297 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.14036 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25512 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30706 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31165 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41663 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24057 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33705 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36308 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37094 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27074 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30456 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27298 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32005 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.17037 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29884 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46594 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26715 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.42841 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21066 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32834 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60731 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58006 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37258 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41756 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55139 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.55072 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55213 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45912 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41109 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53673 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58903 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.52857 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52144 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30365 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.37991 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44428 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39396 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.31729 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37511 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47633 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40276 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46387 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.39891 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4237 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4519 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44544 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4504 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4092 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13165 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19505 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12328 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41198 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39716 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.15221 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26537 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31927 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33087 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42818 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.2495 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.34791 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38118 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38516 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29327 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3167 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28025 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.34837 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18097 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.31253 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.50025 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27628 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4513 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.22433 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3578 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62714 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60269 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4024 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43664 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5781 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57238 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.58142 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.48022 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56425 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61202 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53987 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3318 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39781 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46615 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4146 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.33688 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39147 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50696 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42521 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48797 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42613 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.44731 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47415 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46139 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4747 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42921 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16703 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23646 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16121 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47595 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45869 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1887 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3314 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38839 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39367 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51718 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32958 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43125 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4546 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44059 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3211 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38419 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35455 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39868 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.25432 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35539 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56349 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34762 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48981 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28157 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40377 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66079 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63252 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.44627 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48014 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62062 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61269 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62675 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52604 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49527 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60826 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64503 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5997 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58083 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39494 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46104 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52436 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4631 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39161 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45284 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57292 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4833 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55425 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49795 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49513 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53028 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5155 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53706 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4893 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18106 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2502 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17487 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49481 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47334 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20211 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35436 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41062 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41307 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53821 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35575 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.45421 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4749 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45742 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32708 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40506 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3753 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41331 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27907 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37049 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57421 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37232 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49925 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29945 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41976 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66976 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64061 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.45705 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49268 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62926 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62161 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63641 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5386 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.50978 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61882 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.611 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59053 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41038 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47875 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54082 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47686 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40689 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46927 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58725 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49951 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5715 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51653 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50896 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54346 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52857 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55238 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50476 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22016 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28643 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52824 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49933 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23964 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40324 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4541 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45406 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57468 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40942 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49689 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51092 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.48799 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34026 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44798 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42102 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44184 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33844 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.40628 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59073 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42223 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.517 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34068 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44869 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68569 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65401 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4788 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6474 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.638 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65314 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56068 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53616 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63788 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66534 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63129 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.44147 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.51366 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56914 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50303 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43804 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50412 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60772 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52949 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60079 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54612 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53552 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5688 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5566 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57543 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53488 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.04868 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09537 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04203 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.18978 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.17548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.04601 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.09322 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.12685 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.143 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.14102 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07536 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.11825 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.13913 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17547 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15589 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.12739 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.08851 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.14133 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04611 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.17142 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.22853 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.08245 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.2497 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.07077 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.16525 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.40754 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.3358 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.20311 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.24754 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.32123 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.34023 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.3075 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.25955 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.2003 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.31477 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.38361 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32814 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.31873 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.13677 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17751 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.23679 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.21791 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.14952 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19192 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.24672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.21754 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22691 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.17979 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.23358 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.23942 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24851 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2347 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21418 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12953 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06745 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26605 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.25907 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.07845 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14693 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18296 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.20486 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.23467 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12506 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19153 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.21988 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.25466 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21427 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.18274 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.14669 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22602 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07884 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.21427 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33347 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14157 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3473 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11627 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.25663 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.51957 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47773 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27939 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.31843 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.43595 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.45509 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.42919 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34446 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.2932 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.42636 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49885 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4185 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41805 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20436 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25045 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.32434 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29548 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21748 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26397 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3477 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29149 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.32606 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26407 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.31921 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33823 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.32886 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33073 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29062 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08465 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14236 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07682 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.29638 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2929 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.09265 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16638 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.20462 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22692 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27842 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14593 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22239 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25595 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28294 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.22958 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20658 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17063 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25128 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.09376 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.22952 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37247 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.17036 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.37493 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13741 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28127 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.54572 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.51401 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.30283 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33839 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46673 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.48361 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.46392 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37146 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32619 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.45813 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.52427 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.44785 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.44178 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.23036 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.27632 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.35523 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32024 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23844 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29179 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3815 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.31878 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36435 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.29837 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34984 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36878 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35579 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36463 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32092 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09678 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15544 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08637 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32824 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32733 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.10706 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.18942 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.23129 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25271 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.32613 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.17017 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.25767 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29286 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31221 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24417 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23114 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.19576 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27254 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11067 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24288 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41187 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2009 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39681 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.15938 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30404 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.56244 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.53574 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.32339 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.35729 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49258 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5013 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.49463 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.395 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.35391 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48396 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.54183 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.47397 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46091 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.25265 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.30308 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.38188 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.34327 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26042 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.31325 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41719 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.34644 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.40085 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33416 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37593 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.3939 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3799 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39239 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34741 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17022 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09811 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3553 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.3548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1203 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21558 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.2591 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.27658 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37056 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20229 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.29463 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32634 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33558 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25335 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.25737 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22455 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29024 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13521 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25662 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44151 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.22883 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41181 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18136 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32072 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57478 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54655 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3384 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37387 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51068 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51683 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5151 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41313 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.37619 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50198 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55429 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4903 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47732 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27649 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.3279 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40548 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36255 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.28167 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.33676 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44628 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36973 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43131 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36527 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.39443 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41609 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4022 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.41835 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.37209 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11139 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17223 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10019 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35883 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35723 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12234 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.2195 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26311 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28005 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3751 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20719 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.29923 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.33016 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33848 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25419 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.26122 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22832 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29234 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13953 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25876 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44349 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.23357 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41315 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18427 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32275 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57619 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54774 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.33987 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37588 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51222 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51819 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.51683 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.4153 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.37851 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50379 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55535 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49208 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47892 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2791 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33112 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40835 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36475 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.28411 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.33962 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44884 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37279 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43452 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36877 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.39658 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41833 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40465 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4211 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.37489 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11346 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17396 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10208 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.36131 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35889 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12431 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.22295 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26631 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28286 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37825 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21122 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30264 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.33289 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.34061 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25482 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.26446 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23169 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29404 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.14388 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26084 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44457 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.23739 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18672 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32427 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57716 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54854 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.34105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37756 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51336 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51927 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.518 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41677 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38013 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50506 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55619 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49339 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48028 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.28102 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33374 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41052 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36628 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.286 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.34191 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45034 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37471 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43674 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37101 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.39824 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42006 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4066 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42265 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.37697 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.04868 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09537 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04203 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.18978 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.17548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.04601 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.09322 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.12685 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.143 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.14102 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07536 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.11825 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.13913 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17547 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15589 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.12739 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.08851 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.14133 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04611 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.17142 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.22853 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.08245 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.2497 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.07077 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.16525 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.40754 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.3358 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.20311 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.24754 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.32123 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.34023 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.3075 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.25955 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.2003 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.31477 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.38361 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32814 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.31873 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.13677 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17751 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.23679 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.21791 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.14952 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19192 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.24672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.21754 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22691 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.17979 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.23358 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.23942 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24851 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2347 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21418 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08713 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14824 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08024 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.29977 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29549 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.09835 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16973 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21296 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23476 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2611 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14757 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.21483 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.24937 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.27915 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25173 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2071 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27159 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.09961 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24022 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38115 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.16419 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.401 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14081 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30035 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58078 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.53915 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.33671 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.36928 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.48923 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52241 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.49751 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.38591 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33944 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.47594 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55849 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.46243 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.45995 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24995 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28336 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.35902 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.33712 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.25451 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30448 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.39362 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32343 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36271 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.30007 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35493 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.38566 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36322 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37638 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32416 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11178 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17644 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10495 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.356 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35841 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12923 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.2098 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25858 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28292 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33256 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.18823 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26927 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32735 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29347 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2598 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22117 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33057 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13381 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.27621 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45923 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21203 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46067 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.1834 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3531 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64015 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61034 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.40148 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41595 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55002 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5879 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56716 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44175 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40774 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54234 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61599 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.52521 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51329 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3129 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33703 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42341 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38771 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.29767 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3601 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45955 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38007 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3681 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4164 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45045 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41721 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44858 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38955 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14775 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2207 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13993 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4349 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44365 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.17417 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27487 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33325 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35785 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43647 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25521 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35427 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40215 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39876 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35375 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33353 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28998 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40518 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1912 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.32757 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56471 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28795 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52365 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24139 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42431 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69502 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67237 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47659 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47923 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62593 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64651 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65141 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51433 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49222 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6199 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67586 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60694 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56906 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3916 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41693 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5032 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46069 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.37037 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42511 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46148 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52328 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46407 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49063 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52262 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.48448 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52932 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46563 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34507 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24696 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60478 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61799 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27512 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44601 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50869 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52816 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65397 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4526 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5611 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58942 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54568 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44862 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50687 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55929 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37879 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44978 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74385 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46725 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64789 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39534 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57453 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79677 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76835 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61908 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60723 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75363 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77133 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77955 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64563 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65763 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74712 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77897 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73161 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.687 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57914 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58926 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.66217 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60236 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5235 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60151 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74844 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62316 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69934 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65965 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63027 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68401 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62897 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70978 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62862 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6769 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.49983 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.61913 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.48386 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83294 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.82379 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5193 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.75936 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.79338 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.79505 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.89285 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.78991 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.83547 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.83789 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.75716 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56447 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.78539 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.75902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.79221 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.74322 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69498 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.8864 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.77464 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81516 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.67459 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.83911 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.92439 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.88256 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79269 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79775 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.89177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.89923 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.91043 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81437 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.86441 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.89203 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.88232 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89113 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83375 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82927 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.82563 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8661 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.80348 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7525 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85339 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.92322 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.83889 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.90904 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.8828 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83391 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.86821 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81723 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.89998 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84187 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13343 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19778 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12735 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44902 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37693 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.15169 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31017 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37554 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35307 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49115 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28932 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40705 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41147 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42953 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26402 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3676 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33163 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.214 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37552 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49549 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30169 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39117 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23961 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30638 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.56512 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37277 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45535 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59706 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53043 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55863 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.44075 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56634 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59829 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58929 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58647 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30758 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46237 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49211 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40849 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35932 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51511 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44591 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50221 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44978 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46142 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47254 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50209 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47209 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45875 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09493 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12121 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09069 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.29622 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26548 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.11757 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.22254 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25465 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23884 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36947 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22222 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.29901 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.306 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28437 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1602 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24581 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2446 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23377 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.16244 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.20427 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32963 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24108 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24869 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18375 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21447 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.32397 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.35504 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.22991 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.25953 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35392 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.30942 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.34863 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.30698 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29239 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34032 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.32906 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3228 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29305 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30794 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25647 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23781 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26607 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.33357 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.27583 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.34169 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.30453 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28419 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.3042 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.30587 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.29956 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.28039 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09313 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07366 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.23702 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21749 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.09912 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17822 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.20114 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.18801 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30723 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1824 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.24354 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.24935 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.22359 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11752 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19941 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20015 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.17877 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13693 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.15187 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.25871 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20402 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.18596 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.15402 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.16102 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.22809 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.25716 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.17202 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.19085 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.25691 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.22333 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.25987 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.22892 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.22673 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.2493 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.23006 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.23503 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.23226 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17285 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22721 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2372 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.1981 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.17966 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.20717 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25467 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.21491 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26932 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.24461 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.21574 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.23078 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23184 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.23349 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.22097 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05854 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.06468 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.05318 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.16132 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.15302 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.07172 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12758 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14292 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.13235 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.22161 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.13456 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.17547 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.17656 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1526 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.07455 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.13957 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.14231 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.11552 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1024 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0975 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.17432 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.15012 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.11554 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11018 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.10502 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.13188 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.15058 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.1096 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.11978 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.15662 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.13152 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.1646 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.14367 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.1453 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.15405 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.13426 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.14622 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.13985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.11646 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.15318 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.1547 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.12818 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.12175 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.13318 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.17077 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.14452 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.18149 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.1695 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.13843 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.14702 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.14888 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.15134 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.14788 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02178 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02287 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02122 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05087 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.04704 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02449 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.04562 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05003 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.04435 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07267 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.0524 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.06164 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.05689 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.04647 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01984 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.0483 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05149 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03426 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04341 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03069 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05003 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.05339 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03077 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03789 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03028 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03388 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03605 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03049 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03463 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04085 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03528 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04421 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04015 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04211 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04134 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03385 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.03886 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.03792 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.03791 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.04784 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.04688 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.03739 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03877 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04212 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.04994 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.04455 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05469 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.0535 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.03921 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04365 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04487 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.04608 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00227 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00208 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00376 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00236 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00402 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00364 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00503 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00462 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.0047 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00411 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0034 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00126 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00394 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00429 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00243 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00421 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00297 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00461 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0019 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00316 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00215 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00215 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00215 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00209 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.0025 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.0027 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00286 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00265 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00207 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00252 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00248 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00357 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00329 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00263 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00286 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00312 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00376 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00367 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0027 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00297 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00314 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00299 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00327 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13343 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19778 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12735 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44902 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37693 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.15169 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31017 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37554 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35307 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49115 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28932 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40774 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41147 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42953 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26402 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3676 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33163 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.214 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37552 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49549 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30169 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39117 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2403 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30638 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.56512 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37277 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45535 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59706 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53043 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55863 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.44075 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56634 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59829 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58929 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58647 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30758 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46237 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49211 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40849 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35932 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51511 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44591 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50221 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44978 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47254 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50279 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47209 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45875 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16535 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22982 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15859 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51603 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44118 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19219 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36808 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44945 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41932 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56256 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35991 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47282 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.48694 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47985 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30601 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42986 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40259 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40276 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27589 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42159 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56731 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36417 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45623 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29721 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36312 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66421 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63833 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.453 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53284 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67328 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60942 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65161 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59187 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51842 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63559 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66512 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6527 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65026 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38532 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5316 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55822 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47438 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4239 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47795 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58878 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57412 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51969 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51362 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54537 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56797 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54055 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51671 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.174 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23707 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16919 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52995 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45402 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2025 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38398 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46279 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43534 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5772 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37484 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48612 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.49978 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49238 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3168 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44868 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41616 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41689 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29252 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.43313 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57991 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37741 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46526 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31158 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37159 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6745 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64755 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4684 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5441 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68178 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62025 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66141 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60384 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53053 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64732 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67413 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66348 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66082 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.40034 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54531 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57243 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48759 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43467 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48995 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60076 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51987 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58606 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5341 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52466 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55949 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58009 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55416 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53394 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18009 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24374 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17706 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5375 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46343 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21044 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3941 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47207 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44582 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5872 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38663 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49609 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50955 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50094 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32488 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45966 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42558 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30516 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44298 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39054 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46993 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32108 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37801 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6796 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65192 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47571 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55141 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68817 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62682 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66762 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61116 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53766 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65394 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67981 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66993 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.665 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4103 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55445 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58159 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49633 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44517 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49763 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60944 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52899 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59471 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54396 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53246 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5675 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58776 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56329 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54225 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25003 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18328 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54308 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46906 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2163 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40188 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47899 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45337 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59252 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3952 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.50379 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51565 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50623 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32895 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46744 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43358 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43153 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31505 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44922 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59201 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39913 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4749 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32918 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38403 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68365 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65569 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48225 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55658 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.69131 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63117 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67006 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61572 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54313 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65775 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68296 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67385 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66879 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41631 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56067 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58685 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50175 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45152 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50435 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61461 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53475 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59991 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55014 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53813 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57295 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59242 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5688 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.5477 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18684 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25076 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18406 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54359 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46966 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21712 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40263 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47973 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45406 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59293 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39606 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5044 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51613 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.507 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32924 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46796 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43434 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4322 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31591 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44988 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59225 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47541 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33001 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38501 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68396 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65599 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48289 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55709 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.69153 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63154 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67031 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.6161 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54372 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65808 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68319 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67421 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6691 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41684 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56113 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58732 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50232 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45222 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5049 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61503 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53528 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60037 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55061 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53869 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57339 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59281 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56921 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54823 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18762 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25144 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18473 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54392 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47003 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21786 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40316 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48014 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45447 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59318 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39657 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.50476 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51653 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50737 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32952 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46833 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43262 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31649 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45039 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59248 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40039 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47582 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33064 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38561 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68414 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65618 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48319 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5574 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.69171 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63173 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67051 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61634 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54409 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65828 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68338 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67444 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66931 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4173 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56144 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58754 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50274 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45265 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50533 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61521 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53562 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60063 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53908 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57363 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5931 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56952 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54859 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37237 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45266 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.46479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3306 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.25301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.25519 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.32493 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.34344 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41281 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33274 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44724 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.43728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46224 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.31603 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.37889 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32959 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.33251 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.33813 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.40077 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.32934 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.46592 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56355 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.44081 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.4771 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.32593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.41554 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36752 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34966 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37631 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.43378 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51712 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60215 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47789 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51737 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36203 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44245 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40205 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3899 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.46575 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52639 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.45257 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59107 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.6813 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54675 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57424 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43402 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45568 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46048 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48687 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54217 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60652 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69508 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56175 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59476 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45652 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50067 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47861 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52367 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57119 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50813 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.61802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70753 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.57927 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61677 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49321 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50573 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50417 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.10204 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.13906 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.10032 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.22386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.22223 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.19903 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.25862 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.1423 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.25301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.20697 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.15538 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.19625 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.25285 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20239 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.34004 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.38537 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.32639 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.38472 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22288 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.34873 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.29319 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25519 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.23761 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.29645 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23998 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.37944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.44833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36388 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.41005 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.24947 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.36921 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31671 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.28319 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.28503 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.34768 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.28055 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.41712 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50074 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.39583 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.43554 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.27754 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38011 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.3332 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.30994 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.32562 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38947 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.31564 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44623 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.53999 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42407 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.45563 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.30401 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34605 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3362 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.32911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.39251 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.31927 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44883 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.45884 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3074 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39064 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34784 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.33885 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.33174 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.39458 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.32162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44982 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54433 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42786 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46042 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.3909 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.3487 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34034 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.10204 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.13906 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.10032 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.22386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.22223 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.19903 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.25862 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.1423 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.25301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.20697 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.15538 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.227 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.28025 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.2488 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.41243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.42093 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.37022 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44861 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46586 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38279 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3127 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.30034 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.35202 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.31177 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.49554 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.53023 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.44162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51076 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.33078 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55422 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46538 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37823 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4275 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47122 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42991 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.61782 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65447 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.539 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60213 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63855 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56133 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47761 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67273 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72947 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67023 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.85399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87181 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.77625 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64331 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.83534 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.77844 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.70694 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.95653 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.94457 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.95099 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.98498 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.98517 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.90714 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.99001 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.96293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.96386 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.95302 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.95612 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37237 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45266 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.46479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3306 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.25301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.25519 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.32493 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3033 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.35503 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.29383 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.31925 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46014 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.33135 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.29928 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.23953 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.15529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.16716 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23996 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.25526 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.28521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23699 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.24338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.37554 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.24881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.21774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.19071 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.11084 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.12641 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.18431 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18679 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.20355 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.16994 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.1631 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24973 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.1622 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.13871 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.13005 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.06386 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.07745 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.12465 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06078 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06491 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.05399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.04676 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.06989 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.04821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.03989 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04175 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01671 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02249 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.03849 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00414 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00411 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00367 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00273 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00398 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00293 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00267 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00303 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00096 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0014 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.0025 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37237 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45266 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.46479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3306 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.25301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.25519 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.32493 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44344 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.51282 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42678 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56667 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.67391 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53423 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54659 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42168 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.34873 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34224 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4057 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.45711 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52199 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43531 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57638 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69063 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.56205 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43547 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.36921 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42124 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.46891 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53148 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44784 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.699 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55345 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57286 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44432 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38011 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.37562 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43375 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47572 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53904 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.45569 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70415 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55898 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57905 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45128 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38537 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44136 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47672 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.45652 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59292 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70427 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55963 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57964 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39064 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38638 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:26:42Z", + "is_anonymous": false, + "revision": "852601419fd9397dc0a7173ccfc3ce68" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47717 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54002 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.45686 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5931 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70433 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56001 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57985 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45261 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.3909 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38677 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44257 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/bce-reranker-base_v1/results_20241201072226-56d44486cf554c1ce712f00ea8a01f18.json b/AIR-Bench_24.05/BM25/bce-reranker-base_v1/results_20241201072226-56d44486cf554c1ce712f00ea8a01f18.json new file mode 100644 index 0000000000000000000000000000000000000000..2afbfdbfbb292836f44d89f53790941e9cc1cbf5 --- /dev/null +++ b/AIR-Bench_24.05/BM25/bce-reranker-base_v1/results_20241201072226-56d44486cf554c1ce712f00ea8a01f18.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22597 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35947 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20984 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5235 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57817 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39543 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41977 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47711 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51591 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58481 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50649 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5584 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53774 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47849 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26575 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39668 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52196 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59267 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46295 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55031 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46822 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5489 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51454 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33532 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64466 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74168 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70908 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56458 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65942 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67735 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66792 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6091 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70182 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61966 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61058 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6432 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51841 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56006 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57515 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62445 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61693 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50149 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60084 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55848 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5826 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52483 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56845 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5824 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54859 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19618 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32031 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18418 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47493 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55463 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33738 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35971 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41389 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45285 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50877 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42527 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4891 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47318 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43624 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2808 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.452 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3519 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46957 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5107 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39063 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.52404 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41311 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55046 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44015 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33731 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63347 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71005 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60382 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5091 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59101 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61393 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60942 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5618 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52394 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61454 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59214 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55199 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55982 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46999 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47118 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52572 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58145 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54196 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56524 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51093 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54159 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52037 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49823 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52948 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52822 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52115 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52919 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1906 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32025 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18071 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.46727 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55767 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3166 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34185 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3954 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4395 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48843 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39698 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46448 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4555 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42386 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29741 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43472 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33636 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47618 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46422 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37799 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5293 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3892 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.565 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41542 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.35166 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64518 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60462 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50298 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59695 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62347 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61315 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54769 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5226 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61633 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60671 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56095 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55551 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47928 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45627 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52433 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57369 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.52695 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45891 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57343 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50628 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53837 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51659 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.5041 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53349 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51808 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52909 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.5218 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19702 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3338 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19387 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48625 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57457 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31326 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35642 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40851 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45354 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50272 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39907 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47047 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4753 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44119 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31965 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44397 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34421 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5031 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44575 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38758 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56798 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39163 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58513 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41738 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38372 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66924 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73497 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62224 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62738 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64826 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6408 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56771 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55342 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6406 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63212 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59494 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5793 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50866 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47514 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54928 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58605 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53287 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4873 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60711 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52738 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.56452 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5453 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53266 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56088 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53574 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56223 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54184 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22654 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34709 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22194 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54407 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59706 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32187 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.415 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47082 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49987 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5835 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45742 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53876 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53842 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49245 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34326 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49388 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41112 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52561 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46463 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42214 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61345 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45153 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59662 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43519 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69779 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74257 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63219 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55368 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66444 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6789 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68285 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60406 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59585 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67845 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63263 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61492 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53686 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53422 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59214 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59926 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54884 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53163 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65437 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56723 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62082 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59817 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56854 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60361 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57523 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60949 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58312 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23022 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34929 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22619 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54792 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59865 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32262 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41942 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47432 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.50263 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58962 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4612 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54114 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54249 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49589 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34485 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49619 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4184 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52753 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46563 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.4246 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61851 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4563 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59801 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43743 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43877 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70099 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74387 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6328 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5567 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66648 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68259 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68679 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60737 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59878 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6812 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6651 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63553 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61778 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53848 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53634 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59635 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60059 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.55013 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.534 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65643 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56973 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62434 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60105 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57055 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60631 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57798 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61197 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58528 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23022 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34929 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22619 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54792 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59865 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32262 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41942 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47432 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.50263 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58962 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4612 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54114 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54249 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49589 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34485 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49619 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4184 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52753 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46563 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.4246 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61851 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4563 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59801 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43743 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43877 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70099 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74387 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6328 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5567 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66648 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68259 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68679 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60737 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59878 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6812 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6651 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63553 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61778 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53848 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53634 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59635 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60059 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.55013 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.534 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65643 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56973 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62434 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60105 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57055 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60631 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57798 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61197 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58528 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07321 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15487 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0678 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2105 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24627 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12281 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.11858 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14372 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1883 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.15533 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11882 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15071 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16467 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17928 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15907 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16862 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.09656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21896 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1219 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.18517 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.2449 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.11511 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33004 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14034 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17135 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.43464 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42751 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37691 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.29793 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35714 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.41742 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31234 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.27706 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.37752 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.38521 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32598 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33212 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21885 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.20642 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.24582 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29211 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.24404 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.21281 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27608 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23765 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24248 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.217 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26273 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.27993 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.25609 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26027 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.25517 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22706 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10771 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30329 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38574 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20081 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.19096 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22244 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.27727 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.26437 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20125 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.25432 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.271 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.27631 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.22587 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.25732 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1698 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.34315 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24178 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25546 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37049 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2024 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46617 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2456 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26835 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.54554 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60788 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.49355 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38524 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46505 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52001 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.48216 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41194 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38508 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48816 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49977 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43194 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43599 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33334 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29173 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36001 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42378 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3665 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3136 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4089 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.3449 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36268 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33353 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.375 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.39384 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36199 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3795 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.36356 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13038 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25492 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12458 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34326 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44433 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23017 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.22214 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25661 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31482 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31861 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24189 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30381 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31755 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31115 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24794 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.29704 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38545 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29853 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.27892 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42119 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2448 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50575 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29439 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29494 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57209 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65392 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.52582 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41026 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.50161 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54784 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.51827 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44216 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42119 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52305 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.52926 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4669 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46381 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38153 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32744 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40598 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47349 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41294 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35201 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45871 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38725 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41245 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38606 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41363 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43242 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40147 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42313 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40552 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14817 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28073 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14108 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38522 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49727 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25386 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25824 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29652 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3521 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38098 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28574 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35707 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36826 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.34818 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26483 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33719 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41643 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34278 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29728 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47134 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28965 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53376 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33386 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32078 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59351 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67655 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54733 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43309 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53282 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57205 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55018 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47215 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45465 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55217 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55138 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49828 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41941 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36243 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44647 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50909 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4497 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39035 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50346 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42727 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.43708 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.44683 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.46657 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43699 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46585 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44487 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16156 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28818 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15298 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41661 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51233 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25954 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28732 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32916 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37705 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42897 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31862 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39781 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40438 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37457 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2737 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36341 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26897 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42643 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35477 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.31149 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49727 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32222 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53956 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34479 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33775 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60626 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6805 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55293 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.44924 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55107 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58598 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57236 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49002 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47591 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57156 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5642 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51565 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50567 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43428 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39134 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46946 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.517 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45934 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41278 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53129 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44958 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49286 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46837 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46558 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48871 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45888 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49072 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4671 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16214 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28846 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15361 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41743 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51267 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25964 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28831 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32987 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37765 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43058 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31959 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39846 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40523 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37527 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27388 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36392 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27057 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42678 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35497 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.312 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49806 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32332 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53971 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34512 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33898 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60685 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55302 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.44973 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55148 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58663 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57316 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49072 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47653 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5721 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56477 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5162 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50619 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43459 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39185 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47018 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5172 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45951 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4133 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53165 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4501 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49369 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46899 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4659 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48921 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45947 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49123 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46755 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16214 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28846 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15361 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41743 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51267 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25964 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28831 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32987 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37765 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43058 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31959 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39846 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40523 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37527 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27388 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36392 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27057 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42678 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35497 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.312 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49806 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32332 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53971 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34512 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33898 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60685 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55302 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.44973 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55148 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58663 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57316 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49072 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47653 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5721 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56477 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5162 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50619 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43459 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39185 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47018 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5172 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45951 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4133 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53165 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4501 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49369 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46899 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4659 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48921 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45947 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49123 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46755 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07321 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15487 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0678 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2105 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24627 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12281 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.11858 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14372 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1883 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.15533 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11882 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15071 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16467 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17928 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15907 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16862 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.09656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21896 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1219 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.18517 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.2449 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.11511 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33004 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14034 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17135 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.43464 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42751 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37691 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.29793 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35714 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.41742 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31234 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.27706 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.37752 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.38521 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32598 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33212 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21885 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.20642 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.24582 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29211 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.24404 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.21281 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27608 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23765 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24248 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.217 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26273 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.27993 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.25609 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26027 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.25517 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13207 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2534 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12788 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34217 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4303 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21938 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21873 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25717 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31611 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29771 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22764 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28363 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.30423 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31226 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27628 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28902 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20626 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39223 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26487 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29637 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42654 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.22868 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51363 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27216 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31575 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61454 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65502 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.52596 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43435 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5154 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52993 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45421 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.4316 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52883 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56361 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4891 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47986 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38035 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.3319 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40694 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46881 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40036 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.36281 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46695 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.39477 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41132 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37815 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42563 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44449 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40586 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.43643 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40249 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16325 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29979 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16201 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41473 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52052 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26257 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.2761 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32496 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3851 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38705 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.295 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36115 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3814 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.376 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33192 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35926 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26983 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46922 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34358 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.34672 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51932 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29766 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58506 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34181 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37356 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67349 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72885 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58348 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48674 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58845 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63152 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60311 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50653 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5017 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59468 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63058 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56501 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53559 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46939 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40219 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49299 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54313 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.47057 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43879 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56036 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47234 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49715 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.4715 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4979 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51819 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47992 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52127 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47865 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20411 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3539 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20867 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51573 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61157 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30075 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3667 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42152 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47171 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51553 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39363 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46935 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.49186 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4647 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38948 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45159 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35814 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54674 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.41563 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.40374 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63846 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39097 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64906 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40672 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45658 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73777 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77497 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63577 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54885 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67543 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70115 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6881 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58328 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59096 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67385 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70175 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65897 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61139 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55756 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49587 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59395 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61484 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53491 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53907 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67463 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56918 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.6092 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.58562 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58437 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61126 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56764 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63252 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57328 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28236 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39252 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28072 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65857 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67113 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3221 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51135 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57301 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58699 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70489 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52943 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63214 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64781 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59459 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46792 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57237 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52358 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61552 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46069 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50073 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.76221 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53418 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.68601 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4535 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.60989 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82188 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79755 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66362 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64455 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78134 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79197 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80302 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68235 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70644 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77829 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79287 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7673 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71339 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63674 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64693 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70616 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65145 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57645 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65707 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79934 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67274 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75191 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71978 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67948 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.7246 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66649 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76166 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67768 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22597 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35947 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20984 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5235 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57817 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39543 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41977 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47711 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51591 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58481 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50649 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5584 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53774 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47849 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26575 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39668 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52196 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59267 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46295 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55031 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46822 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5489 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51454 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33532 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64466 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74168 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70908 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56458 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65942 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67735 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66792 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6091 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70182 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61966 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61058 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6432 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51841 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56006 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57515 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62445 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61693 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50149 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60084 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55848 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5826 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52483 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56845 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5824 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54859 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1583 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23479 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15171 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.36033 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42363 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28105 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30349 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34263 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35036 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43928 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37446 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42502 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39478 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.34372 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.17544 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36859 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3087 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35578 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46978 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28337 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38631 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36632 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.347 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38273 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.23206 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.35112 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.45755 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.38616 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.32669 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.37819 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.35169 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.38504 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37877 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.37163 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.39223 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.34639 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3544 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.36045 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3562 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36011 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39076 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41801 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41797 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3423 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41274 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.3789 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41003 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40842 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34734 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36865 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.38454 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36802 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38551 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12927 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18293 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1233 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.29067 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34211 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21635 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24756 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.2784 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28038 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36785 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31097 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35176 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32264 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.27033 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.13494 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3003 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25988 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27072 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3808 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.21316 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.30798 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30362 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.25694 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30789 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17634 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.24677 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.3275 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27381 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.23793 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.27838 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.24928 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.28492 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.27545 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.27717 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.28659 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.24587 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.26126 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.25974 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.28318 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28336 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30995 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.31816 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3216 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26831 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.32382 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29883 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.33097 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33294 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26753 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28306 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29483 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.28973 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30239 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08931 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11749 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08618 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2013 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2257 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13336 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17894 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19771 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.18986 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.26763 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21869 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.24699 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2275 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18494 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.08568 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20614 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.18499 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.16618 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23933 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.13314 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20826 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21512 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.15339 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19494 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.11523 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14621 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.18249 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.1564 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.14782 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.17265 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.15123 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.17837 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.17206 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.17623 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.17584 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.14601 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.16408 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.15967 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17949 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.189 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.20288 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.19283 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.19918 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.17967 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21174 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.19737 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22286 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.2271 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.17105 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.18175 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.19253 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19269 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.199 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02673 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02495 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05689 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05132 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02925 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.05324 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05787 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05104 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07909 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.06193 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.07026 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06331 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0516 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02112 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05586 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05747 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03783 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05332 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03507 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05235 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06228 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03282 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04364 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03226 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03803 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03332 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03801 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04291 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03709 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04607 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04331 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04572 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04408 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03497 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04141 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04034 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04218 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05378 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0516 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04161 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04386 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04698 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05386 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.04982 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05973 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05926 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04293 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04733 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04891 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04999 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05104 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22669 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35947 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20912 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52205 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5774 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39617 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41977 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47711 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51591 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58481 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50649 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55909 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53846 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47849 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26575 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39517 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52269 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59267 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46295 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55101 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46661 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54811 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51454 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33532 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64466 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74168 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70908 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56458 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6587 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67735 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66792 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60838 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70182 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61966 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61058 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6432 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51769 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56006 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57515 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62445 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61693 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50149 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60014 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55848 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5826 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52559 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56845 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5831 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54997 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26734 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40099 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25796 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60159 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43655 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49105 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.56831 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59499 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66839 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.58249 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63948 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61454 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55428 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3283 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59813 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48856 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59566 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.64789 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53247 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63393 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54023 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59805 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.57237 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40085 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72484 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79269 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74864 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63801 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74265 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71993 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.74059 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.72967 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67871 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75757 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69611 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69437 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59206 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63905 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65729 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.68594 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67236 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58146 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68822 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63925 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.669 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66027 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.60555 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64862 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65957 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63416 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66204 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27548 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40752 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26762 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61493 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6535 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44067 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50616 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58426 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60906 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68081 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59339 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65037 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62684 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5667 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34012 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61181 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50534 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60378 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65559 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54292 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64493 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.55358 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60484 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.57888 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41115 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73418 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7966 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75303 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64834 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75195 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72949 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75093 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73603 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6877 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76514 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70629 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70519 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71448 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60332 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65189 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67115 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69004 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67741 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59447 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70041 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64982 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67981 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67256 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61797 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66072 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67084 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6476 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67222 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28049 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4101 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27483 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.622 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65668 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44209 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51626 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59272 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61481 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68789 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60163 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65581 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63394 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57471 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34595 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61965 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51379 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60804 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65751 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65123 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56201 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60785 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58192 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.418 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73788 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79825 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75505 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65367 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75684 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73413 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75443 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74076 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69265 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76944 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71134 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7113 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71916 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60677 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65831 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67688 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69358 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67915 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60162 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70632 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6552 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.686 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67815 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62422 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66818 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67621 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65429 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67795 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28389 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41108 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27858 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62541 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65774 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44261 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52009 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59549 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.6176 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68995 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60387 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65848 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6362 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57766 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34936 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62248 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60966 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65844 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55323 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65309 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56572 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60904 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58312 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42324 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73946 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79856 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75558 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65634 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75808 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73616 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75594 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74218 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69399 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77101 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71361 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71306 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72125 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60822 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66114 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67909 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68045 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60432 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70765 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68861 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68017 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.626 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67001 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67815 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65621 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6802 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28413 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41123 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27878 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62548 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65777 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44267 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52013 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59558 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61768 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69003 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60396 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65851 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63627 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57779 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34948 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62257 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51846 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6097 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65847 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55332 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65331 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56581 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60915 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58325 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42372 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73952 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79863 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75559 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65644 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75811 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73627 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75604 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74226 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69404 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77102 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71371 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71315 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72135 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60825 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66117 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67923 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69452 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68051 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60437 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70773 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65734 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68864 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68024 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6261 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67012 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67823 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65628 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68025 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28413 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41123 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27878 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62548 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65777 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44267 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52013 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59558 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61768 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69003 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60396 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65851 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63627 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57779 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34948 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62257 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51846 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6097 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65847 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55332 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65331 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56581 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60915 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58325 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42372 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73952 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79863 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75559 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65644 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75811 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73627 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75604 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74226 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69404 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77102 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71371 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71315 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72135 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60825 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66117 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67923 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69452 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68051 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60437 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70773 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65734 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68864 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68024 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6261 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67012 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67823 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65628 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68025 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69822 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63584 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82337 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68817 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60929 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.40964 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47619 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.61064 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63287 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.59576 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60114 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74107 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61547 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.63233 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54977 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54862 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49745 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46655 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59955 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63003 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.59593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63267 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74148 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62693 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64689 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.56215 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56987 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53558 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50089 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63742 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66805 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63608 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69232 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66613 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69451 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60655 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59371 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57602 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55183 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66621 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69547 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66216 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72629 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82102 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69185 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72434 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62962 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62664 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60616 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58833 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66689 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6963 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6628 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72705 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69297 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72562 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63052 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62796 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60767 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59108 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66689 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6963 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6628 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72705 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69297 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72562 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63052 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62796 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60767 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59108 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.19198 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.2091 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20895 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.29764 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.29824 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.27345 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35769 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.24588 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.40964 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.33284 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22573 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3741 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.39049 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38571 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.46486 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5051 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46352 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.512 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40047 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51473 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44774 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36062 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4583 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.48094 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46402 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52848 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60342 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53149 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.56097 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46071 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52637 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47411 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41139 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54119 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57053 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.53397 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69235 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58406 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60252 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51166 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53573 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49485 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4555 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55933 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58979 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5505 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59947 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71197 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59677 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61594 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.5228 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54322 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50429 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47271 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55946 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.59001 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55064 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71238 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59707 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61617 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54334 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50445 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47307 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55946 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.59001 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55064 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71238 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59707 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61617 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54334 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50445 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47307 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.19198 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.2091 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20895 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.29764 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.29824 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.27345 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35769 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.24588 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.40964 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.33284 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22573 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41476 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.42346 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43783 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54795 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5388 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5607 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44358 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.64659 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55341 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42272 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.53122 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55871 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56052 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6732 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.68121 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61875 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65564 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55031 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63501 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53499 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67894 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71753 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68948 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.81241 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83667 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.72652 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76363 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.66774 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.7751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.74431 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.66469 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75655 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.78738 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75931 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.91963 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91955 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80544 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.85857 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.73711 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.91968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.85979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.77702 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69822 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63584 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82337 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68817 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60929 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.40964 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47619 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.53854 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54339 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50674 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44507 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4752 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.43011 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42805 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.21553 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.25124 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34734 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44685 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45917 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41329 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.34704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50054 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.3744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.32312 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34208 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13976 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.18042 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27507 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3024 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.31509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.27254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.22282 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.33207 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2372 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.19973 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.21776 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.07751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10682 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.17843 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06745 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07012 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.0507 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07397 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05232 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04554 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04798 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02522 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04235 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.70118 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63584 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82337 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68817 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60929 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.40964 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47619 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73574 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.75789 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72736 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88089 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.72321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.67942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51473 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53363 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5719 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74129 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.76484 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73719 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88524 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73051 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7703 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69171 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52637 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55025 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58632 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74523 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.76942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73787 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88631 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73249 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.77389 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69512 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53573 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56328 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59319 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74671 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73859 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75146 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88703 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73487 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.77571 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69675 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54322 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56695 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59616 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74671 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73859 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75146 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88703 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73487 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.77576 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69679 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54334 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5671 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59633 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bce-reranker-base_v1", + "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:26Z", + "is_anonymous": false, + "revision": "56d44486cf554c1ce712f00ea8a01f18" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74671 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73859 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75146 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88703 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73487 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.77576 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69679 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54334 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5671 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59633 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/bge-reranker-base/results_20241201072157-9b83f01ba307fe894cb78577b53aa35a.json b/AIR-Bench_24.05/BM25/bge-reranker-base/results_20241201072157-9b83f01ba307fe894cb78577b53aa35a.json new file mode 100644 index 0000000000000000000000000000000000000000..7deeb33c95df867d6b5bf3a441155b23cc91b51f --- /dev/null +++ b/AIR-Bench_24.05/BM25/bge-reranker-base/results_20241201072157-9b83f01ba307fe894cb78577b53aa35a.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18938 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34559 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17438 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4644 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36524 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33739 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40844 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56858 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41558 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41534 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35849 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40727 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23641 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35429 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3009 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42972 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.536 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37052 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32616 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40708 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40852 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48476 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2817 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67907 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70405 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70461 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56605 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66912 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6839 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64081 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5513 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59148 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65456 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60852 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54545 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48881 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34009 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51476 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5593 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5902 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37668 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55517 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48246 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51696 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52142 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43316 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43078 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51257 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44314 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43254 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16657 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29448 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15439 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38617 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45612 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30836 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29957 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34686 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33493 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48655 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35391 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36529 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31829 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37105 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24227 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.29983 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26367 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37977 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45703 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.31898 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33355 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35024 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4368 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40596 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28738 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64507 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66929 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59589 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49479 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59084 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60816 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60253 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5423 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46601 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5182 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60523 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53512 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47986 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43404 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.30343 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46597 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52501 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51565 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.357 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50798 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43254 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47661 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.468 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40012 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4044 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45717 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.41748 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39362 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16621 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29175 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15292 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38406 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46003 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.293 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28377 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33732 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3292 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46279 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33436 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.34993 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.30832 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.36257 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25608 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.29287 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25664 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.3937 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.417 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.31665 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.34811 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33132 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45839 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38267 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30314 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65437 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68137 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59728 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48808 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59522 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61958 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.601 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53156 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46501 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.51657 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61919 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53779 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43845 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29751 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46595 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52043 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49996 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.36026 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50952 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42907 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47123 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46016 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41054 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40881 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44977 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4275 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38416 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17522 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30478 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16745 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40374 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4817 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29521 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29652 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35066 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34737 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46971 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34037 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36681 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.33316 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38066 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27774 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3045 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27229 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42795 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40922 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33853 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3919 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34135 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48922 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3927 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33133 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67748 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70414 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61542 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50221 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62367 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64379 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62649 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54797 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49319 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54216 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6439 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56505 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50186 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47421 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.31856 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48887 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53651 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50781 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38412 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54263 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45306 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49596 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48593 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43941 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43517 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46773 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45891 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40116 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20824 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32904 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20208 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47938 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52845 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30757 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3609 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42483 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41649 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55923 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40999 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.45272 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41918 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44267 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30385 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36446 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35745 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46907 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43943 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38101 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47328 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.414 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51904 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41722 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38216 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70785 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71884 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62695 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53708 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66027 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67663 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6705 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58705 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54589 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59688 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67393 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60502 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54321 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51335 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38719 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54638 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56254 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53195 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.44209 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6049 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51265 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5672 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55008 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49247 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49933 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52225 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52053 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4646 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21326 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33304 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2074 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48983 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53378 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30816 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3747 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43539 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42707 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57064 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41913 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.466 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43876 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45296 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31285 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3914 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36943 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4726 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44071 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38432 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48682 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42161 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52276 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41986 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39831 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71187 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7202 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62753 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54423 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66436 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68094 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67884 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59175 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55438 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60771 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67765 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55789 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51484 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41498 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55509 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56488 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53316 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45775 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61224 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51981 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57686 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55961 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50157 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5124 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53083 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53554 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48275 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21326 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33304 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2074 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48983 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53378 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30816 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3747 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43539 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42707 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57064 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41913 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.466 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43876 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45296 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31285 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3914 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36943 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4726 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44071 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38432 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48682 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42161 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52276 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41986 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39831 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71187 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7202 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62753 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54423 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66436 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68094 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67884 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59175 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55438 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60771 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67765 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55789 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51484 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41498 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55509 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56488 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53316 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45775 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61224 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51981 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57686 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55961 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50157 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5124 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53083 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53554 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48275 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06238 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15851 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.05712 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.1793 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20266 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.11405 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.09436 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.13247 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1409 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1533 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.09785 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.11558 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.10982 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.15827 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.14277 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.10934 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.1827 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11201 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.15062 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.14284 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.10296 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.26399 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13051 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13662 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.46322 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41495 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37128 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.29128 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35391 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42284 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37407 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29942 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.24165 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.31593 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.41566 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32306 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28573 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2047 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.1199 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22847 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2677 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23064 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.16266 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.2599 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22028 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21916 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.19427 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.21674 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.2037 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23552 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.21272 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18687 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09616 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21468 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09096 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2468 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31643 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18012 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.15424 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19407 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.21014 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.25698 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.16794 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19152 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.17325 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.23609 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19612 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16513 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12879 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27233 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.20454 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.2269 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.16974 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.36843 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.22066 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.22424 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.56488 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.57265 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48436 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37265 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.4699 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52151 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47896 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39447 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33629 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.40657 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.52014 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.41968 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37378 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30561 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.18002 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.32135 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38158 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34722 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.23878 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.36651 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29767 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.31906 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.29535 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.299 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.29147 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31831 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30136 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.26355 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11252 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23407 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10463 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27846 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35984 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20778 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17819 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22188 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23353 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30281 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22484 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20163 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26486 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21276 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.18972 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.15233 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.30796 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26126 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.22615 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.26096 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20372 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4012 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2633 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.25045 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58873 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6145 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51595 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.3974 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.50431 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54878 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.511 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.42686 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.36721 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43023 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.54773 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.44796 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.39579 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34434 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.20071 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.35795 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42151 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38789 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26865 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40555 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32701 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.35742 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.338 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3305 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31812 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.34777 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33388 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.28873 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12846 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25361 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11872 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.31049 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.40311 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23193 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20737 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25161 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25965 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3559 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.23602 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26528 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23718 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.29569 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.22715 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2144 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1799 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33845 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30271 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24759 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29849 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24297 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.42924 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30276 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.27315 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60781 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64116 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53729 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4175 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53306 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57138 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54073 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45437 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.39616 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.45333 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56812 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.47355 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41627 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38156 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22411 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39099 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4555 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42044 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29606 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44476 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.35988 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39665 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37959 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35774 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.34483 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37713 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36525 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31484 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26528 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13172 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34372 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42845 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2399 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23513 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28466 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28827 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40442 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26921 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30582 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.275 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32221 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23578 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23694 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21337 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35645 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32073 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2644 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33257 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27802 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44253 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31885 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29082 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62101 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64805 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54369 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4327 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55072 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58593 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56219 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47283 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41925 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.47574 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58105 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49055 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43237 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.40165 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24899 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41641 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46926 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43497 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32022 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47441 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38679 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43024 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41207 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37909 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37041 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40065 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39208 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.33983 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14339 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26593 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13262 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34595 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42941 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24001 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23763 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28682 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29035 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40723 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27131 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30874 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2789 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32424 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2369 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24167 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21604 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.357 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32098 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26499 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.335 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27971 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44299 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31919 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29297 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62173 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64823 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54377 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43388 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5515 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58666 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56378 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47364 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42084 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4778 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58166 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49239 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43467 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.40193 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25395 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41808 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46963 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43514 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32283 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4758 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38825 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43233 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41397 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3807 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37277 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40233 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39466 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34306 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14339 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26593 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13262 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34595 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42941 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24001 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23763 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28682 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29035 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40723 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27131 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30874 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2789 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32424 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2369 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24167 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21604 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.357 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32098 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26499 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.335 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27971 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44299 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31919 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29297 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62173 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64823 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54377 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43388 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5515 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58666 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56378 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47364 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42084 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4778 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58166 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49239 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43467 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.40193 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25395 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41808 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46963 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43514 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32283 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4758 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38825 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43233 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41397 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3807 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37277 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40233 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39466 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34306 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06238 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15851 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.05712 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.1793 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20266 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.11405 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.09436 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.13247 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1409 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1533 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.09785 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.11558 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.10982 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.15827 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.14277 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.10934 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.1827 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11201 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.15062 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.14284 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.10296 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.26399 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13051 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13662 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.46322 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41495 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37128 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.29128 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35391 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42284 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37407 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29942 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.24165 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.31593 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.41566 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32306 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28573 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2047 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.1199 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22847 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2677 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23064 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.16266 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.2599 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22028 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21916 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.19427 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.21674 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.2037 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23552 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.21272 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18687 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11419 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23559 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11097 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28333 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36104 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19818 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.18162 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22461 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25207 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28616 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.19421 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.21878 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20405 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.27061 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2385 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19655 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.15862 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.31681 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2376 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24496 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28561 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.19346 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.42277 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24859 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2677 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61535 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61923 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.52135 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41569 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51731 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56583 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52048 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43521 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38121 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.45303 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57443 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4729 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41951 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34914 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22135 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36548 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42937 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38062 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2845 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4148 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33604 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36508 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33811 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34142 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.34425 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35794 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35428 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30029 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14763 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27061 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1397 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34777 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43597 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24507 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23065 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28298 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3035 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36127 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25519 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27969 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26118 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32533 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28487 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2525 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21121 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39272 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30887 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29908 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36572 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25196 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49691 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31319 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32741 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66974 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68991 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58082 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.46781 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58654 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62453 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.58348 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49555 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.44666 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50324 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63479 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53231 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42416 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.27587 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44043 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.499 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44694 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35132 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4915 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40029 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43599 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41798 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41069 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40855 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41779 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42869 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.35426 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18969 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31759 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18525 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43742 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52747 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2927 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31292 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36395 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38043 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47263 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34513 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38172 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36514 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40667 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34313 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.32376 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2934 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4868 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3896 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37813 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48739 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35028 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58046 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39013 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40052 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72957 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75294 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63214 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52562 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66819 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69253 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66177 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56739 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53091 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58064 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70162 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61003 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54067 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52811 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.35505 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53092 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57317 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51551 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43641 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5996 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49272 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53764 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52345 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49493 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49557 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49802 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53018 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43349 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27709 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38505 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27802 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63556 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65444 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32321 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47772 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55008 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55915 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68682 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51148 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5933 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58925 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56988 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4311 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48211 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50851 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60796 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45975 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49669 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72868 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52453 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67353 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4511 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5728 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81899 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79775 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66405 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62646 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77199 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78903 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78288 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67622 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68346 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74485 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7907 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73015 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66157 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6369 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54844 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.68967 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64671 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57685 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59984 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77716 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65506 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72913 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69377 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64995 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68119 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70637 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.612 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18938 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34559 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17438 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4644 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36524 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33739 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40844 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56858 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41558 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41534 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35849 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40727 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23641 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35429 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3009 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42972 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.536 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37052 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32616 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40708 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40852 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48476 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2817 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67907 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70405 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70461 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56605 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66912 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6839 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64081 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5513 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59148 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65456 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60852 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54545 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48881 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34009 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51476 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5593 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5902 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37668 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55517 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48246 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51696 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52142 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43316 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43078 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51257 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44314 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43254 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1351 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20449 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12687 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28416 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34211 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25601 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25621 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27897 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25315 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41618 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31073 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.31375 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26778 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28536 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.14869 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24112 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.28111 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.416 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23203 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.25098 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30491 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.26945 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35157 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.20567 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.34714 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42185 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37922 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.31538 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.38088 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.34324 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37558 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.36948 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33165 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.32635 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.34236 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.33883 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.30599 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32491 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23685 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.33608 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37042 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39446 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26557 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.36402 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30677 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.35275 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36632 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27426 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28358 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31774 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.29037 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.28707 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11334 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15406 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10318 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.23153 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.27771 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20133 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20802 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.23033 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.20089 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3413 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26089 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26012 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.22046 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.22493 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11441 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19896 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.19382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22313 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3396 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.18085 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20749 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25422 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.20568 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28227 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.16017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.24059 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.30376 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.26756 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.22937 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.27779 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.24449 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.27269 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.27184 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.24682 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.23198 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.2406 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.24547 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.21996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.25372 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.18698 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.26603 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28316 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.30171 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.21181 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27955 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2383 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.27994 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.29365 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.21482 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.21609 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2433 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2295 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21912 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08085 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09965 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0741 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.16262 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.18924 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1285 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14993 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.16309 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.13997 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.24314 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.186 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19274 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16379 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.15549 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.07343 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.1409 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.14646 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.14473 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2222 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.12265 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.15205 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.18632 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13186 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18636 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.10426 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14178 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17576 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.15379 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.14081 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.16926 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.14746 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.17043 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.16762 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.15751 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.14511 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.14224 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.15137 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.13479 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.167 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.13133 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.17563 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.17731 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.18805 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.14283 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18686 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.16221 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.19108 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.1997 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.14072 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.14285 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.16068 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.15479 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.1468 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02532 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02615 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02447 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05429 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05033 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02925 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.04947 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05482 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.04805 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07684 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.0596 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.06592 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.05761 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.04896 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01943 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04617 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05538 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03748 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05321 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03484 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.04958 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06109 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03237 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04359 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03037 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03525 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03799 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.0333 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.0368 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04231 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03693 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04495 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04291 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04395 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04155 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.0349 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.03898 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.03679 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04227 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.04444 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.04995 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04135 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04386 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04293 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05223 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.04817 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05748 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05693 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04069 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04402 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.0469 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04633 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.04569 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18938 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34559 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17438 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4644 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36524 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33954 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40916 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56932 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41558 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41534 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35922 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40727 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23727 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36169 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3009 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42972 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37052 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32616 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40708 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40931 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28426 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67907 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70405 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70461 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56679 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66985 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6839 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64081 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5513 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59148 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65456 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60783 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54614 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48881 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34732 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51544 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5593 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59169 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37668 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55517 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48246 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51696 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52142 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43316 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43078 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51257 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44314 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43331 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22991 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37844 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22021 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51193 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5396 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40746 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.415 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48736 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44769 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64061 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49026 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49182 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43699 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.48689 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28588 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43935 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3811 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50256 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60489 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44838 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41557 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.47922 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47411 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54571 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.34723 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7404 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75699 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74727 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63419 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73358 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71377 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73841 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70043 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62066 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65608 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71462 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68155 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61552 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55897 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.43946 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59346 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62933 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64687 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46076 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6313 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55665 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60079 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50267 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51096 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58066 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52768 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50206 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23913 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38437 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23121 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52683 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55152 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41541 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43097 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50585 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46401 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65337 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50696 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5101 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45317 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49936 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29886 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46161 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51654 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61286 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46345 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43483 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49197 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48743 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55267 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.35843 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74936 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76315 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75203 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64386 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74251 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72268 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.74675 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70856 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63056 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66599 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72271 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69051 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.62847 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57034 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46182 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61065 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63782 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65403 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47754 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64321 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57153 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61362 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61925 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51822 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5282 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59403 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54412 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51829 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24488 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38842 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23968 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53676 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55786 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41833 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44136 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51526 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47454 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66082 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51783 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52127 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46552 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50852 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30735 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47444 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41696 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52465 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61687 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47549 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44786 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50504 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49446 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55726 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36572 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75405 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76594 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75372 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64979 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74719 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72721 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75055 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71361 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63705 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67392 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72822 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69812 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63703 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57696 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47366 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61749 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64119 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65796 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48853 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65137 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57898 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62248 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62692 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52795 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53765 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60158 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55562 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52965 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24914 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39039 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24434 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5427 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56115 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41906 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44741 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52122 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48142 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66501 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52241 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52694 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47283 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51369 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31239 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48056 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42426 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52804 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61849 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47973 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45525 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50988 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49718 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55914 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37229 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75608 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7671 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75423 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65301 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74913 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72943 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75309 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71604 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64025 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67787 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73039 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7013 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64101 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57893 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48086 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62162 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64309 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65939 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49448 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65529 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5836 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62715 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63031 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53312 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54462 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60637 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56042 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53631 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39056 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2446 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54291 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56133 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4191 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44762 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52149 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66511 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52251 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52719 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47321 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51398 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31253 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48079 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42447 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52822 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61854 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47983 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45557 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51012 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4974 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55929 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37308 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75615 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76719 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75426 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6531 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7492 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72958 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75316 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71607 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64037 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.678 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73053 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70141 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64111 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57898 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4811 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62182 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64319 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65945 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4947 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65543 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58379 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62724 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6304 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53331 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54483 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60659 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56058 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53651 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39056 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2446 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54291 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56133 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4191 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44762 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52149 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66511 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52251 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52719 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47321 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51398 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31253 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48079 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42447 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52822 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61854 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47983 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45557 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51012 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4974 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55929 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37308 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75615 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76719 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75426 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6531 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7492 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72958 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75316 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71607 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64037 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.678 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73053 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70141 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64111 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57898 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4811 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62182 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64319 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65945 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4947 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65543 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58379 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62724 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6304 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53331 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54483 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60659 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56058 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53651 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54655 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55917 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64247 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.37978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32938 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.35574 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.50004 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53305 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44227 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57504 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65967 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55047 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59313 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35205 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50033 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40782 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36703 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48504 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52214 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.4484 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60219 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65314 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5569 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59716 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53698 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44506 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3956 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52198 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55845 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49126 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71005 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59911 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64471 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.41922 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56011 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48086 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44464 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58948 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62312 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56159 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70356 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69084 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49443 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53167 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50769 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59221 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62525 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56519 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70619 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76732 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69358 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49862 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60346 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53717 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51454 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59221 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62525 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56519 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70619 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76732 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69358 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49862 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60346 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53717 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51454 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.14634 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.15611 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.15413 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27823 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25657 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.3401 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.16055 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.26508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.16862 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.29101 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.3194 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.27635 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44822 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.43928 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.40911 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.48656 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.24933 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47456 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.3656 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27757 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.34973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38667 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33688 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.50306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.51593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46057 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.52053 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.28228 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.49505 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38921 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.31798 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4541 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38987 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.55151 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59735 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.50656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.55519 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.31979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50447 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40687 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.35273 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.45233 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49428 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.4242 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63221 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53115 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57601 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35114 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51395 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42154 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37795 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.45294 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49487 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42493 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63268 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53171 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57643 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35189 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51434 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37889 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.45294 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49487 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42493 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63268 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53171 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57643 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35189 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51434 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37889 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.14634 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.15611 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.15413 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27823 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25657 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.3401 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.16055 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.26508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.16862 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3371 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37067 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.31702 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.48209 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4575 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.53307 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.30389 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5743 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46612 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34487 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43157 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42114 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64071 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60282 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54993 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5974 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.38396 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66265 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55119 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43271 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56673 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78004 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6633 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71305 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50554 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73494 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.64713 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55497 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74867 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.78275 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74753 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.90954 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91603 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80219 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.85199 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.72222 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.8996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.83605 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.75596 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54655 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55917 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64247 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.37978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32938 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.35574 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43644 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46943 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.37669 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.4216 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54167 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.41468 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.39875 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26685 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.19143 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.20673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.26984 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.35676 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.3858 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.31965 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.3262 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.43859 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.31964 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.28871 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.21858 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13253 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.14837 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.21905 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.25165 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.26775 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.21965 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.21014 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30163 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.20655 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.18038 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.15355 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.07349 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0905 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.14706 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06673 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06964 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.05971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04522 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04721 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01799 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02463 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04151 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54655 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55917 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64247 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.37978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32938 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.35854 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62362 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6425 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55829 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70188 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79755 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67212 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71371 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46403 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47456 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45565 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63804 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64931 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57086 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71469 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.80802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68016 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72245 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48766 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.49505 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44599 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47246 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6448 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.65666 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71958 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81396 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68624 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73134 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49828 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50447 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45826 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48373 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64857 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5896 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72159 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81496 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73366 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.5054 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51393 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46783 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48987 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64857 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58965 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72174 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73371 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50549 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51435 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46817 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49028 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-base", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:21:57Z", + "is_anonymous": false, + "revision": "9b83f01ba307fe894cb78577b53aa35a" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64857 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58965 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72174 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73371 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50549 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51435 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46817 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49028 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/bge-reranker-large/results_20241201072216-59678d44136add2741e6ddef46118b5c.json b/AIR-Bench_24.05/BM25/bge-reranker-large/results_20241201072216-59678d44136add2741e6ddef46118b5c.json new file mode 100644 index 0000000000000000000000000000000000000000..4418d5caf34fa0bf9b9a5811264c12079fd0086c --- /dev/null +++ b/AIR-Bench_24.05/BM25/bge-reranker-large/results_20241201072216-59678d44136add2741e6ddef46118b5c.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23601 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38862 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24819 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52133 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57121 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39028 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43553 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54936 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46114 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68215 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51227 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5971 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51234 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51855 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33563 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49926 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52562 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.588 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49376 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43997 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51086 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48975 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38723 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73951 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71726 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6059 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77426 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6913 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71886 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73343 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67486 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66131 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69373 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72047 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51119 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4754 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5779 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6369 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60802 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51121 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6676 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56433 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63864 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63146 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58289 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54834 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58659 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61613 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55744 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20628 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33888 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20352 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47333 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54511 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33427 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38132 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4665 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41268 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58875 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43286 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51845 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45379 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45879 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33497 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43508 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35001 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47771 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51092 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41372 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43342 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44222 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50813 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45659 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37772 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66878 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70227 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61601 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52668 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66606 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63541 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6383 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60868 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56667 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57604 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64063 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62131 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53245 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46967 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41097 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5372 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59228 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54518 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47147 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60225 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58817 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55793 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53921 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51917 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52837 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56811 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50608 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1974 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33527 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19487 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4656 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54375 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31589 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36489 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44356 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40267 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55477 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40234 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49319 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44018 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44882 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34836 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41796 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33828 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48792 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46734 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.40317 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44761 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41505 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52579 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42835 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39527 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67738 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71533 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61898 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52216 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66548 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64709 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63376 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59254 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56406 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58007 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65294 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62003 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53346 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48095 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40223 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53198 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58817 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53104 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46436 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61057 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50761 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57663 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54436 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53518 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52971 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51739 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50109 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20546 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34501 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20571 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48408 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56034 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31214 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37284 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44895 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41684 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55398 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4026 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49628 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45702 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46288 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3635 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42702 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35179 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51075 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44893 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41456 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48725 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41605 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54849 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42781 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42411 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69956 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72764 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63244 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53969 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68592 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66147 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60692 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58979 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60302 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67654 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64631 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55878 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51297 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.43222 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55034 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59376 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53347 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49016 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63914 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5267 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59524 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56784 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55688 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55377 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5324 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59405 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51903 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23295 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35847 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23354 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54052 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58762 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32054 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42795 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50156 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62446 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.46095 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55328 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52266 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50679 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38048 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47851 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42008 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53258 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46573 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44362 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5502 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46913 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56779 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44312 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46389 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72766 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73863 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63858 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57024 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71492 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69948 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7001 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63679 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62574 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65085 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70061 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67998 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53711 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49659 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59575 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6077 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54764 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5335 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68022 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5679 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64399 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61604 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58916 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59376 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57163 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63963 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56436 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2365 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3607 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23697 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54651 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58958 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32073 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43157 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50626 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.478 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62909 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.46564 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55694 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5283 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51221 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38176 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48338 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42477 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53321 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46687 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44436 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55885 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.47316 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56977 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44537 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46994 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74047 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63918 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57293 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71738 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70238 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70447 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63925 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62779 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65609 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70389 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68298 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60242 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53799 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.50146 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60037 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60905 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54886 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53804 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68327 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57206 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64845 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62024 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59195 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59735 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57644 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64241 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56869 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2365 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3607 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23697 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54651 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58958 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32073 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43157 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50626 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.478 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62909 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.46564 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55694 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5283 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51221 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38176 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48338 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42477 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53321 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46687 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44436 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55885 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.47316 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56977 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44537 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46994 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74047 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63918 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57293 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71738 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70238 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70447 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63925 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62779 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65609 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70389 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68298 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60242 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53799 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.50146 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60037 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60905 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54886 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53804 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68327 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57206 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64845 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62024 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59195 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59735 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57644 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64241 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56869 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17224 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07904 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21226 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24483 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12071 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12683 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17815 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17715 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.17897 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12588 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.16005 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15482 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1985 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20357 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.15879 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.10517 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22125 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12246 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.20612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20013 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1224 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30617 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14481 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.19994 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48601 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.43664 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37742 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.32315 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.41728 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.45165 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.39489 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34813 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.30324 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36342 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44584 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.39057 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32325 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21295 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17913 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.257 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30374 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23253 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22473 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31231 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.25154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26235 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23856 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28678 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25916 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26362 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3042 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24187 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12246 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2446 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12066 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30762 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37947 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19512 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20444 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26741 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25936 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31357 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21377 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27253 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25832 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.29779 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27755 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24772 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17509 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35198 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24368 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.27443 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.30823 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21944 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.42973 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.25448 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30628 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58893 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6052 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.50142 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.405 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53935 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54863 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50806 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42114 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46359 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55687 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.50026 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.42135 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33066 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25599 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37274 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4374 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36474 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32712 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44443 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.35495 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39721 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3624 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40888 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37769 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36679 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42879 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34599 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13838 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27176 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1369 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34724 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43558 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22718 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24162 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3067 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29369 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37607 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25459 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.32931 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.30693 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33919 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30043 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28644 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20939 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39837 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30275 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30063 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.35314 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26476 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46696 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30485 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33974 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61277 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65235 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53715 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4325 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.57753 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57756 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54175 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.48639 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.4618 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4929 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58413 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53299 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.44719 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3816 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28669 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41728 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48956 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41354 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.36337 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49903 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.39673 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41345 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.44636 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42286 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40408 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46788 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38681 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15704 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29537 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15237 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38943 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48772 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25099 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27813 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34591 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.32507 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4402 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.29563 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38725 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35645 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37575 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31367 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.32448 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24793 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42786 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3468 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.32175 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.39534 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.314 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4945 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34304 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3659 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63199 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67311 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5574 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45544 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6041 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59959 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57453 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51532 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49472 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.51742 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60507 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56079 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47109 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42412 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32301 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45395 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52239 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44907 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4003 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54385 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43348 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49736 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46292 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.47762 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45775 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43797 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50725 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42343 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16994 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3024 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16448 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41846 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50397 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25652 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30633 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37317 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35104 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48394 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32721 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42135 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39137 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39878 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32043 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34917 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43773 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3575 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42512 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34418 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50364 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35306 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38152 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64541 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67775 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56108 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4701 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61975 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61355 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59522 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53134 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51334 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53938 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61577 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57721 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48864 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43645 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.35292 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47679 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53015 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4574 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42103 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56779 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45531 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52513 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49126 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49354 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.478 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45788 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53138 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4469 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17046 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30274 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16501 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41975 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50433 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25657 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30713 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37415 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35234 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48516 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3284 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42227 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39252 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39982 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3206 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35025 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28139 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43783 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35775 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33536 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42678 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34504 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50388 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35338 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38229 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64594 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67802 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56119 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47058 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62021 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61406 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59614 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53183 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51382 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54045 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61633 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57775 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48941 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4366 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.35402 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4777 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53034 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45763 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42188 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45614 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52612 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49215 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49407 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47866 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45882 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5319 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44782 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17046 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30274 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16501 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41975 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50433 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25657 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30713 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37415 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35234 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48516 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3284 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42227 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39252 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39982 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3206 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35025 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28139 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43783 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35775 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33536 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42678 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34504 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50388 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35338 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38229 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64594 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67802 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56119 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47058 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62021 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61406 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59614 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53183 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51382 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54045 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61633 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57775 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48941 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4366 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.35402 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4777 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53034 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45763 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42188 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45614 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52612 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49215 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49407 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47866 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45882 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5319 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44782 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17224 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07904 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21226 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24483 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12071 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12683 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17815 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17715 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.17897 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12588 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.16005 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15482 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1985 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20357 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.15879 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.10517 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22125 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12246 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.20612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20013 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1224 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30617 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14481 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.19994 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48601 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.43664 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37742 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.32315 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.41728 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.45165 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.39489 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34813 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.30324 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36342 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44584 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.39057 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32325 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21295 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17913 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.257 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30374 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23253 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22473 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31231 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.25154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26235 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23856 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28678 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25916 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26362 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3042 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24187 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13909 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26717 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13699 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34065 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.41881 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21625 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23143 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29431 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29829 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33748 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.23582 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.29815 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28931 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32697 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32134 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27982 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20544 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39793 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26705 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30856 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36401 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24455 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4822 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28248 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3443 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63616 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64603 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54232 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43995 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56995 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54999 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45989 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50468 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60453 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53616 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38252 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29634 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41614 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47767 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40199 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3709 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.48605 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.39555 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.44069 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40125 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45198 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4369 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40931 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47201 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38824 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16744 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30895 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16788 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41276 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50251 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26277 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29611 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35829 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35944 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42691 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30138 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38194 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36846 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39402 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37536 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34923 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27195 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48373 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34812 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36511 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45578 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.31388 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55414 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35172 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4125 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68683 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72032 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60482 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49695 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63705 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64531 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6117 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53996 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53347 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56622 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65979 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59739 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52198 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47557 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36245 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49652 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55504 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4783 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43896 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5851 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47011 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52412 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48707 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51554 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52518 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47515 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5411 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46361 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21085 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35314 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21335 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.50947 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5931 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30267 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37961 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44419 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43715 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.545 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39093 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49104 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4769 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47991 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41747 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43838 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37021 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55553 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42028 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42951 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5716 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41313 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6218 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41269 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74429 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7609 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64686 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56108 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70038 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70821 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69824 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60781 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6144 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63528 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72369 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67327 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57012 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46983 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58569 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61136 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53829 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53056 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68824 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55961 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62425 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59391 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58786 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61391 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55672 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6389 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55376 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28268 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39296 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28523 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65148 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6693 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32483 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51467 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57067 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5767 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70994 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52657 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62719 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64204 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58735 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46991 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56463 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53344 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62154 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46043 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50724 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.75086 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53653 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6833 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4533 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.62051 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82211 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79553 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66387 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64634 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77874 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79596 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80156 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68575 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70994 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76832 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7937 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.76774 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70857 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63965 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63635 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70616 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6512 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57745 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64813 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79605 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66669 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74803 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71542 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67682 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.7211 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65838 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76005 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67095 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23601 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38862 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24819 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52133 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57121 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39028 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43553 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54936 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46114 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68215 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51227 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5971 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51234 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51855 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33563 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49926 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52562 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.588 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49376 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43997 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51086 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48975 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38723 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73951 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71726 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6059 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77426 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6913 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71886 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73343 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67486 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66131 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69373 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72047 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51119 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4754 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5779 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6369 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60802 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51121 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6676 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56433 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63864 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63146 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58289 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54834 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58659 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61613 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55744 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16714 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24543 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1657 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35936 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.41125 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27909 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32378 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37864 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31508 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51008 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37807 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.45013 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38268 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35584 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20592 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35651 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30342 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.36335 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47022 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29864 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.31691 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39072 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.31651 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39912 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2627 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.35698 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.44477 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39633 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33161 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42426 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.357 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40204 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40813 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40077 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35894 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.3623 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.38874 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33789 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35981 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.31573 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39808 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42143 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42687 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.34953 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42961 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37281 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.44518 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.43648 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37739 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.3671 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37803 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39191 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.37034 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13156 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18681 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12865 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28764 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.33127 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21915 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26748 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30315 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25048 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41608 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30866 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37457 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31901 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28457 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15306 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28817 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25747 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.28141 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3848 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.22648 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.25996 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3218 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.23833 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31759 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.20187 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.24803 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.32171 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.28304 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.24266 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.30515 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.25348 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.28973 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29548 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29783 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.25908 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.2537 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.27665 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.24457 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.28939 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25007 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31105 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32533 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.32992 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26756 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.33703 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29181 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.35162 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3452 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28037 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.29002 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29064 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.29483 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29252 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09132 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11777 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08712 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.19863 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.22012 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13476 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.18567 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.20522 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1698 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28687 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21429 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26033 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.22177 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18939 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.09016 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19704 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1871 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.1694 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24107 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.14172 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.17904 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.22615 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.14519 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19792 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.12774 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14544 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17873 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.15967 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.15092 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.18022 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.15058 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.1807 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.17997 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.18432 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.15803 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.14786 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.16799 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.15215 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.18599 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17844 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.19842 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.1929 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20111 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.1772 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21616 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.1902 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22957 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.22792 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.17464 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.18507 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.18708 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19173 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.19082 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02587 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02661 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02514 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05602 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05127 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02937 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0535 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05718 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.04955 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07969 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.0615 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.06983 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06274 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.05086 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02116 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05467 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05836 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03817 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05324 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03567 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05102 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06264 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0327 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04364 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03299 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03786 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03332 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03804 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04287 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03726 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04596 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04363 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04598 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04324 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03494 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0413 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.03996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04245 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05279 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0513 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04163 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04382 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04634 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05348 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.0492 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05944 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.0587 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0426 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04702 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.0482 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04992 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05015 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23601 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38862 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24747 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52133 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57198 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39028 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43553 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54936 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46114 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68215 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51227 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59779 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51234 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51855 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33563 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49852 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52562 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58733 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49376 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43997 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51006 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49054 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53116 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38553 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73951 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71726 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6059 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77426 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6913 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72032 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73343 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67486 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66131 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69373 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72047 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51119 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4754 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5779 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6369 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60876 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51121 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6676 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56433 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63864 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63146 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58365 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54834 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58659 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61613 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55744 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27726 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42285 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28871 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59701 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6308 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43459 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50669 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61993 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54009 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73882 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.58189 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.66494 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57983 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57864 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38539 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5747 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48203 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59358 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.64756 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.56245 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.52105 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.57334 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55008 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59164 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43915 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76767 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78521 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76153 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6663 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.81863 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74432 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77677 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78025 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73206 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71811 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75131 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77163 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66906 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58785 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55668 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65752 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69656 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66976 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5847 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73155 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63828 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71436 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6999 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65253 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63741 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65736 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68183 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62914 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28386 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42674 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2962 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61133 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63851 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43904 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52144 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63063 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55205 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.74623 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6752 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59158 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58965 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39492 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58798 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49952 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60438 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65426 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57565 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53871 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58465 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55852 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59649 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4486 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77589 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78956 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76525 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67733 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82433 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75262 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78277 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78627 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7373 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7281 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75804 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77768 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67986 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59781 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57311 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.66966 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70135 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67637 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5961 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74403 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64789 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72214 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70991 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65998 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65144 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66738 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68986 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64229 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28948 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42887 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30308 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61754 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64133 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44004 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52895 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63694 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5603 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75076 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60083 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68041 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60029 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59775 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39931 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59601 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60732 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65694 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58135 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54947 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59253 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5623 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5983 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45455 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77948 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79055 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76573 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68217 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82639 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75576 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78617 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78844 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74064 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73228 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.762 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78218 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68611 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6014 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58354 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67629 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70337 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67802 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60222 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74808 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65397 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72711 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71484 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66433 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65714 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6727 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69579 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64954 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29218 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43006 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30623 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62099 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64337 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44052 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53267 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56497 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.753 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60376 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60453 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60043 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40181 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60003 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5153 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60946 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65739 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58318 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55372 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59612 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56424 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59933 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45919 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78084 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79165 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76593 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68418 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82702 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75777 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78698 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78925 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74181 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73486 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76337 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78403 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68862 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60276 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58793 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67877 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70429 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67885 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60573 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7493 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65587 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72897 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71651 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66642 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65947 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67468 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69816 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65185 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29241 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43015 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30638 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62117 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64344 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44052 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53277 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64013 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56511 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75302 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60383 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6047 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60058 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40189 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60014 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60946 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65742 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58322 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55396 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59624 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56441 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59943 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45961 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78091 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79172 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76594 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68425 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75786 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78704 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78931 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74184 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73498 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76346 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78408 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6887 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60281 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58801 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6789 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70435 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6789 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60591 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74936 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65601 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72903 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7166 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66649 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6596 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67484 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69824 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65198 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29241 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43015 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30638 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62117 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64344 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44052 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53277 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64013 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56511 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75302 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60383 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6047 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60058 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40189 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60014 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60946 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65742 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58322 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55396 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59624 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56441 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59943 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45961 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78091 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79172 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76594 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68425 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75786 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78704 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.78931 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74184 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73498 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76346 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78408 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6887 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60281 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58801 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6789 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70435 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6789 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60591 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74936 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65601 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72903 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7166 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66649 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6596 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67484 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69824 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65198 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62763 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6716 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74185 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64516 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43716 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.507 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.57541 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61465 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.53649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57693 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66835 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56346 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60893 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.41738 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56999 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47623 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48898 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5594 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61163 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.54278 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60939 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.67144 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.57513 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62486 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42999 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51904 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51413 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59862 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64678 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5765 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.72353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61481 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6648 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47182 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55927 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56239 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.681 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7105 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77227 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65576 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70403 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53493 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65095 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58682 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59832 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64133 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71381 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77462 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65749 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70523 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65429 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59067 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60061 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64133 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71381 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77462 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65749 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70523 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65429 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59067 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60061 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18044 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.19652 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.17845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.29574 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.26069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25094 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.32912 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.19285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31034 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23003 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.34897 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37736 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.34018 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.45334 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.44365 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4253 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.49188 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.30148 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54083 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38072 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.42337 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46556 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41764 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51482 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5319 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48329 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54273 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34181 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56051 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45591 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42957 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.50376 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55204 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47901 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61545 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5309 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57848 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3787 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57065 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47814 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47516 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5271 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57517 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50217 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.64465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55055 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59497 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40536 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57559 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48613 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48979 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52743 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57544 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50265 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.64521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55102 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59523 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40607 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48654 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49005 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52743 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57544 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50265 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.64521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55102 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59523 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40607 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48654 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49005 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18044 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.19652 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.17845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.29574 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.26069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25094 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.32912 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.19285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31034 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23003 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.38837 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41641 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38589 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51436 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.49549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4786 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54541 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65462 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54327 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4445 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49177 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54686 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50667 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63653 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.6296 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58176 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64488 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43647 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73896 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63501 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54399 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63895 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62856 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.77763 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78614 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73787 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53922 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.81526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.74011 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6612 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75324 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.78618 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75456 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.90555 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.85947 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.72368 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.90763 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.84644 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.77889 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62763 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6716 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74185 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64516 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43716 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.507 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.50751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53353 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.41878 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.55163 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.43254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.42384 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.32149 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.21821 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.24233 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36134 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41441 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.44911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3896 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.3307 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.45707 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.33929 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.25628 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.14779 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.17804 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27955 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.28709 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.3071 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.2526 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.21549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30978 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.21577 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.1914 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.17077 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08153 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10861 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.18095 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06721 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07375 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04554 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04721 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01815 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02487 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04246 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62763 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6716 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74185 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64516 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43716 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.507 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69169 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73077 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70751 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81205 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65575 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71909 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54083 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58683 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6986 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73698 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67365 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72174 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82115 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66736 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7297 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53862 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56031 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60014 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70329 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74316 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67856 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72604 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82413 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67233 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73412 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54845 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57045 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52712 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6072 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70588 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74454 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72923 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73793 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55462 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53222 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61081 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70588 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74454 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73793 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55476 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5757 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53258 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61098 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:16Z", + "is_anonymous": false, + "revision": "59678d44136add2741e6ddef46118b5c" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70588 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74454 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73793 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55476 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5757 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53258 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61098 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/bge-reranker-v2-m3/results_20241201072239-67b09d091f93942a5480e64cc61914e6.json b/AIR-Bench_24.05/BM25/bge-reranker-v2-m3/results_20241201072239-67b09d091f93942a5480e64cc61914e6.json new file mode 100644 index 0000000000000000000000000000000000000000..fc0f2d4911ec13d01c73f8e79cf0f3730ea332bf --- /dev/null +++ b/AIR-Bench_24.05/BM25/bge-reranker-v2-m3/results_20241201072239-67b09d091f93942a5480e64cc61914e6.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26542 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39209 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27207 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60604 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38807 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64112 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6867 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64101 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77581 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67244 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72495 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67489 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64688 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40725 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7108 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61614 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56589 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59533 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6403 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63012 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64039 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53864 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53047 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4834 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80126 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78003 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73512 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.77122 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83235 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77174 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80772 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81175 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77601 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82193 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76211 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83242 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50614 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74096 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.69938 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61396 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68834 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73928 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67471 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73525 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72378 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65623 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68213 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70182 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73191 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72321 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23784 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33821 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2312 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62764 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56544 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32849 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55519 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5979 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56854 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69331 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59027 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64065 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5985 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57356 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39685 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60951 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.55037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.516 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49708 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53667 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60166 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.57024 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54933 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4501 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47865 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74514 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73161 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62216 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64984 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73301 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71513 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73027 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68069 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65987 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7178 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70567 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71858 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6883 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46831 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65257 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6381 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60446 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61029 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68634 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60903 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66912 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64669 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59981 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63066 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62206 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67235 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65065 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22792 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33294 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22321 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60618 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56059 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30892 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51666 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55913 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54686 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66705 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54237 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6054 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57299 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55012 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40469 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57035 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52115 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51722 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44991 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51289 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60775 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53496 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56202 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41874 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4944 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74881 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74164 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6199 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63056 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73027 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72004 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72709 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66497 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65262 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71526 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71645 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71487 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67397 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47383 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62741 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62508 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5967 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.52718 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59835 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68928 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59761 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65919 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63363 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59826 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62812 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6072 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67013 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63327 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23194 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34174 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2295 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60787 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57626 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30611 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50173 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54951 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54646 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66515 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52019 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59217 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57951 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55108 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41597 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5572 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50986 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53758 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43584 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50846 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63432 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52083 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5804 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42351 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51784 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76509 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75464 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63507 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63819 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74761 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73697 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75163 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67429 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67166 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.72904 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73325 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7297 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50305 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62843 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63481 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60508 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.52962 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60845 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.71057 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60893 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67231 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64982 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61507 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64535 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.613 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68725 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63592 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25138 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35901 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63217 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6043 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31686 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.5215 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57304 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56599 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69377 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54347 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62025 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61039 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57285 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42248 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57626 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52972 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55648 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45923 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51377 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66342 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53958 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59584 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44029 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53534 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77807 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76178 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64352 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64817 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75878 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74953 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76683 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68451 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68583 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74626 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74433 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74438 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69901 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5344 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64152 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65719 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6168 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54771 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6257 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7305 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62867 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69831 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67396 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63132 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66413 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63372 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70757 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65269 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25335 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3608 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25275 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63354 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60595 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31726 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52196 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57391 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56666 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69446 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54395 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62116 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61211 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57401 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42307 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57713 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.557 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46028 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51391 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6664 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54011 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59746 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44231 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53861 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77916 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76233 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64418 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64889 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75944 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7505 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76752 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68543 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68654 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74733 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74549 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74497 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53544 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64174 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61744 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54867 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62646 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73195 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62982 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.70008 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6747 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63228 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66544 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6351 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70877 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6539 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25335 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3608 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25275 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63354 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60595 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31726 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52196 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57391 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56666 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69446 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54395 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62116 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61211 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57401 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42307 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57713 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.557 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46028 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51391 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6664 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54011 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59746 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44231 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53861 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77916 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76233 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64418 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64889 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75944 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7505 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76752 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68543 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68654 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74733 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74549 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74497 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53544 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64174 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61744 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54867 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62646 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73195 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62982 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.70008 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6747 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63228 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66544 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6351 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70877 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6539 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0836 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17876 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08394 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26043 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26753 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.11813 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16964 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.20252 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1998 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15607 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1862 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19658 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.22685 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24397 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2142 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.14925 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.24713 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12436 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25281 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27303 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14766 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3355 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14426 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24872 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52479 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.46167 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39271 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38764 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.44197 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47782 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.43857 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37863 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.34631 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43146 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47161 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43902 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40307 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21768 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26473 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2894 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.31337 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23841 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29176 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3339 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28652 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2936 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.2638 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.31173 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31286 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.30308 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35047 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30241 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1375 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24787 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13624 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39984 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.40263 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19143 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30001 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33464 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34734 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37213 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.29279 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33876 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34401 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.3598 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33178 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27721 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39047 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23618 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35982 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.4291 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28251 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46948 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.25097 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39398 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6483 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6339 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51241 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49865 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59508 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60845 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.58539 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51081 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49915 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57421 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60933 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58225 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54606 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33234 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41718 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4401 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.44994 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36652 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4293 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50614 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41837 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4521 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42352 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45373 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.46236 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42999 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50686 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44825 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15946 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27171 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15703 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.46101 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45554 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22102 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35886 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.39271 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40441 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46741 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35768 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4184 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41545 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41713 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35622 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40753 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34394 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43044 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28871 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39867 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49702 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35282 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50593 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29497 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43622 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68155 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68079 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54268 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53367 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.64396 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64442 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.635 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55786 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55276 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62232 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64486 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62751 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58302 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37756 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48361 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49847 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49904 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4127 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48575 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57462 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47491 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52322 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49574 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.5048 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51683 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.48298 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5648 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50803 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18113 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29225 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17506 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51534 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50339 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24399 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40541 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44483 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44933 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56273 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41582 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47957 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46395 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.36976 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45663 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40199 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45735 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33105 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42186 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5498 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42174 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5298 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33615 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.465 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70317 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70287 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56306 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56153 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67645 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67087 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6791 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59286 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59122 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65399 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66731 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65553 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61023 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41329 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53198 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54209 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53323 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4451 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52683 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62483 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5215 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58171 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55528 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53967 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55702 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5236 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61116 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.5519 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19088 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30194 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18453 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53245 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52195 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25143 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.4199 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46153 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46302 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58654 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43285 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51201 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50152 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47825 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37271 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46981 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46711 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34582 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42531 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56713 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43612 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53844 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34771 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47202 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71064 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70631 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56812 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56829 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68338 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6784 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68942 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59946 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60049 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6647 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67303 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66405 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61795 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43036 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54095 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55563 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54072 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45692 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53746 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63916 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53398 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59978 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57222 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54912 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56907 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5368 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6242 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56307 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19118 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30219 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18491 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53277 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52229 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25151 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46167 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46316 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58673 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43299 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51223 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50182 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47847 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37278 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46999 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41602 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46721 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34606 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42535 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56761 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43624 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53863 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.348 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47239 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70639 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56821 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56839 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68349 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67855 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68954 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59965 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60064 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66489 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67318 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66413 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61804 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43057 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54098 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.556 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54082 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45707 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53762 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63937 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5342 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60015 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57238 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54928 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56926 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53705 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62443 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56328 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19118 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30219 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18491 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53277 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52229 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25151 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46167 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46316 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58673 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43299 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51223 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50182 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47847 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37278 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46999 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41602 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46721 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34606 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42535 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56761 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43624 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53863 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.348 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47239 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70639 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56821 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56839 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68349 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67855 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68954 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59965 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60064 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66489 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67318 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66413 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61804 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43057 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54098 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.556 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54082 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45707 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53762 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63937 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5342 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60015 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57238 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54928 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56926 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53705 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62443 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56328 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0836 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17876 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08394 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26043 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26753 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.11813 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16964 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.20252 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1998 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15607 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1862 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19658 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.22685 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24397 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2142 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.14925 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.24713 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12436 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25281 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27303 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14766 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3355 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14426 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24872 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52479 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.46167 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39271 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38764 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.44197 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47782 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.43857 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37863 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.34631 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43146 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47161 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43902 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40307 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21768 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26473 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2894 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.31337 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23841 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29176 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3339 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28652 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2936 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.2638 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.31173 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31286 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.30308 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35047 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30241 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1575 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26684 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15415 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42783 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4339 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20868 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32278 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36243 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38358 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.39588 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31277 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35943 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37158 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38899 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3704 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.37274 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30781 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43446 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.25615 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39152 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47956 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30803 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51713 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27896 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43555 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68653 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66794 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54027 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52018 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62422 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64389 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62042 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53283 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52297 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60383 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65603 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61033 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38327 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44838 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48236 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4878 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39972 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46154 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55143 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45132 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48632 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.4573 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49268 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51257 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46041 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54144 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47944 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19303 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30437 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1936 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51586 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51165 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25457 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40266 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44196 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46753 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51786 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39661 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46114 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47297 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46897 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41717 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45225 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40269 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50526 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32975 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45206 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58921 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40025 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58129 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34182 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50978 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74379 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73869 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59439 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5727 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.69564 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70912 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69563 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60164 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60324 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67714 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72012 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68102 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6302 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46629 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53974 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57113 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56087 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.47223 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5429 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65745 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53921 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5896 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5638 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57353 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59833 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54215 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62951 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56441 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23726 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34701 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23373 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61029 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60076 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29757 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47936 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52835 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54752 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65768 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48633 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.57058 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58193 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54922 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45155 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.53222 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5003 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56993 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40592 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49539 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6896 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50195 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63992 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41166 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57228 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79494 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77991 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64025 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62749 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75644 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76767 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7771 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66537 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67865 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73905 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77074 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73624 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68651 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55547 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62092 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65392 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62231 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53196 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61763 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.75168 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62627 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69324 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66778 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6409 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6814 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61965 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.71226 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6386 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28888 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39515 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28657 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.66758 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67059 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3238 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52571 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58343 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59519 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72291 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5406 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63676 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65645 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60274 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47342 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5775 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62181 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46079 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50944 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.77246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54827 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.68475 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45446 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.63433 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83023 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80184 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6638 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65428 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7864 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80363 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81536 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69153 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71467 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7849 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80209 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77726 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72195 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63922 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65341 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71437 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65482 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57819 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66334 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80148 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67783 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75775 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72886 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68352 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72978 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67105 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76651 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68094 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26542 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39209 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27207 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60604 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38807 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64112 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6867 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64101 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77581 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67244 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72495 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67489 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64688 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40725 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7108 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61614 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56589 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59533 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6403 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63012 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64039 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53864 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53047 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4834 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80126 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78003 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73512 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.77122 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83235 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77174 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80772 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81175 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77601 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82193 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76211 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83242 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50614 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74096 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.69938 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61396 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68834 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73928 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67471 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73525 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72378 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65623 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68213 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70182 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73191 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72321 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19823 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24104 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19199 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49361 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42183 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27393 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.48018 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50763 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45571 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6148 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53175 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56646 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5133 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45994 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2459 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50863 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38702 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44933 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39856 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45431 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51462 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33964 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38966 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.41831 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.46237 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39608 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.42435 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.48186 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42488 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47754 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47139 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47832 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46997 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.41429 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.46658 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.45819 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35427 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52436 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48685 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42801 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41995 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45665 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50878 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4576 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51917 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51748 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42781 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45656 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45694 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47921 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48908 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18043 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15326 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39306 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.33266 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21267 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38653 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40315 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36432 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5233 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47146 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42104 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.36409 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1786 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40281 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41056 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.28697 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36293 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29759 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.366 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42928 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24984 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30568 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.25243 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.2927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.33082 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27649 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.3048 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35029 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.30087 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.35251 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.3488 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.35795 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34539 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.29217 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.33668 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27726 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41534 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37859 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32577 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.32309 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35441 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.39578 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.35775 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41858 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41669 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.32636 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.35112 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35531 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3683 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38165 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10574 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11242 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09935 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.25495 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21695 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13122 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24348 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25944 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23168 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36128 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.2798 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3112 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.27787 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.23168 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.10121 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.25414 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27127 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.1702 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23253 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.17227 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.23276 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2889 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.14779 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19633 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.15336 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.16678 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.18372 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.15744 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.18015 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.20419 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.17551 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.21704 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.20791 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.21496 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.20265 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.16624 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.19423 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.19023 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17581 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25535 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.23377 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.19561 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.19644 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.21719 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.24526 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22654 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26726 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26765 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.19687 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.21531 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.22039 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.22798 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.23547 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02637 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02676 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02547 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05783 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05136 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02932 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.05473 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05878 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05178 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08139 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.06328 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.07091 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06414 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.05246 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02129 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05641 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.06008 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03821 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05328 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03589 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05288 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06405 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03278 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04373 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0336 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03626 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03815 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03327 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03869 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04337 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03787 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04723 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04417 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04646 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04462 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04206 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04108 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04235 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05452 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05216 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04177 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04392 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04753 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05405 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.05032 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06047 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05987 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04325 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04778 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04944 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05042 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26542 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39209 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27279 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60604 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38881 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64112 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6867 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64101 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77581 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67244 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72495 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67489 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64688 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40725 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7108 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61614 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56589 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.596 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6403 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63012 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.63958 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53785 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53047 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80126 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78003 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73438 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.77122 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83235 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77174 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80772 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81175 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77601 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82193 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76211 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83242 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50614 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74168 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.69938 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61396 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68909 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73928 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67471 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73525 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72378 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65623 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68213 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70182 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73191 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72321 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30894 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42309 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31368 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.75163 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6597 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.42759 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.68875 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.74642 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.70688 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82301 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.72415 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77194 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.72883 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.6998 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45384 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75542 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.6869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63067 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.646 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68943 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70009 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69657 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59411 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58899 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5383 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84398 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81621 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76625 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79988 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86556 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81787 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8462 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.83848 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80515 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85289 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81208 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86103 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82319 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58363 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.79522 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.76333 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70669 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66741 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73468 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79773 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73124 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.79031 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.77474 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71289 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.75135 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.75198 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78061 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77114 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31465 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42683 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32464 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.75839 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66701 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.434 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.69334 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75093 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71343 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.72815 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77616 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73591 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70362 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46066 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75968 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69426 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63865 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6525 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69371 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70849 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70369 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59912 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59456 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54477 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84735 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81946 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77056 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80202 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86788 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82262 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8497 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84168 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80855 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85544 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81703 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86306 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82716 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59356 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7979 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.76961 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71284 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67487 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73946 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80426 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73796 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.79662 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78161 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71854 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.75688 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.75847 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78568 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77696 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31843 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42933 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32864 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76121 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67039 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43625 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.69601 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75256 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71673 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82866 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.72996 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77844 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.7386 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70653 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46264 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76234 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6418 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65669 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69443 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71149 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.7054 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60214 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59677 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54707 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84819 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82058 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7716 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80395 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86865 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8238 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.85065 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84232 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80942 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85622 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81788 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86435 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82801 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59819 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.79923 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.77168 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71437 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67769 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74173 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80644 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74098 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.79836 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78332 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72042 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.7597 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.76101 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78737 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77788 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.32078 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43037 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33081 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76213 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67166 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43673 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.69642 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75294 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82898 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.73028 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.7791 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70736 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76318 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64288 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65765 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69471 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71307 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70653 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6035 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59738 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54919 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84883 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.821 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77189 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80434 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86896 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82428 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8508 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84249 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80982 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8565 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81839 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82835 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59986 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.79969 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.77258 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71505 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67848 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74258 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80673 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74189 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.799 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78405 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72132 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76037 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.76207 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78809 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77843 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.3209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43046 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33098 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76216 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67172 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43677 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.69642 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75298 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82899 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.73028 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77912 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73951 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70741 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46336 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7632 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64289 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65768 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69471 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7132 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70653 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60362 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5975 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54944 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84887 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82102 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77192 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80436 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86898 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82433 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.85081 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84252 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80983 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85652 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81845 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86486 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59988 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7997 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.77265 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71506 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67852 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7426 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.8068 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74191 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.79905 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78408 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72136 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76042 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.76212 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78813 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77848 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.3209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43046 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33098 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76216 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67172 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43677 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.69642 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75298 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82899 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.73028 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77912 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73951 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70741 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46336 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7632 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69819 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64289 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65768 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69471 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7132 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70653 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60362 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5975 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54944 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84887 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82102 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77192 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80436 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86898 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82433 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.85081 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84252 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80983 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85652 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81845 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86486 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59988 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7997 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.77265 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71506 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67852 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7426 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.8068 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74191 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.79905 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78408 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72136 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76042 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.76212 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78813 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77848 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68468 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.75148 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70809 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68451 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71505 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60656 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46884 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59664 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.626 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63794 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65837 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77181 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66893 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55211 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62808 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52838 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55661 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62026 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66055 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62702 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67504 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7617 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63327 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68192 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.56386 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65194 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56996 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65208 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68779 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73018 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.80514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66627 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7214 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59911 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66793 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60096 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61223 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68146 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71728 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6844 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.76433 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69769 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74818 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63043 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69167 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63252 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.64426 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68183 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71796 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6847 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.76433 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69851 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74929 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63088 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69235 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63374 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.64587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68183 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71796 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6847 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.76433 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69851 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74929 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63088 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69235 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63374 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.64587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.2126 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.23341 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23686 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.34173 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.31098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.29012 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.37939 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.24931 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.37339 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27938 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.39122 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.42862 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43011 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52702 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.53731 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47481 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54882 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40798 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59639 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48257 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44416 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48199 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.5173 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50655 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58146 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62848 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54174 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59891 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.61004 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51081 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48519 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56138 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.59728 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55951 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63144 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.63531 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.5027 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.61688 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5292 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.524 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58271 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61878 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58121 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64976 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64874 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51941 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62271 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53929 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53999 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5828 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61897 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58127 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64976 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73506 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60303 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64891 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51954 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62278 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53943 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54029 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5828 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61897 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58127 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64976 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73506 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60303 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64891 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51954 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62278 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53943 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54029 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.2126 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.23341 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23686 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.34173 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.31098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.29012 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.37939 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.24931 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.37339 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27938 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4222 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46261 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46541 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56788 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51997 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59806 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46396 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.71888 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5034 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54694 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58629 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57569 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6956 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69598 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62639 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69116 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.56297 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.7751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.65678 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58266 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68511 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71705 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67932 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.8229 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84121 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.72435 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.78175 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65423 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.82329 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.74555 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68768 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75805 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.788 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76081 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92318 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80691 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8588 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.73971 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92369 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.78425 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68468 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.75148 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70809 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68451 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71505 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60656 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46884 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59664 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54755 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.56509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.53854 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.4723 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62772 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.4552 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4235 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.23963 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.25618 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.39776 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.45826 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.34817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50435 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.37024 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.33602 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.33169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.15502 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.18516 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.29244 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.303 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.31006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.26474 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.22085 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.33098 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.20161 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.20683 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08233 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10742 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.18263 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07012 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06075 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05093 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07435 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05238 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04565 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04803 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01847 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02522 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04246 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68468 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.75148 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.7052 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68451 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71505 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60656 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46884 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59664 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74675 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79389 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78498 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.90127 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.72421 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79301 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.68579 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59639 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56479 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6732 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75305 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79951 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76638 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.90494 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73105 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7996 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69672 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.61004 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.582 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68217 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75747 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.80092 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76985 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79397 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.9065 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73478 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80118 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.61688 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59074 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68641 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75844 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.80207 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.90721 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73628 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80273 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70076 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62271 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59639 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68879 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75844 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.80207 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.90721 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73628 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80278 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70076 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62278 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59649 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68883 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:39Z", + "is_anonymous": false, + "revision": "67b09d091f93942a5480e64cc61914e6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75844 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.80207 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.90721 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73628 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80278 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70076 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62278 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59649 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68883 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/gte-multilingual-reranker-base/results_20241201072300-5082e0d83b049fd683584226d3afb83d.json b/AIR-Bench_24.05/BM25/gte-multilingual-reranker-base/results_20241201072300-5082e0d83b049fd683584226d3afb83d.json new file mode 100644 index 0000000000000000000000000000000000000000..1e08cbea010d6d7252d4f8ec7276161384328630 --- /dev/null +++ b/AIR-Bench_24.05/BM25/gte-multilingual-reranker-base/results_20241201072300-5082e0d83b049fd683584226d3afb83d.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38376 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21274 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63991 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58901 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41016 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54585 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58369 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60918 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66077 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56566 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58491 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58902 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32614 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61908 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52187 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49268 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.518 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57452 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63151 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52454 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55047 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4813 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41702 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78441 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81476 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77158 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69004 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79853 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78116 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7764 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71235 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72832 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80587 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76496 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7397 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74846 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59278 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64472 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67605 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62361 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61136 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69642 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66594 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68584 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62777 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56837 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65816 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65573 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57753 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65305 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19565 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32121 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18468 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56517 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54447 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33395 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47293 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.49257 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51765 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56608 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47856 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52119 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51492 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51619 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32518 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.52217 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44182 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44549 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43838 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47367 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59043 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46437 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54894 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40257 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41501 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72086 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75741 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63574 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58442 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68307 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70361 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68626 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59886 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60643 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69369 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69297 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64063 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64026 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51283 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54452 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59579 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58286 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53096 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54304 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62321 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58833 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61635 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56018 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50288 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58821 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57394 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54145 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57339 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19161 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31451 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17984 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54599 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53919 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30941 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43954 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46464 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49125 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53904 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44147 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4927 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.49586 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49406 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.34043 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48954 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41414 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44732 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39514 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44871 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58804 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43527 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55982 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38051 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43483 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72326 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75647 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62759 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57006 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.682 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70629 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68264 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58702 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60025 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6867 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69823 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63824 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.62736 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50852 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.51953 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58294 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57546 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51284 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53355 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6285 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57115 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60193 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5447 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51026 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58071 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55774 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54939 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55986 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19953 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3253 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19234 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55193 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55775 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30565 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43321 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46913 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49768 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.54405 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43805 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50909 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5035 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35856 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49061 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41154 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47155 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38939 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.4566 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61514 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43447 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57941 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38984 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46462 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74104 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76777 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6416 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58226 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70435 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72371 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70682 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60233 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62154 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70276 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71537 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66389 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64102 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53049 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5295 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60072 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58623 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51871 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55234 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65427 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58007 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62138 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56683 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53656 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60336 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57326 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57514 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57402 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22983 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3469 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22178 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59621 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59197 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32057 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47464 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51683 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53806 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61766 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48665 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55545 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56254 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53922 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3761 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.52916 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46758 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5076 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42626 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47547 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65428 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48153 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59852 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41593 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49461 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76196 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77553 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65348 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60637 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72808 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74387 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73698 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63064 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65109 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.72931 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73418 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69196 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66573 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56409 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57522 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63579 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6066 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54261 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5849 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69396 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61448 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66561 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61718 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57311 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63823 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60566 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6212 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.60984 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23268 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34985 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22616 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59887 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59416 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32105 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47596 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51987 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53958 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62161 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48898 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55821 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56558 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54175 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37692 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.53149 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47055 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51143 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42914 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47693 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65863 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48473 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59925 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41828 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49944 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76381 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77663 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65419 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60762 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72944 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74567 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73895 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63272 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65266 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73143 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73655 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69398 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6685 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56557 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57778 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63923 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60769 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54447 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58662 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69593 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6162 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66833 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61974 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57527 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6409 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60791 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62434 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61161 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23268 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34985 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22616 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59887 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59416 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32105 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47596 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51987 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53958 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62161 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48898 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55821 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56558 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54175 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37692 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.53149 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47055 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51143 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42914 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47693 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65863 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48473 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59925 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41828 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49944 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76381 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77663 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65419 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60762 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72944 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74567 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73895 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63272 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65266 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73143 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73655 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69398 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6685 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56557 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57778 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63923 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60769 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54447 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58662 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69593 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6162 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66833 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61974 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57527 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6409 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60791 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62434 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61161 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07893 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17284 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07133 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2521 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26756 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12994 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14709 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18132 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22418 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1769 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.13362 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1602 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.17923 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21432 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20053 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19501 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13269 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22293 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11332 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23336 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28845 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.12568 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3457 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13451 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.22283 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5186 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.48338 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41341 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.35032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42611 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.49198 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.422 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.33413 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32842 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4284 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47893 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.39411 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.38202 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26741 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24043 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29095 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32278 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.25056 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26766 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3233 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28795 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.28353 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23685 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27873 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31622 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29194 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27923 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.28453 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11684 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23615 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11074 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3674 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39394 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2009 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25049 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27597 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.32417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30214 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.23397 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27482 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29796 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32914 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.29904 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22285 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.34023 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.20851 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.31992 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42926 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.23345 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47445 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.22122 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.34072 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63241 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66512 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.52983 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.44571 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55365 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60805 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55166 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44235 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45468 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55769 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60383 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51331 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50493 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38274 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34602 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41845 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43967 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36551 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38161 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46005 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40888 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41862 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3606 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37714 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44215 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40365 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39783 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39812 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25611 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12628 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41338 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44225 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22711 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29438 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31656 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36285 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3631 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27832 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35455 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37259 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2913 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34153 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26352 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.36847 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24826 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.34404 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.4845 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28328 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5075 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26309 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37704 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65922 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70276 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.556 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47437 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59478 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63792 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59383 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.48134 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.4992 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59643 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63193 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54855 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53532 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41972 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38829 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46562 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48265 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40304 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42566 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51751 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45264 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47297 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41211 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41877 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48021 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44271 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44559 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44379 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15305 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27518 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14152 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45671 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48805 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24635 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33302 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3598 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40029 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4277 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32713 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38676 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40866 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4137 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30688 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38419 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3012 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39119 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28526 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36696 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53069 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3335 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53164 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30167 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40538 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67954 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72261 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.57403 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49835 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62474 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65999 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62948 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51115 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53243 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62585 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65037 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5785 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55851 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.44933 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42311 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.50631 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5139 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43388 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46416 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56234 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49025 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52518 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46233 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45099 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51575 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.48104 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48398 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48374 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16636 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28615 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15379 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48313 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50848 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25555 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35728 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38697 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42331 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47362 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35606 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42299 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43927 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43383 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31349 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.4062 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33079 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40668 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30556 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37647 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55317 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36082 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54136 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3172 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41811 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68974 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72651 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5807 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63799 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67044 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6468 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5264 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.549 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64025 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6596 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59268 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57161 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46703 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44736 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52583 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52547 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44804 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4818 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58584 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51054 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55169 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49182 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46901 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5341 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49893 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5084 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50355 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16677 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28662 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15442 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48379 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50891 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25562 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35754 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38758 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42366 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47469 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35666 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42368 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43992 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43434 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31359 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40671 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40745 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30617 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3767 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55387 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3616 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54146 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31754 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41877 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69009 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72668 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58081 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51161 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63823 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67076 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64718 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52679 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54933 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64067 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65995 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.593 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46737 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44791 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52564 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44838 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48211 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58623 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51087 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55225 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49237 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4694 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53461 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49939 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50898 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50389 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16677 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28662 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15442 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48379 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50891 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25562 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35754 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38758 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42366 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47469 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35666 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42368 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43992 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43434 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31359 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40671 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40745 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30617 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3767 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55387 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3616 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54146 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31754 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41877 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69009 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72668 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58081 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51161 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63823 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67076 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64718 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52679 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54933 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64067 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65995 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.593 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46737 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44791 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52564 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44838 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48211 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58623 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51087 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55225 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49237 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4694 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53461 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49939 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50898 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50389 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07893 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17284 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07133 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2521 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26756 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12994 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14709 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18132 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22418 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1769 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.13362 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1602 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.17923 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21432 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20053 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19501 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13269 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22293 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11332 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23336 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28845 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.12568 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3457 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13451 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.22283 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5186 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.48338 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41341 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.35032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42611 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.49198 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.422 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.33413 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32842 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4284 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47893 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.39411 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.38202 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26741 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24043 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29095 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32278 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.25056 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26766 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3233 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28795 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.28353 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23685 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27873 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31622 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29194 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27923 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.28453 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13064 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25151 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12856 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39344 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42004 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2134 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27685 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30433 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35147 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.32793 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25467 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3014 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32471 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35857 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30959 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.32444 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38432 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22944 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35103 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47022 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25594 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51498 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24562 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38576 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66425 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68675 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54576 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47565 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.57963 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63342 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.58106 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47342 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.48171 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58252 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63912 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55074 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53858 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41315 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.37507 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45145 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46779 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39171 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41711 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49772 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44185 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.45263 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3977 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41402 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48139 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4369 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44637 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42723 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16308 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28464 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15907 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.46744 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49274 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24998 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34279 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37363 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41393 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41915 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32701 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38169 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4111 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42524 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.36544 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39196 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3209 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44206 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29139 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39586 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55816 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32956 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57352 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31152 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45647 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71518 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73931 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58917 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52674 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.64868 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6871 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65115 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53825 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64406 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69244 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6122 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59041 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4761 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44621 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52857 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53495 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45257 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48997 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5933 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5101 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53622 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48256 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49473 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54678 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50107 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5352 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50061 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20621 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33052 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2048 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55562 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58043 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28762 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42207 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46243 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49477 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.54041 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4224 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49104 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51739 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50826 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41521 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48017 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40684 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50871 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36788 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45592 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65836 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42749 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63259 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38654 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53305 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76774 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77673 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63087 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58688 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71736 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74267 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73213 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61066 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63308 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70839 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74292 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69051 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64572 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54794 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53004 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61782 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59761 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51475 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57342 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69317 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58784 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64356 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59016 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57875 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63219 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58552 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63222 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58758 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28554 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38942 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28017 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.66314 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66832 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32352 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52235 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57505 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59238 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.71237 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53441 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62995 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65197 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47222 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57233 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53917 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60997 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.4543 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50392 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.76602 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53894 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69016 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45333 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.62852 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82746 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66321 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65211 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78371 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80011 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8106 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68717 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71142 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78075 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7966 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77053 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71335 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63773 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64482 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70938 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65259 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57467 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65931 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80034 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67546 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75414 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72117 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67864 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72452 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66808 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75812 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67918 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38376 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21274 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63991 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58901 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41016 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54585 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58369 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60918 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66077 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56566 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58491 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58902 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32614 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61908 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52187 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49268 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.518 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57452 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63151 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52454 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55047 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4813 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41702 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78441 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81476 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77158 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69004 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79853 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78116 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7764 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71235 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72832 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80587 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76496 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7397 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74846 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59278 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64472 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67605 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62361 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61136 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69642 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66594 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68584 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62777 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56837 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65816 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65573 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57753 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65305 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15495 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22461 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15075 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43263 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.40093 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27221 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40616 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40463 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39847 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48722 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42256 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.45473 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43348 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40653 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1973 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42505 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32357 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39556 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.34333 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43442 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41378 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33149 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34488 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28227 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.39583 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47685 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39782 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37589 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.43897 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.40411 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.4387 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40939 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43015 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4453 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.3991 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.36968 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41944 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43697 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39873 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39965 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39836 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44741 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43104 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46485 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44215 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34403 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40938 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41131 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.38043 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.41686 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12755 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16558 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12041 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34085 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31393 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20471 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32507 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32132 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30733 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40354 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34228 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37402 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3566 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31632 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.14961 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33343 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.31101 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23367 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31427 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24796 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33893 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34143 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24164 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27812 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21651 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.27261 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.32938 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27143 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.26923 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.31721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.28203 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.32003 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.30316 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.31994 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.31983 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.27422 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.29478 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.29337 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2774 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.3233 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.33617 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30278 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.30067 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30717 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.35123 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32865 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36652 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34934 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26875 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.30456 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31271 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.29952 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32274 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08888 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10472 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0835 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.22343 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20751 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12541 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.2106 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21781 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19948 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28466 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.23636 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26102 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.24361 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2089 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0906 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22138 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.14312 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.20727 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.15262 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21707 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.23765 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.14519 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18359 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13626 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.15667 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.18191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.15365 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.1617 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.18897 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.16413 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.19592 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.18404 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.19429 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.18987 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.15577 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.17713 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.17225 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17105 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.20586 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.21469 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.18367 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.18619 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19567 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.22263 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20556 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.23975 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23161 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.17059 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.19288 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.20161 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19325 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.2081 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02608 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0265 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02495 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05738 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05118 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02929 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.05444 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05798 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05144 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.06251 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.07021 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06366 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.052 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02126 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05587 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.0591 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03698 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05259 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03549 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05255 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06294 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0329 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04359 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03309 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03601 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03803 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03329 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03852 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04315 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03762 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04679 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04378 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04617 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.0443 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.0353 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04174 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04045 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04221 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05366 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05186 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04165 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04362 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04728 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.0538 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.05013 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06013 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05932 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0429 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04735 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04909 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04987 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0512 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38376 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21274 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63991 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58901 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40943 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54585 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58369 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60918 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66003 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56566 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58491 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58976 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32614 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61908 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52112 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49268 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51733 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57452 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63151 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52534 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54968 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48061 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41702 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78441 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81476 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77158 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69004 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79853 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78116 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77713 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71235 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80587 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76496 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7397 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74846 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59278 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64472 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67605 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62361 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61136 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69642 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66594 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68584 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62777 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56837 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65816 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65573 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57753 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65305 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2653 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40932 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25687 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.69378 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63596 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43913 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60876 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.65498 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.66778 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72173 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62831 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.66678 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64949 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64565 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38064 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6769 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59314 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56259 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58244 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6249 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6935 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58863 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59569 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53947 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4773 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82245 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83623 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78733 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73567 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83186 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81473 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81318 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7613 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.76481 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83403 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80389 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78972 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79061 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6432 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7055 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7345 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69595 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66902 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.67177 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.75322 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.721 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74459 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6983 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62745 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.71359 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71206 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65288 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70547 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27248 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41394 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26567 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7038 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64514 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44281 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61754 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66725 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67662 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73187 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64068 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67587 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65889 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65307 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39014 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.68552 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60671 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57255 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59288 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63268 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70047 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.60134 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6016 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54872 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48662 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82719 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83909 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78974 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74157 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83664 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81857 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81883 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.76762 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.76947 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83819 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80927 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7957 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79492 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64992 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71299 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74105 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70217 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67574 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68003 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76183 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72707 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75304 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70702 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64086 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72213 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72012 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66429 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7138 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27826 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4176 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27344 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7083 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64952 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44543 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62168 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.671 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68022 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73719 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64549 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68062 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66375 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65739 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39479 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.69103 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61317 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57793 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59798 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6369 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70468 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.60842 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60481 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55298 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49184 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82979 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.84002 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79102 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74533 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83876 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82224 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82188 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77156 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77216 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8397 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81118 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7995 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79675 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65339 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71839 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74598 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70519 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67868 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68423 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76612 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73039 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.757 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71165 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64567 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72709 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72375 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67054 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.71829 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28224 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41932 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27707 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.71018 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65143 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44667 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62355 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.67254 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68293 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73924 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64731 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68285 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66676 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65946 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39712 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.69254 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61548 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58071 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59977 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63833 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70652 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61137 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60674 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5546 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49523 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83077 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8405 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7918 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74659 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83952 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82282 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82277 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77242 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77298 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84086 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8121 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.80056 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79754 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65474 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72022 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74792 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70627 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68014 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68581 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76785 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73194 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75888 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71332 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64798 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72908 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72527 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67277 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72018 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28249 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41947 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27731 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7102 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6515 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4467 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62359 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6726 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68294 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64735 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68291 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66686 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39718 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6926 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61557 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58076 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59984 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63839 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70672 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61146 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60678 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55473 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49553 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.84054 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79183 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74664 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83954 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82289 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82283 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77247 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77301 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84091 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81222 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.80063 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79762 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65475 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72027 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74805 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7063 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68019 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6859 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76788 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73197 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75894 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71339 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64806 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72918 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72532 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67287 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72025 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28249 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41947 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27731 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7102 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6515 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4467 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62359 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6726 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68294 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64735 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68291 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66686 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39718 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6926 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61557 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58076 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59984 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63839 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70672 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61146 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60678 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55473 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49553 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.84054 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79183 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74664 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83954 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82289 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82283 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77247 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77301 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84091 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81222 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.80063 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79762 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65475 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72027 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74805 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7063 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68019 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6859 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76788 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73197 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75894 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71339 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64806 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72918 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72532 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67287 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72025 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64264 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68169 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81793 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54372 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44807 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52101 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5828 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61264 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56253 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.61417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73573 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66303 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48949 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58553 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51178 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51753 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56977 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.59508 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64586 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.72136 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.612 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67003 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49331 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.61508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55584 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53737 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.60465 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6314 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.59795 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69733 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76124 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64498 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70548 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.64548 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59045 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58015 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64918 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6784 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64372 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81308 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74118 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58434 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66722 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61829 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61634 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65032 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67924 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64439 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74128 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81491 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68115 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74332 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58732 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66851 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.62132 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61874 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65032 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67924 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64439 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74128 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81491 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68115 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74332 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58732 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66851 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.62132 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61874 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.19249 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.21142 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.21021 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.32811 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.26742 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.38714 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22845 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.35781 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25988 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.35889 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38131 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.36876 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48349 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.51379 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45706 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.55036 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35744 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5589 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41413 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43297 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45383 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43828 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54735 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59286 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.52041 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59309 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40125 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49568 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45348 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.50258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53198 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49292 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59126 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66214 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56187 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62316 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44236 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58802 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49038 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.53173 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.56324 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52049 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.61318 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58093 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64045 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59338 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52317 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5077 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.532 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.5635 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52066 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6136 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69654 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58129 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64089 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46347 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59348 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52351 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50805 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.532 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.5635 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52066 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6136 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69654 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58129 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64089 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46347 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59348 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52351 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50805 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.19249 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.21142 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.21021 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.32811 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.26742 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.38714 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22845 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.35781 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25988 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.39446 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41409 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.40629 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54733 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54698 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59492 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.41173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66265 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48008 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.50462 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.51708 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66956 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60863 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67223 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73494 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.65826 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56452 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6422 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66664 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79463 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79236 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75425 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.82731 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.75074 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.67009 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75519 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.78756 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75948 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.91522 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91858 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80379 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.85593 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.72866 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.91968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.85188 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.78007 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64264 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68169 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81793 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54372 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44807 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52101 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5045 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52268 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.43192 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59149 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46627 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44265 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36612 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.22088 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.24926 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37162 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41261 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.42308 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.33634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46685 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.32043 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.27978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.14699 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.1822 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27675 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.27898 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.29053 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.24769 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.2107 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30299 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.22143 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.18978 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.1877 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10712 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.17451 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06727 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07006 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06064 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.0738 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0522 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04522 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04732 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02493 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.0423 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64264 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68169 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81793 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71774 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54372 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.47791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44807 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52101 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70921 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73471 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70906 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.76432 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87274 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70139 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.78629 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61885 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5589 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54303 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61625 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.71912 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74078 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71787 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7739 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.8764 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79261 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62568 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56588 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.62675 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74642 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72287 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.77976 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.88054 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79668 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58802 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57458 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63345 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72553 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74765 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72493 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78104 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79864 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63936 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59338 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57918 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63502 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72559 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74765 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72493 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78104 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79864 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59348 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57938 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63518 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "gte-multilingual-reranker-base", + "reranking_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-reranker-base", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:23:00Z", + "is_anonymous": false, + "revision": "5082e0d83b049fd683584226d3afb83d" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72559 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74765 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72493 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78104 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79864 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59348 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57938 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63518 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/jina-reranker-v1-tiny-en/results_20241201072134-0c3ea5f26f811930923fd89eac26e814.json b/AIR-Bench_24.05/BM25/jina-reranker-v1-tiny-en/results_20241201072134-0c3ea5f26f811930923fd89eac26e814.json new file mode 100644 index 0000000000000000000000000000000000000000..cd823e7c4dad0ec1450553e16a6bc2977612a739 --- /dev/null +++ b/AIR-Bench_24.05/BM25/jina-reranker-v1-tiny-en/results_20241201072134-0c3ea5f26f811930923fd89eac26e814.json @@ -0,0 +1,4832 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30257 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49303 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49488 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45505 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71563 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4722 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56076 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27765 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48568 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4513 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48189 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68194 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42495 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53633 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28099 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49001 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45965 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49989 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69742 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43032 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53526 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29414 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48769 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52327 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46308 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55009 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31848 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55309 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51578 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54733 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72857 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.507 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57154 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32117 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55579 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51743 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55019 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72936 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50857 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57338 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32117 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55579 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51743 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55019 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72936 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50857 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57338 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13279 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21498 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.28062 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2037 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.26629 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1964 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.33655 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40551 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58151 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29973 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38827 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21962 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38502 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37398 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44082 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33748 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43422 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23899 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43497 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40248 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46629 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37136 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46973 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25119 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4567 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41557 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47758 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65939 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39307 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48182 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25165 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45727 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41584 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47788 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6595 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39338 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48208 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25165 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45727 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41584 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47788 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6595 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39338 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48208 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13279 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21498 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.28062 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2037 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.26629 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22757 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38086 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46243 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62914 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34867 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.44228 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27451 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46673 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45635 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53448 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70946 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42163 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51878 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32326 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5697 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53627 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60217 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76962 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51613 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58873 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39154 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66684 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61654 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67726 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80064 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63684 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64839 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30257 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49303 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49488 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45505 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71563 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4722 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56076 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20356 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36791 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33821 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30152 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.43367 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31312 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38311 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1585 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29768 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25695 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.22618 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.31505 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24505 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29678 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10173 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.15886 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13896 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.16079 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.18411 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05099 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03792 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03259 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03809 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04222 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04154 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30257 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49414 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45505 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71563 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47292 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56076 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35103 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57198 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56869 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.523 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7711 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54922 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63775 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35977 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58317 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57912 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77613 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56055 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64591 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36401 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58851 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58494 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53652 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77863 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56641 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64862 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3657 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59076 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58681 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53892 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77924 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56924 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65027 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36583 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5908 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58684 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53912 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77927 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56929 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65035 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36583 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5908 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58684 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53912 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77927 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56929 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65035 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.53153 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58876 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52601 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78533 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66398 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46721 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45658 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48792 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52413 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47532 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60372 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69426 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56673 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61196 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5109 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47437 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43335 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47695 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52184 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47658 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62024 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.68649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.58176 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61916 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44353 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53699 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46707 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51239 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55716 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52215 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62269 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66562 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49744 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55989 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55034 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50152 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58144 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61962 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58175 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71958 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78905 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66492 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70647 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55257 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59881 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58778 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55243 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58535 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62394 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58457 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72216 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79039 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66741 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7106 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55415 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60349 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56007 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58535 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62394 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58457 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72216 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79039 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66741 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7106 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55415 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60349 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56007 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.15236 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.174 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.16616 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.29915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.28184 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28282 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35983 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.19587 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31281 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.20867 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.28509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.31826 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.2996 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.47557 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46908 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.43105 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50533 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.31456 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42289 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.33428 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.34269 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.35471 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52589 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.55088 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48931 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54051 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.35172 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.49618 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45441 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38285 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.40605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45623 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41232 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56922 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53375 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57646 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.39633 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50536 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4702 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41352 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44419 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49194 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59406 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66218 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55561 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59574 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42132 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51447 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43455 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44517 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49264 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44339 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59442 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66246 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55617 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59641 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51491 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48194 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43566 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44517 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49264 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44339 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59442 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66246 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55617 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59641 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51491 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48194 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43566 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.15236 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.174 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.16616 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.29915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.28184 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28282 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35983 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.19587 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31281 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.20867 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.32082 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.35301 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.34348 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54898 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50402 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47142 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.55334 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36562 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59438 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53388 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.39506 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.42241 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46318 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44628 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64355 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62585 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.57475 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62404 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65863 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63749 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50141 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55768 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60684 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.584 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.76142 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77999 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68206 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72633 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57492 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73092 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.71464 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59128 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74523 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77136 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75067 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.90907 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91981 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.79915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.84549 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.73563 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.8996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.85732 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.75309 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.53153 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58876 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52601 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78533 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66398 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46721 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45658 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.42943 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.44576 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.4027 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.43662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56159 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.41468 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.40054 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.3388 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.19813 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.24036 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.31653 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.35375 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33006 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.3262 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.45489 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.32857 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.28978 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.17685 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25546 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.24685 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.2645 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.22861 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.20366 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30299 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.21071 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.18253 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.18087 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.07309 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10237 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.15938 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06625 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07408 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05196 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04489 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04765 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01799 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0251 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04134 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.53153 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.5858 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52601 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78533 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66398 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46721 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.38956 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45658 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.60511 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64546 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.60645 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84149 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69544 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73566 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55783 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5094 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53688 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62192 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.65626 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62264 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73671 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84787 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70541 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74588 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.56753 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.49618 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52987 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55201 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62727 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66467 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63077 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74284 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.85102 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71083 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75242 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58061 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50536 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5375 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55889 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63139 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66778 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63405 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74505 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.85243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71239 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75432 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58497 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5145 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54332 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56423 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63139 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66798 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63405 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74516 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.85243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71247 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75444 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58497 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51495 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54346 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56456 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-tiny-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:21:34Z", + "is_anonymous": false, + "revision": "0c3ea5f26f811930923fd89eac26e814" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63139 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66798 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63405 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74516 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.85243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.71247 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75444 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.58497 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51495 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54346 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56456 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/jina-reranker-v1-turbo-en/results_20241201072209-e3793c2dd55005a68afcc5a6906a4e41.json b/AIR-Bench_24.05/BM25/jina-reranker-v1-turbo-en/results_20241201072209-e3793c2dd55005a68afcc5a6906a4e41.json new file mode 100644 index 0000000000000000000000000000000000000000..930c99a5b498a300be104d87bcf6736312df5c2b --- /dev/null +++ b/AIR-Bench_24.05/BM25/jina-reranker-v1-turbo-en/results_20241201072209-e3793c2dd55005a68afcc5a6906a4e41.json @@ -0,0 +1,4832 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3102 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47446 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4795 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46931 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54246 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28864 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47334 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43702 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47893 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6754 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42761 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51812 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28987 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47882 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44592 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49655 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69172 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43103 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51844 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30145 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50377 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47735 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52158 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71493 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.466 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53535 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32315 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54518 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50695 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54819 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50616 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55902 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32635 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54797 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50857 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55054 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50802 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56139 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32635 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54797 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50857 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55054 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50802 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56139 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13495 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.20573 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.28778 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41853 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19754 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25551 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20334 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32797 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32244 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40336 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.57748 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29847 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37305 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22679 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37451 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35996 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.43741 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62308 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33501 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41833 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24737 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39045 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46362 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65105 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37229 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.45238 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25827 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44688 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4041 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47603 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6563 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39242 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46564 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25875 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40438 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47634 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65646 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39278 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.466 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25875 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40438 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47634 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65646 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39278 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.466 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13495 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.20573 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.28778 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41853 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19754 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25551 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2347 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37574 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37279 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45651 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62425 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34904 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42572 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27921 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45647 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44546 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5267 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70378 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42184 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50612 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32708 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55863 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53225 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59756 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52344 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58058 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38853 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66619 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61697 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.68108 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80018 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63533 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64597 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3102 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47446 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4795 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46931 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54246 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21258 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32626 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.29522 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.4274 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31986 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37091 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16489 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29241 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25051 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.22145 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.31071 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24953 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28799 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1052 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.19969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.15776 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13683 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.16534 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.18053 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05096 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03792 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03262 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03803 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04215 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04142 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3102 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47523 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4795 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46931 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54246 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36121 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55341 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55429 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.528 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76327 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55114 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61701 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36933 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56602 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56502 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53766 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77094 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56291 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6274 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37251 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57305 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57067 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54248 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77309 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56804 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63156 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37419 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57569 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57327 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54472 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.774 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57014 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63334 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37436 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57574 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57331 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54486 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77402 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5702 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63342 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37436 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57574 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57331 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54486 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77402 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5702 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63342 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55856 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60355 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65323 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45355 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.42972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36795 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47059 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48183 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54696 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60035 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69341 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53771 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60383 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.415 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55201 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44634 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48581 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.5401 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47672 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.61688 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.68586 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55769 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61999 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43071 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57535 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49924 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47437 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52353 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57243 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52158 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66707 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73129 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59533 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66189 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48312 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6058 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53734 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52293 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58552 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71754 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7865 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6435 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70526 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53859 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63278 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57288 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57035 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58979 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6382 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58786 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7874 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70789 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54187 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63692 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57672 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57374 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58979 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6382 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58786 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7874 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.70789 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54187 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63692 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57672 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57374 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.1489 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18347 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.17423 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.30962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.27437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25467 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35793 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.18815 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.42972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.29179 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22467 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.28048 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.33597 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.47253 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46742 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.40429 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50175 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.29522 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40925 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34737 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3526 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.40338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3589 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52142 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54907 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46587 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5424 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.33797 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53514 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.39166 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4199 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46909 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41427 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56343 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62212 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.50753 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57486 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.37968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54805 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43078 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.45263 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50794 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44672 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.58742 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65773 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53239 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59519 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40514 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55445 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4679 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4513 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4535 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50848 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44758 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65796 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53273 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59566 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40571 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55488 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45171 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4535 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50848 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44758 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65796 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53273 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59566 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40571 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55488 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45171 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.1489 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18347 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.17423 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.30962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.27437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25467 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35793 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.18815 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.42972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.29179 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22467 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3123 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37418 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3487 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53938 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50935 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.44199 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54714 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34245 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63855 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52374 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40363 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43298 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4816 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44094 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63388 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63586 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.557 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62846 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43553 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69478 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60707 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49737 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.57183 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61767 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5785 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7547 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78324 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66325 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72358 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.56583 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.78715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.70945 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.62233 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74197 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77932 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74807 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.9079 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92182 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80205 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8527 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.90361 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.84644 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.77312 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55856 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60355 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65323 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45355 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.42972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36795 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47059 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41642 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4645 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.39884 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.42911 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.57065 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.41171 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.39606 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.32058 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.21285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.23838 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3268 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.36336 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38817 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.32659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.32056 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.45707 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.33274 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.2957 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.25792 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13896 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.1727 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25602 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.25465 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.26538 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.22341 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.20225 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30299 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.20863 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.1828 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.17678 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.07871 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10297 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.16751 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06637 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06964 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.05977 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.0502 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07418 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04522 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04732 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01807 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02487 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.0423 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55856 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60355 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65323 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45355 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.42972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36795 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47059 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.61662 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66667 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.61127 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83062 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64286 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72491 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53871 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48714 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55322 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63058 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67702 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75103 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84094 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73566 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53514 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50109 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56709 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63893 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68361 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63482 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7566 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84383 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66416 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74071 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.56939 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54805 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51411 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57739 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68601 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63798 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75935 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66677 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74345 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57247 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55436 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52018 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58101 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64344 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68611 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66682 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7435 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57261 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55488 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52046 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58125 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v1-turbo-en", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:09Z", + "is_anonymous": false, + "revision": "e3793c2dd55005a68afcc5a6906a4e41" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64344 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68611 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75944 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66682 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7435 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57261 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55488 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52046 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58125 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/jina-reranker-v2-base-multilingual/results_20241201072250-9b112eec972f43bbd82936b719296d78.json b/AIR-Bench_24.05/BM25/jina-reranker-v2-base-multilingual/results_20241201072250-9b112eec972f43bbd82936b719296d78.json new file mode 100644 index 0000000000000000000000000000000000000000..60ec0d18ef62ce1000f8ce1e550c6ccd4fd4db10 --- /dev/null +++ b/AIR-Bench_24.05/BM25/jina-reranker-v2-base-multilingual/results_20241201072250-9b112eec972f43bbd82936b719296d78.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23878 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68185 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65789 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37334 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60172 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63877 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61584 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73156 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62266 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68487 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62264 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60608 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42019 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64793 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59517 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45733 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64613 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64816 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58005 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64984 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45787 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84761 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8437 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74182 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74686 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.85074 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83904 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80346 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79191 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80199 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.82898 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78606 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64477 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68234 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72684 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71596 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53081 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64425 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68587 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6886 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72124 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68907 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68144 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66667 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68785 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69331 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67386 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.222 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35206 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19762 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5996 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61186 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30652 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50849 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5326 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53304 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63682 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52471 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59168 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54417 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53684 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39058 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54934 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49997 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51304 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37715 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51845 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60736 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48622 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61938 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40529 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45101 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76549 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78546 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.619 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62746 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72651 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72846 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73776 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.65939 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.66032 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69777 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7227 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70971 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66683 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55145 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5788 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62902 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6354 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45669 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56862 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62451 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60622 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64396 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60369 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59731 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59811 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59393 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6349 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.60196 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21227 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34471 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19247 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57436 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60016 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28507 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47262 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.49698 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5112 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60634 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48527 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55095 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51764 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51544 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39731 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51376 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46171 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50722 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33981 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49318 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60348 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44594 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62437 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37979 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46477 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76146 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78129 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61365 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60911 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72031 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72867 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7282 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64059 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6436 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69386 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7282 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70502 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65163 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54715 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55296 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60845 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62105 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4432 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5585 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62299 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58773 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62618 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59241 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58756 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58858 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57701 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62873 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58452 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21846 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35083 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2029 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57629 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60907 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28507 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46533 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.49753 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51691 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60542 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47444 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54232 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52641 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.52164 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40851 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50917 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45115 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52612 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33342 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49359 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63251 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4339 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63735 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38805 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49327 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77284 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78894 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62884 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61627 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73802 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74323 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.74533 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64964 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6576 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7107 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7435 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7217 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66406 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56928 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56212 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62044 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6263 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45475 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57161 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65228 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59754 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64101 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61011 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.60301 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60761 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58805 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65058 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59092 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24312 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36738 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23049 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61374 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63231 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30287 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49805 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53917 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55019 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66026 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51266 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58552 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57532 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42164 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54381 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49544 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54887 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38253 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50803 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66447 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4794 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6479 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41452 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52076 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79117 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79353 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6415 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63456 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75593 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75962 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76893 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67074 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68195 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73433 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75634 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7398 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68544 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59146 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59832 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65252 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6377 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49142 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60028 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69072 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62619 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68082 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64906 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62772 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64215 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61751 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68268 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62308 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24576 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36921 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23417 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61769 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63343 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30424 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54103 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5516 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66221 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.514 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59086 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57926 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55487 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42234 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54571 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50111 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55307 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38926 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50832 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66834 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49018 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64859 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41716 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52356 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79368 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79402 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75692 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76115 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7709 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67243 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68434 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73588 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75825 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74064 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68752 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59221 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59997 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65716 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63884 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49594 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6023 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69303 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62782 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68389 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65097 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63132 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64547 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62033 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6847 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62516 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24576 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36921 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23417 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61769 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63343 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30424 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54103 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5516 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66221 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.514 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59086 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57926 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55487 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42234 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54571 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50111 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55307 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38926 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50832 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66834 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49018 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64859 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41716 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52356 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79368 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79402 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75692 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76115 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7709 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67243 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68434 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73588 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75825 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74064 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68752 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.59221 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59997 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65716 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63884 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49594 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6023 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69303 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62782 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68389 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65097 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63132 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64547 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62033 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6847 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62516 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08561 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1894 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07641 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26968 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29575 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.118 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16609 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19372 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23218 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.19621 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14805 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.18011 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.18696 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21938 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26206 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20403 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1583 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.26252 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08997 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26712 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28997 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14651 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41435 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13311 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24644 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.56516 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.49945 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39995 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.3831 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.45462 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.50477 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.45812 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37969 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.36225 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43105 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43983 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40667 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.28712 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25203 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31523 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.35025 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21623 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2834 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31898 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30121 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29804 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26018 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34046 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32206 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.30517 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34198 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.2924 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13223 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26027 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11685 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39391 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44536 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18179 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27522 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29867 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3413 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34506 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25868 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.31711 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31546 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.34412 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33371 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31768 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26485 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39369 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.16693 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35644 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44144 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25349 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54399 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.223 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37516 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6818 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69352 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5124 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48491 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59325 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63122 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5987 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49708 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.50889 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56322 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63142 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57857 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41292 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36985 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44746 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4829 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.30959 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40314 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46038 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42591 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43978 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.39683 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46555 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44907 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41511 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48257 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.41946 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15102 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28447 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13465 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44211 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49869 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32418 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34227 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38562 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41959 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31334 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37994 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37093 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39302 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35546 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36446 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30776 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42695 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.20243 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3857 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49983 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29649 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57663 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26375 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40924 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70672 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73227 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54017 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51535 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63623 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66196 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64284 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53599 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55093 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60362 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66181 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61893 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56447 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45681 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41813 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49348 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5291 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34241 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45022 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51289 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47209 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49687 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45906 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50339 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48776 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45887 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52747 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46603 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16993 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30374 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15143 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48796 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54476 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22714 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36663 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3885 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42407 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49649 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36488 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43928 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42595 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43595 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.36686 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40569 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3474 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45053 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23572 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.40722 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55128 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33583 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5993 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30268 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43664 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72252 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7501 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55992 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53816 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66509 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68452 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67681 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56569 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58102 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63504 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68187 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64634 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58806 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49078 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.457 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53109 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56056 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3734 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48664 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56061 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51162 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54828 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5112 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53316 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52168 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49684 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56983 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50239 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18149 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31316 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16279 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51045 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56151 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23655 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38715 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41409 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44383 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53447 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38981 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4674 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45484 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45451 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37253 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42613 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37166 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46071 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2591 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41505 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56938 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36104 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60572 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3177 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44888 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73185 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75248 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56602 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54869 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67585 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6932 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69089 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57817 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59491 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64768 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68862 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65644 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50406 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47777 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54854 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56824 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39043 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50275 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58329 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52872 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57268 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53612 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54572 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53987 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51399 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.58855 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52134 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1819 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31338 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16338 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51122 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23676 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38742 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41445 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44414 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.535 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39017 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46856 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45564 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45486 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37259 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42654 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46143 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26021 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41514 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36326 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60583 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31811 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44934 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73229 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75255 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56615 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54884 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67606 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69342 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6913 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57848 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59535 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64799 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6889 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65658 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50419 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47813 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54933 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39116 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50312 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58371 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52901 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57334 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53648 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54635 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54045 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51453 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.58895 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52174 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1819 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31338 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16338 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51122 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23676 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38742 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41445 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44414 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.535 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39017 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46856 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45564 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45486 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37259 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42654 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46143 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26021 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41514 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36326 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60583 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31811 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44934 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73229 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75255 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56615 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54884 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67606 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69342 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6913 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57848 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59535 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64799 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6889 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65658 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50419 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47813 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54933 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39116 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50312 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58371 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52901 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57334 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53648 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54635 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54045 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51453 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.58895 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52174 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08561 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1894 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07641 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26968 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29575 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.118 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16609 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19372 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23218 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.19621 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14805 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.18011 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.18696 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21938 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26206 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20403 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1583 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.26252 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08997 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26712 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28997 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14651 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41435 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13311 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24644 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.56516 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.49945 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39995 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.3831 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.45462 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.50477 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.45812 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37969 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.36225 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43105 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43983 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40667 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.28712 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25203 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31523 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.35025 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21623 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2834 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31898 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30121 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29804 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26018 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34046 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32206 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.30517 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34198 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.2924 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14792 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27362 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13433 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41289 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.467 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19568 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29589 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3244 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36482 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36568 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27834 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33439 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34439 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.36987 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35622 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34003 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28423 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42008 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18675 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37889 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48459 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27114 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56583 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24583 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41796 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69537 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7085 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53224 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50727 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51777 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5232 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58689 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66068 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6057 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55256 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43803 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39871 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47132 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50342 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3352 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43467 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50423 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45288 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47013 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42928 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48683 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48726 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51959 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45182 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17794 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31094 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16657 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4831 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53996 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23118 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36739 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.39067 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4334 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46496 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35594 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41714 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.426 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44093 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39908 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40953 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34769 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47886 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2436 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42589 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5741 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33225 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61797 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30878 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.478 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73566 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75775 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.57934 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55566 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67661 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70407 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68399 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5764 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58379 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65312 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71547 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66899 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60384 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50895 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47325 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54118 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56838 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39187 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50921 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58867 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52423 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55455 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52631 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54528 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54997 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51176 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59106 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52314 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22167 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34891 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21065 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56625 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61545 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27398 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44537 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4831 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.512 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59311 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44971 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51868 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52668 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.52221 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.43069 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49165 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42675 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53991 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3157 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47276 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.67757 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4078 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66136 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38275 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.55333 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77373 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78917 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62508 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60521 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73773 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75449 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.74978 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63598 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64439 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71877 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76275 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72702 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6596 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58303 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55957 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62115 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62278 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46228 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58274 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69674 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60386 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65263 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62665 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.60762 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63055 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59225 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67803 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59794 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39437 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28437 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65798 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67281 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31958 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52319 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58003 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59255 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.71881 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53784 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62092 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64809 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60082 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47237 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57378 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52896 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60656 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43856 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50893 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7675 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51369 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69067 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45185 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.63968 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82488 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80236 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66274 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65355 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78534 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80085 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81082 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68886 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70816 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78342 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79849 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77618 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71636 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64008 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64831 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70538 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65258 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.56318 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65761 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79842 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67584 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75267 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72337 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67386 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72184 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66581 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76332 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67792 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23878 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68185 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65789 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37334 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60172 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63877 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61584 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73156 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62266 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68487 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62264 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60608 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42019 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64793 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59517 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45733 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64613 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64816 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58005 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64984 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45787 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84761 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8437 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74182 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74686 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.85074 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83904 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80346 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79191 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80199 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.82898 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78606 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64477 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68234 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72684 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71596 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53081 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64425 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68587 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6886 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72124 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68907 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68144 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66667 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68785 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69331 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67386 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17886 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24844 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15991 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45891 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45717 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24963 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43243 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43753 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41204 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55359 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.46272 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51578 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46009 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42631 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23095 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45044 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42559 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37628 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34156 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36914 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45061 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42156 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.36803 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34926 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30355 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.41784 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.49759 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.38864 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40221 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46838 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42271 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44553 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46724 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.44879 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.41572 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.45353 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43244 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.40072 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44838 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45985 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43948 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34199 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41654 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44858 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44542 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48771 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47317 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40718 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41506 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42458 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44337 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44333 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14189 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18446 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12952 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35705 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35248 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19028 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34527 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34378 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.32376 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4615 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3785 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41617 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37097 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33412 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.16549 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35207 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33876 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27042 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27747 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.27027 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3517 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33323 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.26246 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27784 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.22689 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.28287 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.34197 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.2683 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.28635 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.33529 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.29362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.34071 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32304 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33685 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.325 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.28746 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.32486 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.30362 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30238 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34761 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.34578 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32796 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26058 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32093 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.34533 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33801 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.38038 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37991 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.29947 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.30735 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.32416 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33287 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34032 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11312 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08813 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.23124 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.22399 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12106 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.22385 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22997 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.20992 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31881 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25491 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27837 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2484 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21751 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.095 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22825 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22164 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.1601 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1852 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.1602 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.22651 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.22019 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.15252 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.1831 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.14 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.15794 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.18589 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.15327 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.16863 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.19493 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.16913 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.2035 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.19172 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.19899 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.19351 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.16218 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.18908 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.1771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.18556 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22106 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.21455 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.19429 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.16748 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.20015 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.22242 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.21199 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24631 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.24564 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.18037 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.19095 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.20538 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.21116 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21187 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02621 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02679 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02505 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05688 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.0515 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02904 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.05447 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.0584 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05152 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08086 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.06291 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.06914 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06337 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0522 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02131 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05604 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03704 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05132 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03582 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.0527 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.05945 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03289 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04355 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03346 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03577 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.03815 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03324 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03858 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04325 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03772 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04676 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04387 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0459 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04441 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03543 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04201 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04064 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04247 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05399 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05128 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04163 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04288 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0472 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05376 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.05016 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06001 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05959 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04228 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04715 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04892 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05013 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05109 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26112 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23951 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68185 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65789 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37334 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60172 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63877 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61584 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73156 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62338 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68556 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62337 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60608 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42019 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64793 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59879 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59517 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64613 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64816 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58005 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64905 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45617 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84761 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8437 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74182 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74686 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.85074 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80362 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83904 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80346 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79191 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80199 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.82898 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78606 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64477 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68234 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72684 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71596 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53081 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64425 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68587 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6886 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72124 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68833 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68144 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66667 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68785 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69331 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67386 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29472 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43685 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27822 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72765 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.69879 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40268 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65341 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69909 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.66913 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.78245 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67581 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.73094 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.68493 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65776 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45269 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.70044 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65535 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63812 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51556 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68609 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70703 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62523 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67127 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53682 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5139 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86388 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85914 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76724 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.77934 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87243 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8349 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86319 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82932 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80997 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83857 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83381 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85783 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.68195 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73782 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.76905 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.74451 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57968 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69482 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74736 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73416 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77397 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.74175 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71798 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72712 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.73894 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.74719 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72603 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30042 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44001 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28593 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.73444 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7039 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40698 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.6599 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.70618 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67861 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.78864 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68284 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.73778 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69251 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66381 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45847 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.70832 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66316 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64489 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.52699 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69055 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71279 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.63577 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6756 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54599 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52054 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86711 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85976 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77025 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78306 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87412 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.83813 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86483 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.83207 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81221 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84248 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83819 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86075 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81528 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6878 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74401 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.77546 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.74832 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58885 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70267 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.75478 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74012 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77994 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75158 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72302 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73257 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74366 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75353 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7329 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30633 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44208 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29209 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.73779 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70572 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41086 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66215 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.71001 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68406 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7917 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68733 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.74158 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69556 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66916 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4616 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7127 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66695 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6482 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5335 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69249 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71694 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64045 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67681 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55016 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52582 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86845 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86036 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77164 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78522 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87558 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.83955 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86581 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.83365 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.8138 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84344 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83908 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86165 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81801 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69011 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74875 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7791 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75013 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59446 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70547 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.75928 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74305 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.78308 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7547 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72552 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73647 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74702 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75676 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73676 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30914 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44319 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29604 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.73972 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70665 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41281 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66387 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.71121 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.686 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.79277 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68844 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.74319 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69777 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67101 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46296 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.71405 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.6696 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64983 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53735 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6931 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71852 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64278 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67727 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55219 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52857 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86929 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86073 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77254 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78599 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87603 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.84022 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86633 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.83416 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81446 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84452 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83947 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86231 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81889 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69063 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7501 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78052 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75052 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59767 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70723 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76093 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74441 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.78437 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7557 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72694 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73823 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74838 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75785 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73779 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30928 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44331 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29622 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7398 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70668 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41289 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66388 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.71127 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7928 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68846 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.74329 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69787 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67108 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46302 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.71411 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66973 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64993 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53768 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6931 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7187 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64305 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67728 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55231 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52874 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86937 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86074 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77258 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78606 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87604 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.84029 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86637 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8342 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84453 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83954 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86234 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81895 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69065 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.75013 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78066 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75057 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59789 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7073 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.761 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74449 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.78445 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75576 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72707 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73837 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74847 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75791 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73786 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30928 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44331 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29622 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7398 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70668 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41289 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66388 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.71127 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7928 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68846 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.74329 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69787 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67108 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46302 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.71411 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66973 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64993 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53768 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6931 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7187 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64305 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67728 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55231 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52874 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86937 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86074 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77258 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78606 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87604 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.84029 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86637 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8342 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84453 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83954 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86234 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81895 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69065 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.75013 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78066 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75057 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59789 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7073 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.761 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74449 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.78445 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75576 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72707 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73837 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74847 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75791 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73786 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71302 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71676 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83967 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66369 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62022 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49555 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56583 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59075 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64297 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.61565 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67419 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76992 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63185 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67821 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62937 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58667 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54078 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63097 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.60843 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69565 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75824 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69264 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55864 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65822 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61458 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5661 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.60447 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.65278 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64149 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75005 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.80177 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67486 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7369 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.60079 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.67454 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.64067 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60141 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6483 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69433 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67451 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.77857 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.8346 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70301 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76161 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62955 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69566 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.66126 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63395 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65393 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6974 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6763 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.77873 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83506 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76215 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63079 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69832 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.66293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63591 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65393 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6974 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6763 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.77873 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83506 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76215 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63079 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69832 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.66293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63591 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.21271 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.22988 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.24462 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.35903 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.3064 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.29217 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.40583 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.25379 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39911 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.2717 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.36407 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.40752 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41257 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.53052 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48509 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.56094 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40737 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60509 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53433 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43227 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43201 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.48815 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48346 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60215 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62629 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54927 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60958 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45725 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62055 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55521 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48047 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49962 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55967 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.54068 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65218 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70901 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59605 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64955 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50099 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62773 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57023 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51425 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52768 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58746 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56187 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66827 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73179 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61307 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6625 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51628 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6326 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57623 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53012 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52902 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58822 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66259 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51652 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57641 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53039 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52902 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58822 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66259 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51652 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57641 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53039 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.21271 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.22988 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.24462 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.35903 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.3064 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.29217 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.40583 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.25379 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39911 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.2717 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.39001 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.43731 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44712 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60995 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56813 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.602 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45886 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.65603 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.496 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49096 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55525 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5569 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.71606 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69673 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63369 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69024 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55052 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.77108 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.71489 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59116 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63014 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67465 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67228 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.84254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84421 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73393 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79262 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65668 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.81928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.78042 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.68182 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73848 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77936 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75498 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92198 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80701 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.86229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.73604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.91165 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.85979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.78173 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71302 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71676 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83967 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66369 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62022 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49555 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56583 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54339 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50482 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.477 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47619 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44713 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42532 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.23293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.28981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38655 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4012 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.44438 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.4052 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.36113 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50489 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36786 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.3328 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.32514 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.15422 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.19703 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.29636 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.27057 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.2929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.25925 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.2262 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.33071 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.22946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.20296 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.2071 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.11217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.18011 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06559 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06923 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06023 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05087 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07435 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05238 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.0457 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04781 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01823 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0251 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04241 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71302 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71676 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83967 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66369 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76075 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62022 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52209 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49555 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56583 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73624 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.76529 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76782 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.80845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.89402 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.72321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.82034 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69444 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61128 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.64613 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74314 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77091 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77534 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.81352 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.89606 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73244 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.82679 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70305 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62122 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.62226 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.65887 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74825 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.7733 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77706 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.81771 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.89812 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73631 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.82944 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7078 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6284 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.62849 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.66344 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77776 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.81882 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.89832 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73724 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.83023 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70889 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63327 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.6314 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.66489 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74947 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77459 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77781 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.81882 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.89832 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73724 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.83023 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70899 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63352 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63153 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.66499 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:22:50Z", + "is_anonymous": false, + "revision": "9b112eec972f43bbd82936b719296d78" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.74947 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77459 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.77781 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.81882 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.89832 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73724 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.83023 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70899 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63352 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.63153 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.66499 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/mmarco-mMiniLMv2-L12-H384-v1/results_20241201072310-64789ab5130f04c51cb93ee625e6dfc0.json b/AIR-Bench_24.05/BM25/mmarco-mMiniLMv2-L12-H384-v1/results_20241201072310-64789ab5130f04c51cb93ee625e6dfc0.json new file mode 100644 index 0000000000000000000000000000000000000000..e84de1a3c02ce4a56ab96f607ba7f5da5fcd9f4a --- /dev/null +++ b/AIR-Bench_24.05/BM25/mmarco-mMiniLMv2-L12-H384-v1/results_20241201072310-64789ab5130f04c51cb93ee625e6dfc0.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20014 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31228 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21563 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55387 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51084 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32032 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52077 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55651 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48853 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61357 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54978 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59433 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53483 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49184 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33477 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55621 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51867 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57868 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56154 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48502 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45637 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63834 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70333 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63244 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.66642 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64275 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72178 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68675 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65896 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69274 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63604 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71978 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67874 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63097 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54976 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57247 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49592 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52616 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60084 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53143 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5413 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57016 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52941 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56767 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56145 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57684 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56284 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19222 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28875 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18698 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49839 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51081 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28892 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44872 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48121 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44739 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55543 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47261 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53421 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4869 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45662 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32784 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48688 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44657 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48437 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44774 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.48621 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48592 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50863 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49896 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39683 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40443 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63072 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67582 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54877 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57427 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66682 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61372 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63951 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58049 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56398 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62521 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61222 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6297 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59777 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43023 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53652 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51035 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.533 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46003 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47993 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55023 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49229 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52228 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51747 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49555 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51864 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52078 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52162 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18779 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29004 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.184 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49163 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51433 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27525 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42529 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.45759 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43516 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53915 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44097 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51385 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47354 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44983 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33653 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46883 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42349 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49771 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40754 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46767 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49839 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48479 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5167 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37138 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42187 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64079 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68823 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5556 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55958 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66125 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62088 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63925 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56746 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56429 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62601 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62482 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63113 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59025 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.44345 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.519 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.50671 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53304 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45531 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48077 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55958 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49266 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52311 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.50888 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49949 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52707 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51263 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54694 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51334 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19856 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30178 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19683 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.50878 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53675 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27634 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42835 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46406 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.45116 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.54875 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43581 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51424 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.48965 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46466 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35583 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47189 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52541 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39646 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46917 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54194 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48011 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5397 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37669 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4522 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66773 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70624 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.57741 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57176 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68778 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64656 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66451 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58469 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59175 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64556 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64431 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65843 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60839 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47957 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53469 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5294 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54785 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46817 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50242 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59125 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51459 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54881 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53263 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52494 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55441 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52773 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57508 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53134 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22224 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32168 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22233 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55321 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56534 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29133 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46459 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50698 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49207 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60758 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48063 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55946 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54011 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50232 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37183 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50616 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53768 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42868 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.48338 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58328 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50977 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55712 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40361 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48207 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69446 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71844 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59239 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59355 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71238 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67461 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70034 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61382 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62155 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67746 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67182 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68303 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50709 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57227 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57493 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56773 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49325 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53938 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63533 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55494 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59843 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.58396 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55899 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59237 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56537 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61574 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.5698 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22583 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32481 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2268 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55886 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56785 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2927 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46718 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51052 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49524 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6131 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48397 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56309 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54497 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5066 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37411 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5098 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47078 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53928 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43176 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.48432 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58992 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51085 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56038 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4072 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48756 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6975 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72046 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59399 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59703 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71497 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67824 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61685 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6242 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68171 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67568 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68606 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63713 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50938 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57438 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58052 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56998 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49645 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54418 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64123 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60511 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59012 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56266 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59663 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56929 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62023 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57358 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22583 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32481 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2268 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55886 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56785 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2927 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46718 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51052 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49524 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6131 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48397 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56309 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54497 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5066 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.37411 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5098 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47078 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53928 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43176 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.48432 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58992 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51085 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56038 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4072 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48756 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6975 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72046 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59399 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59703 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71497 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67824 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61685 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6242 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68171 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67568 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.68606 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63713 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50938 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57438 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58052 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56998 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49645 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54418 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64123 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60511 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59012 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56266 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59663 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56929 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62023 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57358 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05941 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12989 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06464 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21232 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21425 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.09492 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14062 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.16408 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17144 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.15393 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12595 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15311 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15203 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17561 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1915 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16445 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.11694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21874 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10936 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23307 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20371 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.13178 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.28801 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11836 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2063 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.41963 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40736 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3302 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33824 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.41029 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.40207 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.3928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31085 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29223 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36462 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39308 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37989 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33887 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.18041 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22507 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2306 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2609 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.18781 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22515 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26549 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22702 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2061 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.20917 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.24565 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26259 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24318 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26827 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.23582 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10483 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19807 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10521 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.31002 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34817 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1623 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23574 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.2614 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.26667 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28069 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22512 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.2716 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26636 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.281 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26451 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.26522 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21592 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35563 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.20562 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.32283 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32964 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24798 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4168 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21142 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32137 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.53771 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.57535 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4377 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43504 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53293 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5139 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50395 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.42081 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41187 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.49034 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.51699 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.50067 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46002 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2933 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33056 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.34134 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.3824 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.29824 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32808 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.38869 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32936 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.33414 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.32466 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.36207 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37459 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35193 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39209 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34905 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12448 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22376 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12254 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35688 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.40292 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18981 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28198 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30752 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3079 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35232 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.2745 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3391 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32489 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32736 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28602 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31647 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26526 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40646 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.25225 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35666 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38527 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3118 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45538 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.25356 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3599 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.56562 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61964 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47211 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.46382 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56856 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54233 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54265 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.458 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45726 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52817 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.54724 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54021 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.49373 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34241 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38073 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.38574 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43112 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34142 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37211 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44377 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37443 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.38812 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3764 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40297 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41917 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.39292 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.43974 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39374 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14782 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24711 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14107 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4082 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45841 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21305 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32845 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35694 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35088 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43344 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3277 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40568 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38376 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37184 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30283 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36451 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.31317 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44111 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29133 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37976 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44281 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.376 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48384 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29094 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38979 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59014 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64305 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.49552 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48974 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.60262 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56959 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57936 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49093 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49593 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55825 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56763 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57227 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5211 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38605 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42601 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42704 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46785 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.37751 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41118 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49244 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41842 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.44283 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42758 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43799 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45752 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43138 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48391 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43583 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15831 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25636 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15218 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43248 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47528 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22134 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34955 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38014 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37222 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47096 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35327 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43362 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41258 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39169 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30878 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3381 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44679 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30851 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38659 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46423 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39701 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49169 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30493 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40183 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60203 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64857 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.50217 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50061 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61572 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58227 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59842 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50598 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5115 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57379 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57924 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58441 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53242 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39957 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44626 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4492 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47789 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3906 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42872 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51476 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43907 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46994 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45496 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45444 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47585 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45065 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50349 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45546 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15884 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25687 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15287 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43355 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47573 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2216 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35004 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38088 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37288 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47221 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35393 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43446 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41349 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39245 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30902 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38404 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44703 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30915 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38679 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46537 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39726 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49199 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30552 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40249 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60254 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64889 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5024 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61618 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5828 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59933 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50649 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51203 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57459 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57987 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58488 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53312 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39998 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44669 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45021 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47819 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39108 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42955 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51578 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43969 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47126 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45615 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45509 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47662 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45138 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50443 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45618 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15884 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25687 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15287 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43355 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47573 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2216 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35004 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38088 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37288 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47221 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35393 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43446 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41349 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39245 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30902 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38404 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44703 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30915 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38679 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46537 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39726 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49199 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30552 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40249 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60254 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64889 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5024 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61618 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5828 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59933 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50649 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51203 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57459 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57987 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58488 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53312 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39998 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44669 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45021 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47819 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39108 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42955 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51578 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43969 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47126 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45615 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45509 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47662 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45138 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50443 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45618 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05941 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12989 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06464 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21232 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21425 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.09492 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14062 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.16408 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17144 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.15393 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12595 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15311 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15203 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17561 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1915 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16445 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.11694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21874 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10936 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23307 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20371 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.13178 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.28801 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11836 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2063 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.41963 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40736 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3302 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33824 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.41029 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.40207 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.3928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31085 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29223 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36462 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39308 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37989 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33887 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.18041 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22507 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2306 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2609 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.18781 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22515 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26549 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22702 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2061 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.20917 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.24565 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26259 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24318 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26827 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.23582 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1275 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23227 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12639 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34684 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39859 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18806 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26058 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29149 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3077 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31559 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25043 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30135 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.30294 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31954 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30929 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.29697 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25089 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23158 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35728 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.39139 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27473 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47232 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24122 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37123 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60786 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62598 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.46903 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56699 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56999 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54521 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45929 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45478 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54007 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58242 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54299 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50554 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35176 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36476 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39232 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42932 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34413 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37378 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43832 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37834 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39053 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36937 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41381 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42633 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.39975 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44238 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39447 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16469 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27925 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16441 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42913 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48462 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2359 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33559 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36637 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38086 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42098 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32447 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39781 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39556 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39805 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35403 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38178 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33049 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49735 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30184 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41587 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49871 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36626 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54607 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30322 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44191 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66766 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70017 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55048 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51764 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62857 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62677 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61375 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5242 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53456 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61049 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64596 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61311 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56604 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.44577 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44718 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47501 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51233 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42056 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45338 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53908 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4602 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4891 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45795 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49282 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51522 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47388 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5309 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47155 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21681 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32782 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21147 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53581 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58516 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28074 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42764 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46763 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4789 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56299 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42156 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51492 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5127 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49056 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40725 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48085 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57779 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37463 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46767 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.633 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.47499 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37421 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52155 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74054 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75578 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61254 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57798 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7078 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70354 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69587 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60087 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62276 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67997 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70278 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69437 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63434 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54918 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54842 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57288 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5854 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49943 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54162 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65434 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55835 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60501 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56571 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57487 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61101 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55815 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6323 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56696 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28178 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38924 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28032 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65031 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66646 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31993 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51756 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57375 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58538 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70564 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53038 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62646 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64381 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58984 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4636 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56714 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61631 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45295 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50644 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.75632 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54645 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6747 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44833 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.62327 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.8217 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79462 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65862 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64113 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.778 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79092 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79505 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68159 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7069 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77146 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79008 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.76597 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70669 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63277 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6458 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70035 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64619 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.56737 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64531 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.78172 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.669 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73754 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70496 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67164 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.71769 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66112 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75328 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67123 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20014 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31228 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21563 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55387 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51084 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32032 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52077 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55651 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48853 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61357 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54978 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59433 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53483 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49184 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33477 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55621 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51867 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57868 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56154 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48502 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45637 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63834 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70333 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63244 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.66642 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64275 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72178 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68675 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65896 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69274 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63604 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71978 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67874 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63097 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54976 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57247 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49592 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52616 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60084 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53143 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5413 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57016 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52941 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56767 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56145 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57684 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56284 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16643 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21721 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15726 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38515 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39603 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24791 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38634 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40415 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35973 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49361 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4216 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47316 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42187 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.36894 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2088 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40927 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39894 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37238 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40889 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3572 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37636 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45991 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3194 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35134 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28255 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.35557 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.43729 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.35466 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37368 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42819 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.36135 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40398 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40387 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40583 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.40992 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.36159 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.40568 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.39758 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33911 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42137 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.38572 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38507 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36328 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35775 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40454 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36598 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41101 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41359 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35498 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.3671 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.38524 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39054 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39219 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13802 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17016 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12938 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32276 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19632 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31819 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33047 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2909 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42729 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35108 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40539 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35689 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30267 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15341 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33964 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33424 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29136 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3324 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26894 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3102 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39356 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24101 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28047 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21906 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.25169 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.31534 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.25685 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.26908 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.30603 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.25768 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.29847 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29744 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.30939 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.29972 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.25598 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.29602 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27639 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33719 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30542 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30088 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.28938 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.28729 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.32607 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29591 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.3382 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33501 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27349 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28987 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3007 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30544 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30933 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09835 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10978 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09067 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.22068 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2192 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12437 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21712 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22654 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19896 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30885 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.243 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28065 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.24695 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.20542 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.09258 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22781 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22964 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.17804 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.16028 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21353 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27184 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.14724 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18102 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13855 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.15119 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17757 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.1506 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.16295 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.18669 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.15696 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.18769 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.18419 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.1948 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.18115 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.14793 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.18022 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.17239 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.18238 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.2212 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.20062 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.1866 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.18456 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.187 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21349 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.19744 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22979 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.22585 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.17357 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.18778 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.19588 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.20021 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.20332 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02594 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02636 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02489 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05646 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05118 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02901 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.054 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05778 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05091 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07957 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.06221 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.06994 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06313 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0515 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02104 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05546 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05935 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03798 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05255 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0356 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05187 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06385 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03256 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04317 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03316 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03574 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.0378 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03311 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03798 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04285 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03726 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.046 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04366 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04588 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04367 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03491 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04146 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.0401 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04211 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05392 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05124 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04146 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04337 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0464 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05283 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.04968 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05892 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05833 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04251 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.04688 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04859 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04933 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05055 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20014 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31298 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21563 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55459 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51084 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32032 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52077 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55651 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48853 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61283 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54978 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59433 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53483 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49184 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33477 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55547 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51867 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57952 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56154 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48502 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45637 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40851 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63904 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70333 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63244 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.66642 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64275 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72178 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68675 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65896 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69274 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63604 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71978 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67874 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63097 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54976 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57247 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49592 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52691 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60084 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5307 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5413 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57016 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53018 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56767 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56145 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57684 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56284 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25132 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36456 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26556 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62967 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59301 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3785 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58023 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.62887 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.57365 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69113 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61676 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.66955 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61357 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57097 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.38913 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62734 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.57642 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60041 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59278 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63947 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58316 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.63502 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54666 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52585 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47262 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72261 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75989 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69122 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71808 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.819 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71498 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77883 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73758 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72074 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75931 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71581 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77335 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73639 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54164 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.69561 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63956 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63702 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57511 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59978 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67205 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61269 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64036 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64968 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61013 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6445 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64432 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65105 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64135 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26064 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37143 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27764 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64236 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60121 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38675 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59294 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63971 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58738 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70149 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6278 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67877 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62518 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58265 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39603 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64014 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58792 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61184 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60054 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64617 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64496 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55411 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53209 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4793 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73146 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76474 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69799 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.72387 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82411 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72316 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78487 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7459 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7267 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76563 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72354 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78015 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74353 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55481 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.70426 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65105 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64697 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58609 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61072 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68502 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62545 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65581 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66179 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62209 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65849 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65633 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66249 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6513 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26549 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3741 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2834 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64803 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60575 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38925 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59862 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64512 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5946 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70654 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63199 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6829 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6308 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58911 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40036 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64651 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59492 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61567 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60419 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64826 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60494 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64932 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55707 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53619 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48444 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.736 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76721 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70085 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.72698 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82593 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72722 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78731 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74908 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72995 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76794 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7263 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78415 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74671 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55929 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.70926 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65626 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65049 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59134 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61624 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69146 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63048 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65991 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66677 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62618 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66482 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66059 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66867 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65739 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26873 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37609 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28608 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65037 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60751 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39039 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60029 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64791 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59757 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70864 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63443 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68492 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63367 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59161 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40236 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64845 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59784 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61668 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6061 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64956 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60715 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.65112 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55874 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5386 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48762 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73785 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76814 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70215 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.7284 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82683 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72906 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78832 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75087 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.731 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76935 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72834 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78522 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56115 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71119 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65929 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65219 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59335 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61921 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69378 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63341 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66234 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.669 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62859 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66693 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66304 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67103 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65951 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26894 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37621 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28635 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65058 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6076 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39044 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60036 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64798 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59765 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70877 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63453 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.685 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6338 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59178 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40253 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64858 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5979 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61674 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60617 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64956 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60736 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.65116 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55899 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53877 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48804 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73793 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7682 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70221 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.72855 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82689 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72922 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78845 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75095 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73103 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76944 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72847 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78534 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74824 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56122 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71124 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65229 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5935 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61938 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69397 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63351 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66251 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66919 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62866 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66702 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66318 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67109 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6596 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26894 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37621 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28635 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65058 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6076 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39044 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60036 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64798 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59765 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70877 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63453 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.685 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6338 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59178 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40253 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64858 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5979 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61674 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60617 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64956 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60736 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.65116 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55899 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53877 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48804 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73793 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7682 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70221 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.72855 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82689 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72922 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78845 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75095 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73103 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76944 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72847 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78534 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74824 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56122 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71124 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65229 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5935 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61938 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69397 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63351 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66251 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66919 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62866 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66702 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66318 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67109 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6596 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68732 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.80978 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73118 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63388 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43917 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55462 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59814 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62309 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.60235 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6259 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74581 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62996 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6612 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55597 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58998 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49647 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52582 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59658 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61526 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.61291 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66313 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74283 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63958 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68222 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.61123 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53897 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55891 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63965 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.65435 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64967 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72565 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79388 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7295 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62663 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63863 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57972 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60388 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66466 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6835 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74998 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81918 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70182 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7468 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64013 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65887 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60871 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66589 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68587 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66973 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75209 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82188 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74868 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64128 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66226 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6284 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66589 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68587 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66973 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75209 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82188 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74868 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64128 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66226 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6284 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.20098 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.20312 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.21314 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.33065 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.29231 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.37014 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26345 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34817 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25809 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.35885 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38341 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.49446 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47648 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.53628 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55823 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.451 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41661 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44786 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4738 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56245 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59587 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47527 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47993 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47243 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54235 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.56936 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62138 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60461 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64121 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52808 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58128 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50291 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51443 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55717 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58619 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56442 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63314 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71934 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61388 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64905 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53496 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58592 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51153 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52371 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5574 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58668 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63344 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71975 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61425 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64926 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53509 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58626 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51189 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52411 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5574 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58668 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63344 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.71975 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61425 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64926 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53509 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58626 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51189 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52411 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.20098 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.20312 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.21314 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.33065 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.29231 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.37014 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26345 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34817 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.25809 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.38688 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41784 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.42901 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5598 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54506 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5187 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.58298 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45292 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.68273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47368 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52253 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54042 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57286 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.68354 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62701 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69192 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57401 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73494 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.62933 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59058 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68213 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69652 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70193 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.83364 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74603 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79894 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69394 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.81928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.7364 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.70266 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75342 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75524 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.91165 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91231 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80478 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.85387 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.73538 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.90763 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.84941 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.77907 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68732 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.80978 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73118 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63388 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43917 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55462 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51952 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54142 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.51445 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44319 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48512 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.45072 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.42896 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.22758 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.2453 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38655 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44444 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45444 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43468 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.3538 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.38155 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.34624 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34809 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.14699 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.17982 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.30196 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.30901 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.31657 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.28121 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.22986 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.34266 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.24286 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.21237 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22541 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.1916 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06733 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06052 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05048 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04554 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.04798 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01815 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02493 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.0423 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68732 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.80978 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73118 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63388 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.46988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43917 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55462 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73974 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72732 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73844 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.76948 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86685 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.73413 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.79391 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70082 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55823 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53709 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.63165 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.7477 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73235 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74725 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78061 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87024 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74023 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80278 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.70943 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56988 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55668 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6451 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.7506 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73663 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75005 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74405 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80461 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.71397 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58128 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56681 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.65076 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75205 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75117 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78541 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87298 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80596 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.71452 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58592 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.65245 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73932 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75126 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87312 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80607 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7146 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58626 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5719 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.65253 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:23:10Z", + "is_anonymous": false, + "revision": "64789ab5130f04c51cb93ee625e6dfc0" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73932 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.75126 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.78549 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.87312 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.74514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80607 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7146 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58626 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5719 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.65253 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/BM25/mmarco-mMiniLMv2-L6-H384-v1/results_20241201072143-3402b53e22746fb9b6441a91643dadb9.json b/AIR-Bench_24.05/BM25/mmarco-mMiniLMv2-L6-H384-v1/results_20241201072143-3402b53e22746fb9b6441a91643dadb9.json new file mode 100644 index 0000000000000000000000000000000000000000..7099e4185984b5b63725d302895a2313b458368b --- /dev/null +++ b/AIR-Bench_24.05/BM25/mmarco-mMiniLMv2-L6-H384-v1/results_20241201072143-3402b53e22746fb9b6441a91643dadb9.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12123 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16169 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10999 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35141 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.27786 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18851 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31877 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29471 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31976 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42478 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30736 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22184 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26851 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32196 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19586 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39127 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37179 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46559 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27533 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.52123 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29216 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54063 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38722 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23269 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30128 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48174 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.5246 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51562 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53727 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63897 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47899 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60452 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59563 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5065 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46578 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44017 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51923 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51743 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2657 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45007 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30268 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29283 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23237 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26682 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28812 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29094 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26401 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28287 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27655 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26218 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31704 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.31702 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.33231 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11278 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15295 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10177 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3245 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29021 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.16763 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29057 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26794 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29142 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38303 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27502 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.21904 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26356 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.29496 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21223 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35938 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34197 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4202 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24659 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44389 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.30274 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46904 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40426 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20327 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31086 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.49178 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.50083 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.44371 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.46875 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55469 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.46166 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54052 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49363 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43257 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43048 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.43181 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.45988 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.45085 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24794 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40267 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30673 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2971 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.22227 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26088 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28476 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28124 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.27403 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.27554 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27553 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.2726 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3148 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3179 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31695 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11161 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15972 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1008 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32256 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.3064 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.16524 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28206 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26438 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2884 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37121 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26249 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22659 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25885 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2955 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.22663 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34562 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32843 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.434 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23619 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42945 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.31662 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44453 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.42113 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19932 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33207 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.51213 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.51461 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.45163 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4586 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55618 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47987 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54139 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.48812 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43215 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.44451 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.45674 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.47212 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.45583 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26375 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39734 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31592 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30544 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23379 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26917 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.30077 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29562 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.28853 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28075 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.29269 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.29364 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3229 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33237 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32497 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.122 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18168 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11797 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34462 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.33992 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18083 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29328 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28503 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31222 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.39166 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27467 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26262 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28629 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31648 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25163 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3573 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46372 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2458 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.43537 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36161 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44204 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44967 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21773 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36663 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.54427 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.55223 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4823 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47563 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58147 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51055 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56777 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50766 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46345 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4801 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49248 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.50657 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.4811 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30183 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42407 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.3491 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.34498 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26942 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30371 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.34655 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32936 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.32985 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.31514 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33528 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33407 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35387 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3724 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.35531 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16506 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22894 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16017 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42735 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.41701 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21669 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36363 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36792 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38442 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4949 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35782 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3733 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38711 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39041 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28892 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42083 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40528 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49468 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30959 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45714 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44963 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48612 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4887 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28528 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41586 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59376 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.59711 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51864 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5168 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63045 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56352 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6254 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55568 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52513 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54002 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5438 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56184 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37545 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49077 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43524 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4101 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34016 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38447 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44313 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41042 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.42839 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41682 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40647 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41499 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42963 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45245 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43315 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17334 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23582 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16989 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44294 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42681 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22249 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37265 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38301 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39694 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50832 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37099 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38802 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4034 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40335 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29355 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43052 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41238 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49735 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32361 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45903 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46299 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48826 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49448 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29449 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42416 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60075 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60247 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5226 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63639 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57324 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6348 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56177 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.533 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5519 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55249 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56932 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5409 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38504 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49511 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44773 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41722 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35026 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39766 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45923 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42228 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.44665 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.43365 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4173 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43057 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44024 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46694 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44551 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17334 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23582 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16989 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44294 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42681 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.22249 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37265 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38301 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39694 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50832 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37099 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38802 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4034 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40335 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29355 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43052 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41238 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49735 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32361 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45903 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46299 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48826 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49448 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29449 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42416 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60075 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60247 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5226 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63639 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57324 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6348 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56177 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.533 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5519 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55249 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56932 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5409 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38504 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49511 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44773 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41722 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35026 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39766 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45923 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42228 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.44665 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.43365 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4173 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43057 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44024 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46694 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44551 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03059 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0646 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03265 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.13256 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.11748 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.05303 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.08859 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.09108 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.11404 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.10757 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07091 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.05877 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07736 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1131 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11644 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.121 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.09258 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.19524 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05772 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.21193 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.11539 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.12762 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.23255 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.05895 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.15473 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.32791 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.30451 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27239 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.27341 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.33844 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.30432 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.33299 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.27741 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.23045 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.24775 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.2732 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.27575 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.25966 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.10209 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17042 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.12934 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.14268 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.09138 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.11227 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.11861 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.12834 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.10577 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.10217 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.12883 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.12665 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.14711 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.14344 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.14779 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05531 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09824 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.05363 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.19356 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.18843 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.08634 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14531 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.13845 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17032 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.18089 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12199 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.1058 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.13121 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17414 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.16702 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.19326 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16311 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.30508 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10511 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29476 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.19025 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.22714 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33194 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.09792 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2461 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.41655 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41243 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.34937 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.34985 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.4373 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.38137 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.42415 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.35566 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.31016 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.32896 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.35685 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3551 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34153 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.15742 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24528 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.19931 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.20392 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.1362 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.16799 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18364 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.18327 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.16804 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.1613 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.19198 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.19022 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.21096 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.21494 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.20763 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06669 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11287 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06181 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21869 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.22317 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.10231 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17363 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.16201 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1932 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.22183 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14824 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.13148 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15725 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1998 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.18285 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22395 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.19659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.34764 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12994 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.32451 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.224 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28105 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.36225 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11827 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2771 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.44133 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.44235 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37427 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37105 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46628 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.40629 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.45201 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.3864 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33752 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35716 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.38187 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.38462 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.36784 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.18592 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.27816 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.22786 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.15813 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21181 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20908 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.19562 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.1864 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.2189 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.21546 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23418 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2452 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.23449 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0803 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13041 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07458 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.24833 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.25986 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12038 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20305 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19078 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22067 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27598 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.17926 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.16903 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19053 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.22788 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19833 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2571 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23432 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37726 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.15472 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.34642 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.26177 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33636 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38731 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.14199 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30302 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.46294 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47129 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3977 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.39183 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49151 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.4298 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.48035 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41347 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.36673 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.38329 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.40422 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.41198 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.39012 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21573 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.31601 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.25294 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25843 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.185 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.21609 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.24601 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23683 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.23025 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21691 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.24936 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.24301 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26117 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27799 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.26336 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14806 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08858 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28299 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29392 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13547 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23385 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22366 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24923 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.32795 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21492 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.21717 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23219 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.25847 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21078 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28522 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39144 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18021 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35616 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29877 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36332 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40386 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16911 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32188 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48136 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.48888 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41184 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40906 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51284 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44942 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50654 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43482 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.39255 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.40741 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.42285 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4336 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40934 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24415 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34715 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.28584 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28447 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21198 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.24646 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28326 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.26881 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26959 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.25751 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27551 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.27276 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29086 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3092 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29429 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09734 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14917 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09021 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2862 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29592 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13662 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23566 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22688 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33115 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21776 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22045 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23573 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26105 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21131 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28717 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26748 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39186 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18309 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35654 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3013 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36385 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40452 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.17074 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32301 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48251 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.48971 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41239 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41024 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51395 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.45098 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50821 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43586 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.39411 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.40966 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.42415 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43493 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41094 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24581 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34805 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.28827 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28561 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21377 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2489 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28633 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.27113 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.27337 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26098 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.2774 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.27569 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29298 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.31192 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29672 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09734 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14917 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09021 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2862 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.29592 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.13662 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23566 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22688 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25183 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33115 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21776 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22045 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23573 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26105 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21131 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28717 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26748 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39186 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18309 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35654 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3013 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36385 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40452 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.17074 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32301 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48251 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.48971 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41239 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41024 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51395 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.45098 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50821 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43586 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.39411 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.40966 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.42415 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43493 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41094 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24581 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34805 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.28827 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28561 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21377 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2489 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28633 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.27113 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.27337 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26098 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.2774 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.27569 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29298 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.31192 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29672 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03059 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0646 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03265 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.13256 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.11748 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.05303 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.08859 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.09108 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.11404 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.10757 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07091 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.05877 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07736 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1131 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11644 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.121 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.09258 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.19524 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.05772 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.21193 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.11539 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.12762 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.23255 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.05895 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.15473 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.32791 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.30451 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27239 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.27341 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.33844 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.30432 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.33299 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.27741 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.23045 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.24775 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.2732 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.27575 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.25966 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.10209 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17042 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.12934 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.14268 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.09138 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.11227 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.11861 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.12834 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.10577 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.10217 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.12883 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.12665 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.14711 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.14344 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.14779 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07226 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1221 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06912 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.23464 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2299 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.10842 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.1737 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17165 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.20734 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.21419 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14706 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.13447 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.1665 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21218 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20939 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22728 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.1955 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.34926 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13236 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33322 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.24541 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25031 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38427 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.12161 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29094 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.4875 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.46778 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.39422 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38993 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.48484 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.43914 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47092 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39121 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.35564 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.38762 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.42716 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.40743 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.39007 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19823 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28663 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.25673 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25373 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.17016 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.21481 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.23759 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22953 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22064 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.20696 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.23761 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.24463 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26528 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26646 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.25275 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15913 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09108 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.29539 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.30664 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1479 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.2303 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22701 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.26299 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2881 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.19936 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19388 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.22494 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.27262 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25409 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.2891 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4332 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18526 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3886 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33144 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33263 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44955 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16789 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.35901 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5593 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.53428 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.45285 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43772 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.54422 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.50599 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.53175 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45425 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41482 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.45959 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.50223 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.47927 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.45641 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27364 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.35695 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.32384 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.31342 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23166 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27635 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31397 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29907 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29242 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26995 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.31223 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.31797 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.32666 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34227 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32042 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14339 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22602 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14178 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39034 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.41764 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.208 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31151 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31766 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41923 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3111 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.33363 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35934 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32207 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.37889 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35194 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51952 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.25763 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44345 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46242 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43674 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53208 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24048 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44735 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64545 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63381 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53326 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50371 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61885 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59275 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53215 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.50626 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56104 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59905 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57586 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53518 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37526 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46091 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42612 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42752 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.33706 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44679 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40514 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41386 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37811 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42644 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43154 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42502 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46507 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.41988 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37297 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26065 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61431 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63713 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30348 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49463 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53312 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55154 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.67887 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49686 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58813 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60335 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5581 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45133 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54662 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52169 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61148 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.41575 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50268 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72827 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54304 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66154 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4259 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.61036 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80298 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77871 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64761 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62551 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76392 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76323 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77828 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66842 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68546 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73902 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76607 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74735 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68724 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60017 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63798 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67425 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62416 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54012 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61142 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74036 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63498 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69392 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64247 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67264 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63619 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70992 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63906 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29892 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6729 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58696 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59766 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64001 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54909 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46429 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5099 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78754 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54983 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69405 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46417 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.65293 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80468 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.81835 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69525 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78017 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64348 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6543 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66647 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80889 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6827 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77167 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68667 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12123 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16169 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10999 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35141 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.27786 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18851 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31877 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29471 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31976 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42478 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30736 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22184 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26851 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32196 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19586 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39127 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37179 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46559 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27533 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.52123 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29216 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54063 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38722 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23269 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30128 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48174 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.5246 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51562 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53727 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63897 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47899 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60452 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59563 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5065 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46578 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44017 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51923 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51743 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2657 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45007 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30268 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29283 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23237 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26682 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28812 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29094 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26401 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28287 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27655 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26218 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31704 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.31702 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.33231 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09947 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11659 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08755 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.24777 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.22368 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.14261 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25143 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22318 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22921 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34022 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24675 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19627 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23174 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2317 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.13575 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30227 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30442 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.31894 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22578 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3239 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.24011 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41754 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.25578 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.17613 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21957 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.27247 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.31404 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.28001 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.30308 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35123 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.26401 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.33528 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.33057 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.3025 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.27723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.2519 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.29167 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.29095 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19495 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.31404 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22901 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.21132 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.17223 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19407 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21785 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20419 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21411 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.22157 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.19786 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.19541 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.22672 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.23363 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.22899 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08436 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09785 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07352 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20289 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.19505 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1187 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21447 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18898 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.18682 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29292 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21212 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.18328 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19623 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.19243 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.10664 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24719 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25867 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25168 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.19693 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24496 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.20153 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35398 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.19416 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.15346 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17294 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.19803 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.22865 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.20327 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.21579 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.25382 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.19609 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.2437 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.24684 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.22543 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.21034 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.18803 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.22047 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.21435 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1665 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25644 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.18833 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.17042 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.14922 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.16039 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18342 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.17529 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.18746 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.18744 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.16409 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.16582 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.18282 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19352 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18905 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06334 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.07307 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.05876 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.14845 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.14814 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.08748 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.15494 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14499 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.13694 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.22515 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.16183 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15895 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15109 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.13909 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.07101 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.17441 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.18756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.15761 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1434 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.14988 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.14983 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24714 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.12374 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11558 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.11549 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.12402 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.14421 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.12775 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.13535 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.15529 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.12543 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.15601 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.15595 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.14942 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.13883 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.11909 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.14196 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.13445 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.12195 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.18046 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.13638 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.12723 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.11633 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.12003 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.13774 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.13004 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.1458 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.14151 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.12147 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.1215 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.13254 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.14018 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.13778 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02423 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02527 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02297 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05268 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.04878 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.02741 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.05149 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05323 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.04736 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07621 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.0581 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.06546 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.05872 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.04829 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02057 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.05294 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05783 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.03772 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.048 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03527 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.0499 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06338 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03207 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.04129 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03239 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03476 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.037 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03256 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.03681 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04184 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03564 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04469 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04274 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04432 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04141 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03375 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04008 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.03856 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04019 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05308 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.04876 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04015 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.04108 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.04368 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.04953 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.04677 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05471 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05459 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04029 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0432 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.04616 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04638 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.04746 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01359 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01313 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.02917 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02593 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.01472 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.02746 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.02602 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04084 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03174 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03563 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03233 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.02641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03017 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.01917 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.02685 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.01797 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01652 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01706 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.01913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.01674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.01945 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01905 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02372 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02223 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02335 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02244 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01794 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.02729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02208 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02718 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02533 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03052 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03006 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02177 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02405 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02538 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.02587 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00147 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00408 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0018 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00183 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00167 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00211 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00213 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00264 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00218 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00241 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00249 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12123 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16169 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11071 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35141 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.27786 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.18851 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31948 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29471 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31976 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42478 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30736 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.22184 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26851 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32196 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19586 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39127 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46559 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.276 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.52123 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29216 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53982 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38644 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23269 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30213 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.48244 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.5246 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51562 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53727 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63897 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.47899 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60452 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59563 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5065 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46578 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44017 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51923 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51743 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26643 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45007 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.30268 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29283 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23237 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26682 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28812 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29094 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.26401 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28287 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27655 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26218 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31774 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.31702 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.33231 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15961 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20426 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15063 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43432 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34894 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.24104 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3978 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38639 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40377 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51573 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38829 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30143 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36345 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39911 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25381 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.4767 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46104 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53441 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.362 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58687 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38619 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.60271 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4561 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29594 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36809 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.568 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.59612 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.57688 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60098 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70221 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.55169 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66909 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.65424 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.57924 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54946 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5216 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59123 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58362 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34019 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54161 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39945 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37848 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3076 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.34691 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.37702 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37378 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36369 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37839 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35536 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.35138 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41038 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40524 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.41802 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16887 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21723 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16224 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45359 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36798 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25503 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.4155 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40541 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42143 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53328 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40647 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.32893 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3805 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41743 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26684 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49456 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48012 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54824 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38267 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.59624 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.40815 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.6151 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46548 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31342 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3786 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58468 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60607 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58801 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61113 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71114 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56742 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67907 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66554 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59008 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56556 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5424 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60631 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59879 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.36142 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55897 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42107 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39425 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.33143 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.36746 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40014 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.3979 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.38895 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.4005 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3779 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37698 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43144 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42467 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43775 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17607 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22689 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17314 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.46744 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38329 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26401 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42724 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41871 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43581 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.54562 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42145 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.34997 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39674 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42832 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27521 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50498 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48988 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5548 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39494 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.60087 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42337 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62169 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.472 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32589 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38882 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59464 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6156 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59602 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61782 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71615 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.577 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68604 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67237 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59902 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57757 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55277 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61538 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60745 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37309 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5677 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43666 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40958 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34791 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38363 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41828 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41376 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.40627 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41726 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.39335 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.39393 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44582 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44061 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18278 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.233 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17973 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4746 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39145 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26763 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43309 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42729 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44276 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55132 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42836 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36058 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40597 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43577 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28029 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5102 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49496 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55743 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40116 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.60272 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43059 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62435 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47581 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33363 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39449 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59956 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6203 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59992 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62168 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7195 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58297 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68926 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.6752 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60308 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58243 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55802 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62033 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61213 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38103 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57259 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44486 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41651 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35572 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39218 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42733 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42141 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41477 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42568 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40184 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40276 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45321 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44797 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45923 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18325 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23332 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18018 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47493 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39175 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2679 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43328 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4276 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44312 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55154 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42859 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36094 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40628 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43613 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28063 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51043 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49522 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5575 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40142 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.60277 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43095 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62437 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47624 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.334 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39496 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5998 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62048 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60012 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62195 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71962 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58335 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68948 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67541 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60324 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58265 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55835 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62054 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61235 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57272 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4452 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41682 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3561 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39256 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42772 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42171 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41522 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40213 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40322 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45341 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44837 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45957 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18325 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23332 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18018 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47493 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39175 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2679 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43328 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4276 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44312 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55154 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42859 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36094 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40628 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43613 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28063 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51043 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49522 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5575 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40142 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.60277 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43095 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62437 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47624 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.334 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39496 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5998 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62048 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.60012 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62195 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71962 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58335 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68948 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67541 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60324 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58265 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55835 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62054 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61235 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57272 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4452 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41682 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3561 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39256 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42772 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42171 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41522 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40213 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40322 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45341 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44837 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45957 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61834 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65352 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67742 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57104 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.493 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55678 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.56518 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.51975 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56695 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55513 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61721 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50465 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.561 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46249 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47481 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.561 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.51859 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59207 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.68391 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56291 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.63718 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51803 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5795 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50389 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50276 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58311 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.59117 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.55982 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65124 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.72597 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6089 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68021 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55585 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60014 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54134 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54093 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64403 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.60945 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.7018 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78046 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65047 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71378 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59634 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6367 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5801 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58741 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63261 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64818 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.61331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78265 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71663 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59893 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63867 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58163 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59049 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63261 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64818 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.61331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.70694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78265 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.65399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71663 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59893 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63867 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58163 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59049 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.17955 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18783 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.18726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.30776 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.26777 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25646 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35598 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22879 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31157 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23206 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.33145 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.34054 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44234 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46264 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.41348 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50419 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36176 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5328 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.41374 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37115 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.40608 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.39562 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.49511 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54645 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47029 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.55392 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.41602 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54324 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44333 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41814 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4824 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49342 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.45766 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54539 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62073 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51859 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59022 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45388 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55167 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46233 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45412 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51037 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52438 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57001 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65507 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54097 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60558 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47465 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55963 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4738 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47416 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51077 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52513 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48547 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57079 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65555 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54167 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60606 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47504 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47396 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4746 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.51077 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52513 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48547 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57079 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65555 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54167 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60606 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47504 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47396 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4746 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.17955 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18783 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.18726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.30776 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.26777 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.25646 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35598 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22879 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31157 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23206 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.36357 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37528 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.36844 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.49329 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50062 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45294 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.55243 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40648 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.64257 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51731 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43507 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4714 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49602 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.4727 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60227 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.6295 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54936 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65066 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51159 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.68675 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60509 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53078 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.61965 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.62982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.60605 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74109 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7722 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67906 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.7478 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61489 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.70673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.62646 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75046 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77117 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74565 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.89691 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.91616 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.79414 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.851 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.72937 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.91566 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.85979 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.77554 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.75942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.79027 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.76189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.92255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80969 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8644 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.7413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.86869 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.79126 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61834 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65352 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67742 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57104 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.493 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48448 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.48718 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44027 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.39812 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.57609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42262 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.41398 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.39162 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.21419 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.23244 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34921 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4042 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41183 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.36243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.30873 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.33095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31505 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.31093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.17151 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27227 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.28078 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.28077 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.24422 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.20254 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30516 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.21339 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.19382 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.19508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.0751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10237 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.17087 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.06709 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.06929 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.05971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.0498 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05173 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04522 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0476 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02516 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04218 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03381 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03521 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03043 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02293 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00928 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.0127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02143 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00338 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00373 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00241 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00214 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.62763 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.61834 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65352 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67742 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57104 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.38576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.493 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68769 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68688 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64884 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.72207 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.8202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67312 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74238 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64709 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5328 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49407 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57656 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69429 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69798 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82835 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68323 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75556 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65965 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.54324 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51113 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58889 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70254 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69907 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66866 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74221 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83134 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69057 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.75927 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.666 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55167 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52268 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59585 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70495 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.70232 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67152 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74468 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69269 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76139 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.66819 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55964 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52843 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60019 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70501 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.70251 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6716 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74487 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76147 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.66833 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55982 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60032 + } + ] + }, + { + "config": { + "retrieval_model": "BM25", + "retrieval_model_link": "https://github.com/castorini/pyserini", + "reranking_model": "mmarco-mMiniLMv2-L6-H384-v1", + "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L6-H384-v1", + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:21:43Z", + "is_anonymous": false, + "revision": "3402b53e22746fb9b6441a91643dadb9" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70501 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.70251 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6716 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74487 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.83315 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.76147 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.66833 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55982 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.60032 + } + ] + } +] \ No newline at end of file