[ { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.26542 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39209 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.27207 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.70282 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60604 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38807 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.64112 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.6867 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.64101 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.77581 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.67244 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.72495 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.67489 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.64688 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40725 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.7108 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.61614 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56589 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59533 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.6403 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63012 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.64039 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53864 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53047 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4834 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.80126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78003 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73512 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.77122 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83235 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.77174 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.80772 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.81175 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77601 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.82193 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76211 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.83242 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.78811 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50614 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.74096 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.69938 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65447 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61396 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.68834 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73928 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.67471 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.73525 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.72378 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.65623 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68213 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.70182 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.73191 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.72321 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.23784 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33821 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.2312 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.62764 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56544 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32849 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55519 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5979 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56854 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.69331 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.59027 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64065 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.5985 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57356 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.39685 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.60951 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.55037 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.516 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49708 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.53667 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.60166 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.57024 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54933 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4501 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47865 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74514 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73161 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62216 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64984 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73301 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71513 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.73027 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68069 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.65987 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7178 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.70567 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71858 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6883 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46831 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.65257 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.6381 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60446 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54208 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61029 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.68634 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.60903 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66912 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.64669 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.59981 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.63066 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.62206 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.67235 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.65065 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.22792 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33294 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22321 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.60618 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56059 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30892 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.51666 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55913 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54686 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66705 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54237 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.6054 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.57299 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.55012 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40469 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57035 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52115 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51722 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44991 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.51289 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.60775 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.53496 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56202 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41874 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4944 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74881 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74164 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6199 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63056 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73027 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72004 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72709 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.66497 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.65262 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.71526 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71645 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71487 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.67397 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47383 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.62741 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62508 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5967 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52718 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.59835 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.68928 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59761 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65919 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.63363 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.59826 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.62812 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6072 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.67013 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63327 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.23194 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34174 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.2295 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.60787 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57626 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30611 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.50173 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.54951 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54646 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66515 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.52019 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59217 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.57951 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.55108 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.41597 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.5572 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50986 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53758 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43584 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.50846 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63432 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52083 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5804 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42351 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.51784 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.76509 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75464 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63507 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63819 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74761 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.73697 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75163 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.67429 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.67166 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.72904 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73325 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.7297 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68604 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50305 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.62843 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.63481 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60508 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52962 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60845 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.71057 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.60893 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.67231 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.64982 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.61507 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.64535 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.613 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.68725 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63592 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.25138 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35901 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.25 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.63217 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6043 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31686 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.5215 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57304 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56599 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.69377 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54347 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.62025 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61039 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57285 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42248 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57626 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52972 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55648 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45923 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.51377 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.66342 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.53958 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59584 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44029 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.53534 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77807 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76178 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64352 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64817 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75878 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74953 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76683 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68451 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.68583 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74626 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74433 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74438 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.69901 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5344 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64152 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65719 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6168 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54771 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.6257 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.7305 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62867 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.69831 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.67396 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.63132 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.66413 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.63372 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.70757 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.65269 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.25335 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3608 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.25275 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.63354 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60595 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31726 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52196 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57391 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56666 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.69446 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54395 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.62116 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61211 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57401 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42307 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57713 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.53031 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.557 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46028 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.51391 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6664 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54011 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59746 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44231 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.53861 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77916 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76233 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64418 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64889 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75944 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7505 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76752 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68543 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.68654 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74733 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74549 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74497 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.69968 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53544 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64174 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65951 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61744 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54867 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.62646 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73195 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62982 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.70008 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.6747 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.63228 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.66544 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6351 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.70877 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.6539 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.25335 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3608 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.25275 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.63354 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60595 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31726 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52196 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57391 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56666 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.69446 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54395 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.62116 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61211 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57401 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42307 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57713 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.53031 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.557 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46028 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.51391 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6664 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54011 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59746 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44231 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.53861 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77916 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76233 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64418 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64889 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75944 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7505 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76752 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68543 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.68654 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74733 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74549 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.74497 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.69968 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53544 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64174 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65951 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61744 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54867 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.62646 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73195 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62982 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.70008 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.6747 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.63228 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.66544 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6351 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.70877 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.6539 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0836 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17876 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08394 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.26043 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26753 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11813 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16964 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.20252 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.22183 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1998 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.15607 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.1862 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.19658 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22685 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.24397 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2142 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.14925 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24713 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12436 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.25281 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.27303 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14766 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3355 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14426 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.24872 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.52479 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46167 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39271 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.38764 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.44197 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.47782 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.43857 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.37863 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.34631 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.43146 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.47161 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.43902 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.40307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21768 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.26473 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.2894 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23841 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.29176 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.3339 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.28652 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.2936 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.2638 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.31173 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.31286 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.30308 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.35047 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.30241 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1375 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24787 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13624 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39984 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40263 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19143 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.30001 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33464 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34734 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.37213 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.29279 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33876 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.34401 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.3598 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.33178 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.34849 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.27721 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39047 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23618 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.35982 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.4291 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.28251 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46948 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25097 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39398 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.6483 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6339 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51241 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.49865 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.59508 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60845 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.58539 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.51081 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.49915 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.57421 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60933 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58225 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54606 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33234 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41718 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.4401 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44994 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36652 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4293 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50614 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.41837 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.4521 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42352 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.45373 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.46236 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42999 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50686 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.44825 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.15946 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27171 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15703 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.46101 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45554 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22102 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.35886 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.39271 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.40441 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46741 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.35768 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4184 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.41545 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41713 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.35622 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.40753 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.34394 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43044 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28871 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39867 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.49702 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.35282 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50593 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29497 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.43622 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68155 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68079 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54268 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53367 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.64396 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.64442 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.635 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.55786 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.55276 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.62232 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64486 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62751 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.58302 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37756 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48361 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.49847 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49904 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4127 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.48575 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.57462 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47491 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.52322 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.49574 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.5048 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.51683 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.48298 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.5648 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.50803 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18113 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29225 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17506 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51534 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50339 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24399 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.40541 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44483 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.44933 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56273 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41582 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.48994 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.47957 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46395 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.36976 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.45663 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40199 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45735 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33105 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.42186 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.5498 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.42174 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5298 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33615 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.465 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70317 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70287 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56306 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56153 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.67645 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67087 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6791 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59286 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.59122 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.65399 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66731 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65553 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61023 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41329 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.53198 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.54209 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53323 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4451 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.52683 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.62483 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.5215 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.58171 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55528 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53967 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.55702 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5236 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61116 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.5519 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.19088 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30194 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18453 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.53245 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52195 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25143 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.4199 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46153 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46302 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58654 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.43285 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.51201 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.50152 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.47825 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.37271 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46981 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41588 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46711 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34582 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.42531 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56713 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43612 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53844 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34771 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47202 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71064 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56812 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56829 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68338 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.6784 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.68942 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59946 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60049 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.6647 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67303 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66405 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61795 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43036 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.54095 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.55563 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54072 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45692 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53746 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63916 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.53398 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.59978 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.57222 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54912 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56907 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5368 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.6242 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.56307 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.19118 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30219 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18491 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.53277 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52229 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25151 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.42 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46167 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46316 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58673 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.43299 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.51223 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.50182 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.47847 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.37278 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46999 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41602 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46721 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34606 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.42535 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56761 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43624 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53863 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.348 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47239 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71081 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70639 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56821 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56839 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68349 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67855 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.68954 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59965 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60064 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66489 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67318 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66413 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61804 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43057 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.54098 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.556 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54082 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45707 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53762 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63937 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.5342 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.60015 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.57238 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54928 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56926 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53705 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62443 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.56328 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.19118 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30219 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18491 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.53277 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52229 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25151 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.42 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46167 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46316 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58673 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.43299 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.51223 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.50182 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.47847 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.37278 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46999 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41602 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46721 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34606 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.42535 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56761 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43624 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53863 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.348 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47239 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71081 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70639 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56821 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56839 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68349 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67855 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.68954 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59965 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60064 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66489 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67318 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66413 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61804 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43057 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.54098 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.556 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54082 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45707 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53762 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63937 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.5342 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.60015 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.57238 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54928 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56926 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53705 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62443 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.56328 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0836 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17876 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08394 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.26043 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26753 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11813 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16964 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.20252 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.22183 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1998 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.15607 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.1862 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.19658 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22685 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.24397 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2142 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.14925 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24713 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12436 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.25281 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.27303 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14766 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3355 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14426 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.24872 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.52479 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46167 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39271 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.38764 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.44197 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.47782 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.43857 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.37863 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.34631 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.43146 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.47161 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.43902 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.40307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21768 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.26473 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.2894 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23841 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.29176 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.3339 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.28652 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.2936 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.2638 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.31173 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.31286 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.30308 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.35047 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.30241 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1575 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26684 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15415 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.42783 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4339 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20868 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.32278 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.36243 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.38358 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.39588 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31277 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.35943 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.37158 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.38899 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.3704 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.37274 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.30781 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43446 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25615 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39152 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.47956 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30803 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51713 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27896 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.43555 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68653 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66794 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54027 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.52018 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62422 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.64389 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.62042 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.53283 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.52297 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.60383 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65603 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.61033 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.57209 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38327 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.44838 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48236 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4878 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39972 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.46154 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.55143 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.45132 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.48632 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.4573 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.49268 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.51257 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46041 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.54144 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.47944 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.19303 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30437 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1936 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51586 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51165 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25457 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.40266 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44196 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46753 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.51786 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.39661 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46114 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.47297 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46897 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.41717 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.45225 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40269 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50526 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32975 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.45206 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.58921 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.40025 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58129 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34182 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.50978 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74379 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73869 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59439 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.5727 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.69564 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.70912 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69563 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.60164 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60324 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67714 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72012 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.68102 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6302 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46629 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.53974 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.57113 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56087 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47223 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.5429 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65745 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.53921 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.5896 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5638 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.57353 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.59833 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.54215 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62951 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.56441 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.23726 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34701 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.23373 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.61029 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60076 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29757 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47936 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.52835 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54752 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.65768 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.48633 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57058 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.58193 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.54922 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.45155 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.53222 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.5003 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56993 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40592 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.49539 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6896 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.50195 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63992 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41166 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.57228 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.79494 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77991 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64025 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.62749 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75644 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.76767 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7771 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.66537 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.67865 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73905 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.77074 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73624 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68651 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55547 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.62092 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65392 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53196 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61763 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.75168 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62627 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.69324 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.66778 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.6409 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.6814 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.61965 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.71226 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.6386 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.28888 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39515 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.28657 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.66758 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67059 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3238 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52571 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58343 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59519 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.72291 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5406 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.63676 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.65645 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.60274 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47342 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.5775 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54726 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62181 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46079 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.50944 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.77246 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54827 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68475 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45446 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.63433 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.83023 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80184 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6638 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.65428 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.7864 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80363 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81536 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69153 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71467 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7849 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.80209 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.77726 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.72195 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63922 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.65341 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71437 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65482 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57819 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66334 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80148 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.67783 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.75775 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.72886 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68352 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.72978 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.67105 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.76651 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68094 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.2973 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40372 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.29892 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6729 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67754 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32549 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52721 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58696 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59766 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.72512 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54214 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64001 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.66402 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.60782 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47668 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.58087 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54909 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62408 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46429 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5099 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.78754 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54983 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46417 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.65293 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.83559 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80468 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66643 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6575 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78942 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80842 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81835 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69525 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71765 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78981 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.80779 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78017 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.72529 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64348 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6543 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.72486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65797 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58283 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66647 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80889 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6827 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.76503 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73178 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68764 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.73632 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.67707 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.77167 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68667 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.2973 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40372 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.29892 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6729 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67754 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32549 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52721 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58696 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59766 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.72512 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54214 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64001 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.66402 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.60782 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47668 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.58087 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54909 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62408 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46429 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5099 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.78754 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54983 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46417 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.65293 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.83559 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80468 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66643 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6575 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78942 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80842 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81835 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69525 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71765 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78981 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.80779 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78017 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.72529 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64348 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6543 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.72486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65797 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58283 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66647 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80889 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6827 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.76503 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73178 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68764 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.73632 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.67707 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.77167 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68667 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.26542 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39209 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.27207 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.70282 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60604 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38807 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.64112 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.6867 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.64101 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.77581 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.67244 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.72495 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.67489 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.64688 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40725 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.7108 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.61614 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56589 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59533 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.6403 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63012 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.64039 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53864 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53047 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4834 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.80126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78003 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73512 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.77122 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83235 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.77174 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.80772 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.81175 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77601 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.82193 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76211 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.83242 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.78811 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50614 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.74096 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.69938 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65447 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61396 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.68834 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73928 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.67471 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.73525 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.72378 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.65623 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68213 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.70182 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.73191 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.72321 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.19823 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24104 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19199 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.49361 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42183 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27393 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.48018 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.50763 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45571 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.6148 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.53175 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.56646 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.5133 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.45994 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.2459 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.50863 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.49095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38702 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44933 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39856 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45431 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51462 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33964 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38966 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33475 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.41831 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.46237 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39608 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.42435 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.48186 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42488 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.47754 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47139 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47832 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.46997 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.41429 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.46658 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.45819 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35427 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.52436 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48685 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42801 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41995 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45665 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50878 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.4576 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51917 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.51748 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.42781 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.45656 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45694 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.47921 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48908 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.15911 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18043 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15326 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39306 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.33266 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21267 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38653 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40315 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36432 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5233 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.4316 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.47146 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.42104 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.36409 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.1786 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.40281 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41056 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.28697 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36293 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29759 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.366 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.42928 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24984 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30568 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.25243 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.2927 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.33082 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.27649 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.3048 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.35029 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.30087 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.35251 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.3488 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.35795 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.34539 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.29217 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.33668 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.32604 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27726 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41534 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37859 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32577 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32309 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.35441 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.39578 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.35775 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41858 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.41669 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.32636 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.35112 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.35531 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.3683 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.38165 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10574 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11242 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09935 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.25495 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21695 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13122 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24348 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.25944 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.23168 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.36128 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.2798 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.3112 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.27787 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.23168 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.10121 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.25414 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.27127 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1702 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23253 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.17227 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.23276 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.2889 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.14779 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19633 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.15336 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.16678 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.18372 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.15744 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.18015 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.20419 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.17551 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.21704 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.20791 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.21496 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.20265 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.16624 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.19423 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.19023 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17581 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.25535 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.23377 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19561 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.19644 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.21719 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.24526 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.22654 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.26726 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.26765 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.19687 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.21531 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.22039 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.22798 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.23547 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02637 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02676 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02547 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.05783 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05136 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02932 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.05473 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.05878 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.05178 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.08139 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.06328 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.07091 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.06414 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.05246 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.02129 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.05641 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06008 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.03821 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.05328 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03589 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05288 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.06405 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03278 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04373 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.0336 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.03626 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03815 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03327 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.03869 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.04337 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03787 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.04723 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.04417 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.04646 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.04462 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.03563 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.04206 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.04108 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04235 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.05452 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.05216 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04177 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04392 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.04753 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05405 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.05032 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.06047 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.05987 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.04325 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.04778 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.04944 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.05042 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.05143 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01349 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01359 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01313 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.02917 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02593 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.01472 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.02746 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.02953 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.02602 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04084 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.03174 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.03563 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03233 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.02641 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.0107 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.02837 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03017 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.01917 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.02685 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.01797 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02677 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.03216 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01652 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02211 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01706 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01826 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01913 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01674 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.01945 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02177 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.01905 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02372 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02223 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02335 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02244 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01794 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.0211 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02063 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02134 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.02729 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.0264 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02096 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02208 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.02389 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02718 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.02533 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03052 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03006 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02177 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02405 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.02492 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02538 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.02587 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00135 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00136 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00131 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00292 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00259 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00147 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00275 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00295 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.0026 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00408 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00317 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00356 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00323 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00264 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00107 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00284 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00302 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00192 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00268 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.0018 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00268 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00322 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00165 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00221 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00171 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00183 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00191 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00167 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00194 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00218 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00191 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00237 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00222 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00233 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00224 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00179 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00211 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00206 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00213 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00273 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00264 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0021 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00221 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00239 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00272 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00253 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00305 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00301 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.00218 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00241 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00249 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00254 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00259 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.26542 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39209 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.27279 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.70282 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60604 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38881 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.64112 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.6867 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.64101 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.77581 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.67244 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.72495 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.67489 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.64688 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40725 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.7108 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.61614 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56589 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.596 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.6403 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.63012 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.63958 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53785 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.53047 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.80126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78003 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73438 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.77122 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83235 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.77174 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.80772 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.81175 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77601 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.82193 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76211 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.83242 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.78811 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50614 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.74168 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.69938 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65447 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61396 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.68909 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.73928 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.67471 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.73525 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.72378 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.65623 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68213 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.70182 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.73191 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.72321 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.30894 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42309 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.31368 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.75163 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6597 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42759 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.68875 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.74642 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.70688 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.82301 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.72415 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.77194 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.72883 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.6998 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.45384 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.75542 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.6869 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63067 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.68943 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.70009 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.69657 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59411 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58899 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.5383 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84398 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81621 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76625 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.79988 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86556 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.81787 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.8462 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.83848 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80515 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.85289 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81208 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.86103 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82319 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58363 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.79522 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.76333 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70669 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66741 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.73468 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.79773 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.73124 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.79031 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.77474 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.71289 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.75135 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.75198 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.78061 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.77114 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.31465 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42683 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.32464 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.75839 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66701 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.434 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.69334 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.75093 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.71343 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.82706 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.72815 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.77616 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.73591 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70362 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46066 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.75968 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.69426 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63865 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.6525 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.69371 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.70849 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.70369 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59912 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59456 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54477 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84735 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81946 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77056 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.80202 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86788 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.82262 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.8497 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.84168 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80855 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.85544 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81703 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.86306 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82716 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59356 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.7979 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.76961 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71284 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67487 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.73946 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80426 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.73796 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.79662 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.78161 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.71854 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.75688 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.75847 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.78568 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.77696 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.31843 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42933 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.32864 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.76121 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67039 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43625 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.69601 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.75256 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.71673 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.82866 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.72996 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.77844 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.7386 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70653 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46264 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.76234 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.69744 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6418 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65669 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.69443 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.71149 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.7054 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60214 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59677 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54707 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84819 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82058 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7716 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.80395 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86865 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.8238 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.85065 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.84232 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80942 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.85622 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81788 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.86435 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82801 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59819 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.79923 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.77168 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71437 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67769 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.74173 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80644 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.74098 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.79836 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.78332 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.72042 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.7597 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.76101 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.78737 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.77788 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.32078 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43037 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.33081 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.76213 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43673 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.69642 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.75294 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.7175 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.82898 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.73028 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.7791 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.73943 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70736 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46333 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.76318 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.69819 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64288 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65765 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.69471 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.71307 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.70653 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6035 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59738 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54919 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84883 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.821 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77189 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.80434 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86896 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.82428 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.8508 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.84249 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80982 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.8565 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81839 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.86482 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82835 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59986 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.79969 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.77258 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71505 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67848 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.74258 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80673 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.74189 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.799 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.78405 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.72132 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.76037 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.76207 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.78809 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.77843 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.3209 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43046 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.33098 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.76216 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67172 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43677 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.69642 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.75298 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.7175 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.82899 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.73028 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.77912 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.73951 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70741 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46336 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.7632 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.69819 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64289 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65768 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.69471 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.7132 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.70653 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60362 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5975 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54944 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84887 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82102 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77192 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.80436 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86898 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.82433 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.85081 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.84252 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80983 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.85652 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81845 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.86486 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82839 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59988 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.7997 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.77265 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71506 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67852 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.7426 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.8068 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.74191 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.79905 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.78408 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.72136 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.76042 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.76212 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.78813 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.77848 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.3209 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.43046 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.33098 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.76216 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67172 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43677 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.69642 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.75298 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.7175 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.82899 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.73028 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.77912 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.73951 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70741 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46336 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.7632 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.69819 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64289 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65768 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.69471 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.7132 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.70653 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60362 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5975 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54944 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84887 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.82102 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77192 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.80436 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86898 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.82433 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.85081 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.84252 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80983 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.85652 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81845 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.86486 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.82839 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59988 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.7997 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.77265 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71506 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67852 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.7426 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.8068 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.74191 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.79905 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.78408 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.72136 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.76042 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.76212 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.78813 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.77848 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71505 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60656 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46884 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.626 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65837 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77181 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66893 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55211 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62808 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52838 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55661 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62702 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68192 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56386 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65194 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56735 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56996 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65208 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68779 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73018 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80514 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7214 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59911 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66793 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60096 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61223 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68146 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71728 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6844 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69769 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74818 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63043 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69167 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63252 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64426 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71796 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74929 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63088 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69235 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63374 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64587 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71796 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74929 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63088 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69235 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63374 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64587 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23686 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37939 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24931 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27938 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39122 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42862 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52702 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53731 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47481 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54882 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40798 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59639 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48257 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44416 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48199 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5173 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50655 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58146 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59891 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46293 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61004 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51081 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48519 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56138 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59728 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55951 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63144 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71191 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63531 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5027 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61688 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5292 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.524 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58271 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61878 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60281 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64874 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51941 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62271 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53929 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53999 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5828 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61897 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73506 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60303 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64891 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51954 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62278 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53943 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54029 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5828 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61897 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73506 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60303 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64891 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51954 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62278 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53943 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54029 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23686 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37939 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24931 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27938 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4222 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59946 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56788 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51997 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59806 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46396 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71888 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57517 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5034 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54694 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58629 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57569 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69116 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56297 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7751 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65678 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58266 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68511 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71705 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.8229 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78175 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65423 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.82329 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.74555 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68768 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75805 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.788 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8588 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73971 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92369 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86177 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.78425 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75942 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86869 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75942 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86869 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71505 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60656 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46884 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54755 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62772 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4235 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23963 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25618 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39776 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34817 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33602 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33169 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15502 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.18516 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29244 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.303 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31006 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26474 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22085 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20161 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20683 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08233 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10742 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18263 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06751 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06075 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05093 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04565 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04803 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02522 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04246 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02546 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02293 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0241 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00928 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02143 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00338 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00352 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00229 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00241 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00093 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00214 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7052 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71505 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60656 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46884 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74675 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79389 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75915 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78498 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72421 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79301 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68579 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59639 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56479 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6732 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75305 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79951 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76638 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90494 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7996 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69672 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61004 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.582 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68217 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75747 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80092 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76985 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79397 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80118 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69956 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61688 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59074 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68641 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75844 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73628 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80273 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62271 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59639 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68879 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75844 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73628 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80278 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62278 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59649 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68883 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:22:39Z", "is_anonymous": false, "revision": "67b09d091f93942a5480e64cc61914e6" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75844 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73628 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80278 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62278 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59649 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68883 } ] } ]