diff --git a/AIR-Bench_24.05/gte-Qwen2-1.5B-instruct/NoReranker/results_20241201070256-0ad7f5febf1684f63cd52f56d98814b6.json b/AIR-Bench_24.05/gte-Qwen2-1.5B-instruct/NoReranker/results_20241201070256-0ad7f5febf1684f63cd52f56d98814b6.json new file mode 100644 index 0000000000000000000000000000000000000000..4399f86d621abec42d866d5bdd7b3126f335d475 --- /dev/null +++ b/AIR-Bench_24.05/gte-Qwen2-1.5B-instruct/NoReranker/results_20241201070256-0ad7f5febf1684f63cd52f56d98814b6.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11263 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18598 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13025 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49819 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45666 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38071 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43266 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43893 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41667 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53006 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4521 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47626 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1648 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51903 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.59034 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44414 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44328 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51577 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3982 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60955 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6563 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65179 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52841 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56324 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62319 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61471 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49473 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65318 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63687 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58333 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57555 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5933 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63531 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54907 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52855 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53675 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51495 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41532 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.54751 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51475 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46012 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52788 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54447 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52584 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37698 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58288 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10939 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1748 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11939 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45163 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44226 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34474 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36209 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.23752 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39169 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35677 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.2818 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46553 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41319 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41726 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.17222 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43863 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34668 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48106 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40585 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.48773 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42676 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38341 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51912 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34002 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39141 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58101 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62237 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55285 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45652 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.48807 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57486 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52463 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.42842 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52922 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54026 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.52607 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48927 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51171 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38923 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5427 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49529 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49628 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46295 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46409 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3763 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48587 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4724 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40348 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49237 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49231 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46521 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35574 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51615 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11085 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18209 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11655 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44073 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44743 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33826 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34404 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22704 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38083 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3386 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26041 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43707 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40207 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40919 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.18597 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41738 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32937 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4895 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37376 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47047 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43065 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36005 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53238 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32357 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41007 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59392 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63561 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5557 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45388 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49179 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58693 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52504 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.42295 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52379 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53663 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.53624 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48646 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50862 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5203 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49086 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4987 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45288 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46282 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.37837 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4813 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46299 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.39766 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49566 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49629 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45621 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35918 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50604 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12715 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2019 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12807 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45599 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47437 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36425 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35934 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.23393 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39901 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34824 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26398 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.44554 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41948 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20274 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43086 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3386 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52109 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39129 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49492 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46338 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36515 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55212 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34285 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4412 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61903 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66454 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58332 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47737 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51571 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60942 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5447 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44289 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54886 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55972 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.563 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51352 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53449 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42146 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54036 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51596 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52682 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.47485 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48846 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40528 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50691 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48319 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41711 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52481 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52211 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47727 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.38373 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52349 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16948 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2442 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17273 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53035 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54069 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4444 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44151 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29218 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47466 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4377 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34098 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53458 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.49897 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49946 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23358 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51142 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57146 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48929 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5285 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45768 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58982 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41607 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48514 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6556 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69788 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62862 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52762 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56587 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64857 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5919 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49868 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60171 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60655 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60091 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55976 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58671 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48246 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62089 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58347 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57825 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53792 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55494 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46531 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57339 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.5537 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48743 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58442 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58065 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.545 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44165 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59386 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18528 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25746 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18608 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54783 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55295 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.46451 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46479 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31156 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49295 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46116 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3641 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55598 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51816 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51567 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24417 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.53222 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44924 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58497 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51439 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58527 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54276 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48536 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59722 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43455 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49992 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66485 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70408 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64011 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54247 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.57842 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65848 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60312 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51343 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.61467 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61912 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6114 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57201 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59841 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5001 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63871 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59813 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58991 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.55376 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56934 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.48144 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58745 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57039 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.50416 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59764 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59363 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56093 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45792 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6094 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22653 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29251 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22521 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57824 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57512 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.501 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50514 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35697 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52817 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50449 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41556 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58886 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54923 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54595 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27635 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56542 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49312 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60758 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.55309 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61182 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56485 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52836 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61558 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46946 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52924 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67928 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71558 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65966 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56891 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.60232 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67419 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62537 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54244 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6385 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64022 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62874 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59746 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.62019 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52768 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66195 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6195 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60961 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58159 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59271 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51073 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61062 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59669 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53532 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61883 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61507 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58725 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48874 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63162 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03142 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.06999 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03341 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.19328 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20972 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1207 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.11676 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.08511 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.15887 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.10198 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07504 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.14138 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.13083 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.16786 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.09375 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.15195 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.11091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23506 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10054 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23999 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.1869 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.10456 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33127 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.10642 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.19936 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.40259 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.37872 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.34835 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.26658 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.28924 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.39391 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.32302 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.22095 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29056 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.35573 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.29592 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.29947 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20084 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23012 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22503 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25317 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21967 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.20958 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18052 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2294 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.19183 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.15522 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.25866 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25304 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.22225 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.18375 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24006 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05654 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11384 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06088 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28375 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31488 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20118 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.1868 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.1249 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2349 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.17459 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12652 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.24203 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.22479 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.25758 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.13233 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23999 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17893 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.3683 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18791 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.32184 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.291 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.18497 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44776 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.17999 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31861 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.49871 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.525 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.44518 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.34157 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.37565 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.48521 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.4066 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.30349 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38678 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.41541 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37747 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.39017 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27912 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.3407 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.33116 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.3584 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.31432 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.31256 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25746 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32473 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29706 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.2437 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.36414 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.35471 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31033 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.25417 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34315 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.068 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1328 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07162 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.31952 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35662 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23586 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21754 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14006 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2663 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.20508 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14842 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28469 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.27076 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.29752 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.14719 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27766 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20766 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40464 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22654 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33188 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2216 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47843 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21351 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.35241 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52212 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.56188 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47116 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.36651 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40199 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51153 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.43311 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32808 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41927 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.44 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.46187 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.39846 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41521 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30716 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.3829 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37524 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40046 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34677 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35367 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28608 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36437 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.33957 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28102 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40113 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.39214 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.34425 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27748 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38506 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08369 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15226 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0833 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35594 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39752 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27166 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25481 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.15628 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30076 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.24223 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.17253 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33253 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31539 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33686 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15806 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31787 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23784 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.431 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27307 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38705 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36998 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26215 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50017 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24797 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.54045 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58883 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.49421 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.39058 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42422 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53248 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.45454 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.35014 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.44724 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46303 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.48147 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.42066 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43953 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33153 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42182 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41435 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43745 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38154 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39001 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31429 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.40325 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.3786 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.31435 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43185 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42385 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37722 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30061 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4235 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09839 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16888 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0976 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39068 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42888 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30571 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29186 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17635 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33293 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28207 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20165 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37749 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35315 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.36774 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.16708 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35487 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27198 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44985 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31823 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41879 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.39914 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30398 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51542 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27908 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39326 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.55429 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60243 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51226 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4106 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.44344 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54838 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47298 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37113 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46935 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4821 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49535 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43751 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46094 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35454 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4603 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44517 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.45989 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40991 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41943 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.33812 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43386 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.411 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.3456 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45637 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44971 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40643 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.32224 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45578 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10064 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17092 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09963 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39404 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43099 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30933 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29657 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.1794 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33666 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.28686 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20591 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38208 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35691 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.3709 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1684 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35915 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2771 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45208 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32359 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42202 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.40169 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3098 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51633 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2823 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39532 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.55581 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60345 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51419 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41311 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.44553 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.55017 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47502 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37355 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47165 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48434 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49697 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43951 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46301 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35732 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46411 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44807 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46201 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41283 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42212 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.34087 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43667 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41421 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34869 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45872 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45209 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40948 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.32489 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45878 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1029 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17271 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10168 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43246 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31199 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29982 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18232 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33937 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29051 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20987 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38497 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3594 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37323 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.16972 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36206 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45366 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.32714 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42414 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.40312 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.31364 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51718 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2847 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39679 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5568 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60416 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51549 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41493 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.44699 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.55126 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47654 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.37555 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47334 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48579 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49806 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.44116 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46455 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3591 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46624 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44975 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46335 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41483 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42392 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.34279 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43846 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4164 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.35098 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46027 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45365 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41156 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.32688 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46054 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03142 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.06999 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03341 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.19328 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20972 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.1207 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.11676 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.08511 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.15887 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.10198 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07504 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.14138 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.13083 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.16786 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.09375 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.15195 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.11091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23506 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10054 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23999 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.1869 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.10456 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.33127 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.10642 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.19936 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.40259 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.37872 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.34835 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.26658 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.28924 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.39391 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.32302 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.22095 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29056 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.32549 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.35573 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.29592 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.29947 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20084 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23012 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22503 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25317 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21967 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.20958 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18052 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2294 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.19183 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.15522 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.25866 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25304 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.22225 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.18375 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24006 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0727 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13885 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07762 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32179 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35358 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21466 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.1519 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2714 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.20419 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15066 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26846 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.261 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28737 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.16721 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27718 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20745 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42357 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21723 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35871 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.34282 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2091 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49315 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20818 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36963 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.55826 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.57986 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48501 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38055 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42107 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53136 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.45244 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34998 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42357 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46077 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49412 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.42677 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43886 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32063 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38046 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37565 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40391 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34885 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35837 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.30038 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36774 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.34331 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28272 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41601 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40594 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35089 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30081 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38153 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09876 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17992 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10336 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38831 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42686 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30105 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27217 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19038 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33276 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.26144 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1964 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33805 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34135 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35922 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2129 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34606 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26414 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49829 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28436 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41837 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42537 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27142 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55434 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26898 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43915 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6214 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65148 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54329 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43524 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.48526 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59468 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.51191 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40586 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.48615 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5172 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.54787 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.47664 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.49454 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38657 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45486 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45646 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.48513 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40861 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43886 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.3668 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44711 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.42243 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.35891 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4895 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48378 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41887 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35673 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45675 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14819 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24068 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14364 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47843 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52643 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39864 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24666 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42376 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3601 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26458 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.44617 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44543 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45766 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.25834 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44563 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58532 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39716 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51595 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53062 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36819 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61203 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35715 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52107 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68768 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72707 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61548 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51196 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55936 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66107 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57888 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47782 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5681 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59128 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61987 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55542 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57256 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47039 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55666 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55723 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58361 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49686 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53633 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45941 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52392 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45114 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58115 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57105 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51156 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44145 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54987 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26382 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36418 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26699 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.67294 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71045 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.61417 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57908 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.39871 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.62475 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5863 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45729 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.66596 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65136 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.639 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.36487 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65297 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.56234 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.74019 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.64749 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72152 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72505 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59808 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.73751 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55589 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.66401 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83197 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75329 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65627 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71472 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77801 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72097 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64574 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72349 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73043 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74007 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69899 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72589 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65401 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.76892 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74294 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73403 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67057 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72695 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63824 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73195 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71535 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64548 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.75433 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73834 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70031 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61488 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.74379 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.32322 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42163 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31763 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7376 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.76229 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.69378 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66177 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46782 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.69036 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66775 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53711 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.74141 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.723 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.69737 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41705 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.72846 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64992 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.79717 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.73672 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.78529 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78743 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69146 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.77622 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62611 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.7364 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83973 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86022 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80223 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71728 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76867 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81949 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76689 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70559 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.77599 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78089 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.78585 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75015 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77239 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.73126 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.83564 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80023 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78189 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73382 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.78504 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70576 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.78634 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77921 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71181 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80756 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.79037 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.76236 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68261 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.80437 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.53959 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.63805 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.52477 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.8889 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.88759 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.88416 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.85704 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68427 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.86359 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.86834 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77417 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.89452 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.87676 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.84855 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64732 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.88753 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.84617 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.92627 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.9239 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.92248 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.922 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.88695 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.90964 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.81265 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.939 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.91914 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.93149 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.91295 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85953 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90661 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.90746 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88791 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85995 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.90692 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.89677 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.88754 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89325 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.89006 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.89498 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.94957 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.91298 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.89733 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.88658 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.91291 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.87307 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.90658 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.91318 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.87442 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.92403 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.90528 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.89766 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.85484 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.92144 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11263 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18598 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13025 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49819 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45666 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38071 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43266 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43893 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41667 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53006 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4521 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47626 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1648 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51903 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.59034 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44414 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44328 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51577 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3982 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60955 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6563 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65179 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52841 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56324 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62319 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61471 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49473 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65318 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63687 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58333 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57555 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5933 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63531 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54907 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52855 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53675 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51495 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41532 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.54751 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51475 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46012 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52788 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54447 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52584 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37698 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58288 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09756 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13833 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10757 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34611 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32353 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29062 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30659 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19123 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30669 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31146 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24868 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4029 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35535 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.3321 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11044 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36144 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.29412 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.34797 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36778 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35554 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32408 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33843 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30967 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29686 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.27064 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.31742 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.39315 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.34673 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.2952 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.31544 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.32488 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.32435 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29995 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.36561 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34288 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.29962 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3054 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33151 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27581 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42306 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37497 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.35041 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34571 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35052 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27219 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.35941 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37021 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.32201 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.34352 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.34725 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.34055 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.24558 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38422 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08637 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11617 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08842 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27578 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26176 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23859 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.2533 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.15536 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24693 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.25664 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20245 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3284 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29739 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26973 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.08887 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.29127 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23982 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25681 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30133 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.26828 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.25926 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28061 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.22555 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24307 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.20596 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.22303 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.28321 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.24494 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.21904 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.22971 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.23406 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.23569 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.22123 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.27009 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.24497 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.2104 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.21635 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.2391 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21025 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32735 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29732 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.27482 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26533 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27773 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21223 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28216 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29454 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26337 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26325 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26837 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26439 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.18815 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30301 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06908 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.08307 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06339 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.19002 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.18019 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.16937 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.18574 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.10894 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17358 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.18776 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.14459 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.23269 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20878 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18694 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.05738 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20362 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16961 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.15783 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21967 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.17977 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.17509 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20298 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13525 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16863 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.12979 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.13336 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.16838 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.14888 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.14 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.14088 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.14087 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.14363 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.13878 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.16857 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.15098 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.12728 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.13462 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.14942 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.13502 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.21505 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.19712 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.1798 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.17639 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.18274 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.14322 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.19035 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.19749 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.17666 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.16753 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.1737 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.17668 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.12605 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.19954 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02552 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02741 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0248 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05929 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05358 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.05557 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.06201 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.03946 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05637 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.0655 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.05316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.07454 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06485 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.05668 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01695 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.06491 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.06032 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04272 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.073 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0547 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.0498 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.0707 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03456 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0532 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03483 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03472 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04036 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.03975 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.04059 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.03921 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03716 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.03956 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.0408 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04621 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.0412 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03332 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.03718 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04215 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04074 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.06518 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05672 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.04842 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.05148 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05294 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.04288 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.0558 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05875 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05397 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04761 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0491 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.05341 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.03888 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05854 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01568 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01569 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01486 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03299 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02874 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03122 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.03564 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02361 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03178 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.03765 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03141 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.0416 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03596 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03155 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00968 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.0365 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03562 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04141 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0304 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02693 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04138 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01804 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0299 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01914 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01877 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02098 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02156 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02269 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02144 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02009 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.0216 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02279 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0252 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02265 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01818 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02047 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02302 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02293 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03589 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03087 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02607 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02837 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0288 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02396 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.0304 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.0324 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.02985 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02595 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02669 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02948 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02204 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03198 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00251 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00219 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00239 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00329 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00391 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00455 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00403 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.0049 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00453 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00501 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00433 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00388 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00138 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00447 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00478 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00506 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00362 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00306 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00528 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00202 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00373 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0023 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00217 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00229 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00252 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00231 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00262 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.0029 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.003 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.0027 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00214 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00276 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00279 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00413 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00354 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00338 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00334 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00355 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00383 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00367 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00312 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00352 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00368 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11263 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18598 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13025 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49819 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45666 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38071 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43266 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43893 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41667 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53006 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4521 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47626 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1648 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51903 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.59034 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44414 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44328 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51656 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3982 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60955 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6563 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65179 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52841 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56324 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62319 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61471 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.49473 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65318 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63687 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58333 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57555 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5933 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45343 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63531 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54907 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52855 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53675 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51495 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41532 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.54751 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51475 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46012 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52788 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54447 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52584 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37698 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58288 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15543 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22901 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17402 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.58388 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52322 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45042 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50048 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34669 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51863 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49496 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40584 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60274 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53689 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54204 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20966 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59147 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.48655 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60041 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.55622 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65432 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.52394 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50952 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56743 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46711 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45191 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67954 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72057 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70895 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6288 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68382 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67504 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56852 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7105 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70054 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64732 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63988 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66029 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51721 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71503 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62583 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5959 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60121 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58458 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.48688 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61952 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59747 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5309 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.60988 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62091 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59928 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45153 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65125 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16698 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23904 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18499 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59714 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53649 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4682 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.51706 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36346 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53365 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51063 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.4237 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61642 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.55075 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55628 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.22243 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60549 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50458 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61129 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57086 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6661 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53876 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52432 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57551 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48279 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46289 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69295 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72788 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72004 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60188 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.64259 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69646 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68684 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58035 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71914 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7108 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65786 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65035 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5315 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72501 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63791 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61113 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61142 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60005 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50396 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63333 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60953 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54969 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62264 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63541 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61276 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46638 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66239 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17617 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24647 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19327 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60558 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54586 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48085 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53025 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37513 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54391 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.52443 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43572 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62673 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56009 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56561 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.22927 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61418 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51585 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61874 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58186 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67442 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54775 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53627 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57974 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49237 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47109 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6995 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73267 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72468 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60986 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.64861 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70244 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69228 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58831 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72528 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71678 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66398 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65818 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67786 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54092 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73194 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64576 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61858 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61793 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60785 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51351 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6422 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61822 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55979 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62982 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6428 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62082 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4774 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66936 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18396 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25127 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61035 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55136 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48771 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53575 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38337 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54991 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53067 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44419 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63125 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56516 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57152 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23475 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61928 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52288 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62319 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5876 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67895 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55287 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54306 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58351 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49919 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47608 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70238 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73565 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72775 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61444 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6533 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70543 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69582 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59325 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72834 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71942 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6677 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66191 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68182 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54625 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73477 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65001 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62287 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62293 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61228 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51892 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64636 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62277 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56437 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63444 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64725 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62524 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48381 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67341 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18496 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25192 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20149 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61065 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5518 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48825 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53619 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38407 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55025 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53105 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44467 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63161 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56556 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57193 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23538 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61963 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62354 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58795 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67921 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55328 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54358 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58401 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49967 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47681 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70263 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73581 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72799 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61483 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6536 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7057 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69603 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5937 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7285 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71968 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66802 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66228 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68208 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54687 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73494 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65026 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62315 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62335 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61261 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51948 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64657 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62311 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56483 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63471 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64751 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62564 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48437 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67369 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18569 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25261 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20224 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6109 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55215 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48863 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53652 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38455 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55053 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5313 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44508 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63178 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56581 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57215 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23611 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61981 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52357 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62379 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58813 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67936 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5536 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.54384 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58447 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.50002 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47752 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70275 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73596 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72816 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61507 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65384 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70581 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69619 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59396 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72867 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71982 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66815 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66249 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6822 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54714 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73505 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65046 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6234 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62364 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61283 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51984 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64675 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62327 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56512 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63486 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64769 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62581 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4847 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67384 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60059 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.64674 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53274 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51882 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36975 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49897 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50505 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48716 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.61471 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47943 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.48189 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49377 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50975 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43118 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36196 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49543 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.51048 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49908 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51635 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60795 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48244 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.49443 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.50419 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55056 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48575 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38287 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5378 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54109 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5459 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56737 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65155 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5122 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.53389 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.55271 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57089 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53195 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43129 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63043 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63005 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63271 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63801 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73951 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.57785 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59636 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63014 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.60969 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.57677 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.50659 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64589 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64582 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64946 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65081 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74816 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59828 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61195 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64314 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.615 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5864 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5261 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66306 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66571 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66206 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75234 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6222 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.63501 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65683 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62061 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59205 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54497 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.1782 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.17712 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.18622 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.25958 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.23891 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.22399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.27195 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.2377 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.28239 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.17053 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.29565 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.31229 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.32661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.37656 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.41143 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.3525 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.38857 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36369 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.27441 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.35731 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37149 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.37923 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.42003 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.47843 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.39412 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.41902 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.40551 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50522 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.42538 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.30609 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41857 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.42486 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43547 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.45702 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.54244 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42287 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.445 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44702 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51336 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44739 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.33702 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4656 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47024 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48667 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.58875 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.44869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46698 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48095 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52158 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46044 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36509 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.46895 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47383 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.47994 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59083 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46963 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48331 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46158 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36805 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.4704 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47574 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48095 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48986 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59129 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.45411 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.4715 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48446 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52236 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4619 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36919 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.1782 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.17712 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.18622 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.25958 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.23891 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.22399 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.27195 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.2377 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.28239 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.17053 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.33029 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.34789 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.37645 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44002 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.45355 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.39925 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44001 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.41686 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59036 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4911 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.33812 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44382 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4488 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46519 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54488 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.56353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47903 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51181 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.5064 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.68675 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61078 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41309 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58704 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.58615 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.60785 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66706 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70474 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.5665 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60541 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63019 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.73393 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53633 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.83824 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.83063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.85457 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.88547 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.94664 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.76304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.80189 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.86577 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.92771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.90925 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.78462 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.89773 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.88807 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.92358 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.94096 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.97925 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.84959 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.86924 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.92244 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.95984 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.96093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.87929 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.99199 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.99226 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.99103 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.99355 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 1.0 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.99898 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 1.0 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60059 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.64674 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53274 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51882 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36975 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41942 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.43984 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.41715 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.33615 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.35813 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.32258 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.36794 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.19679 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.21365 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.26144 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.35195 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.35858 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.26479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.40543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.27143 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.23656 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.2847 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.16558 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.20504 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.24745 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.2429 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.22659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.17268 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.27228 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.16696 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.14731 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.18907 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.0751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10386 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.13894 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.07351 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07118 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.0659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.04834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0481 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04215 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.05426 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01855 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02665 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04179 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03946 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03849 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03558 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02597 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03954 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02711 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02328 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.02899 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.0096 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.01418 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02319 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00427 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00424 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.0038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00404 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00271 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00312 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5976 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60059 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.64674 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53274 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51882 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.39759 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.34718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.36975 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65165 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66864 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62488 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74004 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60317 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59588 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62796 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4451 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45518 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67072 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67899 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65173 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.64826 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75077 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61255 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60945 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64121 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50522 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.473 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46961 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68074 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68849 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66209 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65709 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75589 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62124 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.61956 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65009 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.51336 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49018 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48442 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68438 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69325 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66177 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75931 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62704 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62583 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65501 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52158 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49603 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49227 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68461 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69352 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66792 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66188 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75934 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62755 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.62618 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65519 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49658 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49298 + } + ] + }, + { + "config": { + "retrieval_model": "gte-Qwen2-1.5B-instruct", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen2-1.5B-instruct", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:02:56Z", + "is_anonymous": false, + "revision": "0ad7f5febf1684f63cd52f56d98814b6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.68477 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69366 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66197 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75935 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62789 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6264 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.65531 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.52236 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49327 + } + ] + } +] \ No newline at end of file