[ { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06098 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1152 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11216 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31381 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35217 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27614 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38395 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38269 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.38046 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40929 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40188 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46303 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.39187 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41246 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.39344 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.42678 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23982 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33867 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54954 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.38237 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31054 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41483 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32271 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33702 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.48947 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60781 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60045 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56162 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68971 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60507 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.65113 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.61521 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63728 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56564 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55556 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58448 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56801 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36029 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.51013 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30405 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36018 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44321 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.43722 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49965 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.43787 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41077 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.48966 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.4385 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43774 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45112 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45555 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43331 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06131 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12341 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10273 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27854 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35606 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25505 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3307 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33102 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34257 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3611 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.34059 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.40943 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.36514 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37624 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40404 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3797 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.20372 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40039 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28923 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44734 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.39076 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43404 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28969 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.32152 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.47256 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5718 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5067 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48973 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.59945 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.56168 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56774 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.52409 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.53545 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.51102 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52701 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51097 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.51004 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30495 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.43086 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.28463 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35348 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40175 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.38902 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4649 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.40552 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.37821 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43584 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.41723 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.41926 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42805 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.41942 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.41009 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06465 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12916 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10429 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27458 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3626 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25164 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31195 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.31604 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33947 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.34891 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31996 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.38877 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.3574 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37051 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42235 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36444 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1898 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4104 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27338 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.43848 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3989 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.25593 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45014 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28119 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33567 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.48836 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58963 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50776 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48171 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5993 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57252 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56614 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.51981 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.52898 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.51755 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.544 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51221 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50994 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30566 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41617 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.28527 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36364 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39632 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.3859 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.47327 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.40619 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.37471 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43049 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.42441 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.42496 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42813 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.42106 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.40343 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07341 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14608 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11929 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.28562 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38697 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27341 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.32165 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32964 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36139 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.35865 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.33071 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.40046 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.37418 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.39057 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.44973 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.37902 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.19748 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44213 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28974 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.45668 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.43896 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.25898 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47322 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30464 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.36171 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.50936 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61888 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.53628 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.50613 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62733 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.59534 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.59005 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.54074 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.55753 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.54323 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.56582 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53569 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.53801 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32985 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.43696 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30609 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3871 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42139 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.41151 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50534 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42566 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.39522 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.45906 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.4507 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.45486 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45062 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44645 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.42853 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10551 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19386 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.16328 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34908 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45296 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34828 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.40067 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40444 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.43648 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.44941 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.42126 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.49108 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4514 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46367 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.49652 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46446 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.25258 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49762 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38596 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.52243 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51079 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.32611 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51187 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37359 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4056 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.54743 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65677 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57902 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.55713 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.67386 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.63203 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.63543 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59281 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60782 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.59059 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60444 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58432 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.59165 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38446 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.50947 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36531 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43754 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48308 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4754 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.57421 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.49258 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.46474 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.53515 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50371 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5122 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5167 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50778 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.49743 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11806 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20928 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17931 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3679 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46846 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36796 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.42446 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.42612 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45553 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.47407 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.44825 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.51401 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.47023 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.4823 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.50858 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48581 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2737 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51354 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.415 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.53947 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.52403 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.34484 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51988 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39192 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41982 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.55899 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66334 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59054 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.57013 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68484 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.64078 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.64647 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.60403 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.61961 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.60212 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.61496 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.59715 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.60415 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40116 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.5298 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.38332 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45197 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49973 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.492 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58627 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50911 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.48131 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55173 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.51656 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.52639 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53256 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.52328 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.51377 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.15445 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25151 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.21939 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40753 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.495 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4103 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.46792 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46971 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.49226 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.51651 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49248 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55067 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.50592 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.51512 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.53109 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.52176 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32824 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53672 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46388 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.56958 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.5449 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.38923 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53913 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42798 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4543 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.5812 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67601 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61268 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.59301 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.70257 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65815 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.66659 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.62761 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.64207 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.62256 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.6328 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62075 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62458 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4347 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.5663 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.42215 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48171 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52551 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.52131 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60714 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.53893 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51739 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.57749 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54245 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54993 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55908 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55052 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54396 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01923 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04444 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02816 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.11677 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.16283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.08123 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.1035 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.11669 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.13918 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.10487 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09468 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.12295 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.11712 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.14601 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.26755 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.13411 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06273 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19894 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07489 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.2197 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.15648 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.07512 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26039 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08522 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.16887 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.32858 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35582 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.30753 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.27496 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.36658 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.38357 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.35656 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.28377 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.28077 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.28959 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34513 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3098 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28479 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14912 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18629 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.12943 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.16969 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.16855 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17881 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.22677 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.18501 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.16358 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.17408 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21439 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.20209 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.1958 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.21248 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.17972 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03264 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07999 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05288 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.16835 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24651 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13723 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16756 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.17801 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.20705 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.17928 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.15832 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.20719 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.19886 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22878 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.34398 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2072 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.09881 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29689 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12915 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29165 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.26118 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.12724 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36516 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14761 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.25814 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.40353 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47661 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.39704 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.36154 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.47471 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.47084 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.44792 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.3801 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.38782 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.38621 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.44095 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.39944 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.38802 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20858 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.26573 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.18748 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24572 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25649 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.257 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.32801 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.2672 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.23931 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.26821 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.30562 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.29632 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.28492 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.29949 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.26786 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03941 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09263 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.064 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.18891 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27762 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.16342 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.19536 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.20255 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.2356 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.21487 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.18906 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.24635 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23657 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.2632 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.36713 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.23891 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11225 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32881 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.15607 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.32388 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.30228 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.15179 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39383 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17726 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.28161 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.42473 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.51375 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42246 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.38743 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.50608 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.49557 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.47641 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.41399 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.4213 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.41664 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.46654 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.42408 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.41426 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22897 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.29715 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.20964 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27744 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28873 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.28903 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.37158 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.29878 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.27075 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.30983 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.33799 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.32668 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.31874 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.32845 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.29811 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0471 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10748 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07622 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.20878 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31094 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19111 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.22673 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.23206 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.26526 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.25375 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22463 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.29097 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.27536 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29737 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.38484 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2739 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.12851 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35367 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18812 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.3523 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.34476 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.17935 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41585 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21098 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30069 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.43918 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5397 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44683 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.41576 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.53299 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.5161 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.5017 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.44329 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.45257 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.44286 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.48381 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.44531 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.44069 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24912 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3286 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.23215 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30407 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32284 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.32047 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4091 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.32858 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.30308 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.35201 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.36443 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.35745 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.35187 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.35784 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.33278 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0569 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12425 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09048 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.23348 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34111 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22006 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.26075 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.26319 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.29561 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.29533 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.26471 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33507 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31015 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32883 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.39951 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31218 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.14653 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37506 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22743 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37942 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37713 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.20695 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43212 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23928 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.31605 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.45194 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5549 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46303 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.4382 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.55324 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.53083 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52089 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.46564 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47558 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.46261 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.49795 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.4639 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.46223 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26753 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3592 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.25413 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32438 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34997 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.34709 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.43955 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.35657 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.33325 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38749 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.38522 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.38154 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.38094 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.3831 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36286 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05864 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12641 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09265 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.2368 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34372 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22345 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.26535 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.26728 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.2992 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.30038 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27024 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33986 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.3138 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.33214 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.4011 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3165 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.14992 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37748 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23318 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.3827 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37941 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.21051 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43323 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24245 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.31791 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.45367 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55593 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46479 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.44054 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5551 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.53234 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52291 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.4677 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47762 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.46468 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.49967 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.46601 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.46456 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27013 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36311 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.25698 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32664 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35304 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.34996 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.44163 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.35961 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.33624 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.39068 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.38744 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.38403 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.38395 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.38579 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36582 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06043 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12847 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09479 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.23934 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34552 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22628 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.26876 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.27072 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30211 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.304 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27407 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.34315 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31661 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.33478 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40224 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31948 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.15356 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37899 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2373 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38499 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.38072 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.2137 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4341 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24485 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.31967 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.45492 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55674 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46617 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.44214 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.55644 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.53345 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52433 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.46932 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47915 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.46614 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.50082 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.46753 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.46607 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2722 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36608 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.2595 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32847 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3549 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.35197 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.44311 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.36185 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.33875 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.39268 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.38907 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.38572 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.38598 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.38761 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36796 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01923 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04444 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02816 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.11677 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.16283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.08123 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.1035 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.11669 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.13918 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.10487 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09468 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.12295 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.11712 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.14601 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.26755 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.13411 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.06273 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19894 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07489 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.2197 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.15648 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.07512 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26039 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.08522 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.16887 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.32858 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35582 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.30753 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.27496 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.36658 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.38357 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.35656 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.28377 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.28077 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.28959 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34513 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3098 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28479 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.14912 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18629 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.12943 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.16969 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.16855 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17881 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.22677 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.18501 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.16358 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.17408 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21439 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.20209 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.1958 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.21248 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.17972 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0422 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10187 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06868 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.19885 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.28895 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.16942 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.19565 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.21061 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.24566 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.21055 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.18139 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.23688 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23591 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.26532 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40212 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.24079 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.12046 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.34071 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.15615 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.32451 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32165 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14748 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42058 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18199 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29972 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.46111 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52915 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44127 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.40144 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.52192 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.52088 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.48875 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.42131 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.43184 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.44835 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.50676 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.44911 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.44324 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24533 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3019 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22509 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30082 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.30318 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.29924 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.37732 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.318 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.27873 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.31161 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.35738 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.35614 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.33859 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.34501 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.31847 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05983 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13167 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09667 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.24536 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35385 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22266 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24868 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.26241 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30874 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.27697 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.23955 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30481 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.30667 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.3326 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46806 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.304 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.15109 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41303 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21104 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39251 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.40513 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.19208 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48093 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24192 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.35417 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.52042 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60407 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.49721 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.45463 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.58304 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58131 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.54808 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.49197 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.49957 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.52112 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57127 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.50632 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50716 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29597 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36777 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.27605 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3709 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37142 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.36549 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.46356 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.38619 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.34562 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.39246 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.42743 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.42886 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40948 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.41331 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.37949 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08658 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18184 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14058 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31134 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43958 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30667 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.33141 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.34426 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.39845 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.374 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.3364 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.40958 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.40069 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.42337 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.54312 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.40063 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.20741 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49994 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30049 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47569 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.52574 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26197 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54758 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3293 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.42303 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.57747 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68231 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57456 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53857 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66278 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65014 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.62352 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.56945 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.59019 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.601 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.63055 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.57716 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.58959 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36986 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.46103 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.3479 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45237 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46734 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.456 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.57218 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47094 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.4352 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.50171 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50646 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5241 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50094 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50266 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.47876 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17494 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32403 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.26351 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.48047 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62362 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.51159 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.53408 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.53474 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59778 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.60053 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.56206 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.63621 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.60142 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.61845 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.70962 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.61905 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.34805 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66864 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5448 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.65738 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.73591 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.42872 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66976 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51768 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.57014 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.69908 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80413 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70796 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.68518 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.80209 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.76025 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75755 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71869 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73326 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7398 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.75081 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.72459 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.74907 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54224 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.65619 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.5125 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59864 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6378 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.63749 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.7725 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65696 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.62391 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.70992 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.66278 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68705 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.68308 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.6818 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.66743 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.22201 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39002 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.32522 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.55006 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68773 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58672 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61721 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.61214 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.66611 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.68688 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.65563 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.71531 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.67054 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.68945 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.76987 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.69531 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41998 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.7393 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64827 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72267 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.79403 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.49086 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70906 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58782 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.63929 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74972 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8341 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75755 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.73706 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84959 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79654 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.80234 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.76327 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.78116 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78585 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.79581 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.77863 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.79956 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61191 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.73262 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.58451 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65891 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.70366 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.70581 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.82524 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.72083 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.68803 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.77533 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.71573 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.74307 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.74283 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.74604 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.73199 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.41418 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.64642 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.53402 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.75107 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.83566 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.80926 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.8262 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.81964 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.84029 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.88296 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.85798 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.88436 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.84574 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.84969 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.92446 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.86747 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.67059 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.87474 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.88174 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.88102 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.92421 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.69363 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.8481 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.77772 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.86644 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.87947 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.91091 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.88477 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.8618 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.94709 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.89458 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.90947 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.89051 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.90332 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.89681 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.90055 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.91213 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.90928 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.80778 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.9134 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.79078 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.82703 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.84449 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.86873 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.94598 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.87401 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.87629 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.9105 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.8594 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.86795 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.88096 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.90038 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.88895 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06098 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1152 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11216 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31381 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35217 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27614 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38395 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38269 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.38046 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40929 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40188 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46303 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.39187 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41246 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.39344 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.42678 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23982 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33867 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54954 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.38237 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31054 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41483 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32271 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33702 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.48947 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60781 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60045 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56162 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68971 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60507 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.65113 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.61521 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63728 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56564 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55556 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58448 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56801 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36029 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.51013 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30405 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36018 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44321 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.43722 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49965 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.43787 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41077 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.48966 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.4385 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43774 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45112 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45555 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43331 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05261 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10201 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0931 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.21282 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26419 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21993 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.28343 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.27134 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.26573 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3149 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.2999 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.35545 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31326 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29946 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.22462 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31336 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1727 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29283 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26111 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.32445 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3028 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.23545 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26314 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25808 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21787 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.25492 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35552 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3249 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.32669 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.38284 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.31618 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.3513 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.36195 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.38102 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.3345 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.30389 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.32189 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.33949 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2207 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32851 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.20842 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24646 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31255 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.28899 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.34036 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.29751 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.28835 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.34687 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.29132 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.29801 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.31541 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.29589 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.30686 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04935 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0855 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08003 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.17354 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21424 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18557 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23109 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.21845 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.21732 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.26622 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.25123 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.29454 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.26459 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.24392 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.16324 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.25414 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.13665 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22225 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22173 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.25279 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.24761 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.19952 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.19763 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21717 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.16511 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.18315 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26237 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.23199 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.23956 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.27338 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.22609 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.2539 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.27199 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.27934 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.24749 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.21724 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.23146 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.2458 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16968 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.25904 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.16706 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2022 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24425 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.22735 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.27013 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.2386 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.23156 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.28227 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.22567 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2297 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25265 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.22412 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.23978 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03974 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0635 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06129 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.11938 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.15209 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13505 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.16433 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.15744 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.155 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1944 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.18644 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.21375 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.18657 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.17099 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.10017 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.18114 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.10053 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14165 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1654 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.16561 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.17328 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.14481 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.12216 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15706 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.10409 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.10871 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.15818 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.14226 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.15528 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.16728 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.1371 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.15725 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.17086 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.17659 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.15433 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.12835 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.141 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.15543 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.11141 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.1754 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.11592 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.13499 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.16637 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.15396 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.17878 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.16045 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.16114 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.19542 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.14576 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.15445 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.1713 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.14948 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.16638 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01714 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02471 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02405 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.0423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.04771 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.04732 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.05685 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.05411 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.05252 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.06763 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.0658 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.07075 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.05994 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.05485 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.02785 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.06182 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03742 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04041 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06207 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.05066 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05128 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.05089 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03233 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04993 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.02962 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.02968 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03907 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03746 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.04363 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.04421 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03597 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.0421 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.0472 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.04759 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.04207 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.03387 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.0393 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.04379 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03411 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.05517 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.03864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.03886 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04952 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.04689 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05227 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.04961 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.05147 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.05935 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.04177 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.04489 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.05169 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.04489 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.05173 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0109 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01473 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01486 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.02477 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02637 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02715 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.03327 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.03134 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.03007 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.03889 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.03848 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.04016 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03353 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.03084 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01528 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.03518 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.02326 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.0224 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03674 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.02833 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02757 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.0296 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01711 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02816 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01653 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.0165 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0204 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02039 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.02402 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02368 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.01936 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02282 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02547 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02568 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02295 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01849 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.0216 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02392 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01962 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.03132 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.02238 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02168 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02756 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.02616 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02791 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.02771 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.02868 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03251 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02291 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02489 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.02872 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02491 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.02867 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00193 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00223 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00241 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00345 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00315 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00363 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00441 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00423 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00393 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00499 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00502 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00495 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.0042 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00387 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00182 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.0044 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00384 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00266 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00487 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00349 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00309 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00421 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00195 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0036 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00217 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00207 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00224 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00245 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00287 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00271 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00228 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00271 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00304 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00302 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00271 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00217 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00263 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00281 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00258 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00399 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00309 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00273 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00326 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00319 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00317 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00345 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00367 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.0038 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.0028 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00299 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00345 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00302 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00354 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06098 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1152 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11216 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31381 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35217 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27614 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38395 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38269 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.38046 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40929 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40188 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46303 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.39187 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41246 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.39344 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.42678 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23982 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33867 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54954 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.38237 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31054 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41562 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32271 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33702 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.48947 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60781 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60045 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56162 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68971 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60507 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.65113 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.61521 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63728 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56564 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55556 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58448 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.56801 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36029 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.51013 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30405 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36018 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44321 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.43722 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49965 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.43787 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.41077 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.48966 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.4385 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43774 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45112 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45555 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43331 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0862 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15371 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15159 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.37587 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43073 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3461 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.45714 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46543 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46324 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.49152 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.47643 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.54481 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.48246 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.49221 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.45815 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.50999 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.29852 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51635 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42378 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61532 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.47594 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.37047 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48002 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40559 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.38979 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.55805 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67764 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65774 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.62448 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75527 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67162 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.70794 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.67633 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.70291 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.65328 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.63758 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65179 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64491 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41925 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58587 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36971 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44046 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52178 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50598 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.57531 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.52705 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.48574 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.56979 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52114 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.53094 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5433 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.52711 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.5194 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09585 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16388 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.16299 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39287 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44586 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36149 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.4719 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.48156 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.48226 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.50841 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49526 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.56001 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4989 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50875 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47183 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.5277 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.31232 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53187 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44134 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.62918 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.49097 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.38548 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49023 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42311 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40302 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.57132 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68763 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66793 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63367 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.76343 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68423 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.71723 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68909 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71296 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66617 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64991 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66322 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.65848 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43384 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.60023 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.38381 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4562 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53711 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.51906 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58922 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.54189 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.50178 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.58564 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53641 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54656 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.56016 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.54113 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53232 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1031 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17107 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17268 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40398 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45502 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37426 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.48216 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.49259 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.49527 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.51989 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.50903 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57007 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.50782 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.51918 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48021 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.53911 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32546 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54135 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45401 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.63687 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50188 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.39461 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49558 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43283 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41046 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.57807 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69385 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67415 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64178 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.7675 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69027 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72331 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69451 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71783 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67148 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65529 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66953 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.66576 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44296 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61031 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.39452 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46556 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54548 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.52829 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.59916 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.5509 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51162 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.59457 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54332 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5569 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.56811 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.54963 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54336 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10943 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17801 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18034 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.41125 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46116 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38327 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.48839 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.49918 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.50206 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.52626 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.51531 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57563 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.51363 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.52488 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48711 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54531 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.33373 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54655 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46252 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64098 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50719 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.403 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49965 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43965 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41528 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58279 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69627 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67798 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64536 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.76964 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69283 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72614 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69757 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72016 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67431 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.6587 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.67331 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.66928 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44906 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.615 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40254 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47191 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55025 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53388 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60451 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.55662 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51755 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.59906 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54836 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5623 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.57279 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55526 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54817 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11032 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17897 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1814 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.41192 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46175 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38393 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.48899 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.49972 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.50251 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.52678 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.51585 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57609 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.51414 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.52547 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48769 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54568 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.33469 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54714 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46314 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64132 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50759 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.4037 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5001 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44029 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41602 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58327 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69648 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67833 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64565 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.76985 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69305 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72637 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69778 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72044 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67459 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65907 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.67362 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.66952 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44977 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61539 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40329 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47245 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55066 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.5344 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60484 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.557 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51809 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.59942 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54874 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56262 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.57313 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55574 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54869 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11114 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17994 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18216 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.41235 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46214 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38445 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.48937 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.50002 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.50276 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.52709 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.51607 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57635 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.51444 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.5257 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48816 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54589 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.33524 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54736 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46345 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64152 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50792 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.40419 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50055 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4407 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41666 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58359 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69665 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67851 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64586 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.76994 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69321 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72653 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69795 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.7206 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67471 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65924 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.67376 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.66965 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45014 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61563 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40379 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47291 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55097 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53476 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60504 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.55722 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51844 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.59965 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54907 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56281 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.57335 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55603 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54896 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52071 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44262 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34125 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40896 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43034 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4642 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4678 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46385 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38902 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48881 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.41102 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38707 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42077 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45205 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47478 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39128 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51768 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45748 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4014 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46651 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.48263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48706 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51458 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43721 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55794 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49785 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44767 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5718 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58697 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71139 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58054 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51659 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59274 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54605 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52027 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58413 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58805 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59798 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53508 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60059 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56045 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53221 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61144 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62438 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73652 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61007 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62014 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56182 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60661 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56954 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5572 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.1305 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.14568 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.15754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.2413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27359 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18059 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.27621 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18435 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.26121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26938 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.39953 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.33508 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36513 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.27659 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46452 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37187 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29219 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.28827 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31283 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.32063 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.45799 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3745 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39387 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30676 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48099 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40201 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32299 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34995 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.36781 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37226 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51176 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40517 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41826 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3415 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4976 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3559 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3945 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4347 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44126 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37198 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50509 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43428 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38205 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39859 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4138 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44524 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.43747 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44435 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37496 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50578 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43611 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38392 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.40033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41583 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44674 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56021 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.43898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44617 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37686 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50606 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43667 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3855 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.1305 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.14568 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.15754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.2413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27359 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18059 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.27621 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18435 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.27899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.29817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.43703 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.38804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41739 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31799 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55823 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46044 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35096 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36992 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39451 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49102 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45963 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48824 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38469 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62651 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55984 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42297 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51846 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52916 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56027 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55835 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58565 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50118 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.751 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67211 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54112 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79539 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77806 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81402 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88948 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.77469 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7978 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.74823 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.90763 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86029 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.78078 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.87848 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84086 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.88521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.89625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.94962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85085 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87432 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.82774 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93793 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.83714 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.98949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.98146 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.9847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.99728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.98601 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.986 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.99907 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52071 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44262 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34125 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40896 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37638 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40335 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.35934 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.32676 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.47736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.30197 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.29508 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.18608 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20574 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28385 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31652 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3284 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.30231 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.24 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3788 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.27083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.22419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22459 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.1253 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.15608 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21401 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.23243 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.21329 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.15211 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.1414 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.1541 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0751 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.09555 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.14314 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07093 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04501 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04194 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0477 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01815 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02516 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04235 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03889 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03754 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0346 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03842 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02339 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02658 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01386 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02261 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00379 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0031 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52071 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.51549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44262 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38153 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34125 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40896 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57608 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59763 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55877 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76359 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59812 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51275 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.46452 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43274 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48926 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58869 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61897 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77446 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61102 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.526 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48099 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45722 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50439 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62103 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6281 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59985 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62179 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53782 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4976 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47036 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51438 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60533 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63305 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78285 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60519 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62718 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54555 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50509 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47905 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52224 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60577 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62622 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78303 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6275 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54601 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50578 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47963 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52271 } ] }, { "config": { "retrieval_model": "multilingual-e5-small", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:17:15Z", "is_anonymous": false, "revision": "7e69f183c3f60af8371184696b77631c" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60587 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62649 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6339 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62762 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54626 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50606 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47986 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52316 } ] } ]