[ { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11693 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11728 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13169 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.52639 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47523 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3947 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47636 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44063 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46558 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.50516 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.48341 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4886 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4746 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50074 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46678 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.51849 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.45551 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49048 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47133 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54371 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51423 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.41995 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4724 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41136 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39574 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71067 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71491 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71503 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63173 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.77279 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.73853 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64232 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.6604 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.69832 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67664 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.67102 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6391 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45632 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58683 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.558 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53221 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5219 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50598 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58538 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.56433 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55826 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.56573 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.48052 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54988 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51606 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.51964 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54202 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10586 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10113 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11682 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.46335 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44653 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34554 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.41039 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.36971 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.40158 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.42725 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40855 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41798 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.42944 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.43721 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.50384 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.44131 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.36442 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4356 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39831 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.45147 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.47305 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.36782 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49715 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35986 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40375 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64752 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64875 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59419 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53719 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.65534 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60507 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.62172 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.52594 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.53942 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56774 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60486 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.56398 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5504 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38555 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48685 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.49066 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49426 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45286 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45107 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.5305 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.49107 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.49816 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.49094 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.4395 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49385 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.4621 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.47907 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48777 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.10633 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10563 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11631 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.44708 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44887 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33598 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38512 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.35587 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.39022 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40721 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.38186 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.39443 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.40995 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.42553 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.53048 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.41714 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.34059 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44448 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36684 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44501 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.47519 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.34881 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5105 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3449 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.42677 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64901 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66115 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59323 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.52662 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.65386 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.61104 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.61189 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.51363 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.53094 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.55832 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60928 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.55869 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54847 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38863 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.46907 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48159 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49367 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44761 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4437 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.53508 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47743 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.48419 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.47544 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.44287 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.48736 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45322 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.48063 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.47568 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11684 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11438 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12647 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.45856 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47545 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36198 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.39128 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.36642 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.4047 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.4127 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.39054 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.40393 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.42625 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.43934 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56003 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.42934 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.34919 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47477 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37936 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.4635 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.5068 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.35465 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53244 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36837 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.45586 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.66689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69122 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61864 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.54395 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.67623 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.63424 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.62794 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.53239 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.55631 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.57617 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.62828 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58121 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.57028 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41278 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48688 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.50345 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5205 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4675 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4712 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.56302 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.49557 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.50503 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.49704 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.47413 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.51181 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.47224 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50887 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.49771 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14603 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13498 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.16097 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.53103 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53986 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43874 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47689 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44485 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.47836 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.50377 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.48324 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.48997 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.5043 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50688 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.60051 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.50784 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.42466 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53402 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47828 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.53219 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56843 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.44145 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57368 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44109 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.50006 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.6979 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72368 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66172 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.5925 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.71956 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67002 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.67075 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.58641 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60458 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.61883 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66318 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62501 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61885 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47487 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.56557 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.56799 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57613 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53061 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53884 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.62541 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.56178 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57695 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.57396 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.5331 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5721 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53798 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.57065 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.56706 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.15662 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14259 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17306 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.55008 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55421 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45917 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.49859 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.467 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.49847 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.52742 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.50651 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.51216 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.523 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.52348 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.61034 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.52989 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.44744 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54744 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50364 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.55105 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.58249 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.46606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58191 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45857 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.51412 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70543 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73015 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67236 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.60412 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73064 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67775 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.68176 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59929 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.61557 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.6296 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67049 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.63657 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62912 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4909 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58273 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.58172 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58858 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54488 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.55424 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63751 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.57736 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.59268 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.59091 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.54581 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.58462 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55557 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.58556 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.58378 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18728 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16923 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20492 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.57941 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57839 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49633 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.53348 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.50758 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53322 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56499 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54749 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.54679 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.55411 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.55433 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.62496 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.56422 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.49447 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57296 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54246 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.58306 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6027 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51205 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59908 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49076 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54145 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.72103 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74115 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69117 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.62665 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74542 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69388 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69993 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.6254 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.6388 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.64988 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68708 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65849 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.65057 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52141 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61342 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.60588 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6082 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57218 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.57768 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.6562 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.60221 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.61818 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.61449 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.5705 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.60825 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.58247 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.60746 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.60764 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03674 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06114 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03872 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.20431 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21728 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12028 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.12577 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13324 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.16518 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.13011 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11117 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.12081 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.14047 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.17553 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.32818 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.15394 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.12453 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23082 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09895 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.23393 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21398 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10774 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.30507 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1094 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21353 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.46867 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.4165 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37603 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.3083 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.40943 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.44315 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.40196 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.29676 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.28796 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.36348 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.42548 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3565 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.33311 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2059 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.21567 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22313 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25647 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20754 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.20365 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.26342 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.23952 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21182 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.20128 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23159 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.25566 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.2166 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.24934 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.22641 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05817 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0758 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06436 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.2919 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19854 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.20872 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.19911 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.24009 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.2153 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.19089 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.20375 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23686 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.26788 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.43355 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.24163 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.19438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3351 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18241 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.3063 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32359 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.18272 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42293 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19014 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33723 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.56177 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54865 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.47674 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.39683 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5255 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.51557 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.49593 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.38384 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.3909 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.44137 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.51818 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.44552 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.4272 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27918 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.30572 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.32594 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35777 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29865 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.29938 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.38135 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.33055 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.31687 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.30731 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.32203 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.35267 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.30813 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.34847 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.32381 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06767 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0811 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07426 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.32492 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35527 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23167 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24551 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.22939 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.27093 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.25447 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22775 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.24225 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.27677 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.30726 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46471 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.27574 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2221 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3662 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22102 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.33644 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3688 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.21864 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45108 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22729 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.3716 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58139 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58669 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5049 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.42652 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.56167 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.53858 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52234 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.41166 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.42227 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.46323 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.53916 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.4703 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.45601 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3053 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34042 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36536 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39553 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33597 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.33532 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.42608 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.36366 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.35794 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.34915 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.35337 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.38294 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.34118 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.38198 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.35869 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07744 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08611 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08419 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3575 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39531 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26541 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.28078 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.25991 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30013 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.29731 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27169 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.2864 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31901 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.34172 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48544 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.31321 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2514 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38972 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26377 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36124 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.40908 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.25636 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47301 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26653 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39632 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.59697 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61581 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52709 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.45301 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.58706 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.55956 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.54267 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.4373 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.45017 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.48468 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55597 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.49165 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.47941 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32651 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.37312 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40094 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43065 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36953 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.37128 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.46428 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.39693 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.39735 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38863 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.38286 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.41391 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.37202 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.41572 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.3946 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08606 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09173 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09408 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.38901 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4251 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29756 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31914 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.29236 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33115 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3399 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31462 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.32734 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35557 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37084 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.49982 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.34865 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.28063 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41095 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30833 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38842 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.43781 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.2945 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49067 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29769 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41274 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.60894 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62964 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54522 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.47539 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.60628 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57443 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56138 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.46031 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47047 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50219 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.56891 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.50894 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.49945 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34901 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.40712 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.4297 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45479 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39727 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.40019 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49311 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42646 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43144 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42544 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.40557 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43919 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40065 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44323 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.42614 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08748 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09263 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09568 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39288 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42759 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30118 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.32356 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.29668 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33514 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.34511 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31954 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33189 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35934 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37404 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.50114 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35324 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.28505 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41311 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31354 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39189 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.44032 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.29944 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49189 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30083 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4146 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.61019 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63074 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54704 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.47753 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.60827 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57583 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56333 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.46256 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47245 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50404 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57014 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51084 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5013 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3517 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41067 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.43223 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45691 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39986 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.40306 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49539 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.4295 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43463 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42885 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.40792 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.44141 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40404 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44592 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.42951 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08907 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09371 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09729 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39535 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42932 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30399 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.32648 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.30003 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33797 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.34851 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.32331 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33491 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.36197 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37651 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.50199 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35628 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.28885 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41482 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31712 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.3944 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.44164 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30335 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49263 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30323 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41597 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.6112 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63143 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54834 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.47917 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.6093 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.5769 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56469 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.4644 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47407 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50533 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57122 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.51231 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50285 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35375 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41324 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.43408 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45829 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40187 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.40471 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49686 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.43147 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43678 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43071 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.40974 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.44311 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40613 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44741 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43141 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.03674 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06114 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03872 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.20431 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21728 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12028 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.12577 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13324 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.16518 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.13011 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11117 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.12081 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.14047 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.17553 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.32818 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.15394 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.12453 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23082 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09895 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.23393 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.21398 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10774 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.30507 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1094 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21353 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.46867 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.4165 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37603 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.3083 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.40943 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.44315 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.40196 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.29676 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.28796 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.36348 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.42548 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.3565 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.33311 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2059 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.21567 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22313 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25647 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20754 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.20365 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.26342 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.23952 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21182 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.20128 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23159 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.25566 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.2166 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.24934 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.22641 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07182 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09131 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08143 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.32579 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23092 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24073 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.2315 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.27775 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.2451 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.21933 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.233 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.27539 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.299 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51517 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.27568 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21495 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37513 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21059 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.33991 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37106 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.20748 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48234 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2229 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.38477 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.60372 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58675 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51728 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.4299 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.55937 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.54185 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52292 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.41557 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.43228 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.47387 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55569 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.48517 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.46694 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31618 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3425 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36672 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4063 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33743 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.34564 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.42811 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.36709 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.36085 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.34246 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.3738 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.40253 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.35492 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39547 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36478 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09699 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11056 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10654 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.38713 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42305 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29361 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.30569 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.29409 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34245 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.31649 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.28639 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30351 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.34433 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.3744 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.596 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.34322 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26421 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44288 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2787 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.40607 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.46201 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26944 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54194 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29062 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46053 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64825 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66166 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57196 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48783 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62408 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.59521 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.57449 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.4707 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.49634 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.52094 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60177 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53651 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.52597 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37692 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41244 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.44211 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47745 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40958 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.41694 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.51754 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.4296 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43612 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.42113 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.43784 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.4652 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42104 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.46667 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43367 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1347 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1389 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14153 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.47416 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52364 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39285 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.39501 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.37718 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42478 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.41757 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.39201 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41084 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.44498 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46057 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.67558 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.44105 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.34694 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52722 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38379 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.48464 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56975 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.35857 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60738 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38907 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.53321 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.69811 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74059 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64122 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56034 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.6938 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.66249 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6343 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.54444 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.58163 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.58315 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65698 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60548 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5961 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45008 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.50308 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.53854 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57035 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4955 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.51634 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.61601 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.51859 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.54102 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.52304 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52973 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.55317 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50734 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56336 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53449 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.2187 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20389 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.24098 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.66395 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70318 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.60411 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61617 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5786 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.61559 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.64622 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.62296 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.62624 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.64532 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.64125 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.81554 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.64027 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.53905 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71294 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63778 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.67727 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.75253 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.57124 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73923 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58695 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.67834 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.79117 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84356 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7708 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.69837 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.82375 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.76657 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75586 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69764 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72044 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.70722 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.76639 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73784 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.7393 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64132 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.71493 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.71526 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.73112 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67337 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.71059 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.79885 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.69767 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.733 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73081 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.70433 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.72712 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.68563 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.74261 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.7232 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.25936 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23667 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.28862 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.73386 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.682 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.69463 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.6572 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.68877 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.72791 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.70347 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.70509 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.71371 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.70111 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.86512 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.72043 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.61712 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.77064 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.72803 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.75091 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.81492 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.65452 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.77998 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.65454 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.74716 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.82224 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.87276 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81559 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.74421 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86996 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79849 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.80112 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74988 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.76502 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75134 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.79725 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78651 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.78084 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.71021 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.77791 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.76974 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.78453 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73092 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.77217 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.84959 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.75726 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.79317 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.79622 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.75438 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.77825 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.75234 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.80462 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.78582 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.41866 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39337 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.45462 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.87592 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.89928 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.87313 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.86026 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.84949 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.85551 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.90042 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.88995 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.867 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.86447 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.85126 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.96184 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.88298 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.82828 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.91448 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.91184 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.91435 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.93967 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.85991 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.90761 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.82446 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.93521 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.91024 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.94086 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.92005 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.86515 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.95232 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.88882 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.89856 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.88905 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.89176 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.86416 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.89312 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.90682 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.89576 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.8869 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.92917 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.89578 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.89463 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.88109 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.90441 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.95504 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.88642 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.92103 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.92232 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.88851 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.90509 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.89374 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.93003 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.90858 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11693 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11728 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13169 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.52639 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47523 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3947 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47636 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44063 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46558 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.50516 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.48341 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4886 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4746 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50074 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46678 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.51849 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.45551 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49048 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47133 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54371 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51423 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.41995 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4724 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41136 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39574 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71067 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71491 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71503 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63173 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.77279 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.73853 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64232 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.6604 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.69832 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67664 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.67102 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6391 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45632 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58683 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.558 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53221 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5219 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50598 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58538 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.56433 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55826 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.56573 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.48052 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54988 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51606 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.51964 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54202 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08847 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06107 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09913 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.35189 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32301 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29062 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.35435 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.30162 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.31162 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.36799 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.36267 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36374 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.36405 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.34965 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.27811 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36341 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.30191 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30844 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36111 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.32057 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.35531 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.321 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29863 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31764 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.27262 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.34902 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.40521 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37326 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.35695 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41667 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.33043 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.38189 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.35567 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.37741 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.35033 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34069 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.34982 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.35338 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2698 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.37 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36879 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34602 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34224 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.33732 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.38346 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.35916 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.38348 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38749 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.30328 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.34674 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.33752 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.33517 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.3616 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07418 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.04705 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08205 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27491 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.25697 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23579 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.28797 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24878 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.24944 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.30634 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.30014 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30214 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.29507 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.27923 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.20587 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.28743 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.24027 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22826 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2972 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.24729 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.28217 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26742 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.21767 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26247 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20817 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.23694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29001 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26324 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.26244 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.29882 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.23188 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.26832 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.25949 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.27457 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.24497 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.23476 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.24574 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.25646 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20419 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.28799 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.28771 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2672 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26919 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.26173 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.29768 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.275 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.30029 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.30399 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.23331 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.25924 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.26145 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.25665 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.27911 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05337 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03067 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05716 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.1851 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.1767 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.16701 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.19799 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.17303 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.17017 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.21681 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.21775 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.21735 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.20595 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.1862 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.12407 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.20052 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.16833 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14151 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2124 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.15853 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.1864 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.19123 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.1321 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18345 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.13064 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.13645 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17308 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.1567 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.16347 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.17735 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.14072 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.15878 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.1625 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.17059 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.14846 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.13618 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.14753 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.15728 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.12953 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18893 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.18888 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.17416 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.17721 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17526 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.19361 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.18041 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.20147 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.20266 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.15302 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.16814 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.17311 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.16919 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.18728 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01832 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01076 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02023 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.05826 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05215 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.05406 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.0651 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.05811 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.05517 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.07155 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.07255 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.07017 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.06379 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.05641 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.03158 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.06367 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.05698 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04066 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07161 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.04994 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05166 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.06642 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03456 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05616 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.03503 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.03434 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.04097 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04089 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.04468 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.04531 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03652 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.04214 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.04553 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.04591 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.03983 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.03469 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.03937 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.04297 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03955 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.05935 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.05466 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0483 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05167 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.05175 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05337 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.0537 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.05984 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.06097 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.04429 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.0484 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.05225 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.04888 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.05594 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01104 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00654 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01221 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.03276 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02838 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03067 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.03681 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.03353 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.03147 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04067 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.04114 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.03956 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03546 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.03148 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01687 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.03617 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03342 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02229 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04082 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.02825 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02779 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.03851 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01824 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03114 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01919 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01837 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02135 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02204 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.02431 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02437 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.01949 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02283 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02484 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02474 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02161 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01843 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.02147 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02315 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02217 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.03295 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.02964 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02596 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02817 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.02847 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02857 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.02965 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03275 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03348 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.0243 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02625 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.02927 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02679 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.031 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00182 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0012 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00197 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00399 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0033 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00387 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00456 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00437 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00401 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00506 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00519 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00485 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00428 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.0039 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00189 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00447 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00466 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.0027 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00502 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00355 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00311 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00513 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00202 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00379 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.0023 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00214 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00256 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.0029 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00272 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00227 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00266 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00304 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00295 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00258 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00215 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00258 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00275 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00277 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00402 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00349 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00297 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00335 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.0033 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.0032 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00351 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00385 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00384 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.00292 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00312 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00351 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.0031 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00364 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11693 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11728 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13169 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.52639 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47523 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3947 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47636 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.44063 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46558 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.50516 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.48341 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4886 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4746 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50074 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46678 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.51849 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.45551 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49048 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47133 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54371 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51423 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.41995 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47319 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41136 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39574 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71067 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71491 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71503 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63173 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.77279 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.73853 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64232 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.6604 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.69832 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67664 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.67102 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6391 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45632 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58683 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.558 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53221 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5219 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50598 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58538 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.56433 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55826 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.56573 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.48052 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54988 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51606 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.51964 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.54202 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.15304 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13868 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17209 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.59785 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53844 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46846 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55575 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.51979 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54737 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58112 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.56337 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.56646 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.56277 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.568 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.55594 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.59837 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.51458 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55686 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54356 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61255 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.58663 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.49289 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54246 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49077 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.45716 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.7596 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76206 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76513 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.68389 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.81777 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.73829 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.77968 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69101 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72182 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74569 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72602 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.72333 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.70005 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51504 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6575 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62686 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60347 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59255 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.5796 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65636 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.63073 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.63459 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.63319 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.55908 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.62581 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59346 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.59258 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61874 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.16505 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14687 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18501 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6113 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55117 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48216 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.56929 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.53889 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56499 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.59871 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.58195 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.58501 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.577 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.58429 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5703 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.61413 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52865 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56919 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55886 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.62791 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.602 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.50705 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55066 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50645 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46908 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.76743 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77118 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77093 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.69378 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.8238 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74738 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.78693 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.70024 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73183 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75303 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.7341 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73088 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.70985 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52804 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.67262 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.6398 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6151 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60491 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.59241 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.66964 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.64308 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.64576 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.64733 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.57153 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.63837 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60683 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.60678 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63153 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1726 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15218 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19236 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.62137 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56131 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49684 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.57848 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.54906 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.57431 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.60818 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5919 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59443 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.58547 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59316 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57844 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62398 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54116 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57772 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57044 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.63473 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6095 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51954 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5567 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51636 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47498 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77165 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77531 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77549 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.69947 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.8278 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.75308 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79195 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.70635 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73731 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75638 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73887 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73545 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71592 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53623 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.67954 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.64736 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62441 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61241 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.6007 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.6761 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65066 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.655 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65579 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58206 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.64532 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.61572 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61618 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.64166 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17819 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15676 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19931 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.62608 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56706 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50276 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.58427 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55526 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.58027 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.61357 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.59699 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59887 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.59051 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59776 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.58345 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62832 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54789 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5844 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57728 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.63917 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.61275 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52693 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56086 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52272 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48042 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77404 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77738 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77761 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.70166 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.82942 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.75535 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79381 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.7101 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.73974 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75883 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74191 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73857 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71901 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54283 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.68384 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65165 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6289 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6167 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60613 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.67992 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65483 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65902 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65972 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58751 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.64999 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.62015 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62007 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.64568 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17894 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15736 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20003 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.62643 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56745 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50345 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.58461 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55561 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.58061 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.61386 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.59733 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59932 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.59097 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59808 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.58392 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62858 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54837 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58479 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57771 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.6396 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.61319 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52739 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5612 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52309 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48119 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77424 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77779 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.70187 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.8296 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.7555 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79399 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71039 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.7399 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75903 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74209 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73884 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71916 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54324 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.68402 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65197 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62923 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61704 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60648 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.68018 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65505 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65931 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65997 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58776 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.65028 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.62051 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62043 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.64594 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17961 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15799 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20066 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.62661 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56775 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5038 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.58483 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55583 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.58084 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.61404 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.59747 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59948 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.59117 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59828 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.58416 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62876 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54863 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58508 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57784 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.63981 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.6135 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52767 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56158 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52336 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48177 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.77435 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77763 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77791 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.70209 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.82967 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.75562 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79409 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71059 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.74005 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75916 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.74223 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73901 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71932 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54363 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.68418 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.65214 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62939 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6173 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.6067 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.68036 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65523 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65948 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.66014 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58798 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.65046 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6207 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62065 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.6461 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59827 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58065 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51093 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.32932 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.36499 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44818 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5075 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52686 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53283 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49301 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52594 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45939 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48097 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45436 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43347 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.49996 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53481 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52231 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55382 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63544 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52996 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46978 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50844 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49746 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45582 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54558 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56754 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59638 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57628 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51328 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53949 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49163 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64032 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64767 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61301 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63469 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5947 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57672 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58673 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56359 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65438 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66393 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66648 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76467 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65199 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61125 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58376 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59638 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57791 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68328 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68636 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64405 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66994 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62917 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58937 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60272 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59667 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.28865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23974 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.30654 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22791 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.32932 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29624 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21696 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.30244 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3367 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.42057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.42504 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33931 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44444 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.41077 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3332 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36181 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38928 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39325 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49698 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44892 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37677 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4593 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43857 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37251 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42924 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44954 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49228 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47989 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41184 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4718 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45912 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39913 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47741 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4925 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48908 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60473 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50251 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44471 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48042 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47311 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42709 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48035 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49595 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52256 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60673 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47714 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50562 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44757 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.481 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47433 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42913 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48164 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49768 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49341 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52351 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60728 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47823 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50714 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44906 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48129 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4747 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43033 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.28865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23974 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.30654 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22791 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.32932 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29624 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21696 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48162 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.41548 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47892 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38669 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58635 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51682 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40107 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44197 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46591 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59637 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53598 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46705 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65462 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60856 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48635 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59556 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60172 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68323 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73026 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60104 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64396 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57776 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.74699 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.72132 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57893 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.85605 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81688 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.86696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.89116 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.94216 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8245 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.82935 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.91566 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.90529 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.81061 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91263 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.88323 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91802 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94323 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97434 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.8967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8987 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90032 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95984 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95673 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88202 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9954 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.98915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99224 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.99932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59827 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58065 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51093 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.32932 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.36499 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44818 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43443 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46844 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37183 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51359 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36111 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34229 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33242 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.19545 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.22651 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30906 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36336 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.36746 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.34624 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.41957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.2414 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25738 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13092 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16914 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.23754 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.25886 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.25444 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.17296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.2769 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.17679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.15618 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.17158 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0747 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10326 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.14846 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07532 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05232 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04344 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05186 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01831 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02641 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04319 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03994 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03876 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03943 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02419 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02831 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0096 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01407 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02322 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00424 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59827 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58065 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51093 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.32932 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.36499 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44818 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64565 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70858 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68642 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77808 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61558 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65905 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59608 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44444 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47181 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53688 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66276 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71746 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69697 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68066 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62733 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67289 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61152 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4593 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49303 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55061 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67117 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70674 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68224 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6214 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.4718 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50832 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55964 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67722 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72629 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70954 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69311 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7988 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64169 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68558 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62692 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48042 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51556 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5667 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67739 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69325 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68595 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62728 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.481 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51603 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56729 } ] }, { "config": { "retrieval_model": "gte-multilingual-base", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:14:49Z", "is_anonymous": false, "revision": "cfc9e86419e2475c4105e2d8f135dbbb" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72684 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69341 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68607 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62744 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48129 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51615 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56752 } ] } ]