[ { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08895 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16031 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13821 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40564 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40557 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41163 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47421 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.45923 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.41969 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.47714 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49928 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55563 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.49855 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46068 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42623 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48521 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40875 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52855 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.41733 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64696 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37474 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43443 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42666 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37673 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41617 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58989 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6136 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68899 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.68339 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78088 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62319 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69264 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68675 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72327 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67668 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57692 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65659 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62201 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40794 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61795 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40426 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39385 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52635 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50523 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.54322 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.48538 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.45501 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55613 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53705 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5174 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46997 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50517 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.50578 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08864 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15949 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11966 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3646 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40472 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37837 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.4158 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.39524 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3852 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.41779 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41655 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.49279 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.44429 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41811 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46528 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.43113 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.33882 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46625 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34343 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54455 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3966 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.38081 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44837 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33185 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4053 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.56808 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57583 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58477 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.59409 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.65877 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.5741 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.59529 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.57676 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.60257 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.5857 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.54553 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.57152 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5451 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35084 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.51828 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37916 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38987 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46553 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45682 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.52049 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.44475 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.42236 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.48764 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.49632 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49219 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.44748 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.47229 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.46745 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08872 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17337 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12006 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.35559 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41263 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37197 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3936 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.37952 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3814 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40368 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.39073 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46664 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.42945 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.41381 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48915 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.41602 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.31871 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47486 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32153 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.52478 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.41452 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.36009 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46084 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31845 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.42363 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.5809 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59712 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58839 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.58438 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.65679 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58973 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.59386 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5703 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.5972 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.58449 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.56917 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.57455 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.55178 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35268 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.50022 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.37828 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39813 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4556 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45357 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.52809 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.44064 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.42328 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.47779 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50376 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49626 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.44374 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.48012 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.46216 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09937 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19707 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13559 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.36591 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43484 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39667 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.40645 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.39124 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.40414 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.41033 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40033 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.47788 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45241 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.43335 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.52172 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.43238 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32397 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50635 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33625 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.54906 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.46139 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.36415 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49046 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34714 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.45336 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.60715 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63852 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61835 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.60649 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68594 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.61613 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.61817 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59693 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.62638 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.61067 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.59703 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60328 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5816 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37838 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.51874 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.39562 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42809 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.48173 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.47741 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.56444 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.46442 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.44795 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.50448 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53594 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.52209 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46893 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.51099 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48506 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13744 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25097 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18329 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.42935 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49403 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47631 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.49141 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.47902 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.48123 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.49661 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49961 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.57444 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.53767 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.5067 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.56312 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.5215 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.39663 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56186 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43691 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.62124 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.53346 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.44709 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53141 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41888 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49782 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64529 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67655 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66122 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.66124 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73347 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.6597 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.66644 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.65503 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.67931 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.65953 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.63328 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65449 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.6351 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43511 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.59435 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.45638 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4813 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5467 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53983 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.62617 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.53036 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.52131 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.57695 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.58825 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.57824 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53342 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.57387 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.55367 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14994 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26599 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19937 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.4505 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50895 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49561 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.51419 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.50219 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.50235 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.52015 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.52526 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59448 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.55558 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.5237 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.57236 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54233 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41883 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57416 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46378 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.63787 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.54664 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.47024 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43722 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.51246 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.65582 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68261 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67264 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67322 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74406 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.66849 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.67752 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.66753 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.69121 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67041 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64298 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66668 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64746 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45158 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61507 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.4757 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49377 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.56161 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.55715 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63748 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.54627 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.53736 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5933 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.60002 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.59124 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.54845 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.58851 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.57048 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18433 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3044 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.23772 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.49294 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53637 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52666 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55143 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5387 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53822 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5647 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.56234 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.62349 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.58256 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.556 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.59048 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57478 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.4685 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59496 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50648 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.66142 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56478 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51323 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55709 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46885 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.53951 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.6707 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6941 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68979 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.68956 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75831 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68338 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69525 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68508 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.70828 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.6879 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65898 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.68538 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.66428 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48271 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.64337 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51158 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52298 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58432 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.58447 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65357 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.57529 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.56666 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.61954 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.6207 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.61303 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5782 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61084 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.59733 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02467 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06241 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03586 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.15997 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18563 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12333 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.12819 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13801 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.15366 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.12099 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11195 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.14436 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.14599 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16379 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.30041 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.14784 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11286 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2351 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08544 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.27147 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.15916 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10824 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27059 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09519 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2141 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.3918 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36616 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.35549 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.33257 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41187 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.39636 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37979 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31649 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.31985 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.35082 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.35642 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.34406 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.31151 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17698 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.23161 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.16863 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18888 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2125 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.21157 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.25052 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21005 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.18088 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.20473 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.26093 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2322 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.20704 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.23945 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.21459 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04521 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10425 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06254 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.22751 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.283 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21503 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.21748 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.21302 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.23251 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.21361 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.19412 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.25236 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.24278 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.25794 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.40003 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2395 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.17556 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35256 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.15256 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.36959 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.26601 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.18602 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37961 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16967 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33087 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.48407 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.48215 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46403 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.44301 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.52604 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.48188 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.47022 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.42309 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.44041 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.45138 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.4548 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.44761 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.41741 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24493 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.32756 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.25067 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27402 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31169 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.31095 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.3713 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.2991 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.27118 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.30859 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.36828 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.34491 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.29982 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.34206 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.31258 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05406 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12566 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07506 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.25442 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32145 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2554 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.25737 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24723 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.26553 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.25685 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.23467 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30413 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.28901 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29823 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42663 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.27824 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.20032 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38829 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.1861 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.40295 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.31078 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.22274 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40473 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20507 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.36397 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.50806 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52013 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.49617 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.47958 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5614 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.50902 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.50214 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.46073 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.48115 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.48095 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.48596 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.47988 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.45214 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26916 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.3676 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.28107 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34512 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.34969 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.41932 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.33237 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.311 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.35231 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.40896 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.38357 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.3329 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.38016 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.34772 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0653 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1454 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08864 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.28183 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35685 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29525 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.30062 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28232 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30091 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3025 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.28166 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36047 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.34107 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.33638 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.44802 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.32029 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.22583 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41581 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22454 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44007 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.35923 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26287 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4303 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24564 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.38919 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.52728 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55357 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52241 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.5122 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.59224 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.53263 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52844 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.49669 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.51729 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.51004 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.50756 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.50714 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.48242 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.29084 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.40451 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.3076 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3387 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38262 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.38361 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.46394 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.36658 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.34767 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.39581 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.44301 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.41763 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.36828 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.41785 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.38507 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07735 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16475 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10463 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.30786 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3847 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33085 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.34131 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32108 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33377 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.34464 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.32959 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41124 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.38315 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.36907 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46215 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36176 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.25368 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43725 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26852 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47331 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.39262 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30154 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44637 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27772 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40544 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.54237 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56999 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54125 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.5386 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.61447 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.55085 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.55005 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5238 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.54284 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.53213 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52203 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.52926 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50593 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31037 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.43934 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.33127 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36141 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41295 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.41127 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49282 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.39515 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.3807 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43141 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.46561 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.4426 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.39748 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44593 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.41572 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07916 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16704 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10692 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31165 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.3872 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33442 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.34593 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32585 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33801 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.34935 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.3351 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41574 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.38681 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37236 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46346 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36617 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.25788 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43924 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27404 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47668 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.39502 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30617 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44754 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28094 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40738 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.54407 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57096 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54321 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.54099 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.61651 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.55237 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.55209 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.52621 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.54508 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.53422 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52355 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53149 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50818 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31307 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.44362 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.3346 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36348 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41561 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.41421 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49496 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.39806 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.38381 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43469 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.46764 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.44494 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40022 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44841 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.41889 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08106 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16908 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.109 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31462 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38894 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33679 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.34916 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32891 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34092 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.35345 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.33858 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41844 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.38898 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37501 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.46441 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36901 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26189 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44064 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27775 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47865 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.39623 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30986 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44837 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28312 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40872 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.54511 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57171 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54438 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.54226 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.61758 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.5534 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.55332 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.52761 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.54644 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.53553 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52467 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53296 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50944 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31505 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.44612 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.33715 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36525 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41733 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.41624 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.49619 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.40027 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.38605 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43683 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.46904 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.44655 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40241 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45006 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.42103 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02467 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06241 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.03586 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.15997 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18563 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12333 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.12819 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13801 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.15366 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.12099 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.11195 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.14436 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.14599 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16379 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.30041 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.14784 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11286 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2351 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08544 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.27147 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.15916 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10824 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27059 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.09519 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2141 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.3918 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36616 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.35549 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.33257 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41187 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.39636 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37979 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31649 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.31985 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.35082 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.35642 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.34406 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.31151 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17698 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.23161 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.16863 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18888 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2125 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.21157 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.25052 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21005 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.18088 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.20473 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.26093 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2322 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.20704 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.23945 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.21459 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05973 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12968 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07701 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.26252 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32939 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2524 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.24692 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.24895 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.27688 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.24265 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22184 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.28377 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.27677 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29651 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48083 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.27927 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.20154 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39579 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.17748 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.40386 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.33436 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.21161 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43744 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20409 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37689 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.54671 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.53536 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50914 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48283 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.56085 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.53292 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.50725 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.46178 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.48425 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50174 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52333 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.49962 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.4671 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28801 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.36393 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.29641 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33187 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35137 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.35416 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4257 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.34479 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.31549 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.34708 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.41728 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.41207 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.35313 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39134 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36115 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08059 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18051 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1067 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31359 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40293 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32993 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31668 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.31502 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34749 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.32062 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.29345 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36449 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.3562 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37319 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.55586 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35069 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.25046 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47142 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24396 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46618 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.43409 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.27376 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49123 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26876 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.45062 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.608 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61721 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57659 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.54896 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62719 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60181 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56833 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5325 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.56175 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56623 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60433 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.56916 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54215 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34647 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.43913 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36185 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40407 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41546 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.42743 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.51627 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.41254 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.39624 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.43059 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50032 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49348 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42196 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.47222 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43156 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11722 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25069 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15498 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.38639 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49105 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43235 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.41882 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40642 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.44369 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.42126 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.4041 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.48337 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4766 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46736 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.63969 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.45455 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32412 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34369 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.56738 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56863 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.36502 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57386 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3738 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.5284 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67902 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72235 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65805 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63372 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.71057 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67698 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.64744 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.62585 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.65439 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.64897 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67848 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65262 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.63309 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42528 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.53422 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.43788 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49875 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51443 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.52261 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63726 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50888 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.49828 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.54001 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.59444 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.58564 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51806 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.57423 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53081 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.22314 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41243 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.28764 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.55612 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65326 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64767 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.63487 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.63037 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.6465 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.63488 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.65116 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.72394 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.69873 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.65952 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.78632 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.6846 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50597 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73341 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59939 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.7612 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.77742 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.56698 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70962 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.56609 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.674 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.79486 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84137 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78594 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.78824 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84935 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80645 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.78642 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.78761 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80343 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78898 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.78891 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.80332 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.7889 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60096 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.73369 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61157 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65336 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69332 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.6999 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.81592 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.69155 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.69651 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73464 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.74547 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.74506 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.69126 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.75599 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.71891 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.26989 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47586 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.34924 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.63404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71472 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72261 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.71531 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.71193 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.72236 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.71712 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.73901 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.7939 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.76421 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.7214 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.83137 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.75844 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.58054 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78706 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69558 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.82595 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.83565 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.64543 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.75162 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.63684 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.74658 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84099 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.86887 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83527 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.83487 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.89341 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.84348 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.83159 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.83782 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.85276 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.83262 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.83256 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.8534 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.8395 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.67079 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.81062 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.68588 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.7057 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.75413 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.77222 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.86364 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.7531 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.75779 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.79727 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.79322 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.79697 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.75065 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.8189 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.78311 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.44887 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.71163 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.55038 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.84751 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.87254 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.8846 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.89127 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.8866 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.89364 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.92221 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.91007 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.93074 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.90062 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.88172 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.95119 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.91342 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.80423 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.90877 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.90454 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.94905 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.9475 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.84043 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.87667 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.80702 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.93444 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.92303 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.93886 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.93229 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.92296 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.97434 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.92707 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.92757 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.92961 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.94265 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.92826 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.92285 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.95542 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.93026 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.85256 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.94756 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.87308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.8708 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.87587 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.91958 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.95738 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.90004 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.90635 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.93282 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.9095 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.91232 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.90483 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.94444 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.91995 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08895 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16031 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13821 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40564 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40557 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41163 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47421 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.45923 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.41969 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.47714 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49928 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55563 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.49855 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46068 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42623 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48521 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40875 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52855 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.41733 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64696 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37474 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43443 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42666 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37673 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41617 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58989 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6136 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68899 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.68339 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78088 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62319 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69264 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68675 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72327 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67668 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57692 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65659 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62201 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40794 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61795 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40426 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39385 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52635 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50523 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.54322 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.48538 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.45501 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55613 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53705 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5174 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46997 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50517 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.50578 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07795 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12792 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10468 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27597 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29825 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32646 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.35888 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32713 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.30225 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.36455 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.37013 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.43239 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.37833 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.33259 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.25482 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35676 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2813 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33992 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31067 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.39606 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.30812 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.33521 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27129 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29617 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.27745 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.31133 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.35456 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37599 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.39926 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41985 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.32126 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.36708 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.39558 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.42702 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.37477 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.31505 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.36355 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.35771 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24982 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.39315 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.28437 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27648 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35313 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.33832 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.38346 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.32627 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.32325 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.38035 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.34708 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.35808 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.32775 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.3315 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.34387 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06729 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11298 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09001 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.21909 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24211 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26981 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.29327 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.2681 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.24663 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.30841 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.30952 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.35771 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31582 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.2727 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.18533 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2929 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.227 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25505 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26253 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29858 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.25788 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.27965 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.19905 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24654 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20919 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.22079 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.2631 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26964 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.29506 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.29985 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.23348 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.26686 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.29669 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.31647 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.27193 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.23105 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.26442 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.27013 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18946 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.30781 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22457 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2202 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27097 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.26712 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.30246 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.25556 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.2646 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.30369 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.26891 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2778 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.25698 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.26092 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.27047 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05294 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08293 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06787 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.14873 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.16649 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18829 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.20702 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.1872 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.17506 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.21969 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22525 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.25681 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.22692 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.18783 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.11467 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.20695 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.15762 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.15886 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19267 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.19667 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.18383 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.20064 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.1265 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17929 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.13098 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.13258 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16606 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.16406 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.18568 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.18382 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.14399 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.16417 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.18983 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.19747 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.16941 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.13967 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.16305 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.17075 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1226 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.20289 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.14743 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.15007 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.18344 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.17422 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.20141 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.17251 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.18164 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.20635 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.17471 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.17927 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.17535 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.17505 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.18296 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02138 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02947 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02619 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.04834 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.04933 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.05915 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.06691 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.06389 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.05754 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.07134 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.0761 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.08126 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.06959 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.05872 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.02982 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.06757 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.05443 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04363 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06872 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.05877 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05331 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.06724 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03342 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05503 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.03515 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.03483 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.04078 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04225 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.05079 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.04771 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03883 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.04459 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.05252 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.05214 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.04571 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.03597 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.0443 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.04694 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03737 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.06145 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.04534 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04265 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05348 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.0504 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05507 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.05206 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.05667 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.06058 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.0475 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.0497 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.05243 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.05017 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.05503 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01301 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01714 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01597 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.02824 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02707 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.0329 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.03805 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.03662 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.03294 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04062 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.04342 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.04475 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03819 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.03266 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01601 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.03797 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03203 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02354 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03958 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03226 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02854 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.03864 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01767 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03067 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01928 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01891 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02119 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02275 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.02744 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02546 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.02077 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02406 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02826 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02796 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02464 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01934 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.02407 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02542 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02114 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.03462 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.02609 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02326 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02914 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.02793 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02924 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.02885 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03122 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03315 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02562 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02705 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.0288 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02732 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.03053 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0021 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00239 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00248 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00384 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00322 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00394 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00472 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00456 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00417 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00518 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00529 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.0052 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00444 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00402 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00186 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00459 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00458 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00272 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00496 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00373 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00314 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00503 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00198 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00373 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.0023 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00218 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00259 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00308 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00281 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00236 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00277 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00319 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00315 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00281 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00223 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00276 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00288 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00269 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00413 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00339 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00289 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00337 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00335 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00321 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00355 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00379 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00388 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.00297 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00316 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00353 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00315 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00365 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08895 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16031 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13821 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40564 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40557 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41163 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47421 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.45923 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.41969 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.47714 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49928 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.55563 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.49855 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.46068 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42623 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48521 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40875 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52855 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.41733 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.64696 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.37474 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43443 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42666 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37673 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41617 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58989 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6136 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68899 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.68339 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78088 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62319 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.69264 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68675 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.72327 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67668 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57692 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.65659 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62201 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40794 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.61795 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.40426 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39385 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52635 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50523 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.54322 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.48538 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.45501 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55613 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53705 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5174 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46997 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.50517 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.50578 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12255 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20402 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17704 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.4765 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4813 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49583 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55062 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.54375 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.51468 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.54806 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.57239 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.63603 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.58164 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.53944 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51366 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57335 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.48555 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59297 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49144 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.70913 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48219 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.50845 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49277 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45845 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.47248 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.66772 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68054 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74752 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.73776 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.82696 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68949 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.74533 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.73996 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.78601 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74604 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66132 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71761 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.69013 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47738 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.68946 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48479 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48145 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60072 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.57299 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.63282 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.56652 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.53786 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.62986 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.6165 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.6164 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.56739 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.58109 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.58635 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13195 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21804 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.19035 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.4885 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49449 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.51442 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.56337 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.56085 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53219 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56841 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5883 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64646 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.59612 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.55676 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.52893 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.59014 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50229 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60608 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.51154 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.71991 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.50328 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52426 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50149 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47323 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48359 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67955 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6941 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75567 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.74503 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83369 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.70431 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75301 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74866 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.79442 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75652 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67696 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.7287 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.70346 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49037 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.70285 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.50026 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49785 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.612 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.58667 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64519 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.58132 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55438 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.64353 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.6293 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.63132 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.58216 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.59788 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.60131 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13998 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22841 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20087 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.49584 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50343 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52323 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.5724 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.56942 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.5426 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.57765 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.59848 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.65592 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.60555 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.56572 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.53862 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.59943 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.51415 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61428 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52271 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.72697 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51346 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.53544 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50908 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48497 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48956 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68636 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70195 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76111 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75008 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83709 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.70984 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75911 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75366 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.79748 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.75959 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68327 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73461 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.7108 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49901 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.70942 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.50906 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50822 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61978 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.5944 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65362 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.58984 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.5647 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65106 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.63738 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.6378 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59067 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.60597 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.60914 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14695 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2363 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20866 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.5022 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50908 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52902 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.57833 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57553 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54811 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58252 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.60351 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.66031 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61045 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57086 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.54376 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.60486 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52062 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61872 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52973 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.73052 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51848 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.5415 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51348 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49076 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49492 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68922 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70447 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76326 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75297 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83837 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71254 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76137 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75671 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.79927 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.76171 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68508 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73767 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71365 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50485 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.71323 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.5146 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51267 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62418 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.59948 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65725 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59495 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57004 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65515 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.64088 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.6415 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.595 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61066 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61447 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1477 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23704 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20956 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.50297 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50953 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5296 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.57882 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57593 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54858 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58304 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.60383 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.66055 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.6107 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57117 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.54415 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.60524 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52101 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61915 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5302 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.73073 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51886 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54197 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51388 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49135 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49573 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68954 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70462 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76345 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.75308 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83852 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71278 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76158 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75697 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.79945 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.76181 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68541 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73781 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71384 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50538 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.71343 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51531 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5131 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62462 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60002 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65753 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59529 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.5704 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65544 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.64118 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.64181 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5954 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61111 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61481 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14836 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23773 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.21027 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.50344 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5099 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52987 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.57905 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57611 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54885 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.58339 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.60404 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.66068 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.61086 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.57142 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.54452 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.6054 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.52128 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61935 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53045 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.73085 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.51915 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.5422 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51424 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49165 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49626 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68966 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70473 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76357 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.7532 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83859 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71294 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76172 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75706 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.79951 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.76193 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.68556 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73793 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.71394 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50572 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.71353 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51565 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5135 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62478 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60029 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65765 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59552 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57064 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.65565 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.64135 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.64196 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59562 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61134 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.615 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60753 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51913 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38872 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46499 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54269 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56216 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4893 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63237 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5307 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46971 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54599 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45282 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44356 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54127 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.551 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47629 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57381 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50354 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46133 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58378 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60333 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55125 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57831 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52487 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60102 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54792 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50611 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66974 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66863 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61569 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60097 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64076 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59848 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63925 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59303 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57189 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68251 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68199 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61515 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65717 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61626 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64373 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60275 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5862 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69441 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69712 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63394 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67539 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63506 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64925 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60815 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60341 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18048 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20698 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.26219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25615 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33033 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2425 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31553 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21759 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.33991 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36128 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.37945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.42041 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43224 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34922 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52075 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40752 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34125 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39634 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40285 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42601 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.41358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.4784 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39731 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45759 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38534 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53601 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44007 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37872 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46358 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46535 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48271 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44664 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54368 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.43547 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48562 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42254 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54798 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46226 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41089 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50781 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.51007 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52203 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47265 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46573 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5098 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45413 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55697 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47594 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43657 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51041 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.51303 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52407 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59048 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46831 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51264 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45726 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55734 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47701 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4386 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51138 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59118 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51416 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45875 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47725 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43966 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.18048 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19397 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.20698 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.26219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25615 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33033 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2425 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31553 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21759 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37904 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41094 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.45929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39781 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46591 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39928 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50618 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4061 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48665 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.48741 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52909 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5147 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52615 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47204 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68675 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6182 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48682 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64556 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62502 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63937 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60134 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63473 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59388 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.76707 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.73714 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60294 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.87744 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.86095 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87312 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84035 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.79921 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82535 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.81358 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93173 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.90653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.81727 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.93196 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.91373 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91365 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.91525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96491 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89679 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88922 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95984 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96068 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89017 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.99852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.9925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.97649 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99772 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60753 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51913 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38872 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46499 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46747 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47633 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51178 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3414 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33424 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.20616 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.22057 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32026 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3958 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38639 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37168 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.25296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.39348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.27917 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.24032 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25738 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13735 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16736 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24314 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.27477 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.26509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24711 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.16451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.26929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.18244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.15242 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.17568 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07671 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10386 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.15602 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07467 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0674 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.0436 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05115 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01863 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02682 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04398 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04045 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03899 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02783 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02409 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0282 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0096 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01418 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02347 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00425 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0038 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00307 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00312 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60753 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51913 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38872 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46499 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68068 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70809 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6999 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.623 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7885 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61062 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67025 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.602 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52075 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48417 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54669 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71918 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63653 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6158 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53601 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50955 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55747 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70618 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72301 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63381 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69431 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62756 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54798 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52355 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57034 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70888 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73078 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72538 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65279 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80497 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63806 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69805 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63232 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55697 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52986 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5761 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70922 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73096 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69831 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63267 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55734 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53058 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57674 } ] }, { "config": { "retrieval_model": "multilingual-e5-large", "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:05:25Z", "is_anonymous": false, "revision": "f754a3f89198353e7272a11ded98fafc" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70933 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73111 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72556 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80512 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6387 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69848 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63284 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53071 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57699 } ] } ]